A IA Poderia Prever e Influenciar Decisões, Vendendo Suas Intenções às Empresas

A IA poderia em breve levar a um mercado onde as empresas compram e vendem suas intenções antes mesmo de você tomar uma decisão, alertam pesquisadores da Universidade de Cambridge.

Essa emergente “Economia da Intenção” permitiria que assistentes de IA previssem e influenciassem suas escolhas, desde a compra de ingressos para o cinema até a votação em eleições, muitas vezes antes mesmo de você perceber suas próprias preferências.

Especialistas em ética de IA do Centro Leverhulme para o Futuro da Inteligência de Cambridge (LCFI) sugerem que o crescente uso de IA gerativa e chatbots pode abrir caminho para um novo tipo de tecnologia persuasiva.

Esses agentes de IA, que variam de assistentes chatbot a tutores digitais, terão acesso a enormes quantidades de dados psicológicos e comportamentais pessoais coletados por meio de conversas cotidianas, incluindo diálogos informais.

Esses dados, combinados com algoritmos avançados, permitirão que a IA antecipe os desejos dos usuários e influencie suas decisões em larga escala, argumentam os pesquisadores.

“Enormes recursos estão sendo empregados para posicionar assistentes de IA em todas as áreas da vida, o que deve levantar a questão de quais interesses e propósitos esses supostos assistentes foram projetados para atender”, disse o Dr. Yaqub Chaudhary, Pesquisador Visitante no LCFI, conforme relatado no Eurekalert.

As ferramentas de IA não apenas coletariam dados dos hábitos online dos usuários, mas também interpretariam sutilezas como a maneira como as pessoas falam e as inferências que podem ser tiradas das interações em tempo real. De acordo com os pesquisadores, essas ferramentas poderiam em breve prever e influenciar nossas decisões, manipulando-as para atender aos interesses corporativos, políticos e comerciais.

Dr. Jonnie Penn, historiador de tecnologia no LCFI, explica que a atenção há muito é a moeda da internet, com plataformas como Facebook e Instagram lucrando com o engajamento do usuário. No entanto, na emergente economia da intenção, as motivações humanas se tornarão a nova moeda.

“A menos que seja regulada, a economia da intenção tratará suas motivações como a nova moeda. Será uma corrida do ouro para aqueles que direcionam, conduzem e vendem intenções humanas.” disse a Dra. Penn, conforme relatado na Eurekalert.

Os pesquisadores alertam que este mercado poderia ter consequências sérias, desde minar eleições livres e justas até afetar a integridade da mídia e da competição de mercado. Eles argumentam que, embora a economia da intenção ainda esteja em sua infância, sinais precoces de seu desenvolvimento já são visíveis.

Por exemplo, grandes empresas de tecnologia como OpenAI, Meta e Apple começaram a investir em sistemas de IA que preveem as intenções humanas, de acordo com o Eurekalert. A OpenAI, por exemplo, pediu dados que expressam a intenção humana em vários formatos, enquanto a estrutura “App Intents” da Apple para 2024 é projetada para prever as futuras ações dos usuários.

Apesar dos riscos, Penn e Chaudhary enfatizam que esses desenvolvimentos não são intrinsecamente negativos. No entanto, eles enfatizam a importância da conscientização pública e da regulamentação para garantir que a economia da intenção não ultrapasse os limites éticos.

“Devemos começar a considerar o provável impacto que tal mercado teria sobre as aspirações humanas, incluindo eleições livres e justas, uma imprensa livre e uma competição de mercado justa, antes de nos tornarmos vítimas de suas consequências não intencionais”, alertou Penn, conforme relatado por Eurekalert.

Nesta paisagem digital que evolui rapidamente, os pesquisadores instam a sociedade a examinar cuidadosamente as implicações das ferramentas de IA que não apenas influenciam o que as pessoas querem, mas o que elas “querem querer.”