Opinião: ChatGPT é seu amigo? Talvez seja uma boa hora para estabelecer limites

A OpenAI e o MIT recentemente divulgaram um artigo sobre o impacto do ChatGPT no bem-estar das pessoas. Enquanto a maioria dos usuários depende da tecnologia para tarefas práticas, o estudo revela que um pequeno grupo vem desenvolvendo conexões emocionais profundas com o modelo de IA que podem afetar seu bem-estar

Há algum tempo, tenho observado com curiosidade as relações que algumas pessoas estão desenvolvendo com a inteligência artificial geradora. Alguns meses atrás, eu li no The New York Times a história de uma mulher de 28 anos casada que se apaixonou pelo ChatGPT, e como o que começou como “um experimento divertido” evoluiu para uma relação complexa e inesperada.

Tenho observado meus amigos, especialmente aqueles que antes rejeitavam a tecnologia ou não se interessavam por ela, que não conseguem tomar uma decisão importante sem consultar seu oráculo de IA. Também me surpreendi com as respostas empáticas que os modelos de IA dão a consultas emocionalmente ou psicologicamente carregadas.

E, claro, ri das piadas, memes e vídeos do TikTok de pessoas postando nas redes sociais mostrando como se tornaram dependentes do chatbot, alguns até o chamando de “melhor amigo” ou “terapeuta” – e até mesmo recomendando seriamente que outros façam o mesmo.

Mas, se deixarmos as experiências divertidas e as piadas de lado por um momento, podemos perceber que estamos enfrentando um fenômeno preocupante globalmente.

Este mês, pela primeira vez na curta história da inteligência artificial, a OpenAI e o MIT Media Lab divulgaram um estudo oferecendo percepções sobre o impacto atual do ChatGPT no bem-estar emocional das pessoas, bem como sugestões sobre os riscos que podemos enfrentar como sociedade: solidão, dependência emocional e menos interações sociais com pessoas reais.

Uma Relação Que Evolui

A primeira abordagem às novas tecnologias de inteligência artificial gerativa geralmente começa com algumas perguntas tímidas, talvez técnicas sobre tarefas práticas como elaborar um e-mail ou solicitações para explicar tópicos complexos, ou apenas para brainstorming.

No entanto, uma vez que um usuário começa a testar as capacidades do chatbot, descobre que estas podem ser mais abrangentes e complexas do que o esperado.

Enquanto certos produtos de IA como o Friend—um dispositivo de IA vestível— foram projetados e promovidos de forma bastante desajeitada como um companheiro de vida do usuário, o ChatGPT foi anunciado como uma ferramenta de produtividade. No entanto, uma porcentagem de pessoas usa o chatbot para questões pessoais e emocionais e desenvolve fortes laços com ele.

Mesmo que sejam apenas um “pequeno grupo”, como esclareceu a OpenAI, eles ainda podem representar milhões de pessoas em todo o mundo, especialmente considerando que agora mais de 400 milhões de pessoas usam o ChatGPT semanalmente. Esses usuários rapidamente percebem que o chatbot da OpenAI imita sua linguagem, tom e estilo e pode até ser treinado para interagir de uma certa maneira ou usar apelidos carinhosos—como aquela senhora que se apaixonou por ele fez—e até mesmo “soar” mais humano.

“O estilo conversacional deles, a linguagem em primeira pessoa e a habilidade de simular interações semelhantes às humanas levaram os usuários a às vezes personificar e antropomorfizar esses sistemas“, afirma o documento compartilhado pela OpenAI.

Mas essa proximidade vem com riscos, como os pesquisadores observaram: “Embora um chatbot emocionalmente envolvente possa fornecer suporte e companhia, há o risco de que ele possa manipular as necessidades socioafetivas dos usuários de maneiras que prejudicam o bem-estar a longo prazo.”

Metodologia do Estudo

A investigação recentemente divulgada foca no bem-estar dos seres humanos após o uso constante do ChatGPT. Para entender o impacto emocional e social do chatbot, os pesquisadores conduziram dois estudos principais aplicando diferentes estratégias.

A OpenAI processou e analisou mais de 40 milhões de interações, respeitando a privacidade dos usuários ao usar classificadores, e pesquisou mais de 4.000 deles sobre como as interações os faziam se sentir.

O MIT Media Lab conduziu um teste com quase 1.000 pessoas ao longo de um mês, concentrando-se nas consequências psicossociais do uso do ChatGPT por pelo menos 5 minutos por dia. Eles também submeteram e processaram questionários no final do experimento.

Como era de se esperar, as descobertas revelaram que usuários que passam mais tempo com a tecnologia experimentam mais solidão e mostram mais sinais de isolamento.

Consequências Complexas e Múltiplas Ramificações

O estudo do MIT Media Lab e OpenAI também ofereceu várias reflexões sobre como as relações humanas-chatbot podem ser complexas e únicas.

Na pesquisa, os autores nos oferecem uma visão das diversas experiências e maneiras como cada usuário interage com o ChatGPT – e como o resultado pode variar dependendo de diferentes fatores, como o uso de recursos avançados de voz, modo apenas de texto, o tipo de voz, frequência de uso, tópicos de conversa, o idioma usado e o tempo gasto no aplicativo.

“Aconselhamos contra a generalização dos resultados, pois isso pode obscurecer as descobertas sutis que destacam as interações não uniformes e complexas entre as pessoas e os sistemas de IA”, alerta a OpenAI em seu anúncio oficial.

Todas as diferentes abordagens que cada usuário escolhe se traduzem em resultados diferentes, e nos imergem em áreas cinzentas que são difíceis de explorar.

É o Efeito Borboleta da IA!

Mais Perguntas Surgem

O artigo compartilhado pela OpenAI também nota que usuários intensos disseram que ficariam “chateados” se a voz ou personalidade do seu chatbot mudasse.

Isso me lembrou de um vídeo que vi recentemente nas redes sociais de um cara dizendo que preferia uma voz feminina e que ele conversava com a IA gerativa todos os dias. Será que o ChatGPT também estaria ajudando os homens a se abrir emocionalmente? O que aconteceria se um dia o ChatGPT falasse com ele com uma voz masculina? Ele se sentiria traído? Ele pararia de usar o ChatGPT? Ele estava desenvolvendo uma conexão romântica – ou simplesmente um espaço de confiança? Claro, é difícil não relacionar imediatamente esses cenários ao filme Her de Spike Jonze.

Cada conta do ChatGPT, juntamente com seus históricos de conversas – a cada dia mais íntimas e privadas do que qualquer perfil de WhatsApp ou DMs de mídia social – representa uma relação única com inúmeras consequências e resultados.

O Resultado Esperado

Todos os estudos analisaram diferentes aspectos, mas chegaram a uma conclusão semelhante, brevemente explicada na MIT Technology Review: “Participantes que confiaram e ‘se ligaram’ mais ao ChatGPT tinham maior probabilidade de serem solitários e de dependerem mais dele.”

Embora a investigação não tenha se concentrado em soluções ou explicações mais profundas sobre por que isso está acontecendo ou como poderia evoluir, parece provável que mais usuários se juntem à OpenAI e outras plataformas de IA, especialmente agora que a ferramenta de geração de imagens de IA se tornou viral.

Embora as conclusões da pesquisa do MIT e da OpenAI não sejam particularmente surpreendentes, o estudo fornece um embasamento científico com evidências, medições, amostras e métricas mais ‘tangíveis’ que podem abrir caminho para novas pesquisas e ajudar a abordar as implicações do uso da inteligência artificial hoje.

Também recebemos um aviso oficial – de seus próprios desenvolvedores – sobre os laços que construímos com o ChatGPT e um convite para estabelecer limites e refletir sobre nossas interações e relacionamentos atuais – ou situações? – com os chatbots.