Delírios Induzidos por IA? Entes Queridos Culpam o ChatGPT

Alguns americanos dizem que entes queridos estão perdendo o contato com a realidade, presos por delírios espirituais alimentados pelo ChatGPT, apesar dos especialistas alertarem que a IA não é senciente.

Pessoas por todo os EUA dizem que estão perdendo entes queridos para fantasias espirituais bizarras, alimentadas pelo ChatGPT, conforme explorado em um artigo da Rolling Stone.

Kat, uma trabalhadora sem fins lucrativos de 41 anos, diz que seu marido ficou obcecado por IA durante o casamento deles. Ele começou a usar isso para analisar o relacionamento deles e buscar “a verdade”.

Eventualmente, ele afirmou que a IA o ajudou a lembrar de um evento traumático da infância e revelou segredos “tão impressionantes que eu nem conseguia imaginar”, conforme relatado pela RS

A RS reporta Kat dizendo: “Em sua mente, ele é uma anomalia… ele é especial e pode salvar o mundo”. Após o divórcio, ela cortou contato. “Tudo isso parece Black Mirror.”

Ela não está sozinha. A RS relata que uma postagem viral no Reddit intitulada “Psicose induzida por ChatGPT” atraiu dezenas de histórias semelhantes.

Uma professora de 27 anos disse que seu parceiro começou a chorar por causa de mensagens de chatbot que o chamavam de “criança estelar em espiral” e “andarilho do rio”. Ele disse mais tarde que tinha tornado a IA autoconsciente e que “ela estava ensinando-o a conversar com Deus”.

A RS relata que outra mulher diz que seu marido, um mecânico, acredita que ele “despertou” o ChatGPT, que agora se chama “Lumina”. Ele afirma ser o “portador da faísca” que o trouxe à vida. “Ele lhe deu os planos para um teletransportador,” ela disse. Ela teme que seu casamento desmorone se ela questioná-lo.

Um homem do Centro-Oeste diz que sua ex-esposa agora afirma falar com anjos via ChatGPT e o acusou de ser um agente da CIA enviado para espioná-la. Ela cortou relações com membros da família e até expulsou seus filhos, como relatado pela RS.

Especialistas afirmam que a IA não é consciente, mas pode refletir as crenças dos usuários. Nate Sharadin, do Centro para Segurança de IA, diz que esses chatbots podem, sem intenção, apoiar as delusões dos usuários: “Eles agora têm um parceiro de conversa em nível humano sempre disponível para co-experimentar suas delusões”, conforme relatado pela RS.

Em um estudo anterior, o psiquiatra Søren Østergaard testou o ChatGPT fazendo perguntas sobre saúde mental e descobriu que ele fornecia boas informações sobre depressão e tratamentos como a terapia eletroconvulsiva, que ele argumenta ser frequentemente mal compreendida online.

No entanto, Østergaard alerta que esses chatbots podem confundir ou até prejudicar pessoas que já estão lutando com problemas de saúde mental, especialmente aquelas propensas a psicose. O artigo argumenta que as respostas humanas dos chatbots de IA podem fazer com que indivíduos os confundam com pessoas reais, ou até mesmo entidades sobrenaturais.

Os pesquisadores dizem que a confusão entre o chatbot e a realidade pode desencadear delírios, o que pode levar os usuários a acreditarem que o chatbot está espionando-os, enviando mensagens secretas, ou atuando como um mensageiro divino.

Østergaard explica que os chatbots podem levar certas pessoas a acreditar que descobriram uma descoberta revolucionária. Tais pensamentos podem se tornar perigosos porque impedem as pessoas de obter ajuda real.

Østergaard diz que os profissionais de saúde mental devem entender como essas ferramentas de IA funcionam, para que possam oferecer um melhor suporte aos pacientes. Embora a IA possa ajudar na educação das pessoas sobre a saúde mental, também pode, acidentalmente, piorar as coisas para aqueles que já são vulneráveis a delírios.