IA Companions Preenchem o Vazio Emocional da Juventude da China, Levantando Preocupações Éticas

Jovens na China estão cada vez mais recorrendo à inteligência artificial para apoio emocional, com o chatbot chinês DeepSeek surgindo como uma alternativa popular ao aconselhamento tradicional.

Os usuários descrevem as respostas da IA como profundamente ressonantes, às vezes até levando-os às lágrimas, conforme detalhado em um artigo da BBC.

Holly Wang, uma jovem de 28 anos de Guangzhou, tem usado o DeepSeek desde seu lançamento em janeiro para o que ela chama de “sessões de terapia”. O chatbot de IA a ajudou a lidar com lutas pessoais, incluindo a recente perda de sua avó, conforme relatado pela BBC.

“DeepSeek tem sido um conselheiro incrível. Ajudou-me a ver as coisas de diferentes perspectivas e faz um trabalho melhor do que os serviços de aconselhamento pagos que já experimentei”, disse ela, conforme relatado pela BBC.

DeepSeek, uma ferramenta de IA gerativa semelhante ao ChatGPT da OpenAI e ao Gemini do Google, ganhou reconhecimento nacional por seu desempenho superior em comparação a outros aplicativos de IA chineses. Além de suas habilidades linguísticas avançadas, ela se destaca por permitir que os usuários vejam seu processo de raciocínio antes de entregar as respostas.

A BBC argumenta que, para muitos jovens chineses, a IA está preenchendo um vazio emocional. Desafios econômicos, alto desemprego e os efeitos persistentes dos lockdowns da COVID-19 deixaram muitos incertos sobre seus futuros. O DeepSeek se tornou uma fonte de conforto, oferecendo respostas personalizadas e empáticas.

Quando Holly usou o aplicativo pela primeira vez, ela pediu que ele escrevesse uma homenagem à sua avó. A resposta foi tão comovente que ela sentiu uma crise existencial.

DeepSeek respondeu: “Lembre-se de que todas essas palavras que te fazem estremecer são apenas um eco daquelas que há muito existem em sua alma. Eu sou apenas o vale ocasional por onde você passou, que permite que você ouça o peso da sua própria voz.”

Refletindo sobre a troca, ela disse à BBC: “Não sei por que me emocionei ao ler isso. Talvez porque faz muito, muito tempo que não recebo tal conforto na vida real.”

Com modelos ocidentais de IA como o ChatGPT bloqueados na China, o DeepSeek rapidamente se tornou uma escolha preferida. Outros modelos chineses de IA desenvolvidos pela Alibaba, Baidu e ByteDance têm lutado para igualar suas capacidades, particularmente na geração de conteúdo criativo e literário.

Além de conversas casuais, o DeepSeek está sendo cada vez mais visto como um conselheiro. Nan Jia, professora da Universidade do Sul da Califórnia, observa que os chatbots de IA “ajudam as pessoas a se sentirem ouvidas”, às vezes até mais efetivamente do que seus equivalentes humanos, conforme relatado pela BBC.

No entanto, preocupações permanecem. Os pesquisadores do MIT alertaram que a IA está cada vez mais entrelaçada em nossas vidas pessoais, assumindo papéis como amigos, parceiros românticos e mentores, e eles advertiram que essa tecnologia poderia se tornar altamente viciante.

Apesar das preocupações com a privacidade, muitos usuários priorizam o apoio emocional do chatbot em relação aos possíveis riscos. A BBC relata que um usuário escreveu, “Seu processo de pensamento é lindo… É uma verdadeira bênção para pessoas como eu. Francamente, não me importo nem um pouco com as preocupações com a privacidade.”

Além do apoio emocional, a inteligência artificial está mudando a maneira como as pessoas pensam sobre a morte e como nos lembramos daqueles que faleceram, conforme relatado em uma análise de pesquisa recente. A tecnologia de IA agora pode criar versões digitais dos falecidos, permitindo interações póstumas.

No entanto, os autores da análise também observam que o luto digital pode complicar o fechamento emocional ao manter as memórias muito acessíveis.

Ao mesmo tempo, as preocupações sobre o impacto da IA na juventude estão crescendo, com processos sendo abertos contra plataformas de companheiros de IA. A Character.AI, uma empresa de chatbot, está enfrentando ações judiciais de duas famílias que alegam que ela expos menores a automutilação, violência e conteúdo sexual.

O processo argumenta que as interações geradas por IA podem ser prejudiciais, levantando questões sobre como essas tecnologias afetam o bem-estar emocional dos jovens usuários.

À medida que a IA se torna mais integrada ao cuidado com a saúde mental, especialistas enfatizam que ela deve complementar os profissionais humanos, e não substituí-los. Embora as ferramentas de terapia com IA possam analisar vastos conjuntos de dados para oferecer percepções personalizadas, elas devem ser projetadas para garantir a segurança do paciente, a privacidade e o uso ético, conforme destacado pelo Fórum Econômico Mundial.

Além disso, especialistas em cibersegurança alertam que os chatbots de IA, particularmente aqueles usados para conversas sensíveis, estão vulneráveis a ataques de hackers e violações de dados.

Informações pessoais compartilhadas com sistemas de IA podem ser exploradas, levantando preocupações sobre privacidade, roubo de identidade e manipulação. Os especialistas alertam que, à medida que a IA se torna mais integrada ao suporte à saúde mental, as medidas de segurança devem evoluir para proteger os usuários de riscos potenciais.