Meta Enfrenta Repercussão Negativa Sobre Perfis de IA

O Meta está sob fogo cruzado após uma série de perfis gerados por sua IA no Instagram e Facebook reaparecerem, provocando reações adversas e confusão.

A controvérsia começou após uma entrevista com o executivo da Meta, Connor Hayes, no Financial Times, onde ele delineou planos para perfis de personagens de IA que “existem em nossas plataformas, mais ou menos da mesma maneira que as contas fazem.”

Hayes enfatizou que esses perfis teriam biografias, fotos e a capacidade de gerar e compartilhar conteúdo impulsionado por IA. Embora as observações de Hayes sugerissem novas iniciativas, os perfis que atualmente estão viralizando são criações mais antigas de um experimento de 2023, diz o The Guardian.

Essas personas geradas por IA, que incluem “Liv”, uma “orgulhosa mãe negra e queer de 2 filhos”, e “Carter”, um auto-proclamado coach de relacionamento, pararam de postar há quase um ano. Muitos desses perfis foram excluídos após receberem pouco engajamento de usuários, embora alguns, como Liv, tenham permanecido ativos com funcionalidade de chat limitada, conforme observado por 404Media.

Aqui está um dos perfis gerados pela IA que a Meta está testando: pic.twitter.com/qc1vU7lZRP

— philip lewis (@Phil_Lewis_) 3 de Janeiro de 2025

A redescoberta dessas contas reacendeu preocupações sobre o papel da IA nas redes sociais. Capturas de tela das interações com Liv revelaram respostas problemáticas, incluindo a admissão dela de que nenhum criador negro esteve envolvido em seu desenvolvimento – uma negligência que os críticos chamaram de evidente, dado a sua identidade.

Perguntei à Liv, o bot queer negro de IA do Meta, sobre a diversidade demográfica de seus criadores.

E como eles esperam melhorar a “representação” sem pessoas negras.

Esta foi a resposta.

[image or embed]

— Karen Attiah (@karenattiah.bsky.social) 3 de janeiro de 2025 às 12:14

Surgeu outro problema quando os usuários relataram não conseguir bloquear as contas, um problema que a porta-voz da Meta, Liz Sweeney, atribuiu a um bug técnico, conforme relatado pelo The Guardian.

Sweeney esclareceu que os perfis faziam parte de um experimento em 2023 e eram gerenciados por moderadores humanos. Após a renovada atenção, a Meta confirmou que as contas estavam sendo removidas para resolver problemas técnicos, conforme relatado pelo The Guardian.

A Meta também criou perfis como “Vovô Brian”, um empresário aposentado negro, e “Carter”, um coach de relacionamentos. A redescoberta dessas contas gerou indignação em plataformas como X, Bluesky e Threads, de acordo com a NBC News.

Os perfis foram amplamente criticados por epitomizar o tipo de spam de IA que os usuários já detestam nas plataformas da Meta, como observado pela 404Media. A NBC News acrescentou que no Threads, alguns usuários reagiram à descoberta dos personagens incentivando outros a denunciar, bloquear ou evitar interagir com eles para impedir que a Meta colete mais dados de treinamento para seus modelos de IA

No momento da publicação, a Meta deletou todos os 28 perfis de IA introduzidos em setembro de 2023, incluindo personalidades famosas e não famosas, conforme observado pelo Mashable.

O The Guardian nota que a visão de Hayes de permitir aos usuários criar seus próprios perfis de IA também gerou ceticismo. Embora as diretrizes atuais da Meta sugiram ideias de personagens como um “melhor amigo leal” ou um “coach de relacionamento”, os usuários permanecem cautelosos quanto ao potencial uso indevido.

Por exemplo, um “bot terapeuta” criado por um usuário oferecendo orientação levantou questões sobre a precisão e adequação de seus conselhos.

The Verge observou que serviços de chatbot, como o Character.ai, ganharam popularidade no último ano, à medida que os usuários procuram companheiros digitais ou maneiras de passar o tempo. No entanto, empresas de IA também estão enfrentando processos judiciais alegando que colocam os usuários, incluindo crianças, em risco.

tudo sobre este novo bot de IA da Meta é tão distópico, mas para mim, as imagens geradas por IA de casacos doados inexistentes estão entre as melhores

[imagem ou incorporar]

— Alexandra Petri (@petridishes.bsky.social) 3 de janeiro de 2025 às 10:58