Avatares de IA podem espalhar desinformação, mas também verdade em países com forte censura como a Venezuela

Retornei ao meu país natal, a Venezuela, no ano passado por alguns meses depois de vários anos no exterior. Uma das coisas que chamou minha atenção durante minha estadia foi um vídeo viral de “âncoras de TV americanas” explicando a situação econômica do país e como ela havia melhorado, em inglês com legendas em espanhol. Não parecia real, e imediatamente fiquei desconfiada – infelizmente, não as pessoas que vivem lá.

“Queríamos descobrir se a Venezuela está realmente tão destruída quanto a mídia tem afirmado por anos”, disse Noah, o “jornalista” loiro deste desconhecido canal de notícias chamado House of Media, em um dos vídeos que se tornaram virais nas redes sociais, que o governo compartilhou na TV local e que até mesmo foi promovido online por Nicolás Maduro, o autocrata da Venezuela.

“Está acontecendo”, pensei depois de conversar com alguns venezuelanos que acreditavam que os avatares de IA eram jornalistas reais, “O regime de Maduro está usando a IA para espalhar desinformação e está funcionando”. Embora não tenha sido confirmado que a administração de Maduro orquestrou isso, foi revelado posteriormente que os vídeos eram Avatares de IA criados pela empresa de IA Synthesia — que recentemente desenvolveu avatares capazes de expressar emoções humanas. De acordo com a VICE, naquele momento, a Synthesia cobrava $30 por mês e vídeos semelhantes foram criados para propaganda na África e na Ásia.

No entanto, logo quando comecei a sentir desespero sobre deepfakes sendo usados para fins maliciosos e desinformação em vários países, uma reviravolta interessante recobrou minha atenção e esperança: jornalistas venezuelanos estão usando a IA para informar e espalhar a verdade.

Avatares de IA: Anonimato como Vantagem

Um dos problemas dos deepfakes é o anonimato. A menos que alguém confesse – como aquele mágico de Nova Orleans contou aos jornalistas sobre seu papel nas ligações robóticas imitando o Presidente Joe Biden durante as eleições primárias – pode ser difícil encontrar os autores de certos conteúdos gerados por IA, pois os avatares de IA não fornecem informações sobre a pessoa real. Mas e se isso na verdade for uma solução em determinados cenários?

Em países como a Venezuela, compartilhar informações que vão contra o governo é perigoso, mesmo que você não seja um jornalista, mesmo para apenas uma postagem nas redes sociais – existem vários casos de pessoas e estudantes como Villca Fernández sendo enviados para a prisão por causa de um tweet. As pessoas ainda fazem isso, mas é muito arriscado.

É aí que entram os avatares de IA. De acordo com a Reuters, a Connectas, uma organização baseada na Colômbia, lançou um novo projeto chamado “Operação Retweet”, juntamente com as iniciativas #LaHoraDeVenezuela e Venezuela Vota, após as eleições presidenciais em 28 de julho. O objetivo é compartilhar informações reais preparadas por veículos de mídia independentes usando dois personagens de IA, La Chama (a menina) e El Pana (“amigo” no gíria venezuelana)

Os vídeos são compartilhados nas redes sociais através dos canais de notícias independentes restantes e outros canais de comunicação como o WhatsApp. Ao contrário dos avatares de IA da House of Media que vi no ano passado, esses novos personagens parecem um pouco mais artificiais e revelam isso desde o início. “Antes de começarmos, caso você não tenha percebido, queremos dizer que não somos reais,” diz La Chama no primeiro vídeo publicado. “Fomos gerados por Inteligência Artificial, mas o conteúdo é real, verificado, de alta qualidade e criado por jornalistas,” acrescenta El Pana.

Vários vídeos foram compartilhados nas redes sociais, em inglês e espanhol, e através de diversos sites e outros canais de comunicação. O projeto tem sido elogiado internacionalmente e admirado como uma estratégia para combater a censura.

📢 Terceiro episódio de Operacion Retuit!#JornalismoInestimável

🎥 Este episódio foca na recente aprovação de uma lei que regulamenta as ONGs em 🇻🇪. O espaço cívico está se fechando de vez?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Leia e compartilhe.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6 de setembro de 2024

Tecnologia se Torna Essencial para a Sobrevivência

As plataformas digitais se tornaram essenciais para os venezuelanos ao longo dos anos. Lembro-me de ajudar minha família a encontrar o remédio da minha avó através do Twitter (agora X) em 2016 e 2017, quando a escassez de medicamentos estava atingindo 85% no país.

Muitos venezuelanos se tornam especialistas em tecnologia por necessidade e aproveitam ao máximo cada plataforma digital. Fiquei impressionada no ano passado com a forma como empresas e clientes gerenciaram tantas transações via WhatsApp. Eu pedi entrega de comida e reservei minhas corridas de transporte através desta plataforma, já que aplicativos populares como Uber Eats, Uber, Lyft, ou métodos tradicionais de pagamento online internacional não existem. As pessoas aprendem a confiar em estranhos através de chats.

Desde o uso de VPNs para burlar a censura—semelhante ao que os brasileiros agora estão fazendo para acessar X, que foi recentemente proibido no país— até a mineração de Bitcoin e a busca por trabalhos online para complementar a renda, os venezuelanos têm se adaptado constantemente às novas tecnologias como ferramentas para navegar nas turbulentas crises políticas, sociais e econômicas. “Depois dos EUA, a Venezuela abriga o maior número de trabalhadores de dados do mundo”, afirma um relatório compartilhado pelo Rest of World no início deste ano.

A inteligência artificial tem tido uma forte presença na Venezuela há anos. Múltiplas empresas de IA têm aproveitado a crise para contratar mão de obra barata. Em 2022, o MIT Technology Review compartilhou um relatório sobre como as empresas de rotulagem de dados de IA encontraram oportunidades para explorar cidadãos talentosos: “A crise da Venezuela tem sido uma bênção para essas empresas, que de repente ganharam uma das mão de obra mais baratas disponíveis.”

Agora, os venezuelanos estão usando seu talento e conhecimento em tecnologia como uma poderosa ferramenta não apenas para contrapor a crise, mas também para desafiar o governo. Talvez – e esperamos que sim – os novos avatares de IA sejam apenas o começo de uma nova onda de empoderamento dos cidadãos.