A Chefe do Instagram Adverte Sobre o Compartilhamento de Conteúdo Gerado por IA

O chefe do Instagram, Adam Mosseri, publicou uma série de posts no Threads no último domingo, alertando os usuários sobre o compartilhamento de conteúdo nas redes sociais, pois a IA generativa pode criar imagens que parecem reais. Mosseri admitiu que eles têm limitações para marcar todo o conteúdo gerado por IA.

Mosseri – que trabalha para a Meta desde 2008 – explicou que as criações de IA realistas agora são facilmente feitas e que os usuários devem considerar a conta que fornece as informações e sua credibilidade antes de compartilhar com os outros.

A executiva comparou grandes produções cinematográficas como Jurassic Park com as tecnologias atuais e reconheceu a qualidade e a velocidade da avançada tecnologia de IA.

“A IA gerativa está claramente produzindo conteúdo que é difícil de distinguir de gravações da realidade, e está melhorando rapidamente”, escreveu Mosseri em uma das postagens.

Mosseri também reconhece que eles não conseguem filtrar e controlar todas as imagens e conteúdos gerados por IA compartilhados.

“Nosso papel como plataformas de internet é rotular o conteúdo gerado como IA da melhor maneira possível”, acrescentou. “Mas algum conteúdo inevitavelmente escapa pelas rachaduras, e nem todas as deturpações serão geradas com IA, então também devemos fornecer contexto sobre quem está compartilhando para que você possa avaliar por si mesmo o quanto deseja confiar no conteúdo deles.”

O chefe do Instagram enfatizou que os usuários deveriam ser mais críticos ao consumir conteúdos, questionar se as afirmações poderiam ser reais ou não, e “sempre considerar quem está falando”.

Muitos usuários responderam e reclamaram sobre a empresa não assumir mais responsabilidade pela situação. “Não vi uma única plataforma meta rotulando uma única postagem como AI, fora das etiquetas -voluntárias- no IG pelo próprio postador”, escreveu um usuário. “Você teve anos e anos para estar à frente disso… Mas, em vez disso, enterrou a cabeça na areia e ignorou todos os seus usuários que vinham relatando isso para você”, escreveu outro.

Os usuários também têm relatado este ano que o sistema de regulação de conteúdo da Meta não está funcionando corretamente, pois tem banido contas pelos motivos errados.