O Google Registra Mais de 250 Denúncias de Conteúdo Terrorista Gerado por Inteligência Artificial Deepfake

O Google compartilhou um relatório com as autoridades australianas revelando que sua ferramenta de inteligência artificial, Gemini, recebeu mais de 250 reclamações em todo o mundo pelo seu uso para gerar terrorismo deepfake e mais de 80 referentes a material de abuso infantil.

As informações foram entregues à agência de segurança online da Austrália, a eSafety Commission, após empresas de tecnologia – incluindo Meta, Telegram, Reddit, X e Google – serem obrigadas a cumprir as leis locais e reportar notificações sob o Online Safety Act da Austrália em março de 2024.

A eSafety divulgou um documento oficial nesta quinta-feira, expressando preocupações sobre a segurança da IA. O relatório do Google levou em consideração os relatos dos usuários de 1º de abril de 2023 a 29 de fevereiro de 2024.

“O Google recebeu 258 relatos de usuários sobre suspeitas de material terrorista ou de extremismo violento gerado por IA, especificamente o deepfake, ou atividade gerada pelo Gemini, a própria IA gerativa da empresa, e 86 relatos de usuários sobre suspeitas de exploração e abuso sexual infantil gerado por IA”, disse a Comissária de eSafety, Julie Inman Grant. “Isso destaca o quão crucial é para as empresas que desenvolvem produtos de IA incorporar e testar a eficácia das salvaguardas para prevenir a geração deste tipo de material.”

De acordo com a Reuters, um porta-voz do Google afirmou que eles não permitiram atividades ilegais. “O número de relatórios de usuários do Gemini que fornecemos à eSafety representa o volume total global de relatórios de usuários, não violações de políticas confirmadas”, disse o porta-voz do Google à Reuters por e-mail.

Inman Grant considerou o relatório como as “primeiras percepções mundiais” para entender como as empresas de tecnologia estão gerenciando a “proliferação online de material terrorista e extremista violento.”

A Comissária também destacou como plataformas como Facebook, WhatsApp e Telegram falharam em detectar conteúdo terrorista transmitido ao vivo. Inman Grant considerou o ataque de 2019 em Christchurch – um tiroteio em massa terrorista onde um atirador supremacista branco atacou duas mesquitas em Christchurch, Nova Zelândia, matando 51 pessoas, em março de 2019 – como um exemplo de como ataques extremistas e mortais foram transmitidos ao vivo sem detecção ou remoção do conteúdo.

Alguns dias atrás, outro relatório compartilhado pela ESafety revelou que crianças podem facilmente burlar os atuais sistemas de verificação de idade utilizados pelas plataformas de mídia social mais populares.