O Google DeepMind Lança Ferramenta de Marca d’Água de Código Aberto para Ajudar a Detectar Textos Gerados por IA

O Google DeepMind lançou uma ferramenta de marca d’água de código aberto chamada SynthID-Text nesta quarta-feira para ajudar a detectar texto gerado por IA. A ferramenta está disponível gratuitamente para empresas e desenvolvedores e funciona incorporando marcas d’água invisíveis – indetectáveis ao olho humano – no texto durante a geração, alterando as probabilidades das palavras.

“Aqui descrevemos o SynthID-Text, um esquema de marca d’água para texto pronto para produção que preserva a qualidade do texto e permite alta precisão de detecção, com mínima latência”, afirma o resumo da pesquisa publicada na Nature. “Para permitir a marca d’água em escala, desenvolvemos um algoritmo que integra a marca d’água com a amostragem especulativa, uma técnica de eficiência frequentemente usada em sistemas de produção.”

De acordo com a MIT Technology Review, o laboratório de pesquisa em IA da gigante de tecnologia desenvolveu a tecnologia SynthID para criar múltiplas ferramentas de marca d’água de IA que agora podem reconhecer texto, música, vídeo e imagens gerados por IA. O Google DeepMind compartilhou um vídeo explicando como a tecnologia funciona em vários tipos de mídia.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 de outubro de 2024

SynthID está disponível por meio do Google Responsible Generative AI Toolkit da empresa, e os pesquisadores estão trabalhando junto com a Hugging Face — uma plataforma colaborativa para desenvolvedores que hospeda outros projetos open-source como o tutorial do LeRobot para construir robôs com inteligência artificial em casa — para compartilhá-lo em seu site também.

“Agora, outros desenvolvedores de IA [generativa] poderão usar essa tecnologia para ajudá-los a detectar se as saídas de texto vieram de seus próprios [grandes modelos de linguagem], facilitando para mais desenvolvedores construir IA de forma responsável”, disse Pushmeet Kohli, vice-presidente de pesquisa do Google DeepMind, para a MIT Technology Review.

SynthID foi testado nos produtos Gemini do Google, e milhões de usuários não conseguiram diferenciar entre conteúdo com marca d’água e sem marca d’água. No entanto, os pesquisadores reconheceram que ele tem limitações quando o texto foi editado ou traduzido, mas permanecem otimistas e acreditam que a ferramenta poderia ajudar a combater a desinformação e melhorar a segurança da IA.

Várias empresas de tecnologia têm anunciado estratégias de rotulagem de IA nos últimos meses. Meta anunciou em fevereiro um sistema para identificar conteúdo de IA em Instagram, Facebook e Threads, Google exigiu que os usuários rotulassem conteúdo de IA em março, e Tiktok adicionou rótulos ao conteúdo gerado por IA em maio.