O Google Atualiza Políticas para Combater Deepfakes Explícitos Não Consensuais

Ontem, o Google anunciou atualizações significativas de políticas com o objetivo de ajudar indivíduos a controlar “deepfakes” explícitos. Estes são imagens e vídeos gerados por IA que retratam pessoas em contextos sexualmente explícitos sem o seu consentimento.

Como uma das principais atualizações, as pessoas podem solicitar a remoção de imagens falsas explícitas não consensuais do Search. O Google tornou esse processo mais simples e eficaz. Quando uma solicitação é bem-sucedida, os sistemas do Google também filtrarão todos os resultados explícitos em buscas semelhantes e removerão duplicatas.

Adicionalmente, para combater conteúdos prejudiciais, o Google atualizou seus sistemas de classificação para priorizar informações de alta qualidade. As atualizações de classificação reduzirão o conteúdo explícito falso nos resultados de pesquisa. Para pesquisas especificamente em busca de conteúdo explícito com nomes de pessoas, o conteúdo de alta qualidade e não explícito será priorizado. Isso reduziu a exposição a imagens explícitas em mais de 70%.

O Google também está trabalhando para distinguir melhor o conteúdo explícito real e consensual do conteúdo explícito falso. Sites com grandes volumes de imagens explícitas falsas removidas serão rebaixados.

Apoiando a urgência dessas atualizações, um pesquisador independente compartilhou recentemente um estudo com a WIRED, revelando o alcance extenso de vídeos deepfake não consensuais. O estudo mostra que pelo menos 244.625 vídeos foram carregados nos 35 principais sites que hospedam pornografia deepfake nos últimos sete anos. Notavelmente, 113.000 desses vídeos foram carregados apenas nos primeiros nove meses de 2023 – um aumento de 54 por cento em relação ao número total de vídeos carregados em 2022. Essas cifras alarmantes enfatizam a crescente prevalência desse conteúdo prejudicial.

Um relatório da WIRED em março revelou que o Google recebeu mais de 13.000 solicitações para remover links para deepfakes explícitos de uma dúzia de sites populares. O gigante da tecnologia atendeu a cerca de 82% dessas demandas. Essa estatística demonstra o volume significativo de conteúdo prejudicial e a demanda por remoção.

Histórias pessoais destacam o impacto severo dos deepfakes. Ontem, o New York Times relatou a história de Sabrina Javellana, uma estrela em ascensão na política da Flórida, que descobriu deepfakes de si mesma circulando online. Enfrentando assédio contínuo, Javellana deixou a política e escolheu um papel menos público.

Em outro caso, a BBC relatou esta semana que uma família alega que a Polícia de West Yorkshire falhou em proteger sua filha de 12 anos. Bullies postaram uma imagem explícita deepfake dela no Snapchat. Inicialmente, a polícia disse à família que nada poderia ser feito porque o Snapchat é baseado nos EUA. A imagem traumatizou a menina e se espalhou amplamente.

As atualizações de política do Google são um passo significativo para enfrentar a crise dos deepfakes. No entanto, a complexidade do problema exige esforços contínuos e colaborações para resolver totalmente o problema.