A Desinformação de IA Pode Levar a Saques Bancários em Massa

Um novo estudo britânico alerta que a desinformação gerada pela inteligência artificial, que circula nas redes sociais, está aumentando o risco de corridas bancárias, instando as instituições financeiras a aprimorarem seus esforços de monitoramento, como relatado inicialmente pela Reuters.

A pesquisa, publicada pela Say No to Disinfo baseada no Reino Unido e pela empresa de comunicação Fenimore Harper, destaca como a IA torna a desinformação mais barata, rápida e eficaz, uma gama mais ampla de atores – incluindo aqueles movidos por motivos financeiros, ideológicos ou políticos – poderia explorar essa vulnerabilidade.

A facilidade do banco online e as rápidas transferências de dinheiro aumentam ainda mais a exposição dos bancos a tais riscos.

Para analisar o impacto potencial, os pesquisadores criaram uma campanha de notícias falsas geradas por AI visando a estabilidade financeira dos bancos. Manchetes falsas foram projetadas para explorar medos existentes, usando sites doppelganger e conteúdo de mídia social gerado por AI.

Os pesquisadores simularam uma amplificação em larga escala, gerando 1.000 tweets por minuto a um custo mínimo. Uma pesquisa com 500 clientes do Reino Unido mostrou que após a exposição à desinformação, 33,6% estavam extremamente inclinados e 27,2% um tanto inclinados a mover seu dinheiro, com 60% inclinados a compartilhar o conteúdo.

Com base na média dos saldos das contas bancárias do Reino Unido, uma única campanha de desinformação poderia movimentar £10 milhões, com o custo de transferir £150 milhões sendo tão baixo quanto $90-$150.

Apesar da velocidade e facilidade de tais ataques, os pesquisadores afirmam que as instituições financeiras permanecem despreparadas. Os bancos carecem de especialistas em desinformação, monitoramento proativo e planos de resposta a crises. As medidas de segurança atuais se concentram em ameaças cibernéticas, enquanto negligenciam operações de influência impulsionadas por IA.

A desinformação aprimorada pela IA tem o potencial de desestabilizar o setor financeiro, corroendo a confiança e desencadeando grandes retiradas. Sem medidas proativas, os pesquisadores afirmam que essas campanhas podem causar danos econômicos generalizados.

A Reuters observa que as preocupações com a desinformação impulsionada pela IA surgem após o colapso do Silicon Valley Bank em 2023, onde os depositantes retiraram $42 bilhões em um único dia.

Reguladores, incluindo o Conselho de Estabilidade Financeira do G20, desde então alertaram que a IA gerativa poderia exacerbar a instabilidade financeira, advertindo em novembro que ela “poderia permitir que atores mal-intencionados gerassem e disseminassem desinformação que causa crises agudas”, como quedas abruptas e corridas bancárias, conforme relatado pela Reuters.

Embora alguns bancos tenham se recusado a comentar com a Reuters, o UK Finance afirmou que as instituições financeiras estão gerenciando ativamente os riscos relacionados à IA.

O lançamento do estudo coincide com um Summit de IA na França, onde os líderes estão mudando o foco dos riscos da IA para promover sua adoção.