IA Geradora Provoca Alarme na Ciência à Medida que Dados Falsos Ameaçam a Credibilidade

Imagens geradas por IA estão causando grande preocupação entre pesquisadores e editores, pois novas ferramentas de IA gerativas tornam extremamente fácil a criação de dados e imagens científicas falsos, conforme observado em um comunicado de imprensa da Nature.

Esse avanço ameaça a credibilidade da literatura acadêmica, com especialistas temendo um aumento em estudos fabricados impulsionados pela IA, que podem ser difíceis de identificar.

Jana Christopher, analista de integridade de imagem na FEBS Press na Alemanha, enfatiza que a rápida evolução da IA gerativa está levantando preocupações crescentes sobre seu potencial de uso indevido na ciência.

“As pessoas que trabalham na minha área — integridade de imagem e ética na publicação — estão cada vez mais preocupadas com as possibilidades que ela oferece”, disse Jane, conforme relatado pela Nature.

Ela observa que, enquanto algumas revistas podem aceitar textos gerados por IA sob certas diretrizes, imagens e dados gerados por IA são vistos como ultrapassando uma linha que poderia impactar profundamente a integridade da pesquisa, conforme observado pela Nature.

Detectar essas imagens criadas por IA tornou-se um desafio primordial, diz a Nature. Ao contrário das manipulações digitais anteriores, as imagens geradas por IA muitas vezes não apresentam os sinais usuais de falsificação, tornando difícil provar qualquer engano.

A especialista em forense de imagens Elisabeth Bik e outros pesquisadores sugerem que figuras produzidas por IA, particularmente em biologia molecular e celular, já podem estar presentes na literatura publicada, conforme relatado pela Nature.

Ferramentas como o ChatGPT são agora regularmente utilizadas para a elaboração de artigos, identificáveis por frases típicas de chatbot deixadas sem edição, mas as imagens geradas por IA são muito mais difíceis de identificar. Respondendo a esses desafios, empresas de tecnologia e instituições de pesquisa estão desenvolvendo ferramentas de detecção, observou a Nature.

Ferramentas impulsionadas por inteligência artificial, como Imagetwin e Proofig, estão liderando a carga ao treinar seus algoritmos para identificar conteúdo gerado por IA. Dror Kolodkin-Gal, co-fundador da Proofig, informa que a ferramenta deles detecta com sucesso imagens de IA 98% das vezes, mas ele observa que a verificação humana continua sendo crucial para validar os resultados, segundo a Nature.

No mundo editorial, revistas como a Science usam a Proofig para varreduras iniciais de submissões, e a gigante da publicação Springer Nature está desenvolvendo ferramentas próprias, Geppetto e SnapShot, para identificar irregularidades em textos e imagens, conforme relatado pela Nature.

Outras organizações, como a Associação Internacional de Editores Científicos, Técnicos e Médicos, também estão lançando iniciativas para combater as fábricas de artigos e garantir a integridade da pesquisa, conforme relatado pela Nature.

No entanto, especialistas alertam que os editores devem agir rapidamente. O detetive de imagens científicas Kevin Patrick teme que, se a ação demorar, o conteúdo gerado por IA possa se tornar mais um problema não resolvido na literatura acadêmica, como relatado pela Nature.

Apesar dessas preocupações, muitos permanecem esperançosos de que a tecnologia futura evoluirá para detectar as decepções geradas pela IA de hoje, oferecendo uma solução de longo prazo para salvaguardar a integridade da pesquisa acadêmica.