Apple Instada a Remover Recurso de IA Após Controvérsia de Manchete Falsa

Uma importante organização de fiscalização do jornalismo instou a Apple a retirar seu recurso de IA generativa após a ferramenta atribuir falsamente uma manchete sobre um caso de assassinato de grande repercussão à BBC News.

A BBC informou na quinta-feira que uma controvérsia surgiu após o novo recurso da Apple, a Apple Intelligence, gerar incorretamente uma manchete. Ela sugeriu que Luigi Mangione, suspeito no assassinato do CEO de uma seguradora de saúde, Brian Thompson, teria se suicidado. A BBC não havia publicado tal artigo.

Repórteres Sem Fronteiras (RSF), uma organização internacional que defende a liberdade de imprensa, criticou a Apple, afirmando que o incidente ressalta os riscos que as ferramentas de IA imaturas representam para a credibilidade da mídia e a confiança do público.

Vincent Berthier, chefe da mesa de tecnologia e jornalismo da RSF, condenou o equívoco, chamando-o de “um golpe na credibilidade do veículo” e uma ameaça ao acesso público a informações confiáveis. A RSF exigiu que a Apple remova o recurso imediatamente.

“A Lei Europeia de IA – apesar de ser a legislação mais avançada do mundo nesta área – não classificou as IA geradoras de informações como sistemas de alto risco, deixando um vácuo legal crítico. Essa lacuna deve ser preenchida imediatamente”, disse Berthier.

A BBC confirmou que apresentou uma reclamação formal à gigante da tecnologia e solicitou uma resolução, mas ainda não está claro se a Apple respondeu.

O resumo falho da IA não se limitou à BBC News. Em 21 de novembro, o recurso resumiu de forma imprecisa um artigo do New York Times, sugerindo falsamente que o primeiro-ministro israelense Benjamin Netanyahu havia sido preso, conforme relatado pelo artigo da BBC.

Esta notificação, posteriormente destacada pelo jornalista Ken Schwencke, na verdade se referia a um mandado do Tribunal Penal Internacional contra Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence, visa a reduzir as interrupções de notificações, resumindo e agrupando-as. Disponível em iPhones que executam o iOS 18.1 e em modelos mais novos, bem como em iPads selecionados e Macs, a ferramenta enfrentou reações negativas por distorcer informações de renomados veículos de notícias.

O porta-voz da BBC enfatizou que, embora algumas notificações agrupadas resumissem com precisão histórias sobre eventos globais, a desinformação envolvendo Mangione demonstrou o potencial da tecnologia em prejudicar tanto os veículos de mídia quanto a compreensão do público.

A RSF alertou que “Este acidente ilustra que os serviços de IA generativa ainda são muito imaturos para produzir informações confiáveis para o público e não deveriam ser permitidos no mercado para tais usos.”

Ars Technica avaliou os resumos de notificações da Apple, apontando vários problemas que surgem frequentemente. Primeiro, embora alguns resumos sejam factualmente corretos, eles soam robóticos e estranhos, particularmente em temas sensíveis como relacionamentos ou saúde mental. Outros interpretam incorretamente sarcasmo, gírias ou expressões idiomáticas, muitas vezes interpretando-as de maneira muito literal.

A perda de contexto é outro grande problema, particularmente quando os resumos não consideram mensagens anteriores em uma conversa ou deixam de considerar o conteúdo multimídia. Em chats de grupo com vários tópicos, os resumos podem ficar sobrecarregados, misturando assuntos e levando a imprecisões.

Por fim, alguns resumos estão simplesmente errados, muitas vezes devido a uma tentativa de condensar muita informação em poucas palavras, o que resulta em relatos distorcidos. No geral, esses problemas, que afetam a utilidade e a precisão do recurso, são frequentes no uso cotidiano.

Mangione, agora acusado de homicídio em primeiro grau, tornou-se um ponto central no debate sobre os riscos associados ao uso de IA no jornalismo. A confiança do público em notícias confiáveis está em jogo à medida que a Apple enfrenta pressão crescente para lidar com o problema.