A OpenAI adia o sistema de marca d’água ChatGPT devido a desacordos internos

De acordo com o Wall Street Journal, a OpenAI está debatendo se lança um sistema de marca d’água projetado para detectar textos gerados pelo seu ChatGPT AI. Apesar de ter essa tecnologia pronta por cerca de um ano, desacordos internos atrasaram sua implantação.

Em sua recente postagem atualizada, a OpenAI afirma que seu método de marca d’água em texto é preciso contra adulterações localizadas. No entanto, é vulnerável a adulterações globais. Isso inclui métodos como o uso de sistemas de tradução, reescrita com outro modelo gerativo, ou inserção e posterior remoção de um caractere especial entre cada palavra.

Uma grande preocupação para a OpenAI é que suas pesquisas sugerem que o método de marca d’água de texto poderia impactar alguns grupos mais do que outros. Por exemplo, poderia estigmatizar o uso de IA como uma ferramenta de escrita para falantes não nativos de inglês.

A OpenAI priorizou o lançamento de soluções de proveniência de conteúdo audiovisual devido aos maiores níveis de risco associados aos modelos de IA atuais, especialmente durante o ano eleitoral dos EUA, conforme relatado pelo Wall Street Journal. A empresa pesquisou extensivamente a proveniência do texto, explorando soluções como classificadores, marca d’água e metadados.

Uma porta-voz da OpenAI disse ao TechCrunch, “O método de marca d’água de texto que estamos desenvolvendo é tecnicamente promissor, mas tem riscos importantes que estamos considerando enquanto pesquisamos alternativas, incluindo a suscetibilidade de ser contornado por atores mal-intencionados e o potencial de impactar desproporcionalmente grupos como falantes de línguas não inglesas.”

O TechCrunch também relata que a marca d’água de texto da OpenAI visaria especificamente o texto gerado pelo ChatGPT, ao invés de conteúdo de outros modelos. Isso envolve fazer ajustes sutis na forma como o ChatGPT seleciona as palavras, criando uma marca d’água invisível que pode ser detectada por uma ferramenta separada.

Uma pesquisa da empresa, relatada pelo Wall Street Journal, descobriu que quase um terço dos usuários leais do ChatGPT ficariam desencorajados com a tecnologia anti-trapaça. Isso coloca a OpenAI em uma posição difícil. Os funcionários estão divididos entre manter a transparência e querer atrair e reter usuários.

Na postagem do blog da OpenAI, eles enfatizam que à medida que o volume de texto gerado continua a expandir, a importância de métodos confiáveis de proveniência para conteúdo baseado em texto se torna cada vez mais crítica.