Ex-Pesquisadora da OpenAI e Denunciante Encontrada Morta

Um ex-pesquisador da OpenAI que se tornou denunciante, Suchir Balaji, 26, foi encontrado morto em um apartamento de São Francisco, confirmaram as autoridades, conforme primeiro relatado pelo The Mercury News.

A polícia encontrou o corpo de Balaji em 26 de novembro após receber um pedido de verificação de bem-estar. O gabinete do médico legista de San Francisco determinou a morte como suicídio, e os investigadores não encontraram sinais de crime, disse a BBC.

Nos meses que antecederam sua morte, Balaji criticou publicamente as práticas da OpenAI. Atualmente, a empresa enfrenta vários processos por seus métodos de coleta de dados.

Recentemente participei de uma reportagem do NYT sobre uso justo e IA gerativa, e por que estou cética de que “uso justo” seria uma defesa plausível para muitos produtos de IA gerativa. Eu também escrevi um post em um blog (https://t.co/xhiVyCk2Vk) sobre os detalhes minuciosos do uso justo e por que eu…

— Suchir Balaji (@suchirbalaji) 23 de outubro de 2024

Em uma entrevista recente ao New York Times, o Sr. Balaji disse que vê as ameaças representadas pela IA como imediatas e significativas. Ele argumentou que o ChatGPT e outros chatbots semelhantes estão prejudicando a viabilidade comercial de indivíduos, empresas e serviços de internet que originalmente criaram os dados digitais utilizados para treinar esses sistemas.

OpenAI, Microsoft e outras empresas sustentam que o treinamento de seus sistemas de IA com dados da internet se enquadra na doutrina “uso justo”.

Esta doutrina considera quatro fatores, e essas empresas afirmam que cumprem os critérios, incluindo a transformação significativa de obras protegidas por direitos autorais e não competindo diretamente no mesmo mercado que essas obras.

O Sr. Balaji discordou. Ele argumentou que sistemas como o GPT-4 fazem cópias completas dos dados de treinamento. Embora empresas como a OpenAI possam programar esses sistemas para replicar os dados ou produzir resultados totalmente novos, a realidade, ele diz, fica em algum lugar no meio, conforme relatado pelo The Times.

O Sr. Balaji publicou um ensaio em seu site pessoal, oferecendo o que ele descreve como uma análise matemática para sustentar essa afirmação. “Se você acredita no que eu acredito, você simplesmente tem que deixar a empresa”, disse ele, conforme relatado pelo The Times.

De acordo com o Sr. Balaji, a tecnologia viola a lei de direitos autorais porque geralmente compete diretamente com as obras nas quais foi treinada. Modelos gerativos, projetados para imitar dados online, podem substituir quase qualquer coisa na internet, desde artigos de notícias até fóruns online, relatou o The Times.

A morte de Balaji ocorreu apenas um dia após um arquivo judicial identificá-lo como uma pessoa cujos arquivos profissionais a OpenAI revisaria em conexão com um processo movido por vários autores contra a startup, notou a Forbes.

Além de preocupações legais, o Sr. Balaji alertou que as tecnologias de IA estão degradando a internet. À medida que essas ferramentas substituem serviços existentes, elas geralmente geram informações falsas ou totalmente fabricadas – um fenômeno que os pesquisadores chamam de “alucinações”. Ele acreditava que essa mudança está piorando a internet, relatou The Times.

Bradley J. Hulbert, um advogado de propriedade intelectual, observou que as leis de direitos autorais atuais foram estabelecidas muito antes do advento da IA e que nenhum tribunal ainda decidiu se tecnologias como o ChatGPT violam essas leis, conforme relatado pelo The Times.

Ele enfatizou a necessidade de ação legislativa. “Dado que a IA está evoluindo tão rapidamente”, disse ele, “é hora de o Congresso intervir.” Mr. Balaji concordou, afirmando, “A única saída de tudo isso é a regulamentação”, relatou The Times.