
Image by Freepik
Primeiro Caso Conhecido de Chatbots de IA Usados para Perseguição
James Florence, 36, concordou em se declarar culpado por uma campanha de cyberstalking de sete anos que envolveu o uso de chatbots de IA para se passar por uma professora universitária e convidar estranhos para sua casa para encontros sexuais.
Com pressa? Aqui estão os Fatos Rápidos!
- James Florence usou chatbots de IA para se passar por uma professora e perseguir-lhe na internet.
- Florence roubou a lingerie da vítima e a usou para assediá-la online.
- Ele alimentou os chatbots com informações pessoais, incluindo o endereço residencial da professora e detalhes íntimos.
Florence, de Massachusetts, usou plataformas como CrushOn.ai e JanitorAI para criar chatbots personalizados que imitavam as respostas da professora e levavam os usuários a acreditar que estavam se comunicando com ela, conforme relatado pelo The Guardian.
De acordo com documentos judiciais analisados pelo The Guardian, Florence usou as informações pessoais e profissionais da professora – como seu endereço residencial, data de nascimento e detalhes da família – para instruir os chatbots a se envolverem em conversas sexualmente explícitas.
Os bots de IA foram programados para confirmar preferências sexuais e até fornecer detalhes íntimos sobre a vítima. Florence, que havia roubado a roupa íntima da professora em sua casa, alimentou os bots com informações sobre suas escolhas de roupas e os direcionou para encorajar os usuários a visitarem sua casa.
O caso, registrado em um tribunal federal de Massachusetts, marca um precedente legal significativo como a primeira instância conhecida de um perseguidor usando IA para se passar por sua vítima e facilitar o assédio, disse o The Guardian. Florence deve se declarar culpado de sete acusações de cyberstalking e uma acusação de posse de pornografia infantil.
Stefan Turkheimer, vice-presidente de política pública na Rainn, uma organização sem fins lucrativos contra a violência sexual, descreveu o caso como um destaque para uma perturbadora nova tendência no uso indevido da IA.
“Esta é uma questão de destacar alguém com o objetivo de potencial abuso sexual”, disse ele, conforme relatado pelo The Guardian. “As ferramentas que ele conseguiu usar aqui realmente tornaram o dano muito pior”, acrescentou.
Florence, que já foi amigo do professor, foi além de criar chatbots. Ele fez contas falsas de mídia social e websites para se passar pela vítima, distribuindo imagens explícitas e manipuladas dela junto com detalhes pessoais, relatou The Guardian.
Plataformas como Craigslist, Reddit, X e Linktree foram usadas para humilhar a professora e distribuir o conteúdo fabricado. Um site, ladies.exposed, apresentava colagens de fotos da professora junto com seu endereço residencial e número de telefone, conforme relatado pelo The Guardian.
Essas ações se estenderam por vários anos, começando em 2017. A professora recebeu dezenas de mensagens e ligações perturbadoras, incluindo um correio de voz falsamente alegando que seu pai havia morrido em um acidente de carro, conforme relatado pelo The Guardian.
A vítima e seu marido ficaram cada vez mais preocupados com sua segurança, eventualmente instalando equipamentos de vigilância em sua casa e tomando outras precauções.
O assédio não parou com a professora. Florence mirou em várias outras mulheres e uma garota de 17 anos, alterando digitalmente suas imagens para criar conteúdo sexualmente sugestivo.
Esta alarmante tendência de usar a IA para o assédio é um problema crescente, com relatórios mostrando que menores também estão sendo explorados desta maneira.
Deixe um comentário
Cancelar