A Polícia de Oklahoma City Implementa IA para Elaborar Relatórios de Incidentes, Levanta Preocupações de Viés

A polícia de Oklahoma City está agora utilizando uma ferramenta de IA para elaborar relatórios de incidentes. A tecnologia, desenvolvida pela Axon, usa IA semelhante ao ChatGPT para redigir relatórios a partir do áudio de câmeras corporais em apenas oito segundos.

Embora os oficiais elogiem a tecnologia que economiza tempo, estudiosos de direito e ativistas comunitários levantam preocupações sobre possíveis preconceitos e a precisão dos relatórios gerados por IA.

O software, Draft One, converte o áudio da câmera corporal em relatórios de incidentes escritos, com o objetivo de melhorar a eficiência na elaboração de relatórios.

A Associated Press relata que o sargento Matt Gilmore, de Oklahoma City, que o testou, disse que o relatório escrito pela IA era “melhor” do que qualquer coisa que ele poderia ter escrito por si mesmo, era 100% preciso, e até incluía detalhes dos quais ele não se lembrava.

A Axon criou o produto. O fundador e CEO da empresa, Rick Smith, disse à AP que o Draft One teve a “reação mais positiva” de qualquer produto que a empresa introduziu.

“No entanto, existem preocupações”, observou Smith. Ele explicou que os promotores de justiça querem garantir que sejam os policiais, e não apenas um chatbot de IA, os responsáveis por escrever seus relatórios, já que podem precisar testemunhar em tribunal sobre suas observações.

The Independent reporta que o ativista comunitário de Oklahoma City, Aurelius Francisco, expressou profundas preocupações sobre o uso da tecnologia de IA na elaboração de relatórios policiais, particularmente devido a possíveis preconceitos raciais.

Incidentes passados, como a prisão injusta de Robert Williams devido a falhas no reconhecimento facial, exemplificam os perigos da dependência excessiva da IA no trabalho investigativo policial, particularmente no que diz respeito a preconceitos raciais e imprecisões.

“Dado todas as sensibilidades em torno da polícia, da raça e de outras identidades das pessoas envolvidas, acredito que essa é uma área na qual teremos que fazer um trabalho sério antes de introduzi-la”, disse Smith à AP.

Há um consenso de que, embora a IA possa auxiliar na elaboração de relatórios, a responsabilidade e a prestação de contas finais devem permanecer com os policiais humanos, especialmente ao lidar com crimes graves que possam exigir testemunho em tribunal.