Estudo Revela que 84% dos Líderes de TI Confiam em Agentes de IA Tanto Quanto em Humanos

A SnapLogic lançou um novo relatório, “AI Agents: The Final Frontier of the Enterprise“, que examina como os líderes de TI estão se preparando para a adoção de agentes de IA.

Com base nas respostas de mais de 1.000 tomadores de decisão de TI nos Estados Unidos, Reino Unido, Alemanha e Austrália, o relatório destaca como as empresas estão adotando agentes de IA para otimizar operações e melhorar a produtividade.

Agentes de IA, que operam de forma autônoma e realizam tarefas complexas, estão se tornando uma parte integral dos fluxos de trabalho empresariais. Este relatório acompanha a introdução do Operator pela OpenAI, um agente de IA para tarefas autônomas, e o lançamento do Gemini Code Assist gratuito do Google para desenvolvedores.

“A tecnologia GenAI continua a evoluir rapidamente. A capacidade de possibilitar a criação de agentes de IA capazes de operar de forma autônoma, raciocinar e realizar ações específicas para completar um objetivo é um marco crítico na capacidade da GenAI de entregar valor comercial significativo”, observa o relatório.

De acordo com os resultados, os líderes de TI estão cada vez mais confiando em agentes de IA para lidar com tarefas essenciais de negócios. Significativos 84% dos entrevistados confiam em agentes de IA pelo menos tanto quanto em humanos, com 40% expressando maior confiança em agentes de IA do que em trabalhadores humanos.

Essa crescente confiança é impulsionada pelo potencial da IA de aumentar a eficiência, já que as equipes de TI atualmente gastam em média 16 horas por semana gerenciando tecnologias de IA. Os entrevistados antecipam que os agentes de IA ajudarão a recuperar 19 horas semanais, liberando tempo valioso para um trabalho mais estratégico.

O CEO da Klarna, Sebastian Siemiatkowski, que tem sido franco sobre o impacto transformador da IA nos negócios, particularmente na automação de tarefas tradicionalmente realizadas por humanos, reflete essa tendência. O uso de IA pela Klarna economizou $10 milhões anualmente, com IA substituindo 700 atendentes de serviço ao cliente e realizando tarefas mais rápido do que os humanos.

Além disso, uma pesquisa recente revelou que mais da metade dos líderes empresariais do Reino Unido planejam investir em IA ao invés de contratar novos funcionários, impulsionados pelo aumento dos custos de emprego e reformas trabalhistas.

O entusiasmo pela adoção de agentes de IA é evidente, com 79% dos líderes de TI priorizando sua implementação no próximo ano. Além disso, 92% acreditam que esses sistemas proporcionarão resultados significativos para os negócios nos próximos 12 a 18 meses.

O investimento em IA também está acelerando, já que quase 80% das organizações planejam alocar mais de $1 milhão para agentes de IA no próximo ano. Apesar do grande interesse, ainda existem barreiras. Preocupações com a segurança dos dados, tecnologia ultrapassada e desafios de integração persistem, com 60% citando riscos de privacidade como um grande obstáculo.

De fato, o NIST explica como os agentes de IA são vulneráveis a ataques de sequestro, onde instruções maliciosas inseridas nos dados fazem com que os agentes executem tarefas prejudiciais. Esse risco decorre da falta de separação entre as instruções internas confiáveis e os dados externos.

As principais ameaças à cibersegurança incluem execução remota de código, exfiltração de banco de dados e phishing automatizado. Esses ataques exploram a dependência dos agentes de IA em dados externos, podendo levar a ações não autorizadas, como a execução de scripts prejudiciais, roubo de dados do usuário ou disseminação de malware.

Adicionalmente, o relatório cita que o ceticismo dos funcionários e os medos de alucinações de IA contribuem para a hesitação na adoção. No entanto, à medida que os agentes de IA continuam a evoluir, as organizações estão ansiosas para aproveitar suas capacidades para impulsionar a transformação em vários setores.

Enquanto isso, a Universidade de Cambridge recentemente alertou sobre um futuro potencialmente distópico onde assistentes de IA poderiam prever e vender as intenções do usuário em tempo real. Esta “Economia da Intenção”, impulsionada pela IA, poderia usar dados psicológicos íntimos para influenciar decisões em grande escala, incluindo ações tão pessoais como votar ou escolhas de compra.

Pesquisadores argumentam que essa tecnologia poderia manipular o comportamento humano para benefício comercial, político ou corporativo, levantando sérias preocupações sobre suas implicações éticas.

Grandes empresas de tecnologia, como a OpenAI e a Apple, já estão investindo em sistemas de IA que preveem as intenções humanas, o que pode impulsionar ainda mais esse mercado emergente.