Carros Epilépticos? Como Luzes de Emergência Confundem Sistemas de Direção Automatizados

Luzes de emergência podem interromper sistemas de condução automatizados, causando falhas na detecção. Pesquisadores desenvolveram o “Caracetamol” para resolver este problema, destacando preocupações mais amplas sobre a segurança da IA.

Uma nova pesquisa sugere que sistemas de direção automática baseados em câmeras, projetados para tornar a condução mais segura, podem falhar em reconhecer objetos na estrada quando expostos a luzes de emergência piscando, representando riscos significativos, como relatado inicialmente pelo WIRED.

Pesquisadores da Universidade Ben-Gurion do Negev e da Fujitsu Limited descobriram um fenômeno chamado “crise epiléptica digital” ou “epilepticar”.

Conforme relatado pela WIRED, essa questão faz com que os sistemas falhem ao identificar objetos em sincronia com os flashes de luzes de veículos de emergência, particularmente na escuridão. Esse defeito pode fazer com que veículos que usam tais sistemas não identifiquem ou falhem ao detectar carros ou outros obstáculos, aumentando a probabilidade de acidentes perto de cenas de emergência.

O estudo foi inspirado por relatórios de veículos Tesla com Autopilot colidindo com veículos de emergência estacionários entre 2018 e 2021.

Embora a pesquisa não estabeleça especificamente uma ligação com o sistema da Tesla, os resultados destacam possíveis vulnerabilidades na tecnologia de detecção de objetos baseada em câmeras, um componente chave de muitos sistemas de condução automatizados, observa a WIRED.

Os experimentos utilizaram cinco dashcams comerciais com recursos de direção automatizada e processaram suas imagens através de detetores de objetos de código aberto.

Os pesquisadores observam que esses sistemas podem não refletir aqueles usados pelos fabricantes de automóveis e reconhecem que muitos veículos empregam sensores adicionais como radar e lidar para melhorar a detecção de obstáculos, conforme relatado pela WIRED.

A Administração Nacional de Trânsito Rodoviário dos EUA (NHTSA) também reconheceu desafios com sistemas avançados de assistência ao motorista (ADAS) respondendo a luzes de emergência, diz WIRED.

No entanto, a WIRED informa que os pesquisadores enfatizam que não afirmam uma conexão direta entre suas descobertas e acidentes passados da Tesla. Para abordar o problema, a equipe desenvolveu uma solução de software chamada “Caracetamol”, que aprimora a capacidade dos detectores de objetos de identificar veículos com luzes piscando.

Enquanto especialistas como Earlence Fernandes da UC San Diego veem a correção como promissora, Bryan Reimer do AgeLab do MIT alerta sobre preocupações mais amplas.

Ele enfatiza a necessidade de testes robustos para abordar pontos cegos nos sistemas de condução baseados em IA, alertando que alguns fabricantes de automóveis podem estar avançando a tecnologia mais rápido do que podem validá-la, conforme relatado pela WIRED.

O estudo destaca a complexidade de garantir a segurança na condução automatizada e pede mais pesquisas para mitigar tais riscos.