Os pesquisadores descobriram que os adesivos nos sinais de trânsito podem enganar os sistemas de IA em carros autônomos, levando a um comportamento imprevisível e perigoso.
No Simpósio de segurança do sistema de rede e distribuído em San Diego, UC Irvine’s Donald Bren College of Data & Laptop Sciences apresentou seu estudo inovador. Os pesquisadores exploraram os impactos do mundo actual dos ataques maliciosos de baixo custo e facilmente implantáveis nos sistemas de reconhecimento de sinais de tráfego (TSR)-um componente crítico da tecnologia de veículos autônomos.
Suas descobertas substanciavam o que anteriormente havia sido teórico: que a interferência como adulteração com sinais na estrada pode torná -los indetectáveis aos sistemas de IA em carros autônomos. Ainda mais preocupante, essa interferência pode fazer com que os sistemas tenham interpretado ou crie sinais “fantasmas”, levando a respostas irregulares, incluindo frenagem de emergência, velocidade e outras violações rodoviárias.
Alfred Chen, professor assistente de ciência da computação da UC Irvine e co-autor do estudo, comentou: “Esse fato destaca a importância da segurança, uma vez que as vulnerabilidades nesses sistemas, uma vez exploradas, podem levar a riscos de segurança que se tornam uma questão de vida e morte”.
Avaliação em larga escala em carros autônomos de consumo
Os pesquisadores acreditam que o deles é a primeira avaliação em larga escala das vulnerabilidades de segurança da TSR em veículos disponíveis comercialmente das principais marcas de consumo.
Veículos autônomos não são mais conceitos hipotéticos; Eles estão aqui e prosperando.
“A Waymo oferece mais de 150.000 passeios autônomos por semana, e há milhões de veículos Tesla equipados com piloto automático na estrada, o que demonstra que a tecnologia autônoma de veículos está se tornando parte integrante da vida diária na América e em todo o mundo”, destacou Chen.
Tais marcos ilustram o papel integral, as tecnologias autônomas estão desempenhando na mobilidade moderna, tornando ainda mais essential lidar com falhas em potencial.
O estudo concentrou -se em três projetos de ataques representativos da AI, avaliando seu impacto nas principais marcas de veículos de consumo equipados com sistemas TSR.
Uma ameaça simples e de baixo custo: adesivos multicoloridos
O que torna o estudo alarmante é a simplicidade e acessibilidade do método de ataque.
A pesquisa, liderada por Ningfei Wang – um atual cientista de pesquisa da Meta que conduziu os experimentos como parte de seu doutorado. Na UC Irvine – demonstrou que os adesivos em turbilhão e multicoloridos poderiam facilmente confundir os algoritmos TSR.
Esses adesivos, que Wang descreveu como “barato e facilmente produzido”, podem ser criados por qualquer pessoa com recursos básicos.
Uma descoberta particularmente intrigante, mas preocupante, durante o projeto, gira em torno de um recurso referido como “memorização espacial”. Projetado para ajudar os sistemas TSR a reter a memória dos sinais detectados, esse recurso pode mitigar o impacto de certos ataques, como remover inteiramente um sinal de parada da “visão” do carro. No entanto, disse Wang, isso torna a falsificação de uma placa falsa de parada “muito mais fácil do que esperávamos”.
Desafios de segurança sobre carros autônomos
A pesquisa também refutou várias suposições amplamente mantidas nos círculos acadêmicos sobre a segurança autônoma de veículos.
“Os acadêmicos estudam a segurança do veículo sem motorista há anos e descobriram várias vulnerabilidades práticas de segurança na mais recente tecnologia de direção autônoma”, observou Chen. No entanto, ele apontou que esses estudos geralmente ocorrem em configurações acadêmicas controladas que não refletem cenários do mundo actual.
“Nosso estudo preenche essa lacuna crítica”, continuou Chen, observando que sistemas comercialmente disponíveis foram anteriormente negligenciados em pesquisas acadêmicas. Ao se concentrar nos algoritmos comerciais de IA existentes, a equipe descobriu suposições quebradas, imprecisões e alegações falsas que afetam significativamente o desempenho do mundo actual do TSR.
Uma grande descoberta envolveu a prevalência subestimada de memorização espacial em sistemas comerciais. Ao modelar esse recurso, a equipe da UC Irvine desafiou diretamente a validade das reivindicações anteriores feitas pela comunidade de pesquisa de ponta.
Catalisando mais pesquisas
Chen e seus colaboradores esperam que suas descobertas atuem como um catalisador para mais pesquisas sobre ameaças à segurança de veículos autônomos.
“Acreditamos que este trabalho deve ser apenas o começo e esperamos que ele encourage mais pesquisadores da academia e da indústria a revisitar sistematicamente os impactos reais e a significância de tais tipos de ameaças à segurança contra veículos autônomos do mundo actual”, afirmou Chen.
Ele acrescentou: “Este seria o primeiro passo necessário antes que possamos realmente saber se, no nível social, é necessária uma ação para garantir a segurança em nossas ruas e rodovias”.
Para garantir testes rigorosos e expandir o alcance de seus estudos, os pesquisadores colaboraram com instituições notáveis e se beneficiaram do financiamento fornecido pelo Nationwide Science Basis e Carmen+ Centro de Transporte Universitário sob o Departamento de Transportes dos EUA.
À medida que os veículos autônomos continuam a se tornar mais onipresentes, o estudo da UC Irvine levanta uma bandeira vermelha sobre possíveis vulnerabilidades que podem ter consequências de vida ou morte. As descobertas da equipe exigem protocolos de segurança aprimorados, parcerias proativas da indústria e discussões oportunas para garantir que os veículos autônomos possam navegar em nossas ruas com segurança, sem comprometer a segurança pública.
(Foto por Murat onder)
Veja também: Wayve lança testes de direção incorporados de IA na Alemanha
Deseja aprender mais sobre IA e Large Knowledge dos líderes do setor? Confira Ai & Large Knowledge Expo Ocorrendo em Amsterdã, Califórnia e Londres. O evento abrangente é co-localizado com outros eventos principais, incluindo Conferência de Automação InteligenteAssim, BlockxAssim, Semana de Transformação Digitale Cyber Safety & Cloud Expo.
Discover outros próximos eventos de tecnologia corporativa e webinars alimentados pela TechForge aqui.