Pesquisadores da UC Irvine frustram drones de rastreamento de alvos com guarda-chuvas
Por Jim Magill, editor de recursos do DRONELIFE
UM equipe de cientistas da Universidade da Califórnia Irvine descobriu uma falha no projeto de drones de rastreamento autônomo de alvos (ATT) habilitados para IA, como aqueles usados em operações de segurança de fronteira, que poderiam permitir que a pessoa rastreada derrotasse o UAV usando uma ferramenta tão simples quanto um guarda-chuva.
Numa técnica contra-UAS conhecida como ataque à distância, a pessoa visada desdobra o guarda-chuva, que está impresso com padrões especialmente concebidos que são capazes de enganar o drone fazendo-o pensar que a pessoa alvo estacionária está, na verdade, a afastar-se. Isso faz com que o UAV se aproxime continuamente da pessoa, até chegar perto o suficiente de onde possa ser derrubado por uma rede ou simplesmente derrubado do céu.
As vulnerabilidades que os investigadores descobriram podem ser exploradas tanto por criminosos que tentam escapar à captura assistida por drones pelas autoridades, como por indivíduos que procuram impedir a vigilância ilícita ou a perseguição por drones.
Shoyuan Xie, estudante de graduação em ciência da computação da UC Irvine, disse que a técnica anti-UAS que os cientistas descobriram, apelidada de FlyTrap, explora fraquezas no software program autônomo de rastreamento de alvos baseado em câmera do drone.
“Os drones existentes estão implantando amplamente modelos em seus produtos para realizar operações autônomas, como rastrear comportamento, disse Xie. “O modelo de IA é conhecido por ser vulnerável a ataques em que o invasor pode fazer uma entrada visible única ou outro ‘ruído’ gerado por humanos na entrada para enganar o modelo de IA para produzir qualquer coisa.”
Em outras palavras, a pessoa que está sendo rastreada pode enganar a capacidade de detecção de pedestres gerada por IA do drone, a fim de manipular as ordens de voo que o software program dá ao drone.
“Ao manipular a entrada, podemos controlar diretamente o comportamento de operação autônoma de um drone para aproximá-lo do guarda-chuva”, disse ele. “Essa é a tecnologia que desenvolvemos explorando a vulnerabilidade do próprio modelo closing.”
Os pesquisadores testaram com sucesso a eficácia da técnica de defesa de drones Flytrap contra três drones comerciais, o DJI Mini 4 Professional, o DJI Neo e o HoverAir X1, e relataram as vulnerabilidades que descobriram aos dois fabricantes de drones.
Alfred Chen, professor assistente de ciência da computação na UC, Irvine e um dos líderes da equipe de pesquisa, disse que a descoberta da equipe sobre a vulnerabilidade dos modelos de IA ao engano pode ter efeitos positivos e negativos em aplicações do mundo actual.
“Assim como qualquer tecnologia, é uma faca de dois gumes. Esta descoberta em si é neutra nas suas indicações”, disse ele.
A investigação poderá ter implicações negativas para as agências de aplicação da lei que utilizam drones de rastreio de alvos para ajudar na apreensão de suspeitos em fuga. Por exemplo, a tecnologia é amplamente utilizada por agências federais para rastrear os movimentos de imigrantes e traficantes de drogas nos EUA. regiões fronteiriças.
Por outro lado, a pesquisa poderia levar ao desenvolvimento de produtos que poderiam ser usados por potenciais vítimas de perseguição por drones, disse Chen. Ele citou inúmeras notícias sobre o uso de drones para realizar vigilância ilícita de mulheres e membros de outras populações vulneráveis.
“Isso pode significar autoproteção para pessoas normais, que são vítimas desta tecnologia de drones”, disse ele. “Pessoalmente, acabei de me tornar pai de uma menina. É por isso que, para mim, isso também é algo que considero muito crítico.”
Os membros da equipe de pesquisa apresentaram recentemente suas descobertas em um evento acadêmico papel no Simpósio de Segurança de Redes e Sistemas Distribuídos em San Diego, uma das conferências de segurança de computadores mais prestigiadas do país.
Por meio de uma nova estratégia progressiva de extração de distância e projetos de consistência espaço-temporal controláveis, o FlyTrap manipula drones ATT em configurações do mundo actual para obter impactos significativos no nível do sistema”, afirma o artigo. “Os resultados demonstram a capacidade do FlyTrap de reduzir distâncias de rastreamento dentro do alcance para serem capturados, atacados por sensores ou até mesmo colididos diretamente, destacando riscos de segurança urgentes e implicações práticas para a implantação segura de sistemas ATT.”
Leia mais:
Jim Magill é um escritor baseado em Houston com quase um quarto de século de experiência cobrindo desenvolvimentos técnicos e econômicos na indústria de petróleo e gás. Depois de se aposentar em dezembro de 2019 como editor sênior da S&P World Platts, Jim começou a escrever sobre tecnologias emergentes, como inteligência synthetic, robôs e drones, e as formas como elas contribuem para a nossa sociedade. Além de DroneLife, Jim é colaborador da Forbes.com e seu trabalho apareceu no Houston Chronicle, no US Information & World Report e na Unmanned Methods, uma publicação da Affiliation for Unmanned Automobile Methods Worldwide.
Miriam McNabb é editora-chefe da DRONELIFE e CEO da JobForDrones, um mercado profissional de serviços de drones, e uma observadora fascinada da indústria emergente de drones e do ambiente regulatório para drones. Miriam escreveu mais de 3.000 artigos focados no espaço comercial de drones e é palestrante internacional e figura reconhecida no setor. Miriam é formada pela Universidade de Chicago e tem mais de 20 anos de experiência em vendas de alta tecnologia e advertising para novas tecnologias.
Para consultoria ou redação da indústria de drones, E-mail Miriam.
Twitter:@spaldingbarker
Inscreva-se no DroneLife aqui.