Governança militar da IA: quem outline as regras?

UM disputa latente entre o Estados Unidos Departamento de Defesa (DOD) e Antrópico agora se transformou em um confronto completolevantando uma questão desconfortável, mas importante: quem estabelece as grades de proteção para uso militar de inteligência synthetic — o poder executivo, as empresas privadas ou o Congresso e o processo democrático mais amplo?

O conflito começou quando o secretário de Defesa Pete Hegseth supostamente deu ao CEO da Anthropic, Dario Amodei, um prazo para permitir que o DOD uso irrestrito de seus sistemas de IA. Quando a empresa recusou, a administração passou a designar Antrópico como risco da cadeia de abastecimento e ordenou que as agências federais eliminassem gradualmente a sua tecnologia, agravando dramaticamente o deadlock.

Antrópico se recusou a cruzar duas linhas: permitindo que seus modelos sejam utilizados para uso doméstico vigilância dos cidadãos dos Estados Unidos e permitindo a selecção de alvos militares totalmente autónomos. Hegseth se opôs ao que descreveu como “restrições ideológicas” incorporado em sistemas comerciais de IA, argumentando que determinar o uso militar authorized deveria ser responsabilidade do governo – e não do fornecedor. discurso na SpaceX de Elon Musk no mês passado, “Não vamos empregar Modelos de IA isso não permitirá que você lute em guerras.”

Despojada de retórica, esta disputa assemelha-se a algo relativamente simples: um desacordo sobre aquisições.

Políticas de compras

Numa economia de mercado, os militares dos EUA decidem quais os produtos e serviços que pretendem comprar. As empresas decidem o que estão dispostas a vender e em que condições. Nenhum dos lados está inerentemente certo ou errado ao tomar uma posição. Se um produto não atender às necessidades operacionais, o governo poderá comprá-lo de outro fornecedor. Se uma empresa acreditar que certos usos da sua tecnologia são inseguros, prematuros ou inconsistentes com os seus valores ou tolerância ao risco, ela pode recusar-se a fornecê-los. Por exemplo, uma coligação de empresas assinou uma carta aberta comprometendo-se não transformar robôs de uso geral em armas. Essa simetria básica é uma característica do mercado livre.

Onde a situação se torna mais complicada – e mais preocupante – é na decisão de designar Antrópico como “risco da cadeia de abastecimento.” Essa ferramenta existe para abordar questões genuínas segurança nacional vulnerabilidades, como adversários estrangeiros. Não se pretende colocar uma empresa americana na lista negra por rejeitar os termos contratuais preferidos do governo.

Utilizar esta autoridade desta forma marca uma mudança significativa – de um desacordo em matéria de contratos públicos para a utilização de alavancagem coercitiva. Hegseth declarou que “com efeito imediato, nenhum contratante, fornecedor ou parceiro que faça negócios com as forças armadas dos EUA poderá conduzir qualquer atividade comercial com a Antrópica”. Esta acção irá quase certamente enfrentar desafios legaismas aumenta os riscos muito além da perda de um único contrato do DOD.

Governança de IA

Também é importante distinguir entre as duas questões substantivas que a Antrópica teria levantado.

A primeira, a oposição à vigilância interna dos cidadãos dos EUA, aborda preocupações bem estabelecidas em matéria de liberdades civis. O governo dos EUA opera sob restrições constitucionais e limites legais quando se trata de monitorizar os americanos. Uma empresa que afirma que não quer que as suas ferramentas sejam utilizadas para facilitar a vigilância doméstica não está a inventar um novo princípio; está a alinhar-se com os antigos guardrails democráticos.

Para ser claro, o DOD não afirma afirmativamente que pretende utilizar a tecnologia para vigiar ilegalmente os americanos. A sua posição é que não pretende adquirir modelos com restrições incorporadas que impeçam a utilização governamental que de outra forma seria authorized. Em outras palavras, o Departamento de Defesa argumenta que o cumprimento da lei é responsabilidade do governo – e não algo que precisa ser incorporado no código de um fornecedor.

A Anthropic, por sua vez, tem investido fortemente no treinamento de seus sistemas para recusar determinadas categorias de tarefas prejudiciais ou de alto riscoincluindo assistência com vigilância. O desacordo tem, portanto, menos a ver com a intenção precise do que com o controlo institucional sobre as restrições: se estas devem ser impostas pelo Estado através da lei e da supervisão, ou pelo promotor através de concepção técnica.

A segunda questão, a oposição à selecção de alvos militares totalmente autónomos, é mais complexa.

O DOD já mantém políticas que exigem julgamento humano no uso da forçae debates sobre autonomia em armas sistemas estão em andamento nos fóruns militares e internacionais. Uma empresa privada pode razoavelmente determinar que a sua tecnologia precise não é suficientemente fiável ou controlável para determinadas aplicações no campo de batalha. Ao mesmo tempo, os militares podem concluir que tais capacidades são necessárias para a dissuasão e a eficácia operacional.

Pessoas razoáveis ​​podem discordar sobre onde essas linhas devem ser desenhadas.

Mas esse desacordo sublinha um ponto mais profundo: os limites da utilização militar da IA ​​não devem ser definidos através de negociações advert hoc entre um secretário de Gabinete e um CEO. Nem devem ser determinados por qual lado pode exercer maior influência contratual.

Se o governo dos EUA acredita que certas capacidades de IA são essenciais para a defesa nacional, essa posição deve ser articulada abertamente. Deveria ser debatido no Congresso e refletido na doutrina, nos mecanismos de supervisão e nos quadros estatutários. As regras devem ser claras – não apenas para as empresas, mas para o público.

Os EUA distinguem-se frequentemente dos regimes autoritários ao enfatizar que o poder opera dentro de instituições democráticas transparentes e de restrições legais. Esta distinção tem menos peso se a governação da IA ​​for determinada principalmente através de ultimatos executivos emitidos à porta fechada.

Há também uma dimensão estratégica. Se as empresas concluírem que a participação nos mercados federais exige a renúncia a todas as condições de implantação, algumas poderão sair desses mercados. Outros poderão responder enfraquecendo ou eliminando salvaguardas modelo para continuarem elegíveis para contratos governamentais. Nenhum dos resultados fortalece Liderança tecnológica dos EUA.

O DOD está certo ao dizer que não pode permitir que potenciais “restrições ideológicas” prejudiquem operações militares legais. Mas há uma diferença entre rejeitar restrições arbitrárias e rejeitar qualquer papel das empresas. gestão de risco na definição das condições de implantação. Em domínios de alto risco — do aeroespacial ao segurança cibernética – os empreiteiros impõem rotineiramente padrões de segurançarequisitos de teste e limitações operacionais como parte da comercialização responsável. A IA não deve ser tratada como exclusivamente isenta dessa prática.

Além disso, as salvaguardas incorporadas não precisam de ser vistas como obstáculos à eficácia militar. Em muitos sectores de alto risco, a supervisão em camadas é uma prática padrão: os controlos internos, as protecções técnicas contra falhas, os mecanismos de auditoria e a revisão jurídica funcionam em conjunto. As restrições técnicas podem servir como uma barreira adicional, reduzindo o risco de uso indevido, erro ou escalada não intencional.

Congresso está ausente

O DOD deve manter a autoridade ultimate sobre o uso authorized. Mas não precisa de rejeitar a possibilidade de que certas barreiras de protecção incorporadas ao nível da concepção possam complementar as suas próprias estruturas de supervisão em vez de as minar. Em alguns contextos, a redundância nos sistemas de segurança fortalece, e não enfraquece, a integridade operacional.

Ao mesmo tempo, os compromissos éticos unilaterais de uma empresa não substituem política pública. Quando as tecnologias têm implicações para a segurança nacional, a governação privada tem limites inerentes. Em última análise, as decisões sobre as autoridades de vigilância, armas autônomas e as regras de envolvimento pertencem às instituições democráticas.

Este episódio ilustra um momento essential na governança da IA. Os sistemas de IA na fronteira da tecnologia são agora suficientemente poderosos para influenciar a análise de inteligência, a logística, as operações cibernéticas e, potencialmente, a tomada de decisões no campo de batalha. Isso torna-os demasiado importantes para serem governados apenas pela política empresarial – e demasiado importantes para serem governados apenas pela discricionariedade executiva.

A solução não é capacitar um lado em detrimento do outro. É fortalecer as instituições que fazem a mediação entre eles.

O Congresso deve esclarecer os limites legais para o uso militar de IA e investigar se existe supervisão suficiente. O DOD deveria articular doutrina detalhada para controle humano, auditoria e responsabilização. A sociedade civil e a indústria devem participar em processos de consulta estruturados, em vez de impasses episódicos, e a política de contratos públicos deve reflectir esses padrões estabelecidos publicamente.

Se as barreiras de proteção da IA ​​puderem ser removidas por meio de pressão contratual, elas serão tratadas como negociáveis. No entanto, se estiverem fundamentados na lei, podem tornar-se expectativas estáveis.

As restrições democráticas à IA militar pertencem aos estatutos e à doutrina – não às negociações de contratos privados.

Este artigo foi adaptado pelo autor com permissão de Imprensa de política tecnológica. Leia o artigo authentic.