À medida que os militares adotam a IA, o hype se torna uma arma

May 24, 2023

A empolgação com a inteligência artificial generativa atingiu o auge desde o lançamento do ChatGPT e de mecanismos de imagem como o MidJourney no ano passado. No entanto, tanto a euforia como a ansiedade relativamente às aplicações da nova tecnologia no presente conduzem rapidamente a projecções existenciais maiores sobre o futuro. Com a excepção da “singularidade” e da substituição directa da humanidade pela IA, nenhum resultado provoca a mesma ansiedade que o efeito que a IA poderia ter na guerra. Poderiam os armamentos autônomos e os bots estratégicos oprimir os civis, desafiar os operadores humanos – ou até mesmo desencadear a Terceira Guerra Mundial?

Os líderes mundiais estão a fazer uma demonstração de acção. Sessenta estados reuniram-se em Fevereiro para definir objectivos para o “uso responsável da IA” pelos militares. O Departamento de Estado seguiu com uma declaração política dos princípios dos Estados Unidos, que inclui oficiais superiores permanecendo envolvidos no projeto e operação de todas as armas autônomas, projetando-as para “usos explícitos e bem definidos”, mantendo uma vigilância cuidadosa de todos os recursos de segurança. durante toda a vida útil das armas e procurando evitar preconceitos na sua utilização. A Human Rights Watch observou, no entanto, que nenhum destes objectivos é ainda juridicamente vinculativo nem retarda o desenvolvimento de sistemas sofisticados que os seus operadores não compreendem completamente.

Apesar da sua novidade, estes avanços recentes são apenas os últimos passos na automatização da violência estatal que deu o seu primeiro grande salto com a formação de forças armadas permanentes na Europa no século XVIII. Embora a metralhadora, o tanque e o caça a jato sejam símbolos mais familiares desse processo, treinar a infantaria para remover emoções humanas individuais e aumentar sua velocidade e confiabilidade para os comandantes deu a esses exércitos sua primeira grande vantagem sobre rivais despreparados.

Receba as melhores histórias do JSTOR Daily em sua caixa de entrada todas as quintas-feiras.

Política de Privacidade Contate-nos Você pode cancelar a inscrição a qualquer momento clicando no link fornecido em qualquer mensagem de marketing.

D

Desde então, os Estados temem ficar para trás em qualquer vantagem da automação, razão pela qual existe um discurso paralelo nos meios de comunicação social que incentiva os EUA a adoptarem a IA militar mais rapidamente. Recursos impressionantes sobre como a IA generativa torna a análise de dados de nível secreto muito mais eficiente são executados lado a lado com avisos severos de que quaisquer restrições darão uma vantagem aos militares chineses. O New York Times oferece espaço gratuito para artigos de opinião para empreiteiros militares de IA. Mesmo gafes que parecem acidentais, como a do coronel que alegou que um drone de IA matou seu operador em um exercício virtual para atingir seu objetivo ou o general que disse que os militares dos EUA tratam as armas de IA de forma mais ética por causa de seus “valores judaico-cristãos”. ”, (ou seja, ao contrário da China) reforçam a mensagem ao mundo de que o desenvolvimento da IA ​​militar está a avançar a todo vapor.

As aplicações da IA, particularmente na análise de inteligência, ainda são muito hipotéticas. Actualmente, parece que a própria propaganda é uma arma para alertar os pretendentes à supremacia geopolítica. Mas será que os comandantes militares iriam mesmo ao ponto de tentar automatizar a própria tomada de decisões em tempo de guerra?

Faz sentido que os verdadeiros oficiais militares muitas vezes exijam mais cautela do que os empreiteiros da indústria de guerra e os meios de comunicação adjacentes aos think tanks. Três oficiais dos EUA vão direto ao assunto num artigo de 2018 no PRISM, propondo que os sistemas de estratégia automatizados chineses e americanos a operar em 2024 poderiam escalar um conflito para uma “troca nuclear limitada” em apenas duas horas.

No seu cenário, a crise começa com uma colisão acidental entre um navio pesqueiro vietnamita e um navio chinês no Mar da China Meridional. Este evento desencadeia uma série de reações em cadeia aparentemente não relacionadas no ciberespaço, incluindo a queda dos índices do mercado de ações e o aumento de comentários desfavoráveis ​​sobre ambos os lados nas redes sociais. Estas indicações acionam sistemas de alerta de IA sobre ataques da Internet às infraestruturas de TI de ambos os lados, desencadeando subsequentemente ações militares reais. Embora a China ataque primeiro no seu cenário, os autores consideram a interacção de ambos os lados responsável pelo potencial assassinato de milhões de pessoas.