Especialistas recomendam controles humanos e comunicação direta para evitar crises causadas por IA em operações militares.
Pesquisadores dos Estados Unidos e da China sugerem que sistemas de inteligência artificial (IA) usados em operações militares, especialmente em redes nucleares, sejam submetidos a regras de segurança tão rigorosas quanto as aplicadas ao setor nuclear. A preocupação é que ataques digitais autônomos possam forçar uma reação rápida e equivocada dos governos de Washington e Pequim, aumentando o risco de conflito.
As recomendações, elaboradas por especialistas envolvidos em diálogos bilaterais desde 2019, incluem a imposição de limites claros para sistemas nucleares e a necessidade de controle humano para autorizar qualquer ataque digital que possa ter grandes consequências. Além disso, defendem a criação de uma linha direta exclusiva para comunicação entre os dois países em casos de incidentes envolvendo IA autônoma.
Um dos pontos centrais é impedir que sistemas de IA tomem decisões independentes sobre o uso de armas nucleares ou ataques a infraestruturas estratégicas, como energia, saúde e finanças. Essa medida visa evitar falhas, interpretações erradas e respostas automáticas que possam ser confundidas com ataques reais, o que poderia desencadear retaliações precipitadas.
Os especialistas também ressaltam a importância de definir claramente o que significa “controle humano significativo” sobre a IA, para evitar que os países adotem interpretações divergentes que justifiquem níveis variados de autonomia das máquinas. Essa ideia está alinhada a um acordo anterior entre os presidentes Joe Biden e Xi Jinping, que reforça o papel dos humanos nas decisões sobre armas nucleares.
Apesar das propostas, que antecedem uma reunião prevista entre os presidentes Donald Trump e Xi Jinping, nenhum dos governos endossou publicamente as recomendações. A China já integra a IA em sua estrutura de controle de armas, enquanto os EUA dividem a responsabilidade entre diversas agências. Ambos mantêm cautela para não prejudicar o avanço tecnológico, com preocupações sobre o impacto de restrições amplas na competição estratégica.
Especialistas também apontam desafios na comunicação entre os países, citando episódios recentes em que a China não respondeu a contatos dos EUA em situações sensíveis, o que dificulta a eficácia de linhas diretas para evitar crises militares causadas por mal-entendidos envolvendo IA.