EUA e China propõem salvaguardas na IA similar ao controle nuclear

Propostas de segurança para inteligência artificial autônoma

Pesquisadores e especialistas em segurança dos Estados Unidos e da China apresentaram recomendações inovadoras para implementar medidas de segurança em sistemas de inteligência artificial nuclear, estabelecendo parâmetros que controlem o desenvolvimento de tecnologias cada vez mais autônomas. As sugestões emergem de um diálogo contínuo entre os dois países e pretendem mitigar riscos crescentes associados à integração de IA em infraestruturas militares e nucleares.

Os especialistas destacam cenários potencialmente catastróficos onde uma IA pudesse interferir em redes de comando nuclear ou executar operações militares digitais, deixando ambos os governos com poucos minutos para determinar se um ataque foi deliberado ou acidental. Essa situação crítica reforça a necessidade urgente de estabelecer protocolos internacionais que evitem escalações não intencionais baseadas em decisões tomadas por sistemas autônomos.

Medidas concretas e linhas vermelhas tecnológicas

O conjunto de propostas inclui limitações rigorosas para sistemas de inteligência artificial nuclear, exigência de supervisão humana em ataques digitais de alta magnitude e criação de uma linha de comunicação direta entre Washington e Pequim exclusivamente para incidentes envolvendo IA autônoma. Estas recomendações foram divulgadas antes das negociações oficiais sobre IA agendadas entre autoridades governamentais.

Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, coordenaram essas propostas através do diálogo EUA-China sobre IA e segurança nacional, iniciativa promovida desde 2019 pela Brookings em parceria com o Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. Sisson defende que apenas seres humanos devam possuir autoridade para dar início a ataques digitais utilizando IA contra sistemas de comando, controle e comunicação nucleares ou infraestruturas estratégicas de outro país.

A justificativa é clara: um sistema autônomo pode sofrer falhas, extrapolar suas instruções programadas ou ser comprometido por terceiros. Simultaneamente, o país-alvo poderia enfrentar dificuldades significativas para determinar se a ação foi acidental ou ordenada deliberadamente pela nação rival.

Controle humano significativo e definições compartilhadas

Tianjiao Jiang apresentou proposta específica de limites explícitos que impeçam a inteligência artificial de decidir autonomamente sobre o uso de armas nucleares ou atacar por conta própria sistemas de comando nuclear. Além disso, propõe proteções robustas para infraestruturas críticas, incluindo setores de energia, finanças e saúde pública.

Um aspecto crucial da proposta envolve estabelecer definição comum de "controle humano significativo" entre os dois países, evitando que ambas as nações utilizem a mesma linguagem para justificar diferentes graus de autonomia das máquinas. Esta padronização terminológica é fundamental para evitar interpretações divergentes que pudessem gerar desconfiança mútua.

As propostas se alicerçam em princípio já endossado pelo então presidente norte-americano Joe Biden e pelo presidente chinês Xi Jinping em novembro de 2024: a manutenção do controle humano sobre decisões relacionadas ao uso de armas nucleares. Lora Saalman, pesquisadora do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificou esse como importante ponto de convergência entre Washington e Pequim, apesar de evidências sugerindo que ambos os países vêm integrando inteligência artificial de forma cada vez mais profunda em sistemas nucleares e ligados à energia nuclear.

Comunicação acelerada em tempos de máquinas rápidas

Jiang propôs ainda estabelecimento de linha direta militar exclusiva entre EUA e China dedicada especificamente a incidentes envolvendo inteligência artificial. Sua argumentação baseia-se no fato de que trocas digitais automatizadas podem intensificar-se rapidamente, reduzindo drasticamente o tempo disponível para intervenção humana adequada.

Cenários imaginados incluem situações onde defesa cibernética de um país poderia responder automaticamente a atividades suspeitas, levando o outro lado a interpretar a reação como ataque genuíno e retaliando antes de compreender o que efetivamente ocorreu. Uma linha direta permitiria que um governo informasse ao outro que operação incomum de inteligência artificial foi acidental, não autorizada ou ainda estava sob investigação, prevenindo que fosse tratada como ação estatal deliberada.

Entretanto, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a eficácia prática dessa proposta. Freeman cita recusa de autoridades chinesas em atender ligações de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023, como exemplo das limitações de comunicação existentes entre as superpotências.

Posicionamentos governamentais e preocupações estratégicas

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua até o momento. Contudo, a China vem incorporando progressivamente inteligência artificial à sua estrutura de controle de armas, incluindo IA como área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores, responsável também por questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em reunião da ONU em Genebra, em junho, que inteligência artificial militar pode afetar estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar potencial de escalada de conflitos. Segundo Jian, as armas devem permanecer sob controle humano e a segurança da IA não deve servir de pretexto para criação de barreiras tecnológicas.

Washington, por sua vez, não possui órgão único equivalente para tratar especificamente de controle de armas relacionado à IA. Sua política de segurança nacional encontra-se dividida entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências governamentais, refletindo a complexidade do tema nos círculos de poder norte-americanos.

Cautelosidade mútua diante da inovação tecnológica

Ambos os governos mantêm postura cautelosa em relação a medidas que possam desacelerar seu próprio desenvolvimento tecnológico. O presidente Trump alertou que restrições amplas poderiam favorecer a China no campo da inteligência artificial, enquanto Pequim considera muitos dos controles tecnológicos implementados pelos EUA como tentativa de preservar a liderança norte-americana na competição tecnológica global.

Esta tensão fundamental entre a necessidade de segurança e a ambição por supremacia tecnológica permanece como obstáculo significativo para implementação de medidas que poderiam reduzir riscos associados ao desenvolvimento descontrolado de inteligência artificial nos contextos nuclear e militar.