Especialistas de EUA e China propõem regras de segurança para IA semelhantes às do setor nuclear

ouça este conteúdo

00:00 / 00:00

Especialistas em segurança dos Estados Unidos e da China estão propondo que os dois países adotem medidas de proteção para a inteligência artificial semelhantes aos mecanismos utilizados para reduzir riscos envolvendo armas nucleares.

As recomendações surgem diante do avanço de sistemas de IA cada vez mais autônomos e da possibilidade de que uma máquina interfira em redes militares, sistemas de comando nuclear ou operações cibernéticas sem que o outro país consiga identificar rapidamente se houve uma ação deliberada ou um erro.

VEJA TAMBÉM

Rei Charles III alerta sobre riscos da inteligência artificial e pede controle antes que seja tarde

Entenda o que aconteceu

As propostas foram apresentadas por pesquisadores que participam de um diálogo entre especialistas americanos e chineses sobre IA e segurança nacional, organizado desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

Entre os autores estão Melanie Sisson, pesquisadora sênior da Brookings, e Tianjiao Jiang, professor associado da Universidade de Fudan.

O grupo defende que Washington e Pequim se preparem para situações nas quais sistemas autônomos possam provocar incidentes militares ou aumentar rapidamente uma crise entre as duas potências.

IA poderia acelerar decisões militares

Um dos principais riscos apontados pelos especialistas é a velocidade com que sistemas automatizados podem reagir.

Uma inteligência artificial que interferisse em uma rede de comando nuclear ou realizasse uma operação cibernética militar poderia fazer com que o país atingido tivesse apenas alguns minutos para decidir se a ação foi um ataque deliberado ou resultado de uma falha, segundo a análise apresentada pelos especialistas.

O problema seria ainda maior caso uma resposta automática fosse interpretada pelo outro lado como uma nova agressão, criando uma sequência de ações e reações antes que autoridades humanas conseguissem compreender o que estava acontecendo.

Especialistas defendem limites para sistemas nucleares

Uma das recomendações é estabelecer linhas vermelhas para sistemas relacionados ao setor nuclear.

Melanie Sisson defende que somente seres humanos tenham autoridade para iniciar ataques digitais que utilizem IA contra sistemas de comando, controle e comunicação nuclear de outro país ou contra infraestruturas estratégicas.

Já Tianjiao Jiang propõe limites explícitos para impedir que uma inteligência artificial decida de forma independente pelo uso de armas nucleares ou ataque sistemas de comando nuclear.

Ele também defende proteções para infraestruturas críticas, incluindo setores como energia, finanças e saúde.

Controle humano seria um dos principais pontos

Os especialistas também defendem uma definição comum para o conceito de “controle humano significativo”.

A ideia é evitar que Estados Unidos e China utilizem a mesma expressão, mas adotem interpretações diferentes sobre quanto poder pode ser delegado a sistemas autônomos em operações militares.

A recomendação segue um princípio que já havia sido defendido por Joe Biden e Xi Jinping em novembro de 2024, segundo o qual seres humanos devem manter o controle sobre decisões relacionadas ao uso de armas nucleares.

Proposta inclui uma linha direta para incidentes com IA

Outra recomendação é a criação de uma linha direta militar entre Estados Unidos e China para situações envolvendo sistemas autônomos.

O objetivo seria permitir que um governo comunique rapidamente ao outro que uma determinada operação foi acidental, não autorizada ou ainda está sendo investigada.

A preocupação é que sistemas defensivos automatizados possam reagir a uma atividade suspeita antes que os responsáveis tenham tempo de verificar sua origem, aumentando o risco de uma escalada militar.

EUA e China ainda não adotaram as recomendações

As propostas não foram oficialmente endossadas pelos governos dos Estados Unidos ou da China.

A China, porém, já incorporou a inteligência artificial à estrutura de controle de armas de seu Ministério das Relações Exteriores. O Departamento de Controle de Armas do país também trata de temas como armas nucleares, não proliferação e mísseis.

Nos Estados Unidos, as políticas relacionadas à segurança nacional e à IA estão distribuídas entre diferentes órgãos, incluindo a Casa Branca, o Departamento de Estado e o Pentágono.

Rivalidade tecnológica dificulta acordo

Apesar de compartilharem preocupações sobre os riscos de sistemas cada vez mais autônomos, Washington e Pequim continuam em uma disputa tecnológica pela liderança em inteligência artificial.

Os dois governos também demonstram cautela em relação a medidas que possam reduzir o ritmo de desenvolvimento de suas próprias tecnologias.

O governo americano argumenta que restrições muito amplas poderiam favorecer a China. Pequim, por sua vez, afirma que controles tecnológicos promovidos pelos Estados Unidos podem ser usados como instrumentos para preservar a liderança americana.

Discussões acontecem antes de novo encontro entre Trump e Xi

As recomendações foram divulgadas antes de negociações governamentais sobre inteligência artificial e de uma reunião prevista para 24 de setembro, em Washington, entre o presidente americano Donald Trump e o presidente chinês Xi Jinping.

O debate sobre segurança da IA ganhou força justamente enquanto os dois países tentam equilibrar o avanço tecnológico com preocupações sobre segurança e uso militar da tecnologia.

Entenda o contexto

A discussão sobre o controle da inteligência artificial deixou de estar restrita ao setor de tecnologia e passou a envolver diretamente questões de segurança internacional, defesa e estabilidade estratégica.

O temor dos especialistas é que sistemas autônomos sejam capazes de agir em uma velocidade superior à capacidade humana de avaliar uma situação, especialmente em momentos de tensão entre países que possuem armas nucleares.

As recomendações feitas por especialistas americanos e chineses não representam um acordo entre os governos, mas mostram uma tentativa de criar mecanismos de comunicação e limites para reduzir o risco de que uma falha, ação não autorizada ou interpretação equivocada de uma operação de IA desencadeie uma crise militar.