Autoridades dos Estados Unidos e da China discutiram a criação de um mecanismo para que os dois países se notifiquem mutuamente sobre incidentes de IA com potencial de ameaçar a segurança nacional. A informação foi reportada pela Wired, com base em fontes oficiais dos dois governos. Não existe acordo assinado — o que há, por enquanto, são conversas preliminares sobre como esse canal funcionaria na prática.
O modelo em discussão lembra os mecanismos de comunicação de crise que EUA e URSS/Rússia mantiveram durante e depois da Guerra Fria para armas nucleares: um canal formal, direto, pensado para que um incidente técnico não seja interpretado como um ataque deliberado e não vire estopim de escalada militar. A diferença é o domínio — aqui o gatilho seria um sistema de IA usado em contexto de segurança nacional que falha, é sabotado ou se comporta de forma inesperada.
Faz sentido que o assunto apareça agora. EUA e China são, disparados, os dois países com maior capacidade de desenvolvimento de IA aplicada a defesa e inteligência, e também os que mais desconfiam das intenções um do outro nesse campo. Ao mesmo tempo, ambos vêm integrando sistemas de IA em funções cada vez mais sensíveis — de análise de dados de inteligência a suporte a decisões operacionais —, o que aumenta a superfície para erros de interpretação. Um incidente ambíguo (um sistema autônomo que se comporta de forma anômala perto de uma fronteira, por exemplo, ou uma falha que pareça um ataque cibernético coordenado) é exatamente o tipo de evento que esse mecanismo tentaria endereçar antes que vire crise diplomática ou militar.
O precedente mais próximo dentro do próprio tema IA é a reunião entre Biden e Xi em novembro de 2023, na qual os dois lados declararam concordância sobre manter controle humano em decisões de uso de armas nucleares assistidas por IA. Esse mecanismo de alerta, se sair do papel, seria um passo mais concreto e operacional do que aquela declaração de princípios — um protocolo de comunicação, não apenas uma intenção compartilhada.
Fica em aberto, no entanto, se as discussões preliminares vão se traduzir em algo assinado, e principalmente qual seria a definição de "incidente" que aciona o canal. Um sistema de IA comercial invadido por hackers conta? Uma falha em modelo militar autônomo? Um comportamento anômalo detectado, mas não confirmado como ataque? A utilidade prática do mecanismo depende inteiramente desses detalhes — e é exatamente o tipo de detalhe que negociações bilaterais entre rivais estratégicos costumam levar mais tempo para fechar do que para anunciar.