EUA e China propõem regras de segurança para IA como as do setor nuclear

PEQUIM, 17 Set (Reuters) – Um sistema de inteligência artificial que interfira ⁠na rede de comando nuclear ou lance uma operação digital militar pode deixar Washington ou Pequim com apenas alguns minutos ⁠para decidir se o outro governo foi o responsável pelo ataque, segundo especialistas em segurança dos EUA e da China.Os especialistas, que participam de um ‌diálogo entre os EUA e a China cujo trabalho contribui para orientar discussões oficiais, estão recomendando a ambos os governos para se prepararem para tais cenários, em meio a crescentes preocupações com sistemas cada vez mais poderosos e autônomos.Leia tambémDólar hoje ronda estabilidade após anúncio de reajuste no Bolsa FamíliaO governo Lula anunciou nesta manhã um reajuste de aproximadamente 15% nos benefícios do Bolsa FamíliaDólar, Bolsa e juros: como mercado brasileiro deve reagir nesta 5ª após Copom e Fed?Após uma Super Quarta de sinais mistos, investidores avaliam até que ponto o tom duro do Fed pode ofuscar a porta aberta deixada pelo Copom para novos cortes de jurosAs propostas incluem limites rígidos em relação aos sistemas nucleares, controle humano sobre ataques digitais de grande impacto e ‌uma linha direta para incidentes envolvendo IA autônoma.As recomendações foram publicadas na semana passada, antes das negociações sobre IA planejadas em nível governamental e de uma reunião prevista para 24 de setembro em Washington entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping.Os autores Melanie Sisson, pesquisadora sênior do grupo de estudos Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional, organizado desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.As propostas mostram como a rivalidade entre EUA e China em matéria de IA está indo além da competição por chips e modelos avançados, abrangendo questões há muito associadas ⁠ao controle ‌de armas: como evitar que acidentes sejam confundidos com ataques, limitar decisões militares tomadas por máquinas e estabelecer protocolos de comunicação para rivais com armas nucleares quando a tecnologia se ⁠comporta de maneira inesperada.O ministro da Segurança do Estado da China, Chen Yixin, escreveu esta semana em um veículo de comunicação do governo que a IA “transforma fundamentalmente a forma da luta militar”. Ele afirmou que a IA passou de um papel coadjuvante no campo de batalha para um papel-chave, citando ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã.LINHAS VERMELHASSisson, da Brookings Institution, argumenta que os seres humanos devem manter a autoridade exclusiva para iniciar ataques digitais habilitados por IA contra os sistemas de comando, controle e comunicação nucleares de outro país ou contra infraestruturas estrategicamente importantes.Um sistema autônomo poderia apresentar falhas, exceder suas instruções ​ou ser comprometido, enquanto o país sob ataque poderia ter dificuldade em distinguir se a ação foi acidental ou ordenada por seu rival.Jiang, da Universidade de Fudan, propôs limites explícitos que impeçam a IA de decidir de forma independente o uso de armas nucleares ou de atacar autonomamente sistemas de comando nuclear, além de proteções ​em torno de infraestruturas críticas, incluindo energia, finanças e saúde.Ele também defendeu uma definição comum de “controle humano significativo” para evitar que ambos os países utilizem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas.A ideia se baseia em um princípio endossado pelo então presidente dos EUA, Joe Biden, e por Xi em novembro de 2024, segundo o qual os seres humanos devem manter o controle sobre as decisões de uso de armas nucleares.Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, escreveu em fevereiro que esse era um importante ponto de convergência entre os EUA e a China, mesmo com ambos os países mostrando sinais de integrar a IA ‌mais profundamente aos sistemas nucleares e relacionados à energia nuclear.MÁQUINAS AGEM MAIS RÁPIDOJiang também propôs uma linha direta militar exclusiva ​entre os EUA e a China para incidentes envolvendo IA, alertando que as trocas digitais automatizadas poderiam se intensificar demais para permitir a intervenção humana.A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado poderia interpretar essa resposta como um ataque e retaliar antes de entender o que realmente aconteceu.Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de ⁠IA foi acidental, não autorizada ou ainda está sob investigação, antes que fosse ​tratada como uma ação estatal deliberada.No entanto, ​especialistas, incluindo Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionaram a utilidade da linha direta de comunicação para crises militares já existente entre os EUA e a China, citando a recusa de autoridades ⁠chinesas em atender às ligações de seus homólogos norte-americanos sobre o “incidente do balão espião” em fevereiro ​de 2023.A rígida hierarquia de cima para baixo da burocracia chinesa também impede que oficiais de baixo escalão tomem a iniciativa durante interações com seus homólogos norte-americanos, escreveu ela em um artigo para o War on the Rocks em janeiro.“Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido ​sobre uma resposta, o que pode levar dias, se não mais”, disse ela.OPINIÕES EM WASHINGTON E PEQUIMNenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua, mas a China tem incorporado cada vez mais a IA à sua burocracia existente de controle de armas.A IA é uma área de ​atuação formal do Departamento de Controle de Armas do ⁠Ministério das Relações Exteriores da China, que também lida com armas nucleares, não proliferação, mísseis e outras questões de segurança internacional.Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra, em junho, ⁠que a IA militar poderia afetar a estabilidade estratégica e aumentar os riscos de erros de cálculo e escalada de conflitos, e que as armas deveriam permanecer sob controle humano. A China também argumenta que a segurança da IA não deve se tornar um pretexto para barreiras tecnológicas.Washington não possui um órgão único equivalente para o controle de armas no âmbito da IA e a política de segurança nacional é distribuída entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências.Ambos os governos continuam cautelosos em relação a medidas que possam retardar seu próprio desenvolvimento tecnológico. Trump alertou que restrições amplas poderiam dar vantagem à China, enquanto Pequim vê muitos controles tecnológicos dos EUA como tentativas de preservar o domínio ​norte-americano.The post EUA e China propõem regras de segurança para IA como as do setor nuclear appeared first on InfoMoney.