Alertas sobre segurança da IA são existenciais ou uma farsa? Especialista comenta

O alarme público em relação à inteligência artificial está ligado. Na semana passada, a Anthropic publicou um relatório sobre o uso indevido de seus modelos de IA por atores maliciosos, no qual exemplos de pesquisas com armas biológicas e o uso de IA para rastrear movimentos navais dos EUA no Golfo Pérsico capturaram a atenção do público.Nas redes sociais, Evan Hubinger, um dos principais pesquisadores de segurança da Anthropic, comentou que inteligência artificial está avançando tão rapidamente que, na avaliação dele, há mais de 10% de chance de que a tecnologia “possa matar todos os humanos” na próxima década.Isso se somou ao relato de incidentes recentes de agentes de IA escapando de seus ambientes de teste, gerando manchetes sobre a “Ameaça do Apocalipse da IA”. Após alguns líderes do setor, como Dario Amodei, Sam Altman e Elon Musk, sugerirem uma desaceleração conjunta do ritmo de evolução dos modelo, até o presidente Donald Trump veio a público para classificar as ameaças como “farsa”.Leia também: Novos alertas sobre IA reacendem debate sobre controle da tecnologiaMas o que nesse debate é real e o que é exagero? Nikita Shah, pesquisadora sênior do Programa de Inteligência, Segurança Nacional e Tecnologia do Centro de Estudos Estratégicos e Internacionais (CSIS, na sigla em inglês) em Washington, colocou no papel algumas perguntas e possíveis resposta, em artigo publicado nesta semana.Para ela, as preocupações sobre a urgência e o ritmo da ameaça são legítimas, mas talvez um pouco mal direcionadas. “De uma perspectiva de segurança nacional, os abusos de IA descritos no relatório da Anthropic são legítimos, mas não especialmente novos ou surpreendentes”, escreve.Para ela, os relatos são “notavelmente consistentes” com como os agentes de ameaças já se comportam, usando IA para aumentar a velocidade, escala, eficácia e alcance de suas operações.“O que é alarmante é a presença de atores muito menos qualificados ou maduros usando IA indevidamente, como rebeldes militantes ou hacktivistas: os modelos de IA lhes dão um impulso significativo, permitindo que pulem etapas vitais de desenvolvimento, aquisição e refinamento dessas capacidades”, argumenta.Ela afirma que existe um caminho não catastrófico para seguir adiante neste momento, mas que ele depende de a comunidade de segurança nacional adotar um tom de voz mais alto opara chamar a atenção. E contextualizar para o público como essas ameaças estão evoluindo, ajudando a formar uma compreensão mais matizada dos riscos que representam.Veja os principais pontos do artigo da especialista:O que o relatório de inteligência de ameaças da Anthropic diz sobre o uso de modelos de IA por atores maliciosos?Nikita Shah destaca em seu artigo três pontos principais.1- A IA aprimora o modus operandi existente dos agentes de ameaças: A maioria dos exemplos do relatório reflete o que atores estatais e não estatais já faziam antes do advento da IA, como operações cibernéticas, operações de informação e vigilância em escala. O relatório também mostra a exploração da IA por contratados, institutos de pesquisa militar e estudantes de universidades estatais, especialmente no design e desenvolvimento de armas — áreas que existiam muito antes da IA, incluindo a pesquisa em armas biológicas.2 – O uso indevido de IA reflete os objetivos estratégicos dos estados: Atores estatais usaram os modelos da Anthropic para apoiar objetivos estratégicos mais amplos, como operações de informação contra seus cidadãos, rastreamento de dissidentes e vigilância. Isso se estende a conflitos — como o uso do Claude pelo Irã para reconhecimento de tropas dos EUA e por atores russos para projetar enxames de drones. Além disso, atores maliciosos tentaram hackear o próprio Claude para obter acesso não autorizado às capacidades mais avançadas da Anthropic.3- A IA está sendo usada em todo o ciclo de vida das operações: O relatório confirma que agentes de ameaças estão aplicando IA em todo o ciclo de vida de suas operações, incluindo reconhecimento de alvos, abordagens para enganar vítimas, desenvolvimento de malware, evasão de detecção e criação de perfis falsos em mídias sociais. Em todos os estágios de um ataque, a IA está resultando em abordagens mais rápidas e eficientes.Os métodos de ataque identificados no relatório da Anthropic são novos?Não especialmente. O uso de IA por atores estatais maliciosos reflete grande parte do que eles já estavam fazendo. Segundo a especialista, estudantes chineses usando Claude para manter um programa autônomo de pesquisa de vulnerabilidades técnicas é consistente com o apetite voraz da China por coletar e explorar vulnerabilidades técnicas, assim como seu uso de “enxames de agentes” de IA para coleta em massa de inteligência de fontes abertas. “O Irã, que aparece frequentemente no relatório, tem usado IA para aprimorar suas capacidades cibernéticas há vários anos; um relatório do Google identificou o aparato cibernético do Irã como o maior usuário do Gemini em 2026, enquanto o grupo CyberAv3ngers do Irã (hacktivistas ligados à Guarda Revolucionária Islâmica) são conhecidos por usar ChatGPT para pesquisa em tecnologia específica de controle industrial (como controladores lógicos programáveis, que foram explorados nos recentes hacks em instalações de água dos EUA em 2024).Onde o público deveria estar verdadeiramente preocupado?Para Nikita Shah, a questão chave é quais agentes de ameaças teriam a capacidade de conduzir tais operações sem IA. A grande maioria dos atores identificados no relatório da Anthropic — sejam atores estatais, criminosos cibernéticos, institutos de pesquisa militar, ou mesmo academias ligadas ao estado — muito provavelmente perseguiriam as mesmas operações e chegariam aos mesmos resultados através de capacidades cibernéticas e analíticas sofisticadas. “No entanto, isso lhes tomaria significativamente mais tempo (provavelmente meses) e significativamente mais recursos humanos. E, de fato, alguns pesquisadores questionam se o uso de IA está transformando as capacidades criminosas tanto quanto se pensa, em relação a outros incentivos.”Ela diz que a verdadeira preocupação vem de atores que já não possuem tais capacidades ou que podem ganhar um impulso significativo ao usar modelos de IA. Dois exemplos se destacam. O primeiro são agentes de ameaças no norte do Iêmen — provavelmente rebeldes Houthis, que usaram o Claude para design e desenvolvimento de armas, incluindo o design de software de mira para foguetes e mísseis, resultando no teste de disparo de um foguete guiado (que falhou). O segundo é um ator hacktivista que usou Claude para alvejar partidos políticos europeus, mídia e think tanks, incluindo a exfiltração de grandes quantidades de dados para uso subsequente. Com IA, os ataques de ambos os atores poderiam gerar risco geopolítico significativo. Sem IA, ambos os atores provavelmente estariam a anos de distância de poder conduzir tais ataques.Por fim, o relatório da Anthropic também aponta para um desenvolvimento adicional preocupante: o uso do PentAGI, um agente de IA autônomo que realiza testes de penetração, para conduzir operações cibernéticas em escala.Então, o é realmente novo no relatório da Anthropic?A especialista diz que a primeira conclusão inovadora são os players deste espaço. Empresas de IA como Anthropic e OpenAI ainda são novas na segurança nacional, portanto muito menos familiarizadas com o escopo, profundidade e complexidade das ameaças à segurança nacional. “Tais empresas são do tipo que coloca a inovação em primeiro lugar e a segurança em segundo; isso pode levar a uma mentalidade de lidar com as consequências depois, o que, neste caso, gera consequências significativas para a segurança nacional.”A segunda conclusão no artigo de Nikita Shah é o salto dessas ameaças à segurança nacional para a consciência do público — com contexto limitado. “Empresas como a Anthropic são entrantes acidentais no espaço de avaliação de ameaças, chegando apenas agora ao que indústrias como a esfera de inteligência de ameaças cibernéticas vêm fazendo há décadas. Elas devem ser aplaudidas pela transparência que forneceram sobre o uso indevido de seus modelos. No entanto, à medida que essas empresas estão aprendendo, discernir a intenção estratégica de atores maliciosos é uma das coisas mais difíceis de fazer quando se trata de avaliação de ameaças; sem contexto estratégico ou compreensão doutrinária e geopolítica de como os agentes de ameaças operam, os exemplos publicados são apresentados no vácuo, e como se tivessem surgido do nada. Dada a vasta captura midiática que essas empresas têm, o resultado natural é o alarme público.”Como a resposta política a esses riscos está se configurando?Nikita Shah diz ser imperativo que o público mantenha uma visão realista da ameaça representada pela IA. “A maioria das ameaças descritas no relatório da Anthropic existia antes da IA, embora a IA esteja exacerbando os riscos que elas representam ao acelerar, escalar e acelerar sua evolução”, repete. Assim, o acesso aos mesmos modelos também está permitindo que novos entrantes no cenário de ameaças, que não têm as mesmas restrições que os estados, e até mesmo alguns atores não estatais com ecossistemas mais maduros, entrem em cena; isso deveria nos preocupar a todos. “No entanto, isso não é o mesmo que risco existencial para o futuro da humanidade”, conclui.Para Nikita Shah, o caminho a seguir está dividido entre aqueles que acreditam que o desenvolvimento de modelos de IA deve ser desacelerado e aqueles que acreditam que desacelerar só permitirá que adversários — incluindo a China — avancem com seus modelos, gerando mais risco à segurança nacional.“As sugestões de como conter esses modelos variam, incluindo ideias como ambientes de teste controlados, kill switches e regulamentação de empresas de IA, incluindo responsabilizá-las por seus produtos”, lista.Ela comenta ainda que a rejeição do presidente Trump a essas preocupações dificilmente é reconfortante, mas pode refletir um cálculo político para preservar um espaço aberto para uma conversa com o presidente Xi Jinping antes de sua cúpula em 24 de setembro, onde a segurança da IA deve estar no topo da agenda. “Isso esbarra em uma tensão familiar: a China é tanto uma parceira necessária no gerenciamento de ameaças e riscos à segurança nacional relacionados à IA — quanto uma fonte-chave de ameaça aos modelos de IA dos EUA.”Por fim, Nikita Shah diz que, independentemente de qual caminho for escolhido, um ponto é claro: A comunidade de segurança nacional precisa compartilhar muito mais informações com as empresas de IA e com o público, utilizando sua profunda expertise para ajudar a contextualizar o que as empresas de IA estão vendo, os riscos legítimos que isso cria e quais medidas estão sendo tomadas em resposta.The post Alertas sobre segurança da IA são existenciais ou uma farsa? Especialista comenta appeared first on InfoMoney.