IA da OpenAI testou vulnerabilidades da Hugging Face meses antes de ataque

Por Raphael Satter e Deepa SeetharamanWASHINGTON, 16 Set (Reuters) – Agentes de inteligência ⁠artificial da OpenAI invadiram contas de usuários do Hugging Face e vasculharam o próprio site ⁠em busca de vulnerabilidades dois meses antes da invasão aos sistemas do repositório de software de código aberto em julho, ‌segundo pesquisadores que analisaram a atividade.A OpenAI já havia divulgado um aspecto da atividade, o roubo das credenciais digitais de um usuário do Hugging Face para acessar um arquivo relacionado à biologia, em seu relatório público de incidentes no mês passado, ‌mas pesquisadores afirmaram que a atividade de sondagem contra o site pareceu ir além do que o relatório descrevia.O pesquisador independente Jonas Wiedermann-Moeller disse à Reuters que descobriu a atividade na semana passada. Ele afirmou ter encontrado evidências de que os agentes da OpenAI comprometeram duas contas de usuários do Hugging Face e as utilizaram para enviar arquivos com formatação incomum aos servidores da empresa já em 13 de maio.Ele e outros pesquisadores que analisaram as evidências afirmaram que o comportamento se assemelhou a uma tentativa de ⁠mapear ‌ou testar partes da rede da Hugging Face em busca de formas de infiltração, embora tenham enfatizado que não havia evidências ⁠de que a iniciativa tivesse resultado em uma violação efetiva. Tanto os pesquisadores quanto a OpenAI afirmaram não terem encontrado evidências de que essa sondagem anterior fizesse parte do incidente de julho.Leia também:A rebelião das IAs: como os agentes da OpenAI invadiram a Hugging Face sozinhosPor que o ataque à Hugging Face deve aumentar sua preocupação com a IAO porta-voz da OpenAI, Drew Pusateri, disse que a empresa havia divulgado o evento de 13 de maio no relatório de incidente, notificado a Hugging Face em particular sobre a atividade sinalizada por Wiedermann-Moeller e estava “comprometida com a transparência sobre essas questões e com o compartilhamento ​do que aprendermos à medida que nossa análise continua”.A Hugging Face, que recentemente fez acordo para ser comprada pela fabricante de chips Nvidia, não comentou o assunto.Wiedermann-Moeller, de 27 anos, que mora em Bielefeld, na Alemanha, disse que a ​falha da OpenAI em detectar a tentativa de invasão de 13 de maio naquele momento foi uma oportunidade perdida de impedir a campanha de hacking subsequente, que desencadeou uma reflexão global sobre o poder da inteligência artificial.“Imagine se eles tivessem detectado esse comportamento em maio”, disse ele em entrevista. “Isso poderia ter evitado o incidente posterior, que foi muito maior.”A OpenAI já havia afirmado anteriormente que, em retrospecto, “alguns sinais iniciais” de seus agentes de IA deveriam ter desencadeado uma resposta mais precoce.Leia também: Mark Zuckerberg critica apelos para desacelerar desenvolvimento da IASua empresa usa IA. Mas ela está gerando resultado?‘SINAL DE ‌ALERTA CLARO’Dois especialistas externos que analisaram as descobertas de Wiedermann-Moeller afirmaram que elas eram ​consistentes com atividades anteriormente associadas aos agentes da OpenAI.Tom Hegel, pesquisador sênior de ameaças da SentinelOne, disse que o sequestro da conta e as tentativas de sondagem subsequentes corresponderam “perfeitamente” ao comportamento conhecido dos agentes, afirmando em seu próprio relatório sobre o incidente que os laboratórios de IA de ponta deveriam ⁠divulgar mais dados sobre incidentes em que os agentes “interagem ​com ou afetam sistemas de ​terceiros”.Sydney Von Arx, do Nightingale Collective, um grupo dedicado à segurança da IA, também concordou com a atribuição.Von Arx disse que o ataque representou um “claro sinal de ⁠alerta” que poderia ter ajudado a evitar a violação ocorrida em ​julho.A OpenAI tem enfrentado críticas cada vez maiores desde que a empresa divulgou, em 21 de julho, que agentes de IA rebeldes contornaram controles internos, acessaram a internet aberta e coordenaram ações que a companhia descreveu como “um incidente cibernético sem precedentes”.Leia também:Uma IA para cada um: plataformas especializadas para profissionais ganham espaçoApós era da facial, biometria – das veias – da mão é a nova aposta da cibersegurançaDesde então, pesquisadores externos identificaram incidentes adicionais ​que supostamente envolvem agentes ligados à OpenAI, incluindo atividades que afetaram um site wiki alemão inativo e o repositório de pacotes de software RubyGems.A OpenAI reconheceu alguns desses incidentes somente depois que eles foram ​divulgados publicamente por terceiros. Duas fontes a ⁠par do assunto afirmaram que, no caso do RubyGems, os funcionários da OpenAI só perceberam que sua IA era responsável pela atividade maliciosa depois que o Nightingale ⁠Collective a descobriu.Essas novas descobertas alimentaram questionamentos entre parlamentares e defensores da segurança da IA sobre se toda a extensão dos incidentes já foi identificada.Desde então, alguns dos principais executivos de IA dos EUA têm pedido uma desaceleração no desenvolvimento da IA, citando, entre outras coisas, a ameaça de ataques por agentes fora de controle.Wiedermann-Moeller disse que as últimas descobertas reforçaram os apelos por uma desaceleração temporária no desenvolvimento de sistemas avançados de IA.“Uma pausa pode fazer bem ao mundo”, disse ele, “para que a questão da segurança possa acompanhar o ​ritmo”.The post IA da OpenAI testou vulnerabilidades da Hugging Face meses antes de ataque appeared first on InfoMoney.