Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAI

Um grupo de pesquisadores de uma empresa de “hackers éticos” conseguiu invadir os sistemas da OpenAI usando a inteligência artificial de uma das suas concorrentes, a Anthropic. O resultado? Um pagamento de US$ 6,5 mil ao trio que descobriu a brecha de segurança.Todo o caso foi relatado no blog da Hacktron AI, uma empresa de segurança que detecta vulnerabilidades em sistemas antes que possam ser explorados por hackers com intenções maliciosas.Leia mais: Novos alertas sobre IA reacendem debate sobre controle da tecnologiaHarsh Jaiswal, Mohan Pedhapati e Rahul Maini detalharam como utilizaram uma ferramenta da Anthropic desenvolvida para profissionais de segurança a fim de acessar a conta do ChatGPT de um funcionário da OpenAI. De acordo com os pesquisadores, essa poderia ser a porta de entrada para uma série de informações internas da companhia.“Todo o cronograma, desde a descoberta inicial até a obtenção de acesso ao repositório da OpenAI, transcorreu em menos de 72 horas”, disseram no blog da empresa.Na tarde do dia 24 de julho, a Anthropic havia acabado de lançar o Opus 5, modelo de linguagem por trás do seu chat de IA generativa Claude. Os pesquisadores usaram a nova versão para abrir o caminho até o fórum da OpenAI hospedado pela plataforma Discourse.Por meio da comunidade, eles conseguiram credenciais de login do funcionário no ChatGPT. Como a IA pode ser conectada a diversos serviços, a ferramenta de IA teoricamente poderia dar acesso a outras aplicações como a plataforma de desenvolvimento GitHub, o chat corporativo Slack ou e-mails.Quando identificaram o problema, os membros da Hacktron AI acionaram o programa de bug bounty da OpenAI. A iniciativa é comum na indústria de tecnologia e serve para premiar hackers éticos — aqueles que procuram por bugs em sistemas apenas para relatá-los às empresas em troca de premiações em dinheiro. A OpenAI pagou US$ 6,5 mil aos pesquisadores e resolveu o problema. A revelação ocorre em meio a discussões sobre medidas de segurança para controlar o acelerado desenvolvimento das inteligências artificiais em gigantes da tecnologia. Sam Altman, o CEO da OpenAI, concordou com falas do seu par na Anthropic, Dario Amodei, sobre salvaguardas para a tecnologia.Nos últimos meses, a OpenAI sozinha relatou uma sequência de incidentes envolvendo tecnologias desenvolvidas internamente. Em uma delas, anunciada em julho, um agente de IA da empresa invadiu o sistema da comunidade de códigos abertos Hugging Face.The post Como pesquisadores usaram programa da Anthropic para invadir sistema da OpenAI appeared first on InfoMoney.