Anthropic expande acesso a modelo de IA, mas limita uso em cibersegurança

A Anthropic vai disponibilizar uma versão do Mythos bloqueada para tarefas de cibersegurança, meses depois de alertar que o poderoso modelo de inteligência artificial poderia identificar e explorar vulnerabilidades em softwares críticos.O novo modelo, chamado Fable 5, começará a ser distribuído nesta terça-feira (9) com proteções que impedem respostas a certos tipos de solicitações, incluindo temas ligados a cibersegurança e biologia. Nesses casos, a Anthropic informou que seu chatbot Claude encaminhará as respostas para outro modelo, chamado Opus 4.8.A Anthropic também está lançando o mesmo modelo, mas sem parte dessas salvaguardas, como uma nova versão do Mythos chamada Mythos 5. Ele ficará disponível para os grupos autorizados a usar a versão com capacidades cibernéticas por meio de uma iniciativa chamada Project Glasswing. Na semana passada, a Anthropic adicionou mais 150 organizações à lista de empresas com acesso ao Mythos, elevando o total para cerca de 200.O Mythos se tornou um dos principais focos da empresa sediada em San Francisco nos últimos meses, à medida que ela avança rumo a uma oferta pública inicial de ações (IPO). A companhia tomou a decisão incomum de restringir o acesso ao modelo a parceiros selecionados, citando preocupações de que ele seria capaz de identificar e explorar vulnerabilidades “em todos os principais sistemas operacionais e em todos os principais navegadores da web, quando orientado por um usuário a fazê-lo”. Ao mesmo tempo, assim como suas rivais, a Anthropic também trabalha no desenvolvimento de modelos mais capazes para uma série de tarefas lucrativas, como programação, finanças e cibersegurança.Leia tambémCofundadora da Kalshi atribui sucesso da empresa ao otimismo brasileiro e à IACofundadora Luana Lopes Lara detalha como a cultura nacional e a tecnologia de ponta moldam o futuro dos mercados de previsão, em painel no Web Summit RioQual é o momento certo para comprar ações em um dos próximos mega-IPOs de tecnologia?As próximas listagens de SpaceX, Anthropic e OpenAI podem ser grandes o suficiente para reescrever a tendência de ações de IPOs“Queríamos garantir que, nos casos de uso não ligados à área cibernética, a prioridade fosse lançar o Fable com segurança o mais rápido possível”, disse Dianne Penn, chefe de gestão de projetos da área de pesquisa e laboratórios da Anthropic. “Por isso, estamos lançando primeiro essa parte do Fable, enquanto seguimos trabalhando nos casos de uso mais amplos em cibersegurança.”Segundo a empresa, o Fable 5 foi projetado para ser melhor em programação e em outras tarefas profissionais, especialmente na resolução de problemas complexos ao longo de períodos mais longos do que os modelos anteriores.Em um teste com o novo software, a processadora de pagamentos Stripe conseguiu concluir em um dia uma tarefa extensa de engenharia de software que, manualmente, levaria dois meses para uma equipe completar, afirmou a Anthropic. A empresa também disse que uma hipótese gerada pelo Mythos sobre um novo mecanismo de uma proteína da bactéria E. coli foi confirmada em um artigo científico de um laboratório que estudava o mesmo tema.Para testar se as proteções do Fable 5 resistiriam, a Anthropic disse ter conduzido internamente um programa de bug bounty para encontrar formas de fazer o chamado jailbreak do modelo, ou seja, contornar suas barreiras de segurança. Em mais de mil horas de testes, os especialistas de red team não encontraram nenhum método universal para burlar o sistema.Penn afirmou que a Anthropic continuará ampliando o número de grupos com acesso à versão do Mythos com capacidades cibernéticas por meio do Project Glasswing e buscará “outras formas de permitir que parceiros confiáveis tenham acesso para fins de cibersegurança”.© 2026 Bloomberg L.P.The post Anthropic expande acesso a modelo de IA, mas limita uso em cibersegurança appeared first on InfoMoney.