EUA proíbem acesso de estrangeiros a novas IAs da Anthropic: ‘Segurança nacional’

Os Estados Unidos proibiram, nesta sexta-feira (13) o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic; o país alega risco de “segurança nacional”. A medida é válida para estrangeiros dentro e fora dos EUA, inclusive para funcionários da startup.A empresa precisou derrubar os modelos globalmente para que a diretiva fosse cumprida. O pedido não especificou qual seria o “risco de segurança nacional”, mas a companhia acredita que o motivo da ação do governo seja a possibilidade de um jailbreak do Fable 5.A prática consiste em utilizar engenharia de prompt ou simulações para fazer com que um bot de IA retorne algo diferente da forma que foi programado. A técnica é utilizada para ignorar regras de segurança e princípios éticos, executar ações restritas ou implementar nos modelos um viés diferente do programado inicialmente.Leia também: OpenAI avalia cortar preços para enfrentar Anthropic, diz WSJLeia também: Amazon fecha empréstimo de US$ 17 bi para reforçar reservas em meio ao boom de IAEm comunicado, a dona do Claude disse que, apesar de cumprir a ordem, acredita que a diretiva do governo se trata de “mal entendido”. A Anthropic discorda que a possibilidade de um jailbreak seja motivo o suficiente para barrar a utilização da ferramenta por milhões de pessoas.“Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada”, escreveu a empresa em comunicado.A própria já havia informado sobre a possibilidade da “invasão” ao governo americano, mas critica a atitude.“Como já havíamos declarado, acreditamos que o governo tenha a autonomia para barrar implementações arriscadas como como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios”, completou a empresa.A ordem veio apenas três dias após o lançamento dos modelos; o Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça, 9.Eles ficariam disponíveis gratuitamente por apenas 13 dias. Após a segunda-feira, 22 de junho, usuários utilizaram o modelo não sob planos de assinatura, mas via pagamento de preços de API, onde eles seriam cobrados por cada requisição.Mas essa não é a primeira vez que o governo americano e a Anthropic entram em divergência. No final de fevereiro, o governo determinou que as agências americanas parassem de usar os modelos de IA da startup após a empresa se recusar, por razões éticas, a permitir que as forças armadas do país utilizassem os modelos da companhia sem restrições e sem salvaguardas técnicas.The post EUA proíbem acesso de estrangeiros a novas IAs da Anthropic: ‘Segurança nacional’ appeared first on InfoMoney.