A empresa precisou derrubar os modelos globalmente para que a diretiva fosse cumprida. O pedido não especificou qual seria o «risco de segurança nacional», mas a companhia acredita que o motivo da ação do governo seja a possibilidade de um jailbreak do Fable 5.
Os Estados Unidos proibiram, nesta sexta-feira, 12, o acesso de estrangeiros aos novos modelos de inteligência artificial da Anthropic; o país alega risco de «segurança nacional». A medida é válida para estrangeiros dentro e fora dos EUA, inclusive para funcionários da startup.
A empresa precisou derrubar os modelos globalmente para que a diretiva fosse cumprida. O pedido não especificou qual seria o «risco de segurança nacional», mas a companhia acredita que o motivo da ação do governo seja a possibilidade de um jailbreak do Fable 5.
A prática consiste em utilizar engenharia de prompt ou simulações para fazer com que um bot de IA retorne algo diferente da forma que foi programado. A técnica é utilizada para ignorar regras de segurança e princípios éticos, executar ações restritas ou implementar nos modelos um viés diferente do programado inicialmente.
Em comunicado, a dona do Claude disse que, apesar de cumprir a ordem, acredita que a diretiva do governo se trata de «mal entendido». A Anthropic discorda que a possibilidade de um jailbreak seja motivo o suficiente para barrar a utilização da ferramenta por milhões de pessoas.
«Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada», escreveu a empresa em comunicado.
A própria já havia informado sobre a possibilidade da \»invasão\» ao governo americano, mas critica a atitude.
«Como já havíamos declarado, acreditamos que o governo tenha a autonomia para barrar implementações arriscadas como como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios», completou a empresa.
A ordem veio apenas três dias após o lançamento dos modelos; o Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça, 9.
Eles ficariam disponíveis gratuitamente por apenas 13 dias. Após a segunda-feira, 22 de junho, usuários utilizaram o modelo não sob planos de assinatura, mas via pagamento de preços de API, onde eles seriam cobrados por cada requisição.
Mas essa não é a primeira vez que o governo americano e a Anthropic entram em divergência. No final de fevereiro, o governo determinou que as agências americanas parassem de usar os modelos de IA da startup após a empresa se recusar, por razões éticas, a permitir que as forças armadas do país utilizassem os modelos da companhia sem restrições e sem salvaguardas técnicas.
