Uma decisão anunciada pelo governo dos Estados Unidos na sexta-feira (12) provocou forte repercussão no setor de inteligência artificial. O Departamento de Comércio determinou que estrangeiros não poderão acessar os novos modelos de IA lançados pela Anthropic, empresa responsável pelo assistente Claude. 

A medida vale tanto para pessoas que vivem fora do país quanto para estrangeiros que estão em território estadunidense.

Em resumo:

  • EUA proibiram estrangeiros de acessar novos modelos da Anthropic;
  • Anthropic suspendeu globalmente ferramentas Fable 5 e Mythos 5;
  • Governo teme jailbreaks que burlam proteções de segurança;
  • Empresa critica medida e pede regras transparentes;
  • Caso amplia debate entre inovação, segurança e regulação.

Para cumprir a determinação, a companhia precisou interromper o acesso global aos modelos recém-lançados. A ordem foi emitida poucos dias após a chegada ao mercado das ferramentas Fable 5 e Mythos 5, apresentadas pela empresa como uma nova geração de sistemas de inteligência artificial com capacidades avançadas.

Anthropic vê exagero na decisão do governo

Embora o governo não tenha detalhado oficialmente os motivos da restrição, fontes ligadas ao caso indicam que a preocupação estaria relacionada à possibilidade de os sistemas serem alvo de técnicas conhecidas como “jailbreak”, segundo o jornal The New York Times. Esse tipo de procedimento busca contornar os mecanismos de segurança das IAs para obter respostas ou comportamentos que normalmente seriam bloqueados.

Na prática, um jailbreak utiliza instruções elaboradas, simulações ou estratégias de engenharia de prompt para convencer o sistema a ignorar limitações impostas pelos desenvolvedores. Especialistas alertam que esse recurso pode ser usado para obter informações sensíveis, burlar regras de segurança ou explorar vulnerabilidades tecnológicas.

A Anthropic afirmou que sempre reconheceu a existência desse tipo de risco, mas considera a reação do governo exagerada. Em comunicado divulgado em seu site e nas redes sociais, a empresa classificou a decisão como um possível mal-entendido e defendeu que eventuais restrições devem seguir critérios transparentes, baseados em evidências técnicas e em processos regulatórios claros.

olhardigital.com.br