Antrópico diz que é desabilitando dois modelos de IA lançados no início desta semana, Claude Fábula 5 e Mito 5para cumprir uma diretiva de controle de exportação que recebeu na tarde de sexta-feira do governo dos EUA, citando preocupações de segurança nacional.
O incidente sem precedentes marca o último ponto de conflito entre Antrópico e a administração Trump. Embora a empresa diga que a ordem pedia a suspensão do acesso a “qualquer cidadão estrangeiro, seja dentro ou fora dos Estados Unidos, incluindo funcionários estrangeiros da Antrópico”, ela removeu o acesso de todos os seus clientes para garantir o cumprimento.
No início deste ano, o Departamento de Defesa de Trump classificou Antrópico como “risco da cadeia de abastecimento“depois que o criador de Claude procurou traçar limites sobre como os militares dos EUA poderiam usar sua tecnologia. A designação efetivamente proibiu agências governamentais e empreiteiros de usar a tecnologia da Anthropic. A Anthropic respondeu entrar com ações judiciais contra a administração Trump.
Na terça-feira, a Anthropic divulgou publicamente Claude Fábula 5uma versão do modelo Mythos AI da empresa com salvaguardas que o impedem de responder perguntas sobre segurança cibernética, biologia e química. Antes da divulgação pública, que a Anthropic disse ter conduzido em colaboração com o governo dos EUA, o Modelo de IA de visualização do Mythos teve um lançamento limitado em abril. O objetivo era dar às empresas e organizações a oportunidade de usar seus poderosas capacidades de segurança cibernética para melhorar suas defesase suscitam preocupações de que a tecnologia possa ser explorada por malfeitores para desenvolver poderosas ferramentas de hacking.
Em um postagem no blog na sexta-feira, a Anthropic afirma ter recebido uma carta do governo dos EUA às 17h21 horário do leste dos EUA. “A carta não forneceu detalhes específicos de sua preocupação com a segurança nacional”, escreveu a Anthropic.
“Nosso entendimento é que o governo acredita ter tomado conhecimento de um método para contornar ou ‘desbloquear’ o Fable 5”, acrescentou a empresa. “Revisamos uma demonstração desta técnica específica sendo usada para identificar um pequeno número de vulnerabilidades menores anteriormente conhecidas. Todas essas vulnerabilidades parecem relativamente simples, e descobrimos que outros modelos disponíveis publicamente também são capazes de descobri-las sem exigir um desvio.”
Na postagem do blog, a empresa argumentou que implementou fortes salvaguardas para reduzir a probabilidade de uso indevido de Claude Fable 5. A Anthropic também afirmou que o jailbreak que o governo dos EUA encontrou para Claude Fable 5 foi estreito e não teria tornado um invasor significativamente mais perigoso do que seria com outro modelo de IA.
“Até o momento, o governo apenas nos deu evidências verbais de um potencial jailbreak restrito e não universal, que consiste essencialmente em pedir ao modelo para ler uma base de código específica e corrigir quaisquer falhas de software”, disse a empresa em seu blog. “Nosso entendimento é que uma possível fuga de prisão foi compartilhada com o governo.”
Porta-vozes da Casa Branca e do Departamento de Comércio dos EUA não responderam imediatamente ao pedido de comentários da WIRED.
O CEO da Antrópico, Dario Amodei, disse em um ensaio político no início desta semana que ele e a empresa apoiam um processo governamental justo, estruturado e transparente que bloquearia a liberação de modelos de IA inseguros. Na postagem do blog da empresa na sexta-feira, a Anthropic argumentou que “esta ação não segue esses princípios”.
