A notícia
A Anthropic desativou seus principais modelos, Claude Fable 5 e Mythos 5, para todos os clientes do mundo na noite de 12 de junho, segundo o comunicado da empresa. O gatilho foi uma carta do secretário de Comércio, Howard Lutnick, submetendo os dois modelos a controles de exportação com base em autoridade de segurança nacional, quatro dias depois do lançamento público. O governo citou um jailbreak que expôs as capacidades cibernéticas do Mythos. Os outros modelos da Anthropic, incluindo o Opus 4.8, continuaram no ar.
A análise
A pergunta interessante não é se o controle de exportação se justificava. A pergunta interessante é o que acaba de ser estabelecido como cartilha.
Há trinta anos, o controle de exportação americano de tecnologia de uso dual é a ferramenta do Departamento de Comércio para administrar aquilo em que atores estrangeiros podem pôr as mãos. Criptografia nos anos 1990. Equipamentos de fabricação de semicondutores, atualmente. Classes específicas de GPU desde 2022. O fio condutor é que o controle se aplicava a objetos físicos ou a binários compilados com versões bem definidas. Você restringia o que ia em um navio ou era baixado de um servidor, e o artefato regulado continuava regulado. O trabalho de compliance era chato, mas mecânico.
Um modelo de IA de fronteira é um tipo diferente de objeto. Ele roda dentro dos data centers do fornecedor, acessível por API, com os pesos trancados a sete chaves pelo laboratório. O Departamento de Comércio acaba de demonstrar que "estamos restringindo a exportação deste modelo" significa "o modelo é desligado, globalmente, inclusive para clientes domésticos pagantes". Não havia outra alavanca. Não dá para colocar em quarentena uma API de inferência hospedada. Só dá para privar o mundo dela.
Esse é o fato novo. O Departamento de Comércio descobriu que pode, na prática, desfazer com uma carta o lançamento de um modelo de fronteira já implantado publicamente. Todo lançamento de modelo daqui em diante embute esse risco no preço. Seja você a Anthropic, a OpenAI, o Google, a xAI ou a Mistral, "o Departamento de Comércio faz objeção ao nosso lançamento" agora é um risco corporativo P0, ao lado de "processo por dados de treinamento" e "regulador abre uma investigação com base na Seção 5". O seu runbook de resposta a incidentes precisa acrescentar uma derrubada pelo Departamento de Comércio à lista de cenários, porque 12 de junho agora é uma coisa que aconteceu.
O movimento mais profundo é que isso aconteceu sem legislação. O Congresso passou dois anos no AI Safety Institute. A UE passou quatro no AI Act. Ordens executivas vieram e se foram. Enquanto isso se desenrolava, uma lei já existente (o Export Administration Act, reaproveitado para a IA) esperava na caixa de ferramentas regulatória. O Departamento de Comércio recorreu a ela. O caminho mais rápido para "podemos pausar um modelo de fronteira" acabou sendo um arcabouço de controle de exportação de 1979, desempoeirado para um novo uso. Nenhuma agência de IA criada sob medida foi necessária. (A agência ainda está a caminho, presumivelmente. O que já chegou foi a sua primeira ação.)
Para quem constrói e implanta em cima de modelos de fronteira, a implicação prática é que o seu fornecedor de modelos agora é uma entidade regulada de um jeito que não era três dias atrás. O padrão de "trocar de provedor dentro de uma sessão" que a Apple lançou na WWDC na semana passada parece menos uma conveniência para desenvolvedores e mais um hedge de compras. Se a sua pilha depende de um único modelo de fronteira, você acaba de aprender que essa dependência tem um novo modo de falha, que não é nem indisponibilidade, nem mudança de preço, nem violação de termos. É um telefonema do Departamento de Comércio.
Outro olhar
O contra-argumento honesto é que este foi um caso extremo (um jailbreak funcional que destravou as capacidades cibernéticas do Mythos, supostamente acessado por um grupo chinês) e que o Departamento de Comércio não vai recorrer ao controle de exportação à toa. O comportamento da Anthropic, ao se recusar a corrigir a brecha quando o governo pediu, é a parte que provocou a mão pesada, e um fornecedor mais dócil jamais veria a derrubada. É um argumento real. A resposta a ele é que "o Departamento de Comércio vai usar a ferramenta com parcimônia" não é uma garantia que um responsável por compras possa levar para um contrato plurianual. A ferramenta agora existe.
Vale destacar
- Segundo o Tom's Hardware, o assessor de Trump David Sacks disse que a Anthropic "se recusou" a corrigir o jailbreak do Fable 5 antes de o Departamento de Comércio agir.
- A Anthropic argumentou publicamente que o jailbreak era restrito e não derrotaria todas as salvaguardas do Fable 5.
- A carta do secretário de Comércio, Lutnick, chegou às 17h21 (horário do leste dos EUA) de 12 de junho. O desligamento global veio na mesma noite.
Em resumo
O Departamento de Comércio acaba de demonstrar que pode, na prática, desfazer com uma carta o lançamento de um modelo de fronteira já implantado publicamente. Todo lançamento de laboratório daqui em diante embute esse risco no preço, e todo cliente deveria tratar a dependência de um único modelo como uma exposição de compras.
— Hank