O Frontier Red Team da Anthropic publicou em 12 de outubro um estudo que argumenta que modelos de IA pequenos podem em breve conseguir se copiar para dispositivos conectados baratos, segundo a Anthropic. Os autores, William Zhou e Daniel Freeman, compraram 15 TV boxes Android sem marca a cerca de US$ 55 cada. Eles rodaram o Gemma4-26B-A4B, do Google, distribuído entre todas elas. Funcionou, a 0,39 token por segundo.
Um modelo de 9B conseguiu colocar a inferência para rodar em 8 dos 9 tipos de hardware que a equipe testou, sem ajuda humana. Outro teste pediu aos modelos que se espalhassem por oito dispositivos Android emulados em uma rede de nuvem isolada, cada um com uma porta de depuração aberta. Só o GLM-5.2, um modelo de pesos abertos da Zhipu AI, conseguiu isso de forma confiável. Ele chegou aos oito nós em quatro de cinco tentativas e a sete na quinta.
Os autores apontam os limites. A etapa do exploit foi mantida "trivial", já que a porta de depuração não pedia senha, então eles chamam o resultado de "um limite superior para o sucesso no mundo real". Nenhum modelo testado era ao mesmo tempo capaz o bastante e pequeno o bastante para se replicar de forma confiável em uma smart TV, segundo a Al Jazeera. O prazo vem de uma linha de tendência. Se os modelos pequenos continuarem melhorando no ritmo histórico, vão alcançar o nível do GLM-5.2 "até o fim deste ano". Os autores chamam isso de estimativa aproximada.
O modelo de ameaça é uma botnet que já existe. A Kimwolf infectou "mais de dois milhões de dispositivos", a maioria TV boxes Android. Um replicador de IA seria diferente por conseguir decifrar sozinho um hardware desconhecido. As defesas propostas pela Anthropic são antigas. Provedores de internet podem colocar clientes infectados em quarentena, o que eliminou 92% das infecções do Mirai em 14 dias em um estudo, contra 74% sem aviso. Fabricantes podem abandonar senhas padrão e portas abertas.
Em resumo
O estudo mede uma etapa, colocar um modelo para rodar em hardware que o atacante não controla, e essa etapa já quase funciona. Se você administra um escritório ou uma loja, encontre as TV boxes Android baratas e as telas inteligentes da sua rede e feche qualquer porta de depuração aberta. Se você fabrica dispositivos conectados, venda-os sem credenciais padrão. O Reino Unido já exige isso.