El Frontier Red Team de Anthropic publicó el 12 de octubre un estudio que sostiene que los modelos de IA pequeños pronto podrían copiarse a sí mismos en dispositivos conectados baratos, según Anthropic. Los autores, William Zhou y Daniel Freeman, compraron 15 decodificadores Android de marca genérica a unos 55 dólares cada uno. Ejecutaron Gemma4-26B-A4B, de Google, repartido entre todos ellos. Funcionó, a 0,39 tokens por segundo.
Un modelo de 9B logró poner en marcha la inferencia en 8 de los 9 tipos de hardware que probó el equipo, sin ayuda humana. Otra prueba pidió a los modelos propagarse por ocho dispositivos Android emulados en una red en la nube aislada, cada uno con un puerto de depuración abierto. Solo GLM-5.2, un modelo de pesos abiertos de Zhipu AI, lo logró de forma fiable. Llegó a los ocho nodos en cuatro de cinco intentos y a siete en el quinto.
Los autores señalan los límites. El paso del exploit se mantuvo "trivial", ya que el puerto de depuración no pedía contraseña, así que llaman al resultado "un límite superior del éxito en el mundo real". Ningún modelo probado era a la vez lo bastante capaz y lo bastante pequeño para replicarse de forma fiable en un televisor inteligente, según Al Jazeera. El plazo sale de una línea de tendencia. Si los modelos pequeños siguen mejorando a su ritmo histórico, alcanzarán el nivel de GLM-5.2 "a finales de este año". Los autores lo llaman una estimación aproximada.
El modelo de amenaza es una botnet que ya existe. Kimwolf infectó "más de dos millones de dispositivos", en su mayoría decodificadores Android. Un replicador de IA se diferenciaría por descifrar por sí solo hardware desconocido. Las defensas que propone Anthropic son antiguas. Los proveedores de internet pueden poner en cuarentena a los clientes infectados, lo que eliminó el 92% de las infecciones de Mirai en 14 días en un estudio, frente al 74% sin aviso. Los fabricantes pueden eliminar las contraseñas predeterminadas y los puertos abiertos.
En resumen
El estudio mide un paso, poner en marcha un modelo en hardware que el atacante no posee, y ese paso ya casi funciona. Si administras una oficina o una tienda, busca los decodificadores Android baratos y las pantallas inteligentes en tu red y cierra cualquier puerto de depuración abierto. Si fabricas dispositivos conectados, envíalos sin credenciales predeterminadas. El Reino Unido ya lo exige.