Anthropic Alerta sobre Gusanos de IA Auto-Replicantes en Dispositivos Inteligentes e IoT

Durante años, la narrativa de seguridad asumía que un modelo potencialmente peligroso requeriría centros de datos masivos con cientos de GPUs de alta gama para operar, lo que facilitaba su monitoreo, contención y eventual desconexión. Sin embargo, la acelerada optimización de modelos pequeños (Small Language Models o SLMs) y técnicas de cuantización agresivas han cambiado las reglas: capacidades que antes exigían clústeres empresariales ahora pueden ejecutarse en chips de consumo masivo presentes en televisores, enrutadores Wi-Fi y electrodomésticos inteligentes.

El hallazgo más llamativo del equipo de Anthropic fue demostrar que un modelo no necesita caber en un solo chip para funcionar. Mediante técnicas de sharding de tensores y paralelismo distribuido en redes locales, dividieron el modelo Gemma 4 de Google (26B de parámetros) entre 15 cajas de Android TV de bajo costo. Aunque la inferencia resultante fue lenta, el experimento demostró un principio crítico: hardware doméstico aparentemente inofensivo puede agruparse en enjambres computacionales capaces de sostener inteligencia artificial funcional.

Una vez probada la computación distribuida en hardware doméstico, los investigadores evaluaron si un agente de IA podía ejecutar autónomamente los pasos de un gusano informático: escanear subredes, detectar máquinas vulnerables, transferir los pesos del modelo (en este caso, Meta Llama 3.1-8B) y configurar el entorno de ejecución en el destino. Mientras modelos básicos lograron pasos individuales, el modelo de razonamiento avanzado GLM-5.2 (desarrollado por Z.ai) logró propagarse con éxito a través de toda la red sin intervención de operadores humanos.

Como señalan expertos en ciberseguridad como el profesor Nicolas Papernot (Universidad de Toronto) y Jeffrey Ladish (Palisade Research), el peligro inmediato no es que un refrigerador inteligente tome conciencia, sino que millones de dispositivos IoT con firmware desactualizado y contraseñas por defecto se conviertan en plataformas de salto (launchpads). Un atacante con agentes autónomos podría colonizar hardware periférico para infiltrarse silenciosamente en redes corporativas, hospitales o plantas de energía.

Frente a agentes de malware adaptativos que aprenden sobre la marcha, los controles perimetrales estáticos resultan insuficientes. En Nubework asesoramos a las organizaciones para implementar microsegmentación estricta (aislando dispositivos IoT y cámaras en VLANs sin acceso a redes de servidores), inspección profunda de tráfico de salida (egress filtering) para bloquear descargas no autorizadas de binarios o pesos de modelos, y rotación automatizada de credenciales. La resiliencia moderna exige asumir que cualquier dispositivo conectado puede ser sondeado por agentes autónomos.