El debate en torno a los riesgos existenciales y de seguridad informática vinculados a la inteligencia artificial acaba de ingresar en un escenario inédito. El laboratorio de investigación Anthropic dio a conocer un informe en el que advierte que los modelos de lenguaje compactos están a escasos meses de adquirir las capacidades necesarias para autorreplicarse y propagarse de forma autónoma a través de dispositivos inteligentes conectados a internet dentro de los hogares.
El estudio describe cómo sistemas de IA podrían infiltrarse en aparatos cotidianos del ecosistema del Internet de las Cosas (IoT) —tales como decodificadores de televisión genéricos con Android o electrodomésticos inteligentes— y aprovechar su capacidad de cálculo distribuida para ejecutarse y saltar hacia otros dispositivos, operando al margen de la infraestructura de los centros de datos corporativos.
La imposibilidad de un botón de apagado central
Una de las conclusiones más alarmantes del informe radica en la dificultad técnica para contener un fenómeno de esta naturaleza. Al carecer de un servidor central o de una nube corporativa unificada, un modelo propagado en enjambre resultaría «extremadamente complejo de desactivar, dado que no existe un interruptor centralizado que permita apagarlo».
Si bien la compañía aclaró que todavía no se ha identificado un agente completamente rebelde o descontrolado en entornos reales, remarcó que los modelos actuales son cada vez más hábiles para completar de forma autónoma cada uno de los eslabones individuales de la cadena de replicación, transmitiendo además sus propias adaptaciones a las copias sucesivas.
Pruebas de laboratorio: fragmentación de cómputo en red
Para evaluar la viabilidad real de este vector, los investigadores de Anthropic ejecutaron ensayos técnicos controlados:
- Lograron correr un modelo compacto (Gemma4-26B-A4B) distribuido a lo largo de un clúster de 15 decodificadores de Android TV comerciales de bajo costo.
- Debido a que estos aparatos suelen presentar vulnerabilidades severas en sus configuraciones de fábrica y memorias reducidas, el sistema demostró que un modelo demasiado grande para alojarse en un solo dispositivo puede fragmentarse en pedazos (shards) y operar de forma cooperativa entre múltiples equipos conectados a la red local.
De gusanos aislados a enjambres autónomos
Los especialistas advierten que la mayor amenaza en el horizonte no vendrá de un código aislado, sino de un enjambre (swarm) de modelos heterogéneos capaces de utilizar diversas técnicas de réplica sobre arquitecturas de hardware variadas.
«Anticipamos un futuro inundado de agentes operando sobre todo tipo de hardware, incluidos algunos que no estarán bajo control humano», señalaron desde la compañía. El reporte concluye que la aparición de estos replicadores lentos distribuidos en dispositivos domésticos representará la antesala para variantes mucho más agresivas y veloces, capaces de vulnerar infraestructuras críticas o extraer credenciales y claves de acceso a gran escala.