Gusanos de IA en objetos conectados: qué muestran las pruebas de Anthropic

Anthropic advierte de una posible evolución del software malicioso: modelos de IA capaces de copiarse entre objetos conectados y de adaptar su instalación al hardware que encuentren. Los experimentos descritos por The Verge y Ars Technica demuestran varias capacidades técnicas, pero todavía no demuestran que un modelo pequeño y autónomo complete todo el ciclo de replicación.

Un primer experimento aborda la ejecución distribuida. Los investigadores repartieron un modelo Gemma entre 15 decodificadores Android TV, cada uno de ellos insuficiente para ejecutarlo por sí solo. Ars Technica precisa que cada aparato disponía de 4 GB de memoria. El modelo pudo producir respuestas, pero a tan solo 0,39 tokens por segundo. Esta demostración muestra que un conjunto de aparatos modestos puede alojar un modelo; sin embargo, su lentitud limita el alcance práctico del resultado.

Otro experimento examina la propagación en una red simulada de máquinas que se comportaban como dispositivos Android. El sistema debía encontrar nuevos objetivos, copiar un modelo en ellos y ponerlo en funcionamiento. Según The Verge, solo GLM-5.2, el modelo más sofisticado de los probados, logró propagarse por toda la red. El modelo transferido era un Llama más pequeño: por tanto, el sistema que dirigía la operación y el que se instalaba en los objetivos eran distintos.

Esta distinción es fundamental para valorar la advertencia. Ars Technica indica que ninguno de los modelos pequeños probados domina toda la cadena, desde el descubrimiento de un aparato hasta una nueva propagación. La instalación de un entorno de inferencia exige tomar decisiones sucesivas sobre el software compatible, las dependencias y los errores propios de cada plataforma. Un fallo puede comprometer la continuación de la operación.

El entorno de prueba también exige una salvedad. Los dispositivos Android utilizados como objetivos exponían una interfaz Android Debug Bridge sin autenticación, que daba acceso a su sistema. Por tanto, el resultado no permite concluir que exista una capacidad equivalente frente a cualquier objeto conectado en condiciones reales. Las previsiones de Anthropic sobre un avance rápido siguen siendo proyecciones de la empresa.

La cuestión de seguridad sigue siendo concreta desde una perspectiva preventiva: si los modelos pequeños lograran reunir estas capacidades, una propagación distribuida podría complicar los intentos de detenerlos. Los trabajos descritos ofrecen motivos para examinar este escenario y reforzar la seguridad de los aparatos. No permiten presentar un gusano de IA autónomo en objetos domésticos como una amenaza ya demostrada en su totalidad.