ИИ-черви на подключённых устройствах: что показывают эксперименты Anthropic

Anthropic предупреждает о возможной эволюции вредоносного ПО: модели ИИ могут научиться копировать себя между подключёнными устройствами и адаптировать установку к оборудованию, на котором оказываются. Эксперименты, описанные The Verge и Ars Technica, подтверждают несколько технических возможностей, но пока не демонстрируют небольшую автономную модель, выполняющую весь цикл репликации.

Первый эксперимент посвящён распределённому выполнению. Исследователи распределили модель Gemma между 15 приставками Android TV, каждая из которых по отдельности не могла её запустить. Ars Technica уточняет, что у каждого устройства было 4 ГБ памяти. Модель смогла генерировать ответы, но со скоростью всего 0,39 токена в секунду. Эта демонстрация показывает, что модель можно разместить на группе маломощных устройств; однако низкая скорость ограничивает практическую значимость результата.

Другой эксперимент изучает распространение в смоделированной сети машин, работающих как устройства Android. Система должна была находить новые цели, копировать на них модель и запускать её. По данным The Verge, только GLM-5.2, самая совершенная из протестированных моделей, смогла распространиться по всей сети. Переносимой моделью была более компактная Llama: таким образом, система, управлявшая операцией, и модель, установленная на целевых устройствах, были разными.

Это различие имеет ключевое значение для оценки предупреждения. Ars Technica сообщает, что ни одна из протестированных небольших моделей не справляется со всей цепочкой действий — от обнаружения устройства до дальнейшего распространения. Установка среды для выполнения инференса требует последовательных решений о совместимом ПО, зависимостях и ошибках, характерных для каждой платформы. Сбой может поставить под угрозу продолжение операции.

Условия эксперимента также требуют оговорки. На целевых устройствах Android был доступен интерфейс Android Debug Bridge без аутентификации, предоставлявший доступ к их системе. Поэтому результат не позволяет сделать вывод об аналогичных возможностях в отношении любого подключённого устройства в реальных условиях. Ожидания Anthropic относительно быстрого прогресса остаются прогнозами компании.

С точки зрения профилактики вопрос безопасности остаётся вполне конкретным: если небольшие модели смогут объединить эти возможности, распределённое распространение может затруднить попытки их остановить. Описанные исследования дают основания изучать этот сценарий и укреплять безопасность устройств. Они не позволяют представлять автономного ИИ-червя на домашних устройствах как угрозу, уже продемонстрированную во всей полноте.