Anthropic попередила про ризик самовідтворюваного ШІ-шкідника в IoT

Компанія Anthropic попередила, що розвиток компактних моделей штучного інтелекту може відкрити шлях до нового типу самовідтворюваного шкідливого програмного забезпечення для пристроїв інтернету речей. Такі програми потенційно могли б заражати телевізійні приставки, розумні холодильники, роботизовані пилососи та інші IoT-пристрої, а також бути складнішими для знешкодження через відсутність єдиної точки відключення. Про результати дослідження повідомляє Ars Technica.

Розподілений запуск моделей

Дослідники Anthropic тестували невеликі відкриті моделі на реальному та змодельованому недорогому обладнанні, зокрема Android TV-приставках. Вони застосували квантування, яке зменшує обсяг даних моделі, і розподілили її роботу між кількома пристроями. У результаті модель Gemma4-26B-A4B змогла працювати на 15 приставках із 4 ГБ пам’яті на кожній. Модель Qwen3.5-9B налаштувала інші великі мовні моделі для запуску на восьми з дев’яти типів обладнання.

На відміну від звичайного шкідливого ПЗ, яке треба окремо адаптувати до певного програмного чи апаратного середовища, модель під час тестів могла підбирати конфігурації для конкретних пристроїв. Anthropic назвала потенційні автономні черв’яки такого типу «малими реплікаторами на основі ваг моделі». За задумом дослідників, ваги моделі могли б бути частиною шкідливого навантаження або повторно завантажуватися з публічного ресурсу.

Повного самовідтворення ще не продемонстрували

Компанія зазначила, що жодна з протестованих легких моделей поки не здатна самостійно виконати весь цикл зараження: знайти новий пристрій, отримати на ньому виконання коду, встановити шкідливе навантаження, налаштувати інфраструктуру для роботи моделі та повторити процес на інших вузлах. Найскладнішим етапом назвали динамічне налаштування запуску моделі на цільовому обладнанні, адже воно потребує послідовних рішень щодо програмного забезпечення, залежностей і виправлення специфічних помилок.

Експеримент також був повільним: Gemma4-26B-A4B, розподілена між 15 пристроями, працювала зі швидкістю 0,39 токена за секунду. За оцінкою дослідників, підготовка повного запуску моделі могла тривати від 71 до 150 годин, а для Qwen3.5-9B — від 29 до 51 години. Anthropic заявила, що моделі з 30 млрд параметрів уже можуть виконувати багато окремих етапів, але припускаються помилок у повному циклі.

Водночас дослідник ШІ Сяохань Фу наголосив, що експеримент сам по собі не доводить, ніби невеликі моделі автономно вирішуватимуть самовідтворюватися. Він також звернув увагу, що частина тестів проводилася на пристроях із відкритим неавтентифікованим Android Debug Bridge, а процес координувала велика модель GLM-5.2, тоді як на цільових пристроях працювала менша модель Llama.