Anthropic попередила про ризик самореплікації ШІ на пристроях IoT
Anthropic заявила, що компактні ШІ-моделі можуть отримати здатність самореплікуватися на пристроях інтернету речей.
Компанія Anthropic заявила, що компактні моделі штучного інтелекту можуть уже за кілька місяців отримати змогу самореплікуватися на споживчих пристроях інтернету речей, зокрема Android TV-приставках і розумних духовках. Такі пристрої потенційно можуть бути об’єднані в розподілену мережу для запуску ШІ-моделей без використання датацентрів, повідомляє BleepingComputer.
Водночас у Anthropic наголосили, що не продемонстрували повністю автономного ШІ-хробака, який самостійно поширюється на реальному IoT-обладнанні. Дослідники вважають, що моделі з 30 млрд параметрів або менше можуть досягти потрібного рівня можливостей до кінця 2026 року, якщо темпи їхнього розвитку збережуться.
Експеримент з Android TV-приставками
Для дослідів Anthropic використала недорогі Android TV-приставки та моделі Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B, Opus 4.8 і GLM-5.2. Qwen3.5-9B та GLM-5.2 отримали завдання налаштувати й поширити Llama3.1-8B, а Gemma4-26B-A4B показала можливість роботи моделі на 15 пристроях.
Тестування відбувалося у спрощених умовах: цільові пристрої мали неавтентифікований доступ через Android Debug Bridge. Qwen3.5-9B успішно встановила й налаштувала програмне забезпечення для запуску Llama3.1-8B на восьми з дев’яти перевірених типів обладнання. GLM-5.2 у чотирьох із п’яти спроб досягла всіх восьми вузлів у контрольованій емуляції мережі.
Час для виявлення загрози
За даними Anthropic, збереження результатів попередніх спроб поліпшило ефективність Qwen3.5-9B: її показник успіху зріс із 45% на ранніх етапах до 84% у пізніших поколіннях. Залучення потужнішої моделі Opus 4.8 як радника для Qwen не дало вимірюваного покращення.
На протестованому обладнанні розгортання системи для запуску моделі було повільним: для Qwen3.5-9B воно тривало від 28 до 51 години, а для Gemma4-26B-A4B — від 71 до 150 годин. У компанії зазначили, що це дає захисникам час для виявлення та реагування, однак із появою нових моделей цей час може скорочуватися. Серед запропонованих заходів захисту — виявлення великих передавань моделей і нетипового трафіку між пристроями, застосування honeypot-систем, ізоляція скомпрометованих абонентів та посилення стандартних налаштувань безпеки IoT.
