Anthropic попередила про ризик ШІ-черв’яків на IoT-пристроях до кінця року
Anthropic прогнозує, що ШІ-черв’яки можуть стати технічно можливими на IoT-пристроях до кінця 2026 року.
Компанія Anthropic вважає, що до кінця 2026 року невеликі моделі штучного інтелекту можуть набути здатності до самовідтворення на пристроях інтернету речей. Такі ШІ-черв’яки, за оцінкою дослідників, потенційно могли б переходити між мережами, шукати нове обладнання та копіюватися без централізованого механізму вимкнення.
Про результати дослідження повідомляє TechRadar. В Anthropic зазначають, що дешеві IoT-пристрої часто мають слабкий захист, тому можуть стати пріоритетною ціллю для такого шкідливого програмного забезпечення. Модель могла б переносити власні ваги під час поширення та розподіляти обчислення між кількома скомпрометованими пристроями.
Тест на Android TV-приставках
Для перевірки концепції дослідники запустили модель Gemma4-26B-A4B із 25 млрд параметрів на 15 недорогих Android TV-приставках невідомих брендів. Вартість кожного пристрою становила приблизно 55 доларів. Після об’єднання в мережу приставки змогли виконувати розподілені обчислення для роботи моделі.
За сценарієм Anthropic, ШІ-черв’як міг би розділяти модель на частини між зараженим обладнанням у домівках або малому бізнесі. Потенційними цілями також названо новіші пристрої з вбудованими ШІ-чипами, зокрема камери безпеки та комплекти для відеоконференцій. Окремо дослідники розглядають варіант, за якого програма використовує викрадені облікові дані для доступу до комерційних ШІ-сервісів через API, не розміщуючи модель на власних пристроях.
Адаптація до незнайомого обладнання
Однією з ключових перешкод для самовідтворення є здатність моделі запрацювати на незнайомому обладнанні. За даними тестування, менша модель Qwen3.5-9B змогла адаптуватися для виконання обчислень на восьми з дев’яти типів апаратного забезпечення, зокрема Jetson Nano, комп’ютерах Mac і відеокартах RTX 4090. Водночас більші моделі, за оцінкою дослідників, краще пристосовані до швидкого самовідтворення.
Anthropic вказує, що захисникам може допомогти компроміс між непомітністю та швидкістю поширення. Ознаками інфекції можуть бути передавання багатогігабайтних файлів моделей на нові пристрої або нетиповий мережевий трафік між машинами, які зазвичай не взаємодіють. Серед початкових заходів захисту компанія назвала мережевий карантин, білий список дозволених сайтів, автоматичні оновлення та відмову від паролів за замовчуванням на IoT-пристроях.
