Anthropic попередила про наближення самореплікованих ШІ-ботнетів

Дослідницька команда Frontier Red Team компанії Anthropic заявила, що невеликі моделі штучного інтелекту можуть уже за кілька місяців навчитися поширюватися через незахищені пристрої та створювати автономні ботнети, які буде важко ліквідувати. Як повідомляє Engadget, опитані експерти загалом вважають такий сценарій можливим у близькому майбутньому, хоча сумніваються, що загроза буде настільки новою, як її описує Anthropic.

Автоматизація створення ботнетів

Генеральний директор EquiStamp Кріс Канал сказав, що очікував би появи подібної загрози радше влітку наступного року, однак припустив, що Anthropic може мати доступ до новіших даних про передові дослідження. На його думку, прискоренню розвитку моделей сприяє те, що працівники провідних ШІ-лабораторій використовують власні інструменти ШІ у дослідженнях машинного навчання.

Професор Школи кібербезпеки та конфіденційності Georgia Tech Майкл Бейлі вважає, що моделі, здатні до самопоширення, з'являться, але їхня точна форма та наслідки лишаються невизначеними. Він зазначив, що ключова потенційна зміна полягає не у появі принципово нових можливостей, а в автоматизації роботи, яку раніше виконували люди під час створення ботнетів. Це змінить співвідношення витрат між атакувальниками та захисниками.

Паралелі з ботнетом Mirai

Бейлі, який досліджує інтернет-черв'яків і ботнети з початку 2000-х років, нагадав про Mirai. Цей ботнет використовував повсякденні IoT-пристрої, зокрема маршрутизатори та IP-камери, для DDoS-атак. У 2016 році атака, пов'язана з Mirai, порушила роботу низки великих онлайн-сервісів у США та частині Європи, зокрема Amazon, GitHub, PayPal, Reddit і Twitter.

Anthropic стверджує, що ШІ-черв'яки можуть стати еволюцією Mirai та інших жорстко запрограмованих ботнетів, оскільки зможуть самостійно пристосовуватися до незнайомих пристроїв. Водночас Бейлі зауважив, що Mirai вже працював із різнорідною технікою, а новизна ШІ полягала б у тому, що модель автоматизуватиме адаптацію до нових архітектур.

За словами Бейлі, експеримент Anthropic проводили в емульованій мережі, де використаний спосіб проникнення був простим. Він також не погодився з визначенням системи як самореплікованої: у дослідженні застосовували розподіл моделі між пристроями, а не повне копіювання коду на кожну скомпрометовану машину. На його думку, реальний ШІ-ботнет радше встановлював би на пристрої невеликий інструмент координації, який отримував би команди з іншої частини мережі.

Захист лишається традиційним

Серед запропонованих Anthropic заходів — інформування клієнтів інтернет-провайдерами про зараження та тимчасове обмеження доступу до переліку безпечних сайтів. Подібний підхід уже застосовували під час протидії Mirai. Компанія також згадала регулювання у Великій Британії, де закон PSTI Act забороняє легко вгадувані стандартні паролі на IoT-пристроях.

Бейлі вважає, що відповідь на загрозу ШІ-черв'яків має спиратися на давно відомі практики системної безпеки: своєчасне встановлення оновлень, ізоляцію пристроїв, надійні паролі та базову кібергігієну. Канал додав, що поки не існує надійного способу вбудувати в моделі з відкритими вагами захист, який би гарантовано завадив використати їх як черв'яків.