Anthropic описала ризик самовідтворюваного ШІ-хробака без датацентрів
Anthropic дослідила сценарій ШІ-хробака для поширення між пристроями та назвала ключові технічні обмеження
Команда Frontier Red Team компанії Anthropic дослідила сценарій ШІ-хробака, який потенційно міг би поширюватися між споживчими пристроями та запускати моделі штучного інтелекту без постійної опори на інфраструктуру датацентрів. Як повідомляє Tom's Hardware, нинішні моделі ще не дають змоги реалізувати такий сценарій на практиці, однак у компанії вважають, що розрив між їхніми можливостями та обмеженнями пристроїв може скорочуватися.
Експерименти з різним обладнанням
У звіті від 12 жовтня Anthropic описала клас шкідливого програмного забезпечення, названий weight-based replicator. Замість звичайного виконуваного коду такий інструмент мав би передавати ваги ШІ-моделі разом із програмними компонентами, потрібними для запуску інференсу на скомпрометованих пристроях.
Дослідники перевірили, чи здатна модель Qwen3.5-9B налаштувати сервер інференсу на дев’яти типах обладнання. Вона впоралася з вісьмома з них, зокрема з NVIDIA Jetson Nano, комп’ютерами Mac на Apple Silicon, серверами Xeon, Google TPU, AMD MI300X та ПК із RTX 4090. Також модель Gemma4-26B-A4B запустили на 15 недорогих Android TV-приставках вартістю близько 55 доларів кожна. Їхня сукупна швидкість генерації становила 0,39 токена за секунду.
Ключові обмеження сценарію
Окремий тест імітував поширення агента між вісьмома вузлами Google Cloud з емуляторами Android 15 через неавтентифікований порт Android Debug Bridge. Модель GLM-5.2 із 744 млрд параметрів завершила послідовність на всіх восьми вузлах у чотирьох із п’яти спроб. Водночас вона працювала на окремому сервері інференсу, а на цільових вузлах запускала значно меншу Llama 3.1 8B.
За оцінкою Anthropic, компактні моделі, придатні для дешевих пристроїв, поки що не здатні надійно виконати весь процес самореплікації. Крім того, налаштування середовища інференсу на Android TV-приставках може тривати від 28 до 51 години для Qwen3.5-9B та від 71 до 150 годин для Gemma4-26B-A4B. Передавання багатогігабайтних ваг моделей також потребувало б значного мережевого трафіку й дискового простору, що полегшує виявлення такої активності.
