Армія США може розробляти ШІ-агентів для атак на ворожі мережі

Армія США розробляє програму ECHOTRIBBLE, у межах якої планують створити автономних ШІ-агентів для пошуку та нейтралізації цілей у цифровій інфраструктурі противника. Про це повідомляє Tom's Hardware з посиланням на матеріал The Intercept і нібито витеклі документи Командування кіберпростору Армії США (ARCYBER).

Згідно з описом проєкту, агенти мають самостійно пересуватися мережами та цифровими системами, ідентифікувати цілі й «нейтралізувати» їх. Під нейтралізацією розуміють повне або тимчасове вимкнення загрози чи її видалення з цільової системи.

Модульні агенти для наступальних операцій

Програма зосереджена насамперед на наступальних завданнях. Передбачається, що модульні агенти діятимуть подібно до комп’ютерних хробаків: непомітно переміщуватимуться мережею противника, переходитимуть між пристроями та відтворюватимуться на різних операційних системах. Їх також хочуть пристосувати до роботи в умовах оскаржуваних хмарних середовищ і в ізольованих від зовнішніх мереж системах.

Після виявлення та нейтралізації цілі агент, за задумом розробників, має самознищуватися, не попереджаючи ціль і не залишаючи слідів. Документи також передбачають «заздалегідь визначені тригери», які повинні допомогти системі точніше розрізняти цілі.

Застереження фахівців

Експерти з кібербезпеки висловили занепокоєння рівнем автономності таких систем. Однією з вимог програми є «самокерована поведінка», тобто виконання завдань із мінімальним наглядом людини. Очільник компанії з безпеки ШІ Abundant Гайрум Андерсон, якого цитує The Intercept, застеріг, що агент у процесі руху до цілі може використати цивільну інфраструктуру та завдати їй шкоди.

Старший поведінковий науковець RAND Corporation Вільям Марчелліно зазначив, що сучасні публічні ШІ-технології не мають глибокого розуміння реального світу, необхідного для подібних рішень. Розробка ECHOTRIBBLE перебуває на ранній стадії прототипування та оцінювання пропозицій від промисловості. Під час віртуального заходу з 6 до 8 жовтня 2026 року армія розглянула 65 технічних документів приватних компаній і відібрала п’ять пропозицій; фінальним кандидатам планують надати фінансування та контракти на створення прототипів.