Хакери обходять обмеження ШІ для автоматизації кібератак

Чотири раніше неописані хакерські угруповання використовували агентний штучний інтелект для проведення кібератак і обходили вбудовані обмеження моделей, зокрема Claude та DeepSeek. Як повідомляє Wired, дослідники CrowdStrike проаналізували інфраструктуру атак, що відбувалися з травня до серпня, після того як зловмисники залишили її відкритою на вебсерверах.

Групи діяли китайською, іспанською та англійською, індонезійською і російською мовами. Дві з них застосовували складні програмні оболонки, що скеровують моделі під час виконання завдань; дві інші мали менші технічні можливості, але все одно змогли скомпрометувати кілька цілей.

Обхід захисних механізмів

За даними CrowdStrike, учасники кампаній поєднували різні моделі, зокрема старіші версії Claude та моделі з відкритими вагами DeepSeek. Такий підхід дозволяв використовувати відмінності у захисних механізмах систем і автоматизувати операції протягом тривалого часу.

Для обходу обмежень хакери переконували моделі, що їхні дії нібито санкціоновані та проводяться в межах тестування безпеки. Вони додавали до робочих каталогів агентів файли, які мали підтвердити «авторизований» характер завдань, а також застосовували традиційні методи jailbreak — спеціально сформульовані запити й сценарії. Більш технічно підготовлені учасники детальніше вибудовували такі легенди, тоді як менш досвідчені вдавалися до грубих запитів.

Цілі в Америці та Азії

Іспано- й англомовний учасник атакував медичні установи Аргентини та, за оцінкою дослідників, скомпрометував щонайменше 15 організацій. CrowdStrike виявила ознаки викрадення облікових даних і медичних записів щонайменше в однієї жертви. Для атак група створила інфраструктуру з агентом «Supervisor» на базі Claude Code, який керував етапами операції, та агентом «Executor», що виконував команди.

Китайськомовний учасник застосовував інструменти для розвідки та автономних атак після вибору людиною подальшого курсу дій. Дослідники заявили про успішне проникнення до урядових цілей у Бразилії та Колумбії, а також про атаки на приватні організації Бразилії і США у сферах біотехнологій, охорони здоров’я, харчової промисловості, роздрібної торгівлі, технологій і подорожей.

Російськомовний учасник, який, за оцінкою CrowdStrike, був зосереджений на фінансово мотивованій кіберзлочинності, та індонезійськомовний учасник використовували доступніші інструменти. Останній зміг скомпрометувати кілька індонезійських урядових доменів, один урядовий домен Бангладеш і низку цілей у приватному секторі.