Компаніям радять управляти ШІ-агентами як працівниками
CertiK радить компаніям контролювати ШІ-агентів як працівників: визначати повноваження, нагляд і відповідальних осіб.
Компаніям, які передають ШІ-агентам право самостійно розслідувати кіберінциденти та реагувати на них, необхідно встановлювати межі їхніх повноважень, фіксувати важливі рішення й визначати відповідальних за нагляд. Такий підхід у звіті CertiK описує The Next Web.
Нові агентні системи можуть не лише сигналізувати про підозрілу активність, а й перевіряти пристрій та історію входів у систему, зіставляти дані з розвідкою про загрози, робити висновок про компрометацію облікового запису й призупиняти його дію ще до того, як аналітик відкриє звернення.
Від помічника до виконавця
У сфері кібербезпеки ШІ-агенти можуть зводити дані з різних інструментів захисту, проводити первинне розслідування та передавати фахівцям лише випадки, що потребують людського рішення. У більш автоматизованих конфігураціях вони здатні ізолювати заражений ноутбук або скасувати токен сесії, залишаючи перевірку людині вже після виконання дії.
Подібні системи застосовують і для комплаєнсу. Вони можуть паралельно перевіряти санкційні списки, корпоративні реєстри та архіви новин, виявляти зв’язки між підозрілими рахунками й готувати матеріали справи. CertiK зазначає, що штрафи за порушення правил протидії відмиванню коштів у першій половині 2025 року перевищили 900 млн доларів.
Ризики автономних рішень
У криптосекторі швидкість реакції особливо важлива, оскільки підтверджені блокчейн-транзакції неможливо скасувати. За даними попереднього дослідження CertiK, хакери, пов’язані з Північною Кореєю, протягом місяця конвертували 86,29% ETH, викрадених під час атаки на Bybit, у біткоїн, використовуючи міксери, мости та позабіржових брокерів. Тому окремі протоколи пов’язують виявлення загроз із автоматичною реакцією, зокрема призупиненням уразливої функції або активацією аварійного обмежувача.
Водночас CertiK застерігає, що зловмисники можуть використати ін’єкцію промптів або підмінені вхідні дані, аби схилити агента до схвалення шахрайської операції чи вимкнення легітимного захисного механізму. Помилки можливі й без зовнішнього втручання: система може пропустити реальне проникнення або сформувати переконливий, але неправильний опис руху коштів.
У звіті рекомендують визначати для кожного агента чіткий обсяг повноважень, момент передавання справи людині, вести повний журнал суттєвих рішень, регулярно тестувати систему на стійкість до маніпуляцій і призначати відповідальну особу за її роботу.
