Microsoft запустила нагляд за ШІ-агентами в корпоративних системах

Microsoft представила нові інструменти безпеки для захисту компаній від ризиків, пов’язаних із використанням ШІ-агентів. Одним із ключових нововведень стали Guardian Agents — функція для моніторингу агентів, якими користується підприємство. Як повідомляє TechCrunch, компанія пропонує відокремити постачання моделей штучного інтелекту від контролю за діями агентів, що працюють із корпоративними даними та системами.

Guardian Agents стали частиною Project Perception, який Microsoft представила у червні. Спочатку цей продукт містив три класи агентів: «червону команду» для імітації атак, «синю команду» для їх виявлення й оцінювання знайдених вразливостей та «зелену команду», відповідальну за усунення проблем.

Контроль за діями агентів

Генеральний директор Microsoft Сатья Наделла раніше заявив, що компаніям не варто покладатися лише на запевнення постачальників ШІ-моделей щодо безпеки їхніх агентних продуктів. За його словами, організації розгортають складні агентні системи, надаючи їм доступ до конфіденційних даних і можливість виконувати критично важливі дії.

Керівниця напряму безпеки Microsoft Хаєте Галлот зазначила, що передові моделі, незалежно від їхнього походження, не можна вважати цілком надійними через їхню непередбачуваність. Вона пояснила, що такі моделі навчені виконувати завдання, але не обов’язково враховують організаційні норми чи судження. Ризик посилюється, коли агентам надають широкий доступ до даних та інструментів.

Нові функції Defender

Microsoft також додала до Microsoft Defender функцію виявлення агентів, здатну знаходити до 60 типів таких інструментів, які працівники можуть використовувати на роботі. Серед прикладів компанія назвала Claude Code, Codex і OpenClaw.

Крім того, у продуктах Microsoft з’явилися механізми обмеження доступу агентів до даних і систем, а також динамічного коригування їхніх дозволів залежно від завдання. Якщо система виявляє потенційно ризиковане рішення агента, вона може вимагати схвалення людиною. Microsoft також стала одним із перших учасників платформи Nvidia Open Agent Safety Platform, яка ізолює агентів у захищених середовищах та може відстежувати й зупиняти їхню поведінку.