Microsoft представила захист від ШІ-агентів як від внутрішньої загрози

Microsoft представила нові засоби безпеки для корпоративних користувачів, покликані контролювати ШІ-агентів, яким надають доступ до чутливих даних і критично важливих систем. Одним із ключових нововведень стали Guardian Agents — функція моніторингу агентів, що входить до продукту Project Perception, повідомляє TechCrunch.

У Microsoft вважають, що такі системи слід розглядати подібно до потенційних внутрішніх загроз. Керівниця напряму безпеки компанії Хаєте Галлот заявила, що передові моделі незалежно від походження не можна вважати цілком надійними, оскільки вони є непередбачуваними. За її словами, моделі навчені виконувати завдання, а не дотримуватися організаційних норм чи людського судження.

Контроль за агентами

На початку місяця генеральний директор Microsoft Сатья Наделла у приватному блозі закликав компанії не покладатися лише на запевнення постачальників моделей щодо безпеки агентних продуктів. Він наголосив, що відповідальність за дії систем, які працюють із конфіденційною інформацією та можуть виконувати важливі операції, не можна передавати розробникам моделей.

Microsoft пропонує підприємствам застосовувати окремі системи нагляду й контролю, які не перебувають під управлінням лабораторій, що постачають моделі та агентів. Компанія формулює цей підхід як відокремлення постачання інтелекту від повноважень управляти ним.

Нові функції Defender

Компанія також додала до Microsoft Defender засіб виявлення агентів. За даними Microsoft, він здатен знаходити до 60 типів агентів, які працівники можуть використовувати на робочому місці, зокрема Claude Code, Codex та OpenClaw.

Серед інших заявлених можливостей — обмеження доступу агентів до даних і систем, динамічна зміна їхніх дозволів залежно від завдання, а також вимога схвалення людиною дій, які система може оцінити як ризиковані.

Project Perception Microsoft представила у червні як відповідь на потужні моделі для хакінгу. Спочатку продукт включав три класи агентів: «червону команду», що імітує атаки; «синю команду», яка виявляє дії першої та оцінює вразливості; і «зелену команду», відповідальну за їхнє усунення.