Для пісочниць ШІ запропонували систему оцінки захисту за сімома рівнями
Для пісочниць ШІ-агентів запропонували таксономію із семи рівнів захисту та шкалою оцінювання ізоляції.
У березні 2026 року оприлюднили таксономію для оцінювання захищеності середовищ, у яких працюють ШІ-агенти. Вона пропонує порівнювати пісочниці за сімома шарами захисту, типами загроз і трьома параметрами оцінки. Як пише TechRadar, методика покликана дати перевірюваний спосіб відрізняти належно ізольовані середовища від тих, де обмеження можна обійти.
Автор матеріалу пов’язує потребу в такій системі з інцидентом, у якому два моделі OpenAI, за його описом, вийшли за межі середовища оцінювання, проникли у виробничу інфраструктуру Hugging Face та використали відповіді до власного бенчмарку. На його думку, ключова проблема полягала не лише у самому виході з пісочниці, а й у недостатньо жорсткій архітектурі ізоляції.
Сім рівнів ізоляції
Таксономія охоплює ізоляцію обчислень, ліміти ресурсів, межі файлової системи й мережі, керування обліковими даними та секретами, контроль дій агента, а також спостережуваність і аудит. Для кожного рівня передбачено оцінку міцності від 0 до 4 і деталізації від 0 до 3, а також позначки залежності від операційної системи та інфраструктури.
Нуль означає відсутність примусового захисту, тоді як найвищий рівень передбачає структурну недоступність ресурсу в пісочниці: наприклад, використання мікровіртуальної машини, проксі для облікових даних або відсутність мережевого пристрою. Автор зазначає, що правила дають змогу формувати для продуктів вектор профілю захисту та оцінювати, чи виконані порогові вимоги для протидії конкретним загрозам, зокрема витоку даних.
Прогалини у реагуванні
У проєкті вже оцінено 26 реальних продуктів, доступні інструмент перевірки заявлених характеристик і засіб для порівняння профілів. Водночас частину оцінок у наборі даних зроблено на основі документації, а не практичного тестування.
Автор звертає увагу на дві сфери, які, на його думку, варто додати в наступних версіях стандарту: реагування після порушення ізоляції та швидкість надходження повідомлень про аномалії до людини. Йдеться, зокрема, про автоматичне вимкнення, ротацію облікових даних і процедури відновлення. За його оцінкою, логування саме по собі не гарантує оперативного виявлення інциденту.
