Okta та партнери закликали запровадити аварійне вимкнення ШІ-агентів
Okta, AWS, Google Cloud і Salesforce створили альянс для контролю ШІ-агентів та закликали запровадити механізми їхнього швидкого вимкнення.
Okta, Amazon Web Services, Google Cloud, Salesforce та інші компанії створили Blueprint Alliance, що пропонує бізнесу підхід до контролю й управління агентами штучного інтелекту. Одним із шести операційних принципів альянсу є вимога, щоб кожен агент мав механізм негайного призупинення або припинення роботи з можливістю відновити її. Про це повідомляє ZDNET.
Альянс представили на щорічній конференції Okta Oktane. Його перший план дій зосереджений на чотирьох питаннях: де в організації працюють агенти, які можливості вони мають, що саме роблять і як реагувати на підозрілу чи небажану активність.
Контроль доступу через токени
Під «аварійним вимкненням» може розумітися відкликання OAuth-токена — облікових даних, які дозволяють одному застосунку отримувати визначений доступ до іншого від імені користувача. Це може повністю позбавити агента доступу до системи або скасувати окремі дозволи, наприклад на роботу з певними даними.
Для централізованого управління такими процесами потрібна підтримка постачальниками ідентифікаційних сервісів нового розширення OAuth — Identity Assertion Authorization Grant, розробленого в межах Internet Engineering Task Force. Воно передбачає, що центральний постачальник ідентифікації може керувати авторизацією агентів.
Демонстрація реагування за секунди
На Oktane Okta продемонструвала сценарій, у якому агент на базі Claude мав доступ до Slack, Salesforce, Atlassian і GitHub через два шлюзи агентів. Коли його попросили переслати конфіденційну інформацію із Salesforce на особисту електронну адресу працівника, інший агент виявив заборонену дію, відкликав доступ першого агента до Salesforce, сповістив власника агента та надіслав деталі ІТ-відділу через Slack.
Головний директор із продуктів Okta Елі Кан пояснив, що в одних ситуаціях організації можуть повністю зупинити агента, а в інших — встановити нове обмеження, зокрема заборонити виведення певних даних або змінити його дозволи. Okta також представила інструменти для виявлення несанкціонованих ШІ-агентів у корпоративних мережах і зведення даних про ризики з інших систем безпеки.
