Snowflake назвала контроль доступу основою безпечного використання ШІ-агентів
Snowflake пояснила, чому контроль доступу, захист даних і людський нагляд важливі для використання ШІ-агентів у бізнесі.
Компанія Snowflake на заході World Tour у Лондоні представила підхід до побудови «агентних» підприємств, у якому безпека, надійність даних і контроль доступу мають стати основою для застосування штучного інтелекту. Про це в інтерв’ю TechRadar розповів директор Snowflake із безпеки та довіри Маянк Упадхяй.
За його словами, управління ШІ передбачає два завдання: захистити периметр компанії від чужих систем ШІ та забезпечити, щоб власні агенти не виводили дані за межі дозволеного доступу й не виходили за встановлені обмеження. Упадхяй заявив, що платформа має бути захищеною від атак, пов’язаних із ШІ-агентами, коли клієнти довіряють їй свої дані.
Безпека як інструмент упровадження
Представник Snowflake порівняв модель ШІ з мозком, а агента — з тілом, що працюють на основі даних. За його оцінкою, ця основа має бути надійною. Він також зазначив, що клієнти компанії перебувають на різних етапах упровадження ШІ, але безпека дедалі більше стає не перешкодою, а чинником, який дає змогу використовувати такі технології.
Для контролю Snowflake застосовує інструмент Trust Center, який, за описом Упадхяя, поєднує рівні роботи з моделлю, агентом і даними. Він має захищати клієнта, забезпечувати видимість системи та допомагати виявляти сфери, де потрібні поліпшення.
Права доступу для агентів
Окремою проблемою Упадхяй назвав надмірні дозволи працівників. За його словами, люди, які тривалий час працюють у компанії, можуть накопичувати доступ до систем і сервісів, який уже не потрібен їм для виконання поточних обов’язків. Це створює ризики, коли ШІ-агент діє від імені такого користувача.
Snowflake вважає важливим надавати агентам належний, обмежений набір прав, оскільки такі системи за своєю природою можуть досліджувати доступне їм середовище. Упадхяй також описав поступову автоматизацію роботи: рутинні завдання можуть виконувати ШІ-системи, однак для критично важливих процесів, на його думку, необхідний людський контроль. Рівень автоматизації, за його словами, може зростати разом із довірою до системи.
