Опитування PwC показало розбіжності щодо відповідальності за ризики ШІ
PwC: компанії не мають спільної позиції щодо відповідальності за ризики та безпеку агентного штучного інтелекту.
Керівники бізнесу та технологічних підрозділів не мають спільної позиції щодо того, хто повинен відповідати за ризики, безпеку й управління агентним штучним інтелектом. Про це свідчить дослідження Digital Trust Insights 2027 консалтингової компанії PwC, про яке повідомляє ZDNET.
PwC опитала приблизно 4 тисячі керівників бізнесу і технологічної сфери у 71 країні. За результатами опитування, 47% респондентів заявили, що кібербезпека є постійним пунктом порядку денного їхніх рад директорів. Водночас дев’ять із десяти бізнес-лідерів повідомили про наявність таких практик, як нагляд ради директорів, відповідальність керівництва та інтеграція ризиків у роботу компанії.
Кому доручають відповідальність
Лише близько третини організацій — 33% — визнали потребу в окремій відповідальності за ШІ та створили спеціалізовані посади або функції, зокрема посади керівника напряму штучного інтелекту чи членів ради директорів із питань ШІ.
Серед опитаних 29% генеральних директорів, а також керівників безпеки й управління ризиками вважають, що відповідальність має бути покладена на CIO, CTO або іншу технологічну роль. Ще 17% назвали відповідальними керівника інформаційної безпеки чи команди кібербезпеки. На думку 26% респондентів, за це повинен відповідати спеціальний керівник або окрема функція ШІ. Ще 11% заявили, що відповідальність лишається нечіткою та розподіляється між кількома посадами чи підрозділами.
Контроль за агентами ШІ
У матеріалі зазначається, що агенти ШІ мають власну ідентичність, облікові дані та різні рівні доступу до ресурсів і інформації, а також можуть виконувати дії від імені працівника. Директор із продукту та стратегії RSA Джим Тейлор вважає, що до таких систем слід застосовувати ті самі засоби контролю ідентичності, які десятиліттями використовують для захисту людських користувачів.
Як приклад він назвав централізовану платформу для реєстрації дозволених у корпоративній мережі агентів ШІ. Кожен агент може бути пов’язаний із відповідальним працівником, який має особисто схвалювати дії з високим рівнем ризику. Тейлор також рекомендував регулярно оцінювати агентів ШІ та виводити їх з експлуатації, коли вони більше не потрібні.
