Експерт назвав шість принципів управління корпоративним ШІ

Технологічний керівник Lowe’s і старший член IEEE Шраван Вадігепаллі запропонував шість принципів управління корпоративними системами штучного інтелекту. На його думку, відповідальність працівників дедалі більше зміщується від виконання рутинних операцій до встановлення намірів, правил і меж, у яких працюють ШІ-агенти.

Як повідомляє IEEE Spectrum, Вадігепаллі називає цю зміну переходом до управління: інженери, менеджери продуктів, аналітики та бізнес-оператори мають визначати, які рішення система може ухвалювати самостійно, у яких випадках повинна передавати справу людині та які дії для неї мають бути забороненими.

Принципи замість жорстких правил

Автор радить спершу виявити працівників, які виконують роль «людського проміжного ПЗ»: переносять дані між різними інструментами, переформатовують їх і передають іншим командам. Такі повторювані операції, за його оцінкою, ШІ-агенти можуть виконувати ефективно, тоді як люди мають зосередитися на оцінюванні ризиків, пріоритетів і компромісів.

Замість великої кількості детальних правил він пропонує формулювати принципи в порядку пріоритетності. Це має допомогти системі діяти у ситуаціях, які не передбачені інструкціями. Серед прикладів таких принципів — не шкодити клієнту, говорити правду навіть ціною втрати продажу, захищати економічні інтереси компанії та діяти швидко.

Корпоративні цінності й політики, на думку Вадігепаллі, варто оформлювати у машиночитному вигляді. Він пропонує три рівні: «конституцію» з непорушними обмеженнями, «доктрину» з допустимими бізнес-компромісами та «плейбук» із тактиками для конкретного завдання.

Людина для складних випадків

Для контролю ШІ-систем автор пропонує модель «термостата довіри», а не простого перемикача. Рішення з рівнем упевненості, що перевищує погоджений поріг, система може виконувати самостійно. Якщо показник нижчий, рішення передають людині, а її відповідь використовують у подальшому циклі навчання. Вадігепаллі наголошує, що такі рішення мають залишатися прозорими, придатними до аудиту та пояснюваними.

Окремою умовою він називає якісний контекст: дані про транзакції, договори, звернення клієнтів та інші відомості часто зберігаються у несумісних системах. Автор описує цикл Connections, Context, Reasoning, Actions and Governance, у якому зв’язки постачають дані, контекст об’єднує їх у цілісну картину, а управління забезпечує відповідність рішень намірам компанії.

Він також закликає керувати «за винятками»: не перевіряти кожну рутинну операцію, а приділяти увагу неоднозначним, незнайомим або високоризиковим випадкам. За даними згаданого в публікації звіту MIT Media Lab Project NANDA за 2025 рік, за інвестицій у корпоративний генеративний ШІ на рівні 30–40 млрд доларів лише близько 5% інтегрованих пілотних проєктів створювали суттєву цінність.