IEEE Spectrum оприлюднив шість принципів управління ШІ в компаніях
Шраван Вадігепаллі описав шість принципів управління ШІ: від машинозчитуваних політик до контролю рішень за рівнем довіри.
Технологічний керівник Lowe’s Шраван Вадігепаллі запропонував шість принципів управління системами штучного інтелекту в компаніях. У публікації для IEEE Spectrum він наголошує, що фахівцям дедалі частіше доводиться не лише створювати ШІ-системи, а й визначати межі їхньої автономії, випадки обов’язкової ескалації до людини та дії, які системам заборонено виконувати.
Автор називає цю зміну переходом від безпосереднього виконання завдань до встановлення намірів, принципів і обмежень для систем, що діють самостійно. На його думку, бізнес-оператори мають визначати, які винятки, наприклад у ціноутворенні, ШІ-агент може схвалювати, а які повинен передавати людині.
Від правил до принципів
Першою рекомендацією Вадігепаллі називає розпізнавання ролі «людського проміжного шару» — працівника, який вручну переносить, переформатовує та передає інформацію між різними системами. Такі операції, за його оцінкою, ШІ-агенти вже здатні автоматизувати, тоді як оцінка ризиків, важливості показників і компромісів лишається людською функцією.
Автор також пропонує замінювати детальні правила принципами, розставленими за пріоритетом. Це має допомогти системам розв’язувати конфліктні ситуації, які неможливо передбачити в інструкціях для кожного окремого випадку. Серед прикладів принципів він називає заборону шкодити клієнтові, вимогу говорити правду навіть ціною втрати продажу та потребу захищати економічні інтереси бізнесу.
Цінності й політики компанії, за цією логікою, мають бути оформлені як машинозчитувані інструкції. Вадігепаллі описує три рівні: «конституцію» з непорушними обмеженнями, «доктрину» з допустимими бізнес-компромісами та «плейбук» із тактиками для конкретних завдань.
Контроль рівня довіри
Замість повної автономії ШІ або ручної перевірки кожної дії автор радить застосовувати «термостат довіри». За цією моделлю кожне рішення отримує оцінку впевненості: вище погодженого порога система діє самостійно, нижче — передає справу людині. Рішення людини мають повертатися в цикл навчання, а сам процес — лишатися прозорим, придатним до аудиту та пояснення.
Окремо Вадігепаллі звертає увагу на контекст даних. Він зазначає, що інформація в компаніях часто розпорошена між несумісними застосунками, через що ШІ не бачить повної картини. Автор описує цикл Connections, Context, Reasoning, Actions and Governance: підключення даних, формування контексту, ухвалення рішень, виконання дій та управління.
Людина для складних випадків
Шостий принцип — керувати за винятками: не перевіряти кожен рутинний процес, а зосереджуватися на неоднозначних, незнайомих або високоризикових ситуаціях, які система не змогла впевнено розв’язати. Автор вважає, що в умовах поширення ШІ ключовими людськими ресурсами стають судження та здатність обрати найкращий варіант серед кількох прийнятних.
Вадігепаллі посилається на звіт Project NANDA при MIT Media Lab за 2025 рік: попри оцінені інвестиції бізнесу в генеративний ШІ на рівні 30–40 млрд доларів, лише близько 5% інтегрованих пілотних проєктів у вибірці створювали суттєву цінність. Дослідники назвали цей розрив GenAI Divide.
