Гендиректор Microsoft Наделла закликав додати ШІ-моделям аварійне гальмо
Гендиректор Microsoft Сатья Наделла запропонував забезпечити ШІ-моделі механізмом аварійного призупинення та зовнішніми засобами контролю.
Генеральний директор Microsoft Сатья Наделла заявив, що системи штучного інтелекту мають отримати механізм, який дозволить уповноваженій людині призупинити або вимкнути модель під час виконання завдання. Він порівняв такий підхід з аварійним гальмом.
Про це Наделла написав у дописі в X у суботу, повідомляє TechCrunch. На його думку, настав час переосмислити архітектуру довіри до штучного інтелекту.
Контроль поза межами моделі
Наделла зазначив, що не можна ставитися до надінтелекту як до набору вкладених «чорних скриньок» і лише приймати або відхиляти рекомендації, відповіді та дії системи. Він запропонував відокремлювати саму модель від механізму, який організовує її роботу, а засоби контролю та захисту виносити назовні.
Фіксація дій системи
Очільник Microsoft також закликав документувати кожну суттєву дію моделі доказами, захищеними від втручання та зрозумілими для людини. За його словами, розробники мають від початку виходити з припущення, що модель може бути скомпрометована, і будувати системи її стримування.
Заява Наделли пролунала на тлі того, як провідні компанії у сфері штучного інтелекту визнають дедалі більше випадків, коли, за оцінкою TechCrunch, вони начебто втрачали контроль над своїми моделями. Раніше генеральний директор Anthropic Даріо Амодеї також оприлюднив план обережнішого розвитку ШІ.
