Гендиректор Microsoft Наделла закликав вважати ШІ-моделі скомпрометованими
Гендиректор Microsoft Сатья Наделла закликав вважати ШІ-моделі скомпрометованими та запровадити механізми їхнього контролю.
Генеральний директор Microsoft Сатья Наделла заявив, що всі моделі штучного інтелекту слід від початку вважати скомпрометованими та застосовувати до них механізми стримування. Своє бачення ризиків, пов’язаних із високорозвиненими ШІ-моделями, він виклав у розлогому дописі в X.
Контроль над моделями
Наделла виступив проти підходу, за якого ШІ сприймають як набір вкладених «чорних скриньок», а люди лише приймають або відхиляють його поради та дії. За його словами, потрібна прозоріша система, у якій моделі можна ізолювати та спостерігати за ними, а їхня робота залишатиме захищені від втручання докази, зрозумілі людині.
Екстрене зупинення
Керівник Microsoft також запропонував передбачити для моделей своєрідне екстрене гальмо. Він вважає, що уповноважена людина повинна мати змогу призупинити або вимкнути модель посеред виконання завдання.
Для складніших моделей, на думку Наделли, знадобляться досконаліші технології стримування, які необхідно стандартизувати. Серед інших кроків він згадав своєчасне розкриття інформації про інциденти, незалежний аудит і дані, які можна перевірити.
Про позицію Наделли повідомляє The Verge.
