Microsoft оприлюднила кодекс гуманістичного ШІ з пріоритетом контролю людини

Microsoft 14 вересня оприлюднила 37-сторінковий кодекс гуманістичного штучного інтелекту, в якому заявила, що люди важливіші за ШІ, а моделі мають залишатися під змістовним людським наглядом і контролем. Документ представили на тлі посилення дискусій про безпеку та темпи розвитку дедалі складніших моделей, повідомляє The Verge.

Пріоритет людини над моделями

У кодексі Microsoft зазначає, що моделі ШІ не є свідомими та не повинні створюватися для імітації свідомості. Компанія також відкидає ідею юридичної особистості для моделей, можливість надання їм прав або врахування їхнього добробуту.

Microsoft зобов’язується не створювати моделі, здатні вийти за межі людського контролю. Згідно з документом, система має відмовитися від виконання завдання, якщо його виконання вимагатиме порушення принципів кодексу. Компанія заявила, що прагне створювати корисні та безпечні системи, навіть якщо це означатиме компроміс щодо універсальності, автономності або можливостей моделей.

Обмеження автономності та комунікації

Окремим принципом стало обмеження комунікації моделей: Microsoft заявила, що її ШІ не має взаємодіяти в будь-якій формі, яка виходить за межі простого людського розуміння, зокрема у власних міркуваннях або під час обміну даними з іншими агентами й системами ШІ. Компанія також планує стримувати моделі від сценаріїв взаємодії, що можуть формувати надмірну залежність або емоційну прив’язаність користувачів.

Генеральний директор Microsoft Сатья Наделла раніше заявив, що розробка суперінтелекту має ґрунтуватися на принципі користі для людства та перебувати під людським контролем. Він також підтримав активніше незалежне тестування моделей ШІ.

Безпекові дискусії в галузі

Генеральний директор Anthropic Даріо Амодеї напередодні закликав до скоординованого уповільнення розробки ШІ. Це сталося після попереджень дослідників, що прогрес моделей може випередити здатність безпечно впроваджувати, перевіряти та контролювати складні системи й агентів.

Microsoft заявила, що працюватиме з партнерами над удосконаленням оцінювання роботи моделей у реальному середовищі, а також над вивченням впливу тривалого використання ШІ на людей та організації.