Експертка закликала запровадити незалежний нагляд за ШІ

Експертка закликала запровадити незалежний нагляд за ШІ

Правознавиця Сінді Скач закликала доповнити декларації цінностей ШІ незалежним контролем і механізмами відповідальності.

Емеритована професорка права Королівського коледжу Лондона Сінді Скач закликала поєднати декларації цінностей для систем штучного інтелекту з незалежними інституціями, які могли б контролювати їхнє дотримання та розглядати порушення прав людини. На її думку, технологічні компанії не повинні самостійно оцінювати власну відповідність правилам.

У колонці для Nature вона зазначила, що політики та розробники передових моделей ШІ дедалі частіше запозичують лексику конституційного права, однак такі документи не містять інституційних запобіжників, необхідних для виконання проголошених зобов’язань.

 

Цінності без механізму контролю

 

Як приклад Скач навела оприлюднену у вересні доповідь Спільного комітету з прав людини парламенту Великої Британії щодо регулювання ШІ. У документі понад 100 разів згадуються права людини, проте не пояснюється, які саме права мають захищатися та яким способом.

Також авторка звернула увагу на «конституцію» моделі Claude, яку розробила компанія Anthropic із Сан-Франциско. Документ визначає серед пріоритетів, зокрема, збереження автономії користувача. Водночас компанія визнає, що окремі цінності, зокрема автономія та добробут, можуть суперечити одна одній. За оцінкою Скач, у цьому підході немає незалежного арбітра для вирішення таких конфліктів або моніторингу порушень із боку системи ШІ.

 

Приклад німецького конституціоналізму

 

Скач пропонує звернутися до досвіду повоєнної Німеччини. Основний закон країни, ухвалений 1949 року, поставив людську гідність у центр конституційного порядку — як найвищу цінність і як право, порушення якого можна оскаржити в суді. Через два роки почав працювати незалежний Федеральний конституційний суд, до якого громадяни можуть звертатися безпосередньо.

На думку правознавиці, розробникам передових ШІ-систем і політикам варто серйозно розглянути ці риси німецької моделі. Вона вказала, що людина, чиє право на гідність порушив створений ШІ діпфейк або чатбот, який спілкується з користувачем у кризовому стані як зі звичайною взаємодією, могла б звернутися до суду безпосередньо. Це дало б змогу зупинити порушника та притягнути його до відповідальності.