Технологічні компанії погодили правила саморегулювання ШІ у США
Google, Meta, OpenAI, Anthropic, xAI та Nvidia підписали у США угоду про саморегулювання безпеки систем штучного інтелекту.
Керівники Google, Anthropic, Meta, OpenAI, xAI та Nvidia підписали у США домовленість про саморегулювання безпеки систем штучного інтелекту. Угода має назву Joint Commitment On Frontier Responsibilities і передбачає, що компанії запроваджуватимуть внутрішній та зовнішній нагляд за розробкою і використанням передових моделей ШІ.
Домовленість, яку президент США Дональд Трамп оголосив напередодні, назвали «морально зобов’язальною». Її оприлюднив засновник технологічної компанії та радник президента Девід Сакс. Про деталі документа повідомляє The Verge.
Підписанти угоди
Документ підписали генеральний директор Google Сундар Пічаї, генеральний директор Anthropic Даріо Амодеї, генеральний директор Meta Марк Цукерберг, президент OpenAI Грег Брокман, генеральний директор xAI Ілон Маск і генеральний директор Nvidia Дженсен Хуанг.
У вступі до угоди зазначено, що кожна компанія відповідальна за безпечну розробку власних технологій та за зміцнення довіри клієнтів і суспільства. Учасники також мають регулярно зустрічатися, щоб визначати стандарти й найкращі практики для підвищення безпеки своїх систем.
Чотири механізми контролю
Угода визначає чотири вимоги для компаній. Вони мають запровадити надійні внутрішні механізми контролю за можливостями моделей та їхньою відповідністю поставленим завданням під час навчання і розгортання. Такий моніторинг стосуватиметься, зокрема, кібербезпеки, біобезпеки, хімічних загроз, а також недопущення несанкціонованого доступу моделей до технічних систем.
Компанії також повинні надати внутрішнім командам повноваження перевіряти роботу контролю, моніторингу й систем виявлення проблем та усувати виявлені недоліки. Крім того, кожен підписант має співпрацювати з незалежним зовнішнім аудитором або оцінювачем для незалежної перевірки цих механізмів.
Окрема незалежна комісія ради директорів кожної компанії контролюватиме звіти внутрішніх команд, аудиторів і оцінювачів, а також стежитиме за усуненням виявлених проблем. У документі йдеться, що такі кроки мають надати компаніям, їхнім користувачам і громадськості впевненість у тому, що технологія працює за призначенням.
