Губернатор Ньюсом ініціював розробку вимог до аварійного вимкнення ШІ

Губернатор Каліфорнії Гевін Ньюсом видав указ, який має посилити нагляд штату за штучним інтелектом, зокрема передбачити можливу вимогу щодо механізму аварійного вимкнення для передових моделей ШІ. Про це повідомляє The Verge.

Указ доручає зібрати групу експертів, яка протягом двох місяців має підготувати рекомендації щодо зміцнення норм безпеки ШІ в законодавстві Каліфорнії.

Регулярні перевірки безпеки

Група має розглянути можливість зобов’язати компанії, що розробляють ШІ, залучати незалежні групи верифікації для регулярних аудитів безпосередньо на місцях. Також ідеться про встановлення вимог до незалежної перевірки звітів компаній про прозорість і оцінок ризиків.

Окремо експерти мають оцінити, як запровадити механізм аварійного вимкнення, ефективність якого регулярно підтверджуватимуть. Крім того, компаніям можуть встановити обов’язок повідомляти про інциденти втрати контролю над системами як про критичні події у сфері безпеки.

Впровадження нових законів

Указ також доручає державній агенції пришвидшити виконання двох нещодавно підписаних Ньюсомом законів. Вони створюють рамку для роботи незалежних верифікаторів, які оцінюватимуть безпеку ШІ, а також державний реєстр аудиторів у цій сфері.

За даними видання, у Конгресі США після заяв колишнього дослідника Anthropic Джейкоба Коксона обговорювали законодавчі ініціативи щодо ШІ. Водночас перспективи ухвалення змістовного федерального закону найближчим часом оцінюють як низькі: Палата представників перебуватиме на перерві до листопада, а наближення проміжних виборів ускладнює просування масштабних законодавчих рішень у Сенаті.