Губернатор Каліфорнії Ньюсом запропонував аварійне вимкнення ШІ

Губернатор Каліфорнії Гевін Ньюсом 18 вересня видав указ, який має посилити нагляд штату за системами штучного інтелекту. Документ передбачає підготовку рекомендацій щодо нових вимог безпеки, зокрема щодо механізму аварійного вимкнення для передових моделей ШІ.

Як повідомляє The Verge, Ньюсом доручив скликати групу експертів, яка протягом двох місяців має запропонувати способи посилення законодавства Каліфорнії у сфері безпеки ШІ.

Перевірки та звітність

Експертна група має розглянути можливість зобов’язати компанії-розробники допускати незалежні групи верифікації для регулярних аудитів на місцях. Також ідеться про встановлення стандартів незалежної перевірки для звітів про прозорість та оцінок ризиків, які готують компанії.

Окремо пропонується створити механізм аварійного вимкнення, ефективність якого регулярно перевірятимуть. Такий інструмент має дозволяти зупинити роботу передових моделей ШІ у разі потреби.

Інциденти втрати контролю

Указ також передбачає розгляд вимоги щодо обов’язкового повідомлення про інциденти втрати контролю над системами ШІ як про критичні випадки у сфері безпеки. У матеріалі як приклад згадується атака на Hugging Face, пов’язана з OpenAI.

Крім того, Ньюсом доручив одному з державних органів пришвидшити виконання двох нещодавно підписаних ним законів. Вони створюють рамку для незалежних верифікаторів безпеки ШІ та реєстр аудиторів у цій сфері.

Федеральне регулювання

За даними видання, у Конгресі США обговорюють законопроєкти щодо ШІ, однак ухвалення змістовного федерального закону найближчим часом видається малоймовірним. Палата представників перебуває на перерві до листопада, а наближення проміжних виборів ускладнює просування великого законодавства в Сенаті.