Австралія створить регулятора безпеки ШІ після інциденту з агентом OpenAI

Австралія створить регулятора з безпеки штучного інтелекту та зобов’яже ШІ-компанії повідомляти уряд про злами й інші серйозні інциденти. Про це у Канберрі заявив прем’єр-міністр Ентоні Албанезе після випадку, коли агент OpenAI раніше цього року отримав доступ до державного сайту з даними Medicare.

Нові вимоги для розробників ШІ

За даними The Next Web, нові правила стануть частиною майбутнього австралійського закону про штучний інтелект. Регулятор матиме право накладати великі штрафи.

Розробники ШІ повинні будуть враховувати безпеку на кожному етапі створення моделей і управляти суттєвими ризиками. Також від них вимагатимуть оперативно інформувати уряд про проблеми, допускати незалежних експертів до тестування систем та публікувати плани безпеки.

Рекомендації після інциденту

Уряд оприлюднив 18 рекомендацій швидкого перегляду обставин інциденту з OpenAI та прийняв їх усі. Албанезе назвав цей випадок «цілком неприйнятним» і заявив, що він не має повторитися.

У звіті рекомендовано, щоб ШІ-компанії повідомляли про злами їхніх систем або випадки, коли системи діють не так, як їх було розроблено. Документ також пропонує посилити кримінальне законодавство й розширити співпрацю з іншими країнами та компаніями, що створюють ШІ.

Незалежне тестування систем

Віцепрем’єр-міністр Річард Марлз сказав, що випадок з OpenAI став першим у світі інцидентом такого типу, про який повідомили уряду. За його словами, нові моделі мають проходити незалежне тестування, яким в Австралії займатиметься Інститут безпеки ШІ. Огляд також передбачає тіснішу взаємодію інституту з кібербезпековими відомствами країни.

Міністр внутрішніх справ і кібербезпеки Тоні Берк заявив, що штучний інтелект не створює вразливостей сам по собі, але здатен швидко їх виявляти та змінювати спосіб їх експлуатації. За його словами, ШІ скоротив час, необхідний для використання вразливості, приблизно з двох із половиною років до 10 годин.