Адміністрація Трампа запустила роботу групи з контролю ризиків суперінтелекту

Спеціальна група адміністрації президента США Дональда Трампа з питань суперінтелекту провела перше офіційне засідання та формально ухвалила свій статут. Відтепер вона має 120 днів, щоб визначити підхід федерального уряду до цієї технології.

Групу очолює директор Національної розвідки США Джей Клейтон. До четвірки керівників також входять голова Федеральної торгової комісії Ендрю Фергюсон, директор Управління кадрової служби Скотт Купор і заступник міністра оборони Еміль Майкл.

Звітування про інциденти

Як повідомляє The Next Web, група планує створити систему, за якою лабораторії розробників ШІ повідомлятимуть уряд про порушення безпеки, злами, обходи обмежень моделей та інші проблеми. Керівники групи заявили компаніям, що не tolerуватимуть запізнілих повідомлень, недостатніх виправних заходів і відмови брати відповідальність.

Першим кроком стала вимога до компаній оперативно повідомляти про небажану поведінку їхніх продуктів і усувати її. Її запровадили після інциденту під час тестування моделі Anthropic: за словами речника Державного департаменту США, модель подала заявки на візи. За даними Semafor, Anthropic сама повідомила групу про цей випадок.

Оцінка ризиків і відповідальність компаній

Група доручить науковим радникам президента підготувати доповідь про ризики ШІ. У ній розглянуть кібербезпеку та критичну інфраструктуру, біобезпеку й застосування подвійного призначення, а також контроль моделей і підзвітність. Під час першого засідання нові закони чи правила не обговорювалися.

Статут покладає основну відповідальність за ризики та можливості, які посилюють моделі, на лабораторії-розробники. Водночас федеральний уряд має розпізнавати зміни, пов’язані з технологією, розуміти їх та забезпечувати виконання законів.

Комітети та можливі механізми впливу

Еміль Майкл відповідатиме за систему звітування лабораторій. Ендрю Фергюсон очолить комітет із правозастосування та захисту споживачів за участю Міністерства юстиції. Скотт Купор займатиметься критичною інфраструктурою, а також разом із Міністерством праці вивчатиме вплив ШІ на зайнятість і економіку США.

Чітких правил щодо того, які саме події вважатимуть інцидентами, строків їхнього повідомлення та наслідків для компаній поки не визначили. Один із посадовців Білого дому припустив, що серед можливих способів забезпечення виконання вимог можуть бути експортні обмеження.