США запропонували Китаю механізм сповіщень про ризики штучного інтелекту

США та Китай розпочали переговори щодо ризиків, пов’язаних зі штучним інтелектом. Міністр фінансів США Скотт Бессент заявив, що сторони обговорили створення механізму сповіщень про безпеку ШІ, який міг би дозволити їм повідомляти одна одну про загрози або непередбачувану поведінку систем. Про це повідомляє Ars Technica.

За словами Бессента, цей канал також міг би використовуватися для обміну баченням спільних цілей. Водночас Китай публічно не підтвердив участі в запропонованій системі.

Зауваження до формату механізму

Співрозмовники Politico, обізнані з планом Бессента, вважають, що запропонований формат може бути поверховим, оскільки не передбачає залучення посадовців із технічною експертизою для оцінювання терміновості повідомлених ризиків.

Науковий співробітник Центру безпеки та новітніх технологій Джорджтаунського університету Сем Бреснік назвав відсутність технічного органу тривожним сигналом. На його думку, наявний канал комунікації кращий за створення нового, однак участь фахівців дала б країнам змогу вести змістовніші розмови про оцінювання ризиків, зокрема військових.

Головний аналітик Omdia Су Лянь Цзе зазначив, що сповіщення можуть підвищити прозорість, але не усунуть взаємної настороженості. Для дієвості такого інструменту, за його оцінкою, країни мають погодити класифікацію ризиків, умови для надсилання повідомлень, протоколи реагування та регулярний перегляд процедур.

Недовіра на тлі технологічного суперництва

Переговори відбуваються на тлі посилення США експортного контролю, спрямованого на обмеження доступу Китаю до технологій для розвитку ШІ. Два тижні тому Міністерство юстиції США звинуватило шість провідних китайських розробників ШІ у викраденні розробок американських передових лабораторій; Китай заперечив ці звинувачення.

Бреснік вважає, що Пекін може сприймати дискусії про безпеку ШІ з підозрою, якщо Вашингтон пов’язує їх із прагненням зберегти технологічну перевагу. Глобальний технологічний стратег Елвін Ван Ґрейлін наголосив, що США й Китай мають спільні ризики, зокрема можливе використання ШІ хакерами або терористами проти інфраструктури. За його словами, Китай регулярно проводить аудити моделей і міг би поділитися досвідом сотень таких перевірок, тоді як США мають більше досвіду в оцінюванні передових моделей.