Шість AI-компаній підписали з Білим домом добровільну угоду про безпеку
Шість великих AI-компаній підписали з Білим домом добровільну угоду про заходи безпеки штучного інтелекту.
Керівники Google, Anthropic, Meta, OpenAI, xAI та Nvidia у вівторок підписали з Білим домом добровільну угоду щодо безпеки штучного інтелекту — The White House Accord on Super Intelligence. Документ оголосили після ланчу, який провів президент США Дональд Трамп.
Як повідомляє Wired, угода не встановлює обов’язкових правил для галузі. У ній зазначено, що компанії «мають запровадити» низку заходів, спрямованих на контроль за можливостями їхніх моделей та ризиками небажаної поведінки систем.
Зобов’язання компаній
Підписанти мають забезпечити надійний внутрішній контроль за можливостями моделей, зокрема за їхньою здатністю діяти непередбачено або здійснювати злам систем. Також угода закликає надати внутрішній команді повноваження перевіряти ці питання та усувати проблеми у разі їхнього виникнення.
Крім того, компаніям рекомендують співпрацювати із зовнішнім наглядовим органом, уповноваженим проводити незалежні оцінки. Ради директорів повинні створити комітети, які отримуватимуть звіти про виконання таких заходів.
Можлива перевірка FTC
Видання зазначає, що невиконання публічних обіцянок потенційно може розглядатися як введення споживачів в оману та порушення Закону про Федеральну торгову комісію США. Колишній головний технолог FTC Ніл Чілсон написав у X, що відомство могло б застосовувати такі зобов’язання, якщо компанія суттєво не виконає обіцяного.
Після зустрічі в Білому домі New York Post повідомила про намір FTC провести масштабне розслідування щодо Anthropic, OpenAI, інших неназваних передових AI-лабораторій та некомерційної організації METR, яка проводить сторонні оцінки. Речник FTC підтвердив Wired, що певне розслідування існує, але не уточнив його предмета. За даними New York Post, відомство ще не надсилало адресатам запити на надання документів, які зазвичай є одним із перших кроків розслідування.
