Anthropic надасть METR доступ рівня співробітників для незалежної оцінки
Anthropic надасть шістьом дослідникам METR внутрішній доступ для незалежної оцінки моделей, ризиків і практик безпеки.
Компанія Anthropic надасть шістьом дослідникам некомерційної організації METR доступ до внутрішніх систем на рівні співробітників, щоб вони незалежно оцінювали моделі компанії, її практики безпеки та управління ризиками. Про це повідомляє TechCrunch.
METR тестує передові моделі штучного інтелекту. За новою домовленістю її команда зможе публікувати власні оцінки ризиків, інцидентів і практик Anthropic, а компанія не матиме права блокувати такі публікації.
Доступ до внутрішніх інструментів
Дослідникам METR нададуть корпоративні ноутбуки Anthropic, робочий простір в офісі та доступ до внутрішніх інструментів, приблизно співставний із можливостями власних команд компанії з оцінювання ризиків. Працівникам Anthropic рекомендуватимуть ділитися з ними інформацією так само, як із колегами, що працюють над ризиками, пов’язаними з узгодженістю ШІ.
В Anthropic заявили, що прагнуть бути публічно підзвітними за свої рішення та скоротити розрив між розумінням систем оцінювачами й самою компанією. Компанія порівняла формат співпраці з практикою розміщення постійних інспекторів регуляторів у найбільших банках.
Правила публікації оцінок
Anthropic не зможе накладати вето на публікації METR, але зможе вимагати вилучення відомостей із вузького, заздалегідь визначеного переліку. До таких категорій належать дані клієнтів, інформація, захищена адвокатською таємницею, а також відомості про архітектуру моделей.
METR зберігає право публічно характеризувати такі вилучення та вказувати, чи вважає їх обґрунтованими, не розкриваючи саму вилучену інформацію. Організація стала єдиним оцінювачем у верхньому з трьох рівнів системи, яку будує Anthropic. Нижній рівень передбачає вузькі перевірки з погодженням публікації компанією, а середній дає більше інформації та можливість публікувати висновки без такого погодження.
У вересневому есе генеральний директор Anthropic Даріо Амодеї пропонував залучати зовнішніх оцінювачів безпосередньо до роботи лабораторій ШІ. Згодом OpenAI заявила про аналогічний намір, а Anthropic, OpenAI, Google, Meta, Nvidia та xAI підписали угоду Білого дому щодо незалежного оцінювання.
