Anthropic відкрила METR доступ до внутрішніх систем для оцінки ризиків ШІ

Компанія Anthropic надала некомерційній організації METR доступ до свого офісу, обладнання та внутрішніх систем для незалежної оцінки ризиків моделей штучного інтелекту. Шість співробітників METR отримали корпоративну техніку, робочі місця й рівень доступу, приблизно співставний із доступом внутрішніх команд Anthropic, що займаються оцінюванням ризиків, повідомляє Ars Technica.

Незалежне оцінювання моделей

METR працювала з провідними розробниками ШІ, зокрема OpenAI, Anthropic, Google і Meta. Anthropic заявила, що потужніші моделі потребують посилених запобіжників і складніших процедур оцінювання ризиків. Компанія зазначила, що прагне бути підзвітною суспільству, але не може розкривати всю інформацію, пов’язану з її роботою з безпеки.

За словами Anthropic, співробітників компанії заохочують ділитися з оцінювачами інформацією так само, як із колегами, що працюють у сфері управління ризиками. Компанія порівняла цей підхід із банківським наглядом, за якого регулятори можуть направляти постійних інспекторів до найбільших банків.

Право на публікацію висновків

METR зможе самостійно публікувати результати свого аналізу, а Anthropic не матиме права ветувати такі публікації. Водночас компанія може вимагати вилучення окремих категорій даних — зокрема інформації клієнтів, відомостей, захищених адвокатською таємницею, або деталей архітектури моделей.

Anthropic не платить METR за цю співпрацю. Дослідницька група не приймає пожертв від ШІ-компаній або їхніх працівників; її фінансують приватні особи, благодійні організації та державні структури, серед яких британський Інститут безпеки ШІ.

Компанія також повідомила, що продовжує співпрацю з Accenture у сфері тестування безпеки, а ще одним зовнішнім тестувальником є SecureBio, яка оцінює ризики, пов’язані з хімічною та біологічною зброєю. METR заявила, що готова працювати з усіма розробниками передових ШІ-систем, аби надавати суспільству більше доказів щодо їхньої безпеки.