Anthropic надасть аудиторам METR доступ до внутрішніх систем компанії
Anthropic надасть шістьом аудиторам METR доступ до внутрішніх систем для незалежної оцінки ризиків моделей ШІ.
Компанія Anthropic оголосила, що надасть шістьом оцінювачам некомерційної організації METR доступ до внутрішніх інструментів і систем, приблизно співставний із доступом власних команд оцінювання ризиків. Аудитори отримають обладнання Anthropic і робочі місця в офісах компанії, повідомляє ZDNET.
Anthropic назвала такий формат «доступом рівня співробітників». Працівникам компанії рекомендуватимуть ділитися з представниками METR інформацією так само, як із колегами, що працюють над ризиками вирівнювання штучного інтелекту. Водночас доступ не поширюватиметься на чітко визначені категорії даних, зокрема відомості про клієнтів, інформацію під захистом адвокатської таємниці та дані про архітектуру моделей.
Публікація висновків METR
METR оприлюднюватиме результати своєї роботи, і Anthropic не матиме права приховувати ці висновки. Компанія може звертатися з проханням вилучити чутливу інформацію, якщо це буде необхідно. Anthropic пояснила, що не здатна публічно розкривати всі деталі своєї роботи з безпеки, оскільки частина відомостей може бути корисною зловмисникам або мати комерційну чутливість, зокрема дані про обчислювальні ресурси та навчання моделей.
Генеральний директор Anthropic Даріо Амодеї у вересні пропонував залучати оцінювачів із некомерційних організацій на постійній основі як один із підходів до контролю за розвитком передових моделей. Компанія заявила, що прагне скоротити розрив між тим, що незалежні оцінювачі знають про системи розробника ШІ, і тим, що відомо самій компанії.
Регуляторний контекст
Незалежне тестування моделей ШІ поки не є обов’язковою вимогою законодавства. У липні у США представили двопартійний законопроєкт FRONTIER Act, який передбачає, що певні компанії у сфері ШІ мають допускати незалежні організації до перевірки безпеки процесів розробки. У середині вересня OpenAI висловила часткову підтримку законопроєкту.
ZDNET також зазначає, що Федеральна торгова комісія США напередодні направила повістки OpenAI та Anthropic через занепокоєння можливою шкодою для споживачів. Раніше уряд США повідомив про намір вимагати від компаній, що розробляють ШІ, розкривати дані про інциденти з безпекою та порушення захисту систем.
