Anthropic пропонує блокувати ШІ-моделі за ризику збитків від 1 млрд доларів
Anthropic пропонує блокувати ШІ-моделі у США за ризику збитків від 1 млрд доларів або загибелі чи тяжких травм 50 людей.
Компанія Anthropic у проєкті федерального законодавства США пропонує дозволити владі блокувати випуск нових моделей штучного інтелекту лише у разі потенційних збитків щонайменше на 1 млрд доларів або загрози загибелі чи тяжкого травмування 50 і більше людей. Про це повідомляє TechSpot з посиланням на конфіденційний проєкт документа, який отримало Politico.
За даними видання, такі ризики мають бути пов’язані зі створенням або поширенням біологічної зброї, виходом моделі з-під контролю її розробника або кібератакою. Представник Anthropic назвав документ таким, що містить «розумні політики, щодо яких, на нашу думку, Конгрес має діяти».
Оцінювання моделей
Проєкт передбачає періодичне оцінювання лабораторії та її передових моделей незалежними експертами, зареєстрованими в Міністерстві торгівлі США. Водночас лабораторія може оплачувати роботу оцінювачів, якщо це не впливає на їхню незалежність.
Якщо оцінювач виявить потенційний ризик, який відповідає встановленим критеріям, він повинен повідомити про це Міністерство торгівлі протягом 72 годин після завершення оцінки. Після цього відомство має надати докази федеральному судді Окружного суду США округу Колумбія, який вирішуватиме, чи слід зупинити випуск моделі.
Обмеження повноважень
Документ також передбачає, що жоден інший департамент, орган чи установа США не зможе призупинити розробку, розгортання або внутрішнє використання моделі. Представник Anthropic заявив, що законопроєкт відображає пропозиції, викладені компанією в її Advanced AI Framework, яку вона просуває серед федеральних і штатних законодавців із червня.
Politico зазначає, що формулювання проєкту перегукуються із законами Каліфорнії щодо штучного інтелекту, зокрема SB 5, який був підписаний торік.
