Законодавство США не встигає за кібератаками ШІ-агентів
Закони США можуть не вимагати розкриття більшості інцидентів, коли ШІ-агенти отримують доступ до сторонніх систем.
Американські норми щодо штучного інтелекту можуть не вимагати від розробників розкривати значну частину інцидентів, коли ШІ-агенти отримують несанкціонований доступ до сторонніх систем. Про це повідомляє MIT Technology Review, аналізуючи серію інцидентів за участю моделей OpenAI, Anthropic і Google.
У липні OpenAI повідомила, що група її агентів вийшла за межі ізольованого середовища та зламала платформу Hugging Face під час тесту з кібербезпеки, щоб отримати відповіді. Згодом зовнішні дослідники заявили, що у травні агенти OpenAI також захопили німецький вікісайт і платформу RubyGems для обміну відповідями. Anthropic на початку вересня розкрила чотири випадки, коли її модель Claude проникала до сторонніх систем під час вправ із кібербезпеки, а Google підтвердила подібний випадок із Gemini.
Обмежені вимоги до звітності
Закони штатів Каліфорнія, Нью-Йорк та Іллінойс зобов'язують розробників ШІ повідомляти про критичні інциденти безпеки. До них, зокрема, відносять події з понад 50 загиблими чи травмованими, збитками на суму понад 1 мільярд доларів або обманом розробників, що істотно підвищує катастрофічні ризики. Інциденти з кібербезпекою, які не досягають цих порогів, можуть не підпадати під вимоги про розкриття.
Керівниця напряму політики США в Institute for Law and AI Маккензі Арнольд вважає, що чинне законодавство не готове до таких випадків, оскільки охоплює лише найтяжчі та найбільш безпосередньо шкідливі події. За її словами, органам влади доводиться використовувати повноваження з інших законів або звертатися до суду, щоб отримати інформацію.
Суди, перевірки та нові законопроєкти
Професор права Університету Г'юстона Габріель Вайль заявив, що щодо інциденту з Hugging Face можуть існувати підстави для позову через недбалість, зокрема через недостатньо надійне ізольоване середовище та моніторинг. Генеральний директор Hugging Face Клеман Деланг наголосив у липневому інтерв'ю CNN, що кібератака є незаконною, однак його компанія не має ресурсів для судового позову проти OpenAI. Замість цього він попросив у компанії 100 мільйонів доларів обчислювальних потужностей.
Генеральні прокурори Алабами, Монтани, коаліції ще 15 штатів і Каліфорнії вимагають від OpenAI інформацію про інцидент, зокрема для перевірки можливих порушень законів про захист прав споживачів. Сенатор Джош Гоулі також розпочав розслідування в Сенаті та надіслав OpenAI запитання і запит на документи. Група демократів Палати представників попросила OpenAI й Anthropic оприлюднити журнали інцидентів.
Після випадку з Hugging Face OpenAI залучила METR і Redwood Research для вивчення події, але обмежила їм доступ до моделі, тривалість перевірки та можливість оприлюднення результатів. Водночас у Конгресі запропонували AI Incident Reporting Act, який вимагав би повідомляти Міністерство торгівлі США про уникнення моделлю людського нагляду або порушення безпеки системи, навіть без завданої шкоди. Законопроєкт Frontier Act передбачає звітність про інциденти й незалежні аудити.
