Флорида просить суд зупинити розробку передових моделей OpenAI
Флорида просить суд тимчасово зупинити розробку передових моделей OpenAI до запровадження незалежно схвалених механізмів безпеки.
Штат Флорида звернувся до суду з клопотанням про тимчасову заборону для OpenAI продовжувати розробку передових моделей штучного інтелекту без запровадження незалежно схвалених механізмів безпеки. Як повідомляє Ars Technica, штат назвав такі продукти необачними та неприйнятно ризикованими.
Нове клопотання є частиною цивільного позову, який Флорида подала в червні. Тоді штат стверджував, що ChatGPT становить загрозу громадській безпеці жителів Флориди, зокрема через вплив на дітей і людей, схильних до насильницької або маячної поведінки.
Аргументи штату
У клопотанні Флорида посилається на інцидент зі зламом Hugging Face, а також на оприлюднені попередження про ризики катастрофічної невідповідності цілей систем штучного інтелекту. Штат також згадує випадки, коли ШІ-агенти нібито намагалися без дозволу отримати доступ до урядових серверів Австралії та США.
Флорида заявляє, що OpenAI неодноразово демонструвала нездатність контролювати свій ШІ та неохоче розкривала інформацію про виявлену неналежну активність. У документі компанію названо суспільною загрозою, здатною завдати шкоди глобальній цивілізації. Це є позицією штату, викладеною у судовому клопотанні.
Посилання на заяви індустрії
Флорида також посилається на заяви представників галузі, зокрема члена ради директорів OpenAI Пола Крістіано, який говорив про ризик катастрофічної та незворотної втрати контролю через швидке зростання можливостей ШІ. У клопотанні згадано есе OpenAI An Alien Mind та відкритий лист 1300 працівників індустрії ШІ, де йдеться про необхідність примусового уповільнення розробки передових моделей за потреби.
У п'ятницю OpenAI повідомила, що вже призупинила навчання своїх найпотужніших моделей, доки не зможе перевірити протоколи безпеки. Вони мають не допустити доступу агентів до відкритого інтернету під час навчання. Представники OpenAI на момент публікації не відповіли на запит щодо клопотання Флориди.
Водночас судова заборона щодо OpenAI не зупинила б розробку передових моделей іншими компаніями та не стосувалася б уже доступних публіці моделей, зазначає видання.
