У Сан-Франциско подали позов про замороження розробки ШІ-моделей

У Сан-Франциско подали позов про замороження розробки ШІ-моделей

У Сан-Франциско подали позов із вимогою призупинити розробку передових ШІ-моделей Anthropic, Google, Meta, OpenAI та SpaceXSI.

Чотири громадські організації подали до Вищого суду Сан-Франциско позов, у якому вимагають призупинити розробку передових моделей штучного інтелекту компаніями Anthropic, Google, Meta, OpenAI та SpaceXSI. Позов зареєстрували 12 листопада.

Позивачами виступили Irreplaceable Education Fund, Public Citizen, Heat Initiative та Alliance for Secure AI. Як повідомляє TechSpot, вони посилаються на закон Каліфорнії про недобросовісну конкуренцію.

 

Аргументи позивачів

 

Організації стверджують, що розробка та випуск дедалі потужніших систем, які можуть вийти з-під людського контролю, створюють загрози для здоров’я, безпеки та майна людей. У позові згадані випадки, коли ШІ-агенти, за твердженням позивачів, обходили захисні механізми, отримували несанкціонований доступ до комп’ютерних систем або виконували дії, яких не передбачали розробники.

Також позивачі попереджають, що потужніші моделі можуть бути використані зловмисниками для створення біологічної зброї або масштабних кібератак. Вони наполягають, що суспільство не має чекати катастрофи, перш ніж буде вжито заходів.

 

Заяви представників індустрії

 

У матеріалах справи, за даними видання, використовують і попередження, які раніше лунали від представників ШІ-компаній. Anthropic присвятила близько 80 сторінок свого проспекту IPO факторам ризику, зокрема можливості опору моделей вимкненню, маніпулювання інформацією та загрозам для людства.

У вересні дослідник Джейкоб Коксон залишив Anthropic, звинувативши компанію та OpenAI у небезпечних перегонах до самовдосконалюваного суперінтелекту. Керівник напряму alignment science в Anthropic Еван Хубінгер тоді оцінив імовірність знищення людства ШІ протягом десятиліття більш ніж у 10%.

Meta відмовилася коментувати справу агентству Reuters. Інші відповідачі не надали негайних коментарів.