Керівники AI-компаній розійшлися щодо правил безпеки штучного інтелекту
Керівники AI-компаній сперечаються, чи потрібне міжнародне регулювання безпеки штучного інтелекту, чи достатньо саморегулювання.
Керівники провідних технологічних компаній обговорюють, чи потребує безпека штучного інтелекту міжнародного регулювання, чи галузь здатна самостійно встановити необхідні стандарти. Як повідомляє TechCrunch, дискусія посилилася після заклику генерального директора Anthropic Даріо Амодеї сповільнити розвиток AI, щоб запровадити належні запобіжники.
У своєму есе Амодеї запропонував міжнародну співпрацю між компаніями та урядами для безпечного впровадження систем штучного інтелекту. Його підхід підтримали керівник OpenAI Сем Альтман і засновник xAI Ілон Маск, однак не всі представники індустрії погодилися з потребою глобально скоординованих дій.
Позиція Meta та DeepMind
Генеральний директор Meta Марк Цукерберг заявив, що довіра та узгодженість моделей із людськими цілями стають ключовими характеристиками AI-агентів. Він також повідомив, що Meta на кілька місяців відклала випуск моделі Muse, аби зосередитися на безпеці та захисті. За його позицією, компанії можуть самі ухвалювати такі рішення у межах своєї щоденної роботи, без вимоги до всіх конкурентів діяти одночасно.
Співзасновник Google DeepMind Шейн Леґґ наголосив, що можливості AI швидко розвиваються, але безпека не має відставати від них. Співзасновник Reddit Алексіс Оганян зі свого боку заявив CNBC, що технологічна індустрія недостатньо пояснювала суспільству ризики, пов’язані зі штучним інтелектом.
Саморегулювання та конкуренція
Водночас OpenAI, Anthropic та інші великі AI-компанії, за даними The Information, обговорюють створення організації зі стандартів штучного інтелекту. Один зі співрозмовників описав її як приватний орган саморегулювання. Адміністрація президента США Дональда Трампа не просувала ідею аналогічної федеральної структури; її радник з питань AI Девід Сакс заявляв, що регулювання слід залишити компаніям-розробникам.
Критики такого підходу вказують на ризик, що правила можуть посилити позиції найбільших гравців. Генеральний директор канадської AI-компанії Cohere Айдан Гомес звинуватив великі американські лабораторії у формуванні «картелю», стверджуючи, що суперечка точиться навколо того, хто писатиме правила та чиї інтереси вони захищатимуть. Представник Міністерства закордонних справ Китаю Го Цзякунь також розкритикував заклики Амодеї, назвавши їх залякуванням у сфері глобального управління AI.
