Сенатор Берні Морено розкритикував заяви глави Anthropic про ризики ШІ
Сенатор Берні Морено розкритикував главу Anthropic Даріо Амодеї за заяви про ризики штучного інтелекту напередодні IPO компанії.
Сенатор-республіканець від штату Огайо Берні Морено у листі до генерального директора Anthropic Даріо Амодеї звинуватив його в тривожному підході до публічних заяв про штучний інтелект. Лист надіслали 5 жовтня, напередодні очікуваного виходу компанії на фондовий ринок, повідомляє The Next Web.
Морено поставив під сумнів, як Anthropic може закликати американців інвестувати свої заощадження у подальший розвиток компанії, водночас попереджаючи про ризики, які її технологія нібито може становити для людства. У листі сенатор називає штучний інтелект «суперінтелектом».
Посилання на оцінки ризиків
Сенатор послався на Джейкоба Коксона — дослідника, який у вересні залишив Anthropic і заявив, що ШІ-компанії «грають нашими життями». Також Морено процитував дослідника безпеки Anthropic Евана Губінгера, який оцінював імовірність того, що ШІ знищить усе людство протягом найближчого десятиліття, у понад 10%.
У листі також згадано слова Амодеї в інтерв'ю CNN, де він заявляв, що погоджується з Коксоном «набагато більше, ніж не погоджується». За твердженням Морено, Амодеї оцінював імовірність того, що розвиток суперінтелекту піде «дуже, дуже погано», у 25%. Сенатор вважає, що такі висловлювання сіють паніку та не пояснюють, як технологія може захистити країну від ризиків, про які йдеться.
IPO та конкуренція з Китаєм
Морено написав, що інвестори обговорюють оцінку Anthropic на рівні майже 2 трлн доларів — приблизно у 42 рази більше за її виручку. За його словами, торги акціями можуть розпочатися вже в жовтні. У проспекті IPO Anthropic уже попереджала інвесторів про ризики, пов'язані з можливими діями уряду США.
Сенатор заявив, що зосередження на найгірших сценаріях може витіснити дискусію про національну безпеку та збереження технологічного лідерства США над Китаєм. Він назвав підпис Амодеї під угодою Білого дому щодо суперінтелекту помітним першим кроком і наголосив, що робота з ризиками передового ШІ не потребує зупинки його розробки чи відмови США від технологічного домінування.
