Керівники AI-компаній обговорили уповільнення розвитку моделей
Керівники OpenAI, Anthropic, Google DeepMind і SpaceX обговорили підходи до уповільнення розвитку штучного інтелекту.
Керівник OpenAI Сем Альтман, керівник Anthropic Даріо Амодеї, співзасновник Google DeepMind Деміс Гассабіс і очільник SpaceX Ілон Маск цими вихідними неформально погодилися сповільнити розвиток штучного інтелекту. Як повідомляє The Verge, учасники обговорення заявили про намір «задавати темп передовим розробкам» у сфері AI.
Пропозиція з трьох кроків
Ініціатива, викладена Амодеї в есе, передбачає залучення незалежних аудиторів, регулювання лабораторій у межах окремих країн і досягнення глобальної домовленості про уповільнення розвитку AI. У статті зазначається, що ці підходи відповідають змінам, які давно підтримують прихильники безпеки штучного інтелекту.
Критика ініціативи
Критики побачили в такій домовленості можливу спробу великих технологічних компаній обмежити потенційних конкурентів, послабити рух відкритого програмного забезпечення та уникнути дієвих правових запобіжників. Деякі з них назвали ініціативу картелем. Водночас співрозмовники видання з індустрії вважають ситуацію складнішою, ніж це трактування.
Ад’юнкт-професор Нью-Йоркського університету та колишній директор з політики щодо новітніх технологій Міністерства внутрішньої безпеки США Нік Різ заявив, що галузі потрібні нові лідери для обговорення її майбутнього. За його словами, покладатися лише на керівників компаній, які безпосередньо розробляють AI, недостатньо, оскільки реалістичного бачення кінцевої мети цих розробок досі немає.
Занепокоєння щодо AI посилилося після повідомлень про автономних агентів, яких пов’язували з несанкціонованими зламами, що відбувалися поруч із провідними лабораторіями Anthropic та OpenAI.
