Anthropic запропонувала уповільнити розробку передових ШІ-моделей
Anthropic закликала уповільнити розвиток передового ШІ та запропонувала зовнішній контроль моделей. OpenAI підтримала цей підхід.
Компанія Anthropic закликала уповільнити темпи розробки передових моделей штучного інтелекту та запропонувала план із зовнішнього контролю й координації між розробниками. Генеральний директор Anthropic Даріо Амодеї заявив, що компанія надасть стороннім оцінювачам, зокрема організації METR, доступ до своїх моделей для перевірки дотримання практик і зобов’язань у сфері безпеки.
Про дискусію навколо темпів розвитку ШІ повідомляє The Verge. Амодеї назвав свій підхід «темпом розвитку переднього краю» — тобто уповільненням навчання та розробки моделей, щоб компанії мали час створювати запобіжники, а регулятори — оцінювати системи.
Три кроки Anthropic
У своєму есе Амодеї окреслив три етапи. Перший передбачає залучення вбудованих незалежних оцінювачів, які зможуть перевіряти, чи виконує компанія власні вимоги безпеки, та повідомляти про інциденти. Anthropic заявила, що в односторонньому порядку бере на себе це зобов’язання.
Другим кроком має стати координація між компаніями, що розробляють передові ШІ-системи у демократичних країнах, для встановлення спільних стандартів безпеки та обмежень на неконтрольований розвиток технології. Третій етап — міжнародна координація між демократичними й авторитарними державами щодо темпів розвитку ШІ, наскільки це можливо.
Реакції технологічних компаній
Генеральний директор OpenAI Сем Альтман підтримав заклик до повільнішого розвитку передових систем. Він наголосив, що йдеться не про зупинку прогресу, а про темпи, які мають бути нижчими, ніж могли б бути за інших умов. За словами Альтмана, конкурентний тиск не має виправдовувати необережність або ситуацію, за якої можливості моделей випереджають механізми їхнього узгодження з людськими цілями та моніторингу.
Microsoft на тлі дискусії оприлюднила 37-сторінковий «гуманістичний кодекс поведінки ШІ». У документі компанія заявляє, що люди важливіші за ШІ, а моделі не є свідомими й не повинні бути спроєктовані для імітації свідомості. Microsoft також відкидає ідею юридичної особистості моделей, їхнього права на добробут або інших прав.
Водночас Марк Цукерберг заявив, що кожна компанія має самостійно рухатися з темпом, необхідним для безпечного навчання її моделей. Китайське Міністерство закордонних справ розкритикувало заяви керівників технологічних компаній, назвавши їх «нагнітанням страху», яке може завадити глобальному управлінню ШІ.
