Глава Anthropic закликав уповільнити розвиток передових ШІ-моделей
Глава Anthropic Даріо Амодеї запропонував три кроки для уповільнення розвитку передового ШІ, а Сем Альтман підтримав ідею.
Генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток передових систем штучного інтелекту та запропонував план із трьох кроків для посилення контролю за безпекою. Про це він написав у есе «We Must Pace the Frontier», оприлюдненому 12 вересня.
Як повідомляє The Verge, Амодеї наголосив, що уповільнення не означає припинення навчання моделей або технічного прогресу. За його словами, компаніям слід мати достатньо часу для узгодження моделей із вимогами безпеки та їхнього захисту, а незалежні оцінювачі мають підтверджувати виконання цих заходів.
Три запропоновані кроки
Першим кроком Амодеї назвав залучення вбудованих незалежних оцінювачів, які зможуть перевіряти дотримання компаніями практик і зобов’язань із безпеки та повідомляти про інциденти. Anthropic, за словами її керівника, односторонньо бере на себе зобов’язання реалізувати цей пункт.
Другий крок передбачає координацію між компаніями, що розробляють передовий ШІ в демократичних країнах, щодо стандартів і обмежень. Третім він запропонував координацію між демократичними та авторитарними урядами для уповільнення розвитку ШІ — настільки, наскільки це можливо.
Реакція OpenAI
Генеральний директор OpenAI Сем Альтман невдовзі після публікації Амодеї підтримав саму ідею. «Я погоджуюся з Даріо, що нам потрібно визначати темп розвитку передових технологій», — написав він у X, додавши, що це було однією з головних тем обговорень в OpenAI останніми тижнями.
