Google DeepMind запустила інститут для обговорення загального штучного інтелекту
Google DeepMind створила інститут для обговорення AGI та оприлюднила пропозиції щодо прозорості й оцінювання AI-моделей.
Google та Google DeepMind запустили DeepMind Institute, який має розширити обговорення штучного загального інтелекту (AGI) між компаніями та світовою дослідницькою спільнотою. До ради директорів інституту увійшли співзасновник DeepMind Шейн Леґґ, керівник Google Джеймс Маніка та голова Google DeepMind Деміс Гассабіс. Леґґ також обійматиме посаду відповідального редактора, повідомляє TechCrunch.
В оголошенні зазначили, що погляди Google, Google DeepMind і ширшої наукової спільноти не завжди збігатимуться та можуть змінюватися в міру появи нових даних і відомостей у сфері передових технологій.
Перші роботи інституту
Першою публікацією DeepMind Institute стала добірка з чотирьох есеїв. Вони присвячені економічній політиці на випадок можливих змін через AGI, збереженню зрозумілих людині міркувань моделей, принципам людського добробуту та підходу до оцінювання передових моделей штучного інтелекту.
Дослідники безпеки DeepMind Рохін Шах і Анка Драґан у своєму есеї стверджують, що звуження можливості бачити й перевіряти покрокові міркування моделі не є неминучим. Вони вказують, що нові архітектури можуть ускладнювати моніторинг найпотужніших моделей, тому розробники та регулятори мають безпосередньо оцінювати пов'язані з цим компроміси у сфері безпеки.
Пропозиція щодо оцінювання моделей
Автори також пропонують розглянути обмеження так званої непрозорої послідовної глибини — обсягу послідовних обчислень, які модель може виконати без створення доступного для читання сліду міркувань. Іншим варіантом вони називають вимогу до розробників доводити, що менш прозорі системи залишаються настільки ж придатними для моніторингу.
Окремо Деміс Гассабіс запропонував створити очолюваний США орган зі стандартів для передового штучного інтелекту. За його підходом, розробники спочатку добровільно подавали б моделі на перевірку за 30 днів до релізу. Після підтвердження ефективності системи проходження таких тестів могло б стати вимогою для розгортання передових моделей у США. Спершу оцінювання розробляли б у консультаціях з AI-компаніями, а згодом орган мав би перейти до незалежних нерозкритих тестів, щоб лабораторії не адаптували моделі під відомі критерії.
Гассабіс також зазначив, що цей механізм можна посилити залежно від серйозності ситуації, зокрема шляхом скоординованого уповільнення розробки передового штучного інтелекту.
