Керівник Center for AI Safety Гендрікс закликав призупинити навчання передових ШІ
Ден Гендрікс закликав призупинити навчання передових ШІ, а Макс Ходак заявив, що контроль за мораторієм потребуватиме нагляду.
Керівник Center for AI Safety Ден Гендрікс на саміті DealBook у Нью-Йорку закликав на невизначений термін призупинити найбільші процеси навчання передових моделей штучного інтелекту. Співзасновник Neuralink Макс Ходак, який виступав на тій самій панелі, заперечив: на його думку, контроль за такою забороною потребуватиме всеохопної системи нагляду в інтернеті, повідомляє The Next Web.
Пропозиція про паузу
Дискусія відбулася на панелі DealBook AGI, яку модерував Майкл Барбаро з The Daily під час DealBook Summit газети The New York Times. Участь також взяли Ліла Ібрагім із Google DeepMind, Маті Станішевський з ElevenLabs і Клем Деланг із Hugging Face.
Гендрікс заявив, що раніше підтримував вузькі технічні правила для індустрії, однак тепер вважає необхідним жорсткіший підхід. Він пропонує призупинити навчання найбільших моделей, водночас передбачивши винятки для вузькоспеціалізованих систем — зокрема AlphaFold від DeepMind та голосових моделей. За його задумом, лабораторії могли б і надалі продавати доступ до використання моделей.
Під час паузи розробники, на думку Гендрікса, могли б підвищувати надійність і безпеку систем, усувати способи обходу обмежень і приховані вразливості, а також допомагати із захистом критичної інфраструктури. Він також стверджував, що більшість передових лабораторій, за винятком Google, приділяють мало уваги застосуванню ШІ в охороні здоров’я, оскільки основні доходи їм приносить програмування.
Заперечення Макса Ходака
Ходак назвав механізм контролю за забороною навчання моделей настільки ж жорстким, як і ризики, яких, за його словами, люди побоюються з боку самих лабораторій. Він зазначив, що для виконання такого обмеження довелося б створити всеохопну систему нагляду за інтернетом.
Він також заявив, що сучасні провідні моделі вже відповідають його визначенню загального штучного інтелекту, згадавши Mythos, Fable, Astra та Sol. Ходак прогнозує, що уряди можуть залишити доступ до найпотужніших систем за собою, тоді як промисловий рівень інтелекту буде відкритішим для інших. Як альтернативу мораторію він назвав застосування антимонопольного законодавства та запропонував обмежити діяльність передових лабораторій продажем інтелектуальних систем.