Baidu заявила про прискорення моделі ERNIE-5.5-Flash за допомогою ШІ
Baidu представила ERNIE Evolve і заявила про прискорення розроблюваної моделі ERNIE-5.5-Flash на GPU та чипах Kunlunxin.
Китайська компанія Baidu представила систему штучного інтелекту ERNIE Evolve, яка самостійно проводить експерименти для поліпшення коду моделей ШІ. Компанія заявила, що за її допомогою прискорила розроблювану модель ERNIE-5.5-Flash на 33,7% на графічних процесорах і більш ніж у шість разів на чипах Kunlunxin.
Як повідомляє The Next Web, ERNIE Evolve обирає напрями досліджень, редагує код і запускає тести. Система зберігає лише ті зміни, які проходять окремі перевірки, недоступні для самого ШІ.
Результати на різному обладнанні
За даними Baidu, на чипах P800 виробництва її підрозділу Kunlunxin модель почала генерувати текст більш ніж у шість разів швидше. На графічних процесорах, які інженери вже оптимізували, пропускна здатність зросла на 33,7% приблизно за три дні.
Водночас видання China AI Dispatch звернуло увагу, що показник для Kunlunxin потребує контексту: значна частина приросту, за його даними, пов'язана з увімкненням функцій, які раніше не використовувалися в конфігурації чипів. Тому це не є прямим зіставленням із результатами на GPU.
Тести на відкритих завданнях
Baidu також протестувала ERNIE Evolve на трьох відкритих завданнях з досліджень ШІ. Компанія стверджує, що система перевершила найкращі публічні результати у двох із них. Зокрема, в тесті NanoGPT Speedrun вона нібито досягла часу 38,9 секунди проти попереднього рекорду 39,9 секунди, а в третьому завданні наблизилася до найкращого показника.
За інформацією China AI Dispatch, Baidu не подавала цей результат NanoGPT Speedrun до офіційної таблиці лідерів. Надалі компанія планує застосувати систему для навчання моделей, а згодом — для розроблення ШІ власних тестів. У Baidu наголосили, що розширювати можливості таких систем слід лише за умови, що люди можуть їх розуміти, контролювати та зупиняти.
