DeepSeek і Huawei відкрили інструменти для чипів Ascend 950
DeepSeek і Huawei відкрили бібліотеки та підтримку TileLang для ШІ-чипів Ascend 950, щоб спростити розробку на їхньому обладнанні.
Китайська компанія DeepSeek та Huawei випустили у відкритий доступ інструменти програмування для ШІ-чипів Ascend 950. Реліз містить бібліотеки для обчислень і обміну даними між чипами, а також нативну підтримку Ascend у мові програмування TileLang. Інструменти мають спростити розробку та оптимізацію програм для апаратного забезпечення Huawei.
Бібліотеки для обчислень і зв’язку
Як повідомляє Tom's Hardware, до набору входить DeepGEMM-Ascend — бібліотека для множення матриць та інших обчислень, що використовуються в моделях DeepSeek. Вона підтримує операції BF16, FP8 і FP4 та зберігає інтерфейси програмування наявної бібліотеки DeepGEMM, що дає змогу розробникам застосовувати знайомі API під час переходу на Ascend.
Бібліотека DeepEP-Ascend відповідає за комунікацію під час навчання та запуску моделей. Зокрема, вона забезпечує маршрутизацію даних між різними експертами в моделях типу mixture-of-experts і об’єднання результатів їхньої роботи. Обидві бібліотеки розробляли й тестували на обладнанні Ascend 950.
Підтримка TileLang
TileLang забезпечує високорівневий шар для написання оптимізованих обчислювальних ядер. DeepSeek описала цей підхід як простішу модель програмування порівняно з CUDA від Nvidia, яка має підвищити ефективність розробки та спростити код. Мова вже підтримувала Nvidia та інше обладнання, а оновлення від 30 вересня додало для Ascend 950 генерацію коду, автоматичне планування й синхронізацію.
Нові інструменти працюють на базі програмної платформи Huawei CANN, що забезпечує інфраструктуру для запуску ШІ-навантажень на Ascend. Компанії також оптимізували обчислення і передавання даних у суперноді зі 128 чипами Ascend 950. Розробка спрямована на зменшення залежності від програмно-апаратної екосистеми Nvidia, хоча багатоплатформна підтримка TileLang зберігає його придатність і для графічних процесорів Nvidia.
