Intel представила ШІ-прискорювач GPU D-series з пам’яттю до 480 ГБ
Intel представила GPU D-series для ШІ-інференсу з пам’яттю до 480 ГБ, продуктивністю 1,3 петафлопса FP8 і споживанням 350 Вт.
Intel на саміті Open Compute Project Global Summit представила GPU D-series — прискорювач для завдань ШІ-інференсу з обсягом пам’яті до 480 ГБ. Як повідомляє TechRadar, пристрій раніше мав кодову назву Crescent Island і призначений для роботи в дата-центрах.
Для D-series Intel обрала пам’ять LPDDR5X, яку зазвичай застосовують у ноутбуках та інших енергоощадних пристроях, а не GDDR7. Така конфігурація орієнтована на велику місткість пам’яті та енергоефективність під час запуску моделей ШІ, а не на використання у звичайних ігрових відеокартах.
Продуктивність і моделі ШІ
Компанія заявляє, що один прискорювач може підтримувати великі мовні моделі з кількістю параметрів до 300 мільярдів. Система з вісьмома такими GPU, за даними Intel, зможе працювати з моделями, що мають понад один трильйон параметрів. Серед цільових сценаріїв — довгі запити, одночасне обслуговування багатьох запитів, корпоративні ШІ-сервіси та робототехніка.
D-series має заявлену продуктивність 1,3 петафлопса в обчисленнях FP8 і пропускну здатність пам’яті 1,5 ТБ/с. Формат FP8 використовується для прискорення операцій штучного інтелекту та зменшення потреби в пам’яті порівняно з обчисленнями вищої точності.
Формат для наявних дата-центрів
Енергоспоживання прискорювача заявлено на рівні 350 Вт. Intel також вказала стандартний формфактор PCIe, повітряне охолодження та програмну сумісність між своїми GPU-платформами. Компанія планує поєднувати D-series із процесорами Xeon, щоб центральні процесори координували завдання, керували передаванням даних і виконували операції, для яких не потрібне прискорення на GPU.
За даними TechRadar, 480 ГБ пам’яті перевищують показник Nvidia Blackwell Ultra B300, який оснащений 288 ГБ HBM3e. Публічну ціну та конкретну дату загальної доступності GPU D-series Intel не оголосила.