AMD представила відкриту архітектуру Helion для ШІ-агентів

AMD опублікувала відкриту архітектуру серверної стійки Helion, призначену для запуску ШІ-агентів, а не навчання моделей. Версія на базі лише центральних процесорів може вмістити до 32 768 обчислювальних ядер. Партнерські системи на основі цієї специфікації очікуються в листопаді, повідомляє The Next Web.

Конфігурація для операторів дата-центрів

Максимальна CPU-конфігурація Helion передбачає 128 процесорних роз’ємів для 256-ядерних чипів AMD Venice на архітектурі Zen 6. Компанія описує два варіанти серверних модулів: щільний із потужністю 400 Вт і збалансований із потужністю 600 Вт.

Також AMD пропонує змішану версію з центральними та графічними процесорами для корпоративних клієнтів. Вона може містити до 16 прискорювачів Instinct MI350P, розміщених у двох серверах по вісім GPU. За даними AMD, ці сервери працюватимуть незалежно один від одного та не матимуть мережі для масштабування між ними.

Маршрутизація запитів і енергоспоживання

У корпоративній версії Helion передбачено маршрутизатор токенів. Він має спрямовувати запити агентів до передових хмарних моделей або до моделей із відкритим кодом, що працюють безпосередньо в стійці. AMD позиціонує Helion як рішення для ефективного використання доступної електроенергії та розміщення більшої кількості ШІ-агентів на одиницю споживаної потужності.

Для навчання моделей компанія пропонує іншу стійку — Helios. Вона містить 72 новіші прискорювачі MI455X і 31 ТБ пам’яті HBM4. AMD ще не оприлюднила цін на Helion, планує передати специфікацію до Open Compute Project і не назвала європейських виробників систем серед партнерів.

У матеріалі зазначається, що питання доступу до електроенергії є одним із бар’єрів для розвитку суверенних обчислювальних потужностей у Європі. Європейський Союз у червні ухвалив Cloud and AI Development Act, який передбачає щонайменше потроєння потужностей дата-центрів блоку протягом семи років.