Microsoft представила ШІ-чип Maia 300 для хмарних навантажень

Microsoft представила власний ШІ-чип Maia 300, який компанія планує почати розгортати для робочих навантажень у 2027 році. Про це повідомляє The Verge. У корпорації назвали новинку основною системою для ШІ-інференсу у своїх продуктах і сервісах.

Maia 300 є наступником Maia 200, про який Microsoft оголосила у січні. Чип Maia 200 уже використовують для робочих ШІ-навантажень у Microsoft Copilot, GitHub Copilot, Microsoft Foundry та власних моделях компанії.

Ефективність і продуктивність

Виконавчий віцепрезидент хмарного підрозділу Microsoft Скотт Гатрі заявив, що Maia 300 має забезпечувати на 40% більше токенів на мегават, ніж провідні системи на базі графічних процесорів. За його словами, конфігурація з 96 прискорювачами даватиме до семи разів вищу пропускну здатність на рівні стійки порівняно з Maia 200.

Компанія розраховує, що підвищення ефективності дасть змогу більшою мірою покладатися на власні ШІ-чипи замість рішень Nvidia та AMD. Microsoft має намір із 2027 року масштабувати лінійку Azure Maia до розгортань потужністю в кілька гігаватів.

Архітектура для нових ШІ-завдань

Maia 300 побудовано на техпроцесі TSMC N2P і використовує чиплетну архітектуру. У ній окремо розділені обчислювальні компоненти, контролер пам’яті та функції введення-виведення. У Microsoft пояснили, що це збільшує площу кремнію, відведену для обчислень, і дозволяє застосувати для кожної функції відповідну технологію.

Чип розрахований на моделі з довгим контекстом, розмовні сервіси, чутливі до затримок, а також багатокрокові агентні завдання. Генеральний директор Microsoft AI Мустафа Сулейман назвав запуск власних моделей Microsoft на чипах Maia одним із критичних напрямів роботи команди.