OpenAI перевірила ШІ-правки в чипі Jalapeño після скорочення площі на 13%
OpenAI застосувала моделі ШІ для оптимізації чипа Jalapeño, але перевіряла всі запропоновані ними зміни стандартними інструментами.
Моделі штучного інтелекту OpenAI внесли зміни до частин чипа Jalapeño, які дали змогу в одному з випадків скоротити площу кристала більш ніж на 13%. Водночас інженери не завжди могли пояснити, чому ці зміни покращують дизайн, розповів керівник апаратної команди компанії Річард Хо в інтерв’ю, про яке повідомляє The Next Web.
За словами Хо, він не довіряє таким рішенням на 100%. Кожна зміна, запропонована моделями, проходила повний цикл валідації, а остаточне схвалення дизайну здійснювали стандартні інструменти проєктування.
ШІ допоміг у роботі з логікою
Команда OpenAI зіткнулася з тим, що початкові оцінки обсягу логіки, який можна розмістити на чипі, виявилися неточними. Щоб не відмовлятися від продуктивності, розробники залучили внутрішні моделі ШІ, які тоді не були спеціально донавчені для створення мікросхем і лише незначно випереджали доступні публічні моделі.
Значна частина коду була написана мовою XLS — інструментом, що перетворює високорівневий код на логіку чипа. Хо пояснив, що моделі краще працювали з програмним кодом, ніж із Verilog, традиційною мовою опису апаратури. XLS за стилем ближча до Rust, тому ШІ міг ефективніше аналізувати конструкцію.
Хо наголосив, що навіть точність 99,99% є недостатньою для мікросхеми, яка може містити сотні мільйонів логічних вентилів. Він назвав використання моделей виправданим ризиком за умови обережної перевірки та додав, що не планує скорочувати працівників через ШІ, а прагне виконувати більше роботи швидше.
Єдина архітектура для інференсу
OpenAI представила власний чип у червні, створивши його разом із Broadcom для запуску моделей, а не для їх навчання. На конференції Hot Chips у серпні компанія показала результати бенчмарків у порівнянні з Nvidia GB300.
Jalapeño використовує один компонент для етапів prefill, коли система обробляє запит, і decode, коли формує відповідь. Хо пояснив, що фіксований розподіл потужностей датацентрів між цими завданнями є ризикованим, оскільки співвідношення навантаження змінюється. Чип напряму з’єднує банки високошвидкісної пам’яті з ядрами, щоб зменшити переміщення даних. Друга версія Jalapeño вже перебуває в лабораторії на етапі кваліфікації перед серійним виробництвом.
