AMD заявила про технологію MEXT для скорочення потреби серверів у DRAM

AMD розкрила деталі MEXT — прогнозувального механізму пам’яті, який, за її заявою, має забезпечити до 99% продуктивності сервера за використання удвічі меншого обсягу DRAM. Про це йдеться у щотижневому огляді преміум-публікацій Tom's Hardware.

Розробка покликана зменшити залежність від дефіцитної оперативної пам’яті на тлі зростання попиту на компоненти для інфраструктури штучного інтелекту. Система використовує трансформерну модель і флеш-накопичувачі. За даними видання, MEXT уже працює на 145 серверах, а наступного року AMD планує розширити її застосування до 2 тисяч серверів.

Локальний ШІ та нові прискорювачі

В огляді також порівняли Apple Mac Studio на базі M5 Ultra та Nvidia DGX Spark для запуску локальних моделей штучного інтелекту. Видання протестувало обидва пристрої в синтетичних і практичних бенчмарках, а також під час роботи з великими моделями. Окрему увагу приділили вибору системи залежно від конкретних робочих навантажень.

Google розширила лінійку TPU восьмого покоління двома спеціалізованими чипами — TPU 8i Max і TPU 8tx. Перший призначено для агентних ШІ-систем із довгим контекстом, а другий використовує хост-процесори AMD EPYC для завдань безпеки. Також Cognichip розповіла про свої інструменти проєктування мікросхем на базі ШІ, які, за словами компанії, можуть автоматизувати трудомісткі завдання та скоротити розробку з місяців до днів.

Заяви про експортні обмеження та Nvidia

У матеріалах тижня йдеться про труднощі з доступом до обчислювальних потужностей Nvidia у Китаї та оренду ШІ-ресурсів у Малайзії й Сінгапурі як спосіб обходу експортних обмежень. Видання також повідомило про запропоновану Frontier Model Forum систему оцінювання обходу захисту великих мовних моделей, яка має враховувати приріст можливостей моделі, масштаб і простоту застосування способу обходу.

Окремо Tom's Hardware описує непідтверджені звинувачення щодо засновника Nvidia Дженсена Хуанга, зокрема твердження про його нібито позашлюбні стосунки та відставку з посади генерального директора. Ці твердження в огляді подано як повідомлення про скандал і звинувачення, а не як встановлені факти.