AMD заявила про збереження 95% продуктивності серверів із половиною DRAM
AMD заявила, що MEXT дає змогу зберегти 95% продуктивності серверів за використання половини обсягу DRAM у деяких завданнях.
AMD повідомила, що застосовує технологію MEXT у власній ІТ-інфраструктурі: у деяких завданнях сервери з 50% звичайного обсягу оперативної пам’яті DRAM зберігають 95% продуктивності повністю укомплектованих систем. Як повідомляє Tom's Hardware, компанія придбала MEXT у червні та вже розгорнула технологію на 145 серверах, плануючи збільшити їхню кількість до 2 000 у 2027 році.
Як працює MEXT
MEXT переносить так звані холодні сторінки пам’яті, тобто дані, до яких звертаються нечасто, на флеш-накопичувачі. Операційна система при цьому бачить відсутню фізичну пам’ять як встановлену DRAM. Щоб уникнути затримок через суттєво нижчу швидкість флеш-пам’яті порівняно з DRAM, система використовує модель штучного інтелекту, яка прогнозує, які сторінки знадобляться програмі, та завчасно повертає їх до оперативної пам’яті.
За даними AMD, MEXT працює як модуль ядра Linux і сумісна з будь-яким дистрибутивом Linux. Технологія використовує набір моделей ШІ, зокрема трансформерну мовну модель. Компанія стверджує, що модель навчається менш ніж за секунду після розгортання, працює на одному ядрі EPYC без графічного процесора та продовжує навчання під час виконання робочого навантаження.
Результати та розгортання
Для інструменту Synopsys PrimeTime AMD заявила про збереження 95% продуктивності за використання половини DRAM. За зменшення фізичної пам’яті до 25% компанія повідомила про 80% продуктивності цього застосунку. У тривузловому кластері Azure з процесорами EPYC п’ятого покоління, за оцінкою AMD, MEXT забезпечила 99% продуктивності конфігурації з повним обсягом DRAM у тесті Spark SQL TPC-DS за 50% пам’яті.
Наразі AMD перебуває на першому етапі впровадження: окремі сервери EPYC Venice мають позначку MEXT Ready та виділений NVMe-накопичувач або відсік для перенесення даних. На другому етапі компанія планує надати для цих серверів ліцензії MEXT і застосунок RAM View для аналізу використання пам’яті. Дату початку другого етапу не оголошували. AMD також повідомила про партнерство з HPE для постачання MEXT клієнтам.
