Глава OpenAI Альтман назвав зберігання RAM у датацентрах ефективнішим
Глава OpenAI Сем Альтман заявив, що за дефіциту DRAM ефективніше зосереджувати оперативну пам’ять у датацентрах.
Генеральний директор OpenAI Сем Альтман заявив, що в умовах дефіциту оперативної пам’яті DRAM ефективніше розміщувати її в датацентрах, а не в персональних комп’ютерах. Про це він сказав в інтерв’ю подкасту Cheeky Pint, повідомляє The Verge.
Альтман зазначив, що чимало людей прагнуть запускати моделі штучного інтелекту локально на власних пристроях. На його думку, поширене припущення полягає в тому, що відкриті моделі можна буде запускати на комп’ютерах без потреби в значних ресурсах датацентрів.
Аргумент про використання пам’яті
За словами глави OpenAI, за обмеженої пропозиції DRAM небажано, щоб великі обсяги пам’яті були розосереджені між персональними комп’ютерами та використовувалися лише близько п’яти відсотків часу. Він вважає, що для максимальної ефективності за таких умов ресурси мають бути завантажені у хмарній інфраструктурі.
«Багато людей хочуть локальний інференс. І чомусь вони вважають, що проблему вже розв’язано, бо в нас будуть моделі з відкритим кодом, ми зможемо запускати їх на своїх комп’ютерах і тому нам не знадобляться всі ці речі в датацентрі», — сказав Альтман.
Контракти на постачання DRAM
Видання зазначає, що виробники пам’яті Samsung і SK Hynix уклали довгострокові угоди з операторами хмарних сервісів та проєктами на кшталт Stargate від OpenAI. Ці домовленості резервують значну частину світового випуску оперативної пам’яті на найближчі роки.
The Verge також пов’язує подорожчання ноутбуків, смартфонів та іншої споживчої техніки з великими витратами на чипи з боку таких компаній і проєктів.
