Дослідники назвали ПЗ ключем до зниження енергоспоживання ШІ-центрів

Оптимізація програмного забезпечення, алгоритмів і керування навантаженням може суттєво скоротити енергоспоживання центрів обробки даних, які працюють зі штучним інтелектом. Як повідомляє Tom's Hardware, Міжнародне енергетичне агентство очікує, що до 2030 року для потреб ШІ знадобиться близько 945 ТВт·год електроенергії — це відповідає нинішньому споживанню Японії.

Ефективність не лише обладнання

Галузь інвестує в енергоефективні графічні процесори, системи охолодження та нові підключення до електромереж. Водночас показник ефективності використання енергії PUE, який відображає втрати в системах живлення й охолодження, за даними опитування Uptime Institute за 2025 рік майже не змінювався шість років поспіль. Він не враховує, чи виконує програмне забезпечення серверів корисну роботу.

Сервери споживають приблизно 60% електроенергії сучасного дата-центру. На охолодження припадає від близько 7% у ефективних великих об'єктах до понад 30% у менш ефективних корпоративних центрах. Дослідник ініціативи ML.Energy та аспірант Мічиганського університету Дже-Вон Чун зазначив, що зміни в системному ПЗ, алгоритмах і застосунках упроваджувати простіше, ніж замінювати чипи, а ефект від таких змін може накопичуватися.

Менша точність і розумний розподіл задач

Випробування моделі Alibaba Qwen 3 235B A22B Thinking показали, що виконання інференсу у форматі FP8 із дещо нижчою точністю потребувало на третину менше енергії, ніж версії з bfloat16 під час розв'язання задач. Розроблений Чуном оптимізатор навчання Perseus визначає ділянки навчального завдання великої моделі з меншим обсягом роботи та сповільнює їх, щоб вони завершувалися одночасно з інтенсивнішими частинами процесу. За його даними, це дозволило зменшити витрати енергії на навчання до 30% без втрати пропускної здатності та заміни обладнання.

Nvidia застосовує подібний підхід у профілях живлення Blackwell, налаштовуючи частоти обчислень і пам'яті GPU, ліміти потужності, стани NVLink і параметри кешу відповідно до навантаження. Компанія оцінює можливу економію енергії до 15% за збереження щонайменше 97% загальної продуктивності.

Перенесення навантаження в часі

Додаткові резерви дають кешування повторюваних запитів, використання менших моделей для рутинних звернень, пакетна обробка та обмеження обсягу відповідей моделей. Дослідниця ETH Zurich Софі Голл вказує також на можливість переносити нетермінові пакетні завдання на періоди нижчого локального попиту або до регіонів із вільними потужностями та менш вуглецеємною електроенергією. Водночас перенесення обмежують правила суверенітету даних і складність фізичного переміщення великих масивів даних між локаціями.