Nvidia представила відкриті моделі для ШІ-агентів і локальних ПК

Nvidia представила нові моделі з відкритими вагами для постійно активних ШІ-агентів та периферійних обчислень. Найбільша з них — Nemotron 3.5 Super VL із 120 млрд параметрів — призначена для корпоративних агентів, які можуть працювати у власних дата-центрах компаній.

Як повідомляє TechCrunch, Nvidia заявляє, що модель Super VL, попри меншу кількість параметрів порівняно з Nemotron 3 Ultra, має забезпечувати схожу точність у виконанні інструкцій і використанні інструментів.

Корпоративне застосування

За даними Nvidia, Super VL можна донавчати на власних даних організацій і розгортати на їхній інфраструктурі. Компанія стверджує, що після донавчання на конкретних агентних завданнях модель виконує їх швидше за конкуруючі моделі. Серед таких завдань названо роботу з документами, фінансовий облік, наукові експерименти, опрацювання страхових медичних заяв і стійкість до атак на безпеку.

Nvidia також повідомила, що Super VL використовують Skydance, EY, Ramp, CrowdStrike, Perplexity та Salesforce. Віцепрезидентка Nvidia з відкритих моделей і програмного забезпечення Карі Бріскі заявила, що організації можуть отримати оптимізовану відкриту модель для свого рівня інфраструктури без вибору між можливостями та простотою розгортання.

Моделі для роботи на ПК

Компанія також випустила дві компактні моделі Bolt, розраховані на локальну роботу на нових ШІ-ПК із чипом Nvidia RTX Spark та робочих станціях DGX Spark. Такі пристрої, орієнтовані на споживачів, програмістів і працівників інтелектуальної праці, виходять на ринок через партнерів, зокрема Microsoft і Dell.

Nemotron 3.5 Bolt 74B-A9B 24GB має 74 млрд параметрів і призначена для локальних агентних завдань, зокрема багатокрокового міркування, виклику інструментів та перегляду вебсторінок. Найменша модель Bolt E4B орієнтована на розмовних агентів. Super VL і Bolt 74B-A9B уже доступні, а Bolt E4B Nvidia планує випустити пізніше в жовтні.