PrismML адаптувала компактні мовні моделі для розумних окулярів Qualcomm
PrismML адаптувала 2-мільярдну мовну модель для розумних окулярів на платформі Qualcomm Snapdragon AR1 Gen 1.
Лабораторія штучного інтелекту PrismML створила версію своїх компактних мовних моделей для розумних окулярів на чипах Qualcomm Snapdragon. Компанія Qualcomm продемонструвала модель 1-bit Bonsai LLM на заході Snapdragon Summit 24 вересня.
Як повідомляє TechCrunch, модель може локально працювати на AI-окулярах, побудованих на платформі Snapdragon AR1 Gen 1.
Модель для зору та мови
Версія для окулярів має 2 млрд параметрів і налаштована для роботи із зображеннями та мовою. Це має дозволити користувачам у реальному часі запитувати про об’єкти, на які вони дивляться.
PrismML заснували дослідники Каліфорнійського технологічного інституту, а радником стартапу є Іон Стоїка з Каліфорнійського університету в Берклі. Розробники заявляють, що їхній підхід дає змогу суттєво зменшувати більші моделі — у цьому випадку вчетверо — зі збереженням майже всіх показників продуктивності у стандартних тестах.
Ставка на локальну обробку
Мета PrismML полягає у створенні моделей із відкритими вагами, які працюють безпосередньо на пристроях і ефективніше використовують їхні обчислювальні можливості. Стартап позиціонує цей підхід як альтернативу залежності від обіцянок приватності розробників закритих систем штучного інтелекту та їхній потребі у дедалі більших обчислювальних ресурсах.
Водночас жодних розумних окулярів із PrismML наразі не анонсували. Демонстрація на платформі Qualcomm стала кроком до запуску моделей, що працюватимуть безпосередньо на таких пристроях.
