Claris тестує Harbor для локального запуску ШІ на Mac

Claris тестує Harbor для локального запуску ШІ на Mac

Claris тестує Harbor — застосунок для локального запуску моделей ШІ на Mac і об’єднання кількох комп’ютерів через Thunderbolt 5.

Дочірня компанія Apple Claris тестує застосунок Harbor, що перетворює комп’ютери Mac з чипами Apple silicon на приватний сервер для ШІ-висновків. Програма дає змогу запускати локально моделі з відкритими вагами, тож дані залишаються на обладнанні користувача й не передаються до хмари, повідомляє MacRumors.

 

Об’єднання кількох Mac

 

Harbor може працювати на одному Mac, а також підтримує підключення кількох комп’ютерів із Thunderbolt 5. Застосунок об’єднує їхню уніфіковану пам’ять в один ресурс для запуску більших моделей або обробки більшої кількості одночасних запитів, ніж здатен забезпечити окремий комп’ютер.

У macOS Tahoe 26.2 Apple додала RDMA через Thunderbolt 5, що має прискорити створення таких кластерів. Harbor автоматично виявляє підключені через Thunderbolt 5 пристрої та формує кластер без ручного налаштування, командного рядка чи спеціальних знань з інфраструктури.

 

Ранній доступ і робота з моделями

 

У застосунку можна переглядати, завантажувати та запускати моделі з відкритими вагами. Harbor також бере на себе керування моделями. Наразі сервіс перебуває на етапі раннього доступу і публічно недоступний. Раніше сторінка програми з’являлася в App Store, але її вже видалили.

Claris відома насамперед платформою баз даних FileMaker, орієнтованою на бізнес. Форма реєстрації для Harbor містить поле для назви компанії, що може вказувати на бізнесове спрямування продукту. Водночас невідомо, як Apple просуватиме Harbor і чи буде застосунок безплатним.

Серед наявних безплатних альтернатив для локального ШІ на Mac MacRumors називає відкритий інструмент Exo для об’єднання Mac у кластер і LM Studio для роботи на одному комп’ютері. Harbor, за описом видання, поєднує простий інтерфейс із підтримкою кластеризації.