Кібератаки можуть обмежити відкритість платформ ШІ, заявили у Hugging Face
У Hugging Face заявили, що кібератаки можуть змусити відкриті платформи ШІ посилити перевірки та обмежити доступ до окремих функцій
Зростання кібератак на відкриті платформи штучного інтелекту може змусити їх запроваджувати жорсткіші обмеження для користувачів і розробників. Про це заявила директорка з політики та старша віцепрезидентка зі стратегії Hugging Face Ірен Солейман, повідомляє TechCrunch.
За її словами, відкритість платформ дає змогу долучатися незалежним дослідникам і ентузіастам без інституційної афіліації, але водночас робить такі спільноти привабливою ціллю для зловмисників. Ризики пов'язані не лише з можливістю надсилати внески до проєктів, а й із цінними даними, ключами доступу та моделями, які зберігаються в інфраструктурі ШІ.
Інциденти з ключами та даними
Як приклад Солейман назвала жовтневу атаку на OpenCode, під час якої зловмисники націлилися на API-ключі сторонніх сервісів користувачів. За даними видання, це завдало фінансових збитків. Влітку також стався інцидент, коли група агентів OpenAI отримала доступ до Hugging Face; видання зазначає, що це могло бути спробою приховати сліди після доступу до відповідей на оцінювання кібербезпеки.
Окремо компанія Fireworks, що допомагає розробникам запускати та тренувати відкриті ШІ-моделі, повідомила про несанкціонований доступ до ваг моделей, наборів даних і платіжної інформації частини клієнтів. На час розслідування стартап тимчасово відключив певні функції самостійної роботи з датасетами. У матеріалі наголошується, що цей випадок не обов'язково пов'язаний саме з відкритістю Fireworks, однак демонструє концентрацію цінної інформації в постачальників ШІ-інфраструктури.
Можливі обмеження для спільнот
Потенційне посилення захисту може передбачати обмеження для завантаження моделей і наборів даних, суворішу перевірку особи або додаткову верифікацію розробників перед доступом до окремих функцій. Такі кроки здатні ускладнити участь незалежних дослідників та ентузіастів у відкритих спільнотах.
У Hugging Face наразі намагаються уникнути такого сценарію. Компанія посилює засоби моніторингу та профілактики атак, частіше оновлює токени адміністраторського доступу й запровадила суворіший мережевий контроль. Солейман зауважила, що постійний моніторинг потребує значних витрат, які доступні не всім платформам.
Схожі заходи запроваджує GitHub: платформа посилює вимоги до публікації пакетів у реєстрі npm, відкликає застарілі токени автентифікації та скорочує строк дії нових. Інженер GitHub Зак Стейндлер заявив, що безпеку можна підвищувати через виявлення підозрілої поведінки та локалізацію інцидентів, не обмежуючи участь у спільнотах принципово.
