Викрадення доступу до ШІ-моделей принесло жертвам до $1 млн витрат
Google повідомила про атаки LLMjacking, через які організації втрачали до $1 млн на шахрайських запитах до хмарних ШІ-сервісів.
Атаки з викрадення доступу до великих мовних моделей, відомі як LLMjacking, спричинили для окремих організацій сукупні витрати до $1 млн через шахрайські запити до хмарних ШІ-сервісів. В окремі дні збитки перевищували $100 тис., повідомляє BleepingComputer з посиланням на дослідників Google Threat Intelligence Group і Mandiant.
Як працює схема
За оцінкою дослідників, діють два основні кластери зловмисників: одні сканують публічно доступні кінцеві точки великих мовних моделей, інші викрадають дійсні API-ключі з недостатньо захищених пристроїв. Отриманий доступ вони можуть перепродавати сервісам, які Google називає LLM mixers. Такі платформи надають передплатникам несанкціонований доступ до моделей через власну проксі-інфраструктуру.
Після перепродажу доступу кількість запитів до сервісу може різко зрости — іноді понад 1 000 за секунду. Постачальник хмарних послуг фіксує їх як звичайне споживання та виставляє рахунок організації, чиї ключі або інфраструктуру використали.
Приклади зловживань
Дослідники навели приклад Jet Night, який продає плани з нібито необмеженим доступом за $60 на місяць. За даними Google, один із суб’єктів виконав понад 500 тис. API-викликів менш ніж за вісім годин, використовуючи викрадені ключі сторонніх організацій для роботи сервісу маршрутизації токенів jet-night.com. Унаслідок цього на потерпілу організацію переклали майже $1 млн витрат на токени.
Google також ідентифікувала кластер UNC6993, який, імовірно, застосовує шлюзові інструменти для об’єднання викрадених ключів і розподілу запитів, а доступ може продавати на підпільних форумах. Серед цілей зловмисників — хмарні облікові дані, ключі сервісних акаунтів, токени GitHub, активні токени сесій та API-ключі до ШІ-моделей.
Рекомендації із захисту
Фахівці радять організаціям посилити контроль доступу та захист ланцюга постачання, централізовано зберігати секрети й регулярно змінювати ключі. Google рекомендує надавати користувачам лише необхідні для роботи дозволи, увімкнути стійку до фішингу багатофакторну автентифікацію, встановити ліміти на використання API та витрати.
Також пропонується активувати й відстежувати хмарні журнали аудиту та журнали інференсу, щоб виявляти несанкціоноване підключення сервісів, підозрілі перевірки облікових даних, аномальне використання та спроби вимкнути журналювання.
