Дослідники отримали контроль над акаунтом моделі Kokoro на Hugging Face

Дослідники отримали контроль над акаунтом моделі Kokoro на Hugging Face

Дослідники отримали доступ до акаунта розробника Kokoro на Hugging Face через реєстрацію домену та показали ризик підміни ваг моделі.

Дослідники з безпеки отримали контроль над обліковим записом розробника популярної моделі синтезу мовлення Kokoro на платформі Hugging Face, зареєструвавши домен, яким раніше володів автор проєкту. Як повідомляє BBC News, це дало їм змогу скинути пароль до акаунта видавця моделі.

Kokoro — відкрита модель, що перетворює текст на мовлення, підтримує кілька мов і має понад 50 голосових пресетів. Її розробник Hexgrad не випускав оновлень із квітня 2025 року, однак модель і надалі має майже 13 млн щомісячних завантажень на Hugging Face. Репозиторій на GitHub і пакет Python у PyPI також припинили оновлюватися приблизно в той самий період.

 

Як відбувся контрольований тест

 

Команда дослідників зареєструвала домен hexgrad.com, який був зазначений у публічному файлі DONATE.md проєкту, а потім використала його для відновлення доступу до облікового запису. Після цього фахівці провели контрольований тест: за 87 секунд на ігровому графічному процесорі вони змінили ваги моделі так, щоб вона генерувала аудіо, відмінне від заданого тексту.

За словами дослідника з безпеки Алона Герца, під час експерименту не змінювали код застосунку, конфігурацію, вхідний текст чи голосовий файл — коригування стосувалися лише нейронних ваг. Модифіковану версію Kokoro перевірили локально через стандартний механізм інференсу, але не завантажували на Hugging Face, оскільки це могло б створити ризики для виробничих систем, які використовують модель.

 

Ризики для ланцюга постачання

 

Дослідники вважають, що скомпрометований обліковий запис видавця може бути використаний для атак на ланцюг постачання через звичайні оновлення моделей. Системи, налаштовані на автоматичне завантаження нових версій, потенційно могли б отримати змінені ваги без помітних зовнішніх ознак: видавець, шлях доставки файлів, формат і архітектура моделі залишалися б такими самими, а в оновленні не було б шкідливого коду.

Модель Kokoro застосовується в інструментах Google, NVIDIA та Intel, зокрема для голосових агентів і локального синтезу мовлення. AMD та Amazon Web Services також публікували інструкції щодо її використання у робочих процесах із ШІ-агентами. Герц повідомив, що поінформував Hugging Face про виявлену проблему, однак відповіді не отримав. Редакція джерела також зверталася до платформи по коментар, але на момент публікації відповіді не було.