WIRED виявив сотні застосунків із прихованими інструментами для сексуалізованих дипфейків

Wired виявив мережу з понад 400 пов’язаних застосунків і сайтів, які маскувалися під звичайні ШІ-сервіси, але за певних умов відкривали користувачам доступ до створення сексуалізованих дипфейків із завантажених фотографій. Досліджені сервіси були пов’язані з китайськомовними розробниками та, ймовірно, компанією KeLing Technology Limited, зареєстрованою в Гонконзі.

Серед таких програм був застосунок Viefur, що рекламувався як генератор портретів домашніх тварин. Водночас прихований вебінтерфейс пропонував шаблони для створення відвертих зображень і відео, зокрема сцени сексуального насильства. За даними дослідників, застосунки могли визначати, чи показувати звичайний або прихований контент, з огляду на дані про джерело завантаження, мову та унікальний ідентифікатор користувача.

Реклама та прихований вебінтерфейс

Дослідники пов’язали мережу з тисячами рекламних оголошень у Facebook та Instagram, які містили відверті дипфейки й спрямовували користувачів до програм в Apple App Store та Google Play. Частина таких оголошень, за інформацією видання, містила згенеровані ШІ матеріали сексуального насильства над дітьми. Через застосунки користувачі також могли оплачувати генерацію контенту за допомогою Apple Pay і Google Pay.

Аналітик некомерційної організації AI Forensics Поль Бушо заявив, що це «організована, комерційна операція», у межах якої один оператор використовував сотні одноразових застосунків і доменів. Дослідник Maël Le Touz із компанії Infoblox повідомив, що в коді сайтів знайшов перелік пов’язаних доменів, ключі шифрування, дані пакетів застосунків і рекламні трекери Facebook.

Реакція платформ

За підрахунками Бушо, застосунки почали з’являтися наприкінці 2025 року, а навесні 2026 року реєстрували приблизно по 30 нових сайтів і застосунків щотижня. У вересні в Google Play були доступні 27 таких програм, які сукупно завантажили понад 350 тисяч разів. Один із застосунків, DiffAI, мав понад 100 тисяч завантажень до видалення з магазину.

Apple після звернення журналістів видалила 19 застосунків, зокрема Viefur. Представник компанії Адам Дема заявив, що сервіси пройшли первинну перевірку, але після схвалення розробники змінили вебвміст, який завантажував застосунок, замінивши його порнографічними матеріалами. Apple повідомила, що протягом року призупинила роботу десятків тисяч застосунків через такі тактики.

Meta заявила, що заборонила KeLing Technology Limited розміщувати рекламу у 2025 році через недотримання вимоги припинити порушення. Компанія також повідомила, що вживає заходів проти оголошень, які просувають застосунки для створення оголених зображень.