У магазинах застосунків виявили мережу прихованих генераторів сексуальних діпфейків

Дослідники виявили мережу з понад 400 пов’язаних застосунків і доменів, які маскували генератори сексуальних діпфейків під нешкідливі ШІ-сервіси в Google Play та Apple App Store. Зовні такі програми могли бути редакторами фото домашніх тварин, мовними тренажерами або застосунками для тренувань, однак за певних умов відкривали прихований інтерфейс для створення відвертих зображень із реальними фотографіями людей.

Про схему BBC News повідомляє з посиланням на розслідування WIRED та дослідників AI Forensics.

Як приховували функції

Після встановлення програма надсилала на віддалений сервер дані, зокрема про місцезнаходження користувача, мову, ідентифікатор пристрою та спосіб переходу до застосунку. Сервер вирішував, чи показувати звичайну версію програми, чи приховану вебсторінку з генератором діпфейків.

За даними дослідників, інтерфейс пропонував десятки шаблонів: користувачі могли завантажувати фотографії та вставляти людей на них у відверті сцени, зокрема такі, що містили погрози й насильство. Одним із тригерів для появи прихованого інтерфейсу могло бути встановлення застосунку після переходу з реклами у Facebook або Instagram.

Реакція платформ

Користувачам пропонували придбати внутрішню цифрову валюту для створення зображень. Мережа, за даними розслідування, поширювалася через оманливу рекламу на платформах Meta, іноді із застосуванням фальшивих назв компаній та облікових записів без підписників. Деякі застосунки приймали оплату через Apple Pay і Google Pay, водночас їхні сторінки мали рейтинг для всіх вікових категорій без попереджень про приховані функції.

WIRED пов’язав значну частину мережі з китайськими розробниками та гонконзькою компанією KeLing Technology Limited. Після звернення журналістів компанія прибрала свою присутність в інтернеті. Google видалив один із застосунків, який мав понад 100 тисяч завантажень, а Apple прибрала ще 19 програм, зокрема редактор портретів тварин Viefur. Apple заявила, що під час перевірки програми відповідали правилам, але згодом розробники змінили їхню поведінку. Meta повідомила, що заборонила KeLing розміщувати рекламу у 2025 році та вжила заходів щодо 11 600 рекламних акаунтів, 5 200 користувачів і заблокувала 209 пов’язаних застосунків.