У червні 2019 року журналісти Vice натрапили на додаток, що використовує штучний інтелект для «роздягання» жінок. Додаток DeepNude дозволяв користувачам завантажувати фотографію одягненої жінки і отримувати її ж фото в оголеному вигляді. І не безкоштовно — за 50 доларів. Програма використовувала генеративні змагальні мережі, алгоритм, що лежить в основі діпфейків, для заміни одягу на реалістичне зображення оголеного тіла. Чим менше одягу було на початковому фото, тим краще працював алгоритм.
За добу завдяки статті Vice додаток видалили. На сторінці DeepNude у Twitter запевнили, що нових версій програми не буде, а сама технологія не отримає поширення.
Нове розслідування компанії Sensity AI (раніше Deeptrace Labs) показало наявність дуже схожої технології, яку використовує відкритий бот в Telegram. У нього ще більш доступний інтерфейс: будь-який користувач може відправити боту фото та отримати «роздягнену» версію через кілька секунд безкоштовно.
До липня 2020 року бот «роздягнув» не менше 100 000 жінок, більша частина яких про це, ймовірно, не знали. «Як правило, це молоді дівчата, — говорить Джорджіо Патрін, генеральний директор і головний науковий співробітник Sensity, співавтор звіту. — На жаль, іноді очевидно, що деяким з них немає 18 років ».
Гейміфікація домагань
Бот deepfake, запущений 11 липня 2019 року, підключений до семи каналів Telegram із загальною кількістю учасників понад 100 000 осіб, лише в основному каналі — понад 45 тисяч учасників.
У головному каналі розміщений сам бот, інші використовуються для технічної підтримки та обміну фото. На деяких каналах користувачі можуть публікувати оголені фото та ставити оцінки фотографій. Чим більше лайків збирає фото, тим більше її «власник» отримує токенів для доступу до преміум-функцій бота. «Творець отримує стимули, ніби він грає в гру», — каже Патрін.
Зростання кількості фото, завантажених до Telegram-каналів з діпфейк-оголеними фото
Аудиторія каналів постійно зростає. Опитування 7200 користувачів показало, що близько 70% з них — з Росії або інших країн, де говорять російською. Походження жінок на фото — ширше, це Аргентина, Італія, США і сама Росія. Більшість з них — приватні особи, яких, за словами користувачів бота, вони знають в реальному житті або яких вони знайшли в Instagram. Дослідникам вдалося ідентифікувати лише невелику групу жінок і спробувати зв’язатися з ними. За словами Патрін, жодна з жінок не відповіла.
Країни походження користувачів каналів (7200 респондентів)
Дослідники також зв’язалися з Telegram і правоохоронними органами, включаючи ФБР. Telegram не відповів ні на їхнє звернення, ні на наступний запит MIT Technology Review про коментарі. Патрін каже, що вони також не помітили «будь-якого відчутного впливу» після звернення до влади.
Deepfake-порнопомста
Ґвалтівники вже привчилися використовувати порнографію для переслідування жінок. У 2019 дослідники з Американської психологічної асоціації виявили, що 12-та частина жінок є жертвами публікації їхніх відвертих фото. Deepfake переводить цю проблему на новий рівень — жінки можуть не знати, про те, що їх оголене фото, нехай і несправжнє, існує в реальності.
У багатьох випадках діпфейки використовувалися для шантажу знаменитостей або публічних особистостей. Патрін з Sensity передбачає, що в майбутньому цілеспрямовані порноатаки можуть посилитися. Нещодавно дослідники виявили ще одну мережу, що включає 380 акаунтів та присвячена поширенню діпфейків у «Вконтакте». З’ясувалося також, що алгоритм «роздягання» вже застосовують і до відео.
Facebook і Google вже почали розробку технологій автоматичного виявлення діпфейків. Минулого року Конгрес США також представив новий законопроект, який дозволить жертвам діпфейків подавати до суду позови за нанесення шкоди репутації.
По материалам MIT Technology Review
