В июне 2019 года журналисты Vice наткнулись на приложение, которое использует искусственный интеллект для «раздевания» женщин. Приложение DeepNude позволяло пользователям загрузить фотографию одетой женщины и получить ее же фото в обнаженном виде. Не бесплатно — за 50 долларов. Программа использовала генеративные состязательные сети, алгоритм, лежащий в основе дипфейков, для замены одежды на реалистичное изображение обнаженного тела. Чем меньше одежды было на изначальном фото, тем лучше работал алгоритм.
За сутки благодаря статье Vice приложение удалили. На странице DeepNude в Twitter заверили, что новых версий приложения не будет, а сама технология не получит распространения.
Новое расследование компании Sensity AI (ранее Deeptrace Labs) показало наличие очень похожей технологии, которую использует открытый бот в Telegram. У него еще более доступный интерфейс: любой пользователь может отправить боту фото и получить «раздетую» версию через несколько секунд бесплатно.
К июлю 2020 года бот «раздел» не менее 100 000 женщин, большая часть которых об этом, вероятно, не знали. «Как правило, это молодые девушки, — говорит Джорджио Патрини, генеральный директор и главный научный сотрудник Sensity, соавтор отчета. — К сожалению, иногда очевидно, что некоторым из них нет 18 лет».
Геймификация домогательств
Бот deepfake, запущенный 11 июля 2019 года, подключен к семи каналам Telegram с общим количеством участников более 100 000 человек, лишь в основном канале более 45 тысяч участников.
В главном канале размещен сам бот, остальные используются для техподдержки и обмена фото. На некоторых каналах пользователи могут публиковать обнаженку и ставить оценки фотографиям. Чем больше лайков собирает фото, тем больше ее «владелец» получает токенов для доступа к премиум-функциям бота. «Создатель получает стимулы, как будто он играет в игру», — говорит Патрини.
Рост числа фото, загруженных в Telegram-каналы для дипфейк-обнаженных фото
Аудитория каналов постоянно растет. Опрос 7200 пользователей показал, что около 70% из них — из России или других стран, где говорят на русском. Происхождение женщин на фото — шире, это Аргентина, Италия, США и сама Россия. Большинство из них — частные лица, которых, по словам пользователей бота, они знают в реальной жизни или которых они нашли в Instagram. Исследователям удалось идентифицировать лишь небольшую группу женщин и попытаться связаться с ними. По словам Патрини, ни одна из женщин не ответила.
Страны происхождения пользователей Telegram-каналов (7200 респондентов)
Исследователи также связались с Telegram и правоохранительными органами, включая ФБР. Telegram не ответил ни на их обращение, ни на последующий запрос MIT Technology Review о комментариях. Патрини говорит, что они также не заметили «какого-либо ощутимого воздействия» после обращения к властям.
Deepfake порноместь
Насильники уже приучились использовать порнографию для преследования женщин. В 2019 году исследователи из Американской психологической ассоциации обнаружили, что 12-я часть женщин являются жертвами публикации их откровенных фото. Deepfake переводит эту проблему на новый уровень — женщины могут не знать, о том, что их обнаженное фото, пусть и ненастоящее, существует в реальности.
Во многих случаях дипфейки использовались для шантажа знаменитостей или публичных личностей. Патрини из Sensity предполагает, что в будущем целенаправленные порноатаки могут усугубиться. Недавно исследователи обнаружили еще одну сеть, включающую 380 аккаунтов и посвященную распространению дипфейков во «Вконтакте». Выяснилось также, что алгоритм «раздевания» уже применяют и к видео.
Facebook и Google уже начали разработку технологий автоматического обнаружения дипфейков. В прошлом году Конгресс США также представил новый законопроект, который позволит жертвам дипфейков подавать в суд иски за нанесение ущерба репутации.
По материалам MIT Technology Review
