Сначала нейросети помогли создать дипфейки — видеозаписи, в которых лицо реального человека анимируется другим (что позволяет, например, создавать видео, в которых политики говорят то, чего не говорили). Либо же лицо одного человека накладывают на другого — эта технология прижилась в масках в соцсетях, ее используют в основном для развлечения.
Новый феномен нейросетей — это fake face, поддельные лица. Нейросети генерируют изображения вполне правдоподобных, но несуществующих людей. Как считают эксперты, технология fake face активно применяется в политической пропаганде.
О примере такой пропаганды «Процесс» уже писал — это портал PeaceData, созданный Россией для «обработки» американцев. В начале октября исследовательская компания Graphika обнаружила еще один такой сайт (о нем рассказывает доклад), предназначенный для вмешательства в выборы в США. С PeaceData, кроме прочего, его роднит непонятная для носителей английского игра слов. Второй портал называется NAEBC (Newsroom for American and European Based Citizens). Его аудитория — ультраправые американцы. В Reuters эти два сайта связали:
Оба «издания» выступают против Байдена, конкурента Трампа на президентских выборах в США;
- PeaceData и NAEBC называют себя молодыми европейскими изданиями;
- В текстах на английском часто можно найти ошибки, характерные для русскоговорящих;
- И PeaceData, и NAEBC ищут фрилансеров;
- Оба сайта используют fake face для отображения членов редакций.
Fake faces создаются с помощью генеративно-состязательных сетей (generative adversarial network), которые работают без участия человека. Одна нейросеть создает образцы изображений человека, а другая отделяет правдоподобные от неправдоподобных. Их примеры можно увидеть на сайте ThisPersonDoesNotExist, где «фотография» создается нейросетью StyleGAN2 каждый раз при обновлении страницы. Вот пример реалистичного лица рядом с неудачным:
«Последние модели GAN, например, популярная StyleGAN2 от Nvidia, теперь могут использоваться для создания высокореалистичных изображений человеческих лиц с мельчайшими подробностями, включая кожу и волосы», — говорит Сиви Лю, профессор информатики из Университета Олбани в штате Нью-Йорк. По мнению экспертов, единственные слабые места нейросетей — это расположение глаз и фон.
Искусственный интеллект в большинстве случаев берет для фона размытые предметы и паттерны, которые иногда выглядят слишком нереалистично. Это касается и глаз — они располагаются практически в одном месте на фотографиях. Вскоре нейросети должны исправить эти недостатки, и тогда отличить fake face от реального станет очень трудно.
В Graphika связывают NAEBC и PeaceData с российским Агентством интернет-исследований. В день публикации доклада пресс-секретарь президента Российской Федерации Дмитрий Песков заявил, что Кремль ничего не знает о таких сайтах, а Россия такой деятельностью не занимается.
По мнению директора по расследованиям Graphika Бена Нимма, метод GAN используют не только хакеры, а и любая организация, которую исследует компания.
Еще одним случаем использования fake face стала кампания Китая для распространения пропаганды за пределами КНР, раскрытая Graphika и Facebook. Аккаунты с фейковыми лицами в Facebook высказывались в поддержку Китая в дискуссиях о безопасности в акватории Южно-Китайского моря.
