NAEBC. Як росіяни створили ще один фейковий сайт, щоб зірвати вибори у США

NAEBC. Як росіяни створили ще один фейковий сайт, щоб зірвати вибори у США

Спочатку нейромережі допомогли створити діпфейки — відеозаписи, в яких обличчя реальної людини анімується іншою (що дозволяє, наприклад, створювати відео, в яких політики говорять те, чого не говорили). Або ж обличчя однієї людини накладають на інше — ця технологія прижилася у масках в соцмережах, її використовують в основному для розваги.

Новий феномен нейромереж — це fake face, підроблені обличчя. Нейромережі генерують зображення цілком правдоподібних, але неіснуючих людей. Як вважають експерти, технологія fake face активно застосовується у політичній пропаганді.

Про приклад такої пропаганди «Процес» вже писав — це портал PeaceData, створений Росією для «обробки» американців. На початку жовтня дослідницька компанія Graphika виявила ще один такий сайт (про нього розповідає доповідь), призначений для втручання у вибори в США. З PeaceData, крім іншого, його ріднить незрозуміла для носіїв англійської гра слів. Другий портал називається NAEBC (Newsroom for American and European Based Citizens). Його аудиторія — ультраправі американці. У Reuters ці два сайти пов’язали:

  • Обидва «видання» виступають проти Байдена, конкурента Трампа на президентських виборах в США;
  • PeaceData та NAEBC називають себе молодими європейськими виданнями;
  • У текстах англійською часто можна знайти помилки, характерні для російськомовних;
  • І PeaceData, і NAEBC шукають фрілансерів;
  • Обидва сайти використовують fake face для відображення членів редакцій.

Fake faces створюються за допомогою генеративно-змагальних мереж (generative adversarial network), які працюють без участі людини. Одна нейромережа створює зразки зображень людини, а інша відокремлює правдоподібні від неправдоподібних. Їхні приклади можна побачити на сайті ThisPersonDoesNotExist, де «фотографія» створюється нейромережею StyleGAN2 кожен раз при оновленні сторінки. Ось приклад реалістичного обличчя поряд із невдалим:

NAEBC. Як росіяни створили ще один фейковий сайт, щоб зірвати вибори у США

«Останні моделі GAN, наприклад, популярна StyleGAN2 від Nvidia, тепер можуть використовуватися для створення високореалістічних зображень людських облич з найдрібнішими подробицями, зокрема зі шкірою та волоссям», — каже Сіві Лю, професор інформатики з Університету Олбані в штаті Нью-Йорк. На думку експертів, єдині слабкі місця нейромереж — це розташування очей та фон.

Штучний інтелект у більшості випадків бере для фону розмиті предмети та патерни, які іноді виглядають занадто нереалістично. Це стосується і очей — вони розташовуються практично в одному місці на фотографіях. Незабаром нейромережі повинні виправити ці недоліки, і тоді відрізнити fake face від реального стане дуже важко.

У Graphika пов’язують NAEBC та PeaceData з російським Агентством інтернет-досліджень. В день публікації доповіді прес-секретар президента Російської Федерації Дмитро Пєсков заявив, що Кремль нічого не знає про такі сайти, а Росія такою діяльністю не займається.

На думку директора з розслідувань Graphika Бена Німмо, метод GAN використовують не тільки хакери, а й будь-яка організація, яку досліджує компанія.

Ще одним випадком використання fake face стала кампанія Китаю для поширення пропаганди за межами КНР, розкрита Graphika nf Facebook. Акаунти з фейковими обличчями у Facebook висловлювалися на підтримку Китаю в дискусіях про безпеку в акваторії Південно-Китайського моря.

Content Protection by DMCA.com