Компанія Twitter заплатила $3,5 тисячі українському аспіранту швейцарського дослідницького інституту EPFL Богдану Кулиничу за виявлення расистського багу на платформі.
Випускник Києво-Могилянської академії на змаганнях з комп’ютерної безпеки DEF CON довів, що алгоритм обрізки у Twitter, який використовується для фокусування превью зображень, віддає перевагу більш молодим, струнким обличчям із більш світлою шкірою, пише The Guardian.
Як виявили расистський алгоритм
Українець показав упередженість Twitter, спершу штучно згенерувавши обличчя людей з різними характеристиками, а потім пропустивши їх через алгоритм обрізки. Створені обличчя були майже ідентичними, але знаходились у різних точках спектру тону шкіри, ширини, статі або віку.
Дослідження Богдана Кулинича на Github:
«Наш підхід дозволив виявити упередження, які не могли бути помічені при стандартному аналізі нерівності. Більш того, цей метод можна застосовувати для аналізу упередженості уявлення інших моделей комп’ютерного зору»
Як повідомлялось, TikTok розширює політику боротьби з ненавистю та расизмом.