Українець викрив расистський баг у Twitter

Українець викрив расистський баг у Twitter

Компанія Twitter заплатила $3,5 тисячі українському аспіранту швейцарського дослідницького інституту EPFL Богдану Кулиничу за виявлення расистського багу на платформі.

Випускник Києво-Могилянської академії на змаганнях з комп’ютерної безпеки DEF CON довів, що алгоритм обрізки у Twitter, який використовується для фокусування превью зображень, віддає перевагу більш молодим, струнким обличчям із більш світлою шкірою, пише The Guardian.

Украинец разоблачил расистский баг в Twitter

Як виявили расистський алгоритм

Українець  показав упередженість Twitter, спершу штучно згенерувавши обличчя людей з різними характеристиками, а потім пропустивши їх через алгоритм обрізки. Створені обличчя були майже ідентичними, але знаходились у різних точках спектру тону шкіри, ширини, статі або віку.

Дослідження Богдана Кулинича на Github:

«Наш підхід дозволив виявити упередження, які не могли бути помічені при стандартному аналізі нерівності. Більш того, цей метод можна застосовувати для аналізу упередженості уявлення інших моделей комп’ютерного зору»

Як повідомлялось, TikTok розширює політику боротьби з ненавистю та расизмом.

Content Protection by DMCA.com