Компания Twitter заплатила $3500 украинскому аспиранту швейцарского исследовательского института EPFL Богдану Кулиничу за обнаружение расистского бага на платформе.
Выпускник Киево-Могилянской академии на соревнованиях по компьютерной безопасности DEF CON доказал, что алгоритм обрезки изображений Twitter, который используется для фокусировки превью изображений, предпочитает предпочитает более молодые, стройные лица с более светлой кожей, пишет The Guardian.
Как обнаружили расистский алгоритм
Украинец показал предвзятость Twitter, сначала искусственно сгенерировав лица людей с различными характеристиками, а затем пропустив их через алгоритм обрезки. Созданные лица были почти идентичными, но находились в разных точках спектра тона кожи, ширины, пола или возраста.
Исследование Богдана Кулинича на Github:
«Наш подход позволил выявить предубеждения, которые не могли быть замечены при стандартном анализе неравенства. Более того, этот метод можно применять для анализа предвзятости представления других моделей компьютерного зрения»
Как сообщалось, TikTok расширяет политику борьбы с ненавистью и расизмом.
