Недавно компания Microsoft анонсировала сокращение десятков редакторов, работающих в новостном агрегаторе службы MSN. Они занимались поиском, написанием и публикацией новостей. Теперь их заменит специальный алгоритм.
Около 50 работников-аутсорсеров в Штатах и 27 в Великобритании лишатся работы 30 июня. При этом штатные сотрудники Microsoft останутся с работой. В компании прогнозировали, что работа искусственного интеллекта может оказаться некачественной, поэтому сразу был разработан план для повторного найма живых людей. В Microsoft опасались, что алгоритм может нарушить строгие редакционные правила в вопросах насилия.
Опасения оказались не напрасными. Искусственный интеллект, которым компания Microsoft заменила людей в новостном агрегаторе MSN стал виновником расистского скандала, пишет издание The Guardian.
Новость о том, как певица Джейд Феруолл из поп-группы Little Mix столкнулась с расизмом в своей жизни, ИИ по ошибке проиллюстрировал фотографией ее коллеги по группе Ли-Энн Пиннок.
В своем Instagram Феруолл отреагировала на инцидент критикой в адрес сервиса.
«MSN, если вы собираетесь копировать статьи из других, более точных СМИ, возможно, вам следует убедиться, что вы используете фото подходящей участницы группы смешанной расы», — написала Феруолл.
Масла в огонь подливает тот факт, что обе девушки смешанной расы.
«Меня оскорбляет то, что вы не смогли отличить двух цветных женщин из четырех членов группы… Работайте лучше!».
По словам источника The Guardian в Microsoft, Феруолл не знала, что новости в MSN теперь редактируют не журналисты, а специальный алгоритм.
На вопрос автора The Guardian, почему Microsoft внедряет программное обеспечение, которое не может отличить людей разных рас, могут ли явные расистские предрассудки просочиться в работу программного обеспечения ведущих корпораций, и будет ли компания пересматривать планы по замене редакторов-людей роботами, пресс-секретарь Microsoft заявила лишь:
«Как только мы узнали об этой проблеме, мы немедленно предприняли меры для ее устранения и заменили неправильное изображение».
Однако, позже все тот же алгоритм посчитал, что статья The Guardian о скандале с Феруолл будет интересна читателям и автоматически опубликовал ее на сервисе. В свою очередь Microsoft приказал оставшимся редакторам удалить с MSN любые упоминания об этом скандале.
Microsoft — не первая компания, испытывающая искусственный интеллект для работы с проблемным контентом. Ранее мы писали о том, как работают усовершенствованные алгоритмы для поиска языка ненависти в Facebook. 12 мая в Facebook поделились данными о значительном росте числа постов и комментариев, заблокированных за хейтспич. Это произошло как раз из-за внедрения алгоритмов.
Точность работы алгоритма неизвестна. В администрации соцсети говорят, что общий объем хейтспича, который публикуют 1,7 миллиарда пользователей, назвать сложно.
Компания уже два года, с мая 2018-го, публикует ежеквартальные отчеты о том, как работают стандарты общения в соцсети. В последнем отчете говорится, что за первый квартал 2020 года в Facebook удалили 9,6 миллионов постов и комментариев. В четвертом квартале 2019-го удаленных было меньше — 5,7 миллионов.
