«Гораздо проще создать систему искусственного интеллекта, которая будет искать соски, чем выявлять язык вражды». Так в 2018 году основатель Facebook Марк Цукерберг прокомментировал решение проблемы с неуместным или нарушающим стандарты Facebook контентом.
Алгоритмы искусственного интеллекта Facebook для выявления «обнаженки» действительно работают эффективно. С января по март 2020 года Facebook удалили 39,5 миллионов постов и комментариев с сексуальным контентом. 99,2% было удалено автоматически, без жалоб пользователей. Затем от людей поступило 2,5 миллиона апелляций, после чего Facebook восстановил 613 000 постов и комментариев.
Но искусственный интеллект не всегда столь блистателен. У алгоритмов есть проблемы с исторического фото и картинами. Как сообщает Guardian Australia, Facebook заблокировал аккаунт пользователя за публикацю фото 1890-х годов с коренными австралийцами в цепях. Он опубликовал фотографию в ответ на заявление премьер-министра Австралии о том, что в стране не было рабства. Впоследствии премьер отказался от своих слов.
В Facebook признались, что блокировка фото была ошибочной, и восстановили изображение. При этом соцсеть не дает опубликовать материал Guardian о блокировке, как и историю о блокировке этого материала. Об этом рассказали десятки читателей Guardian. Некоторых из них Facebook даже заблокировал за попытку опубликовать ссылку на материал.
Это оказалось ошибкой искусственного интеллекта. Но для людей, которые пытались поделиться фотографием или ссылкой, казалось, что это дело рук персонала Facebook, который блокирует ссылки на СМИ, но при этом оставляет на месте провокационные посты президента США Дональда Трампа.
Проблема с модерацией в Facebook очевидна, но соцсеть пытается избавиться от нее. Учитывая жуткие истории о том, что модераторы соцсети на аутсорсе страдают от посттравматического стрессового расстройства из-за необходимости просматривать контент Facebook целый день, неудивительно, что руководство соцсети пытается автоматизировать этот процесс.
Пока Facebook использует ИИ для выявления наготы, но когда речь заходит о языке вражды, дезинформации и другом подобном контенте, алгоритмы могут давать сбой. Они все еще находятся на стадии разработки.
Идея Цукерберга о блокировке сосков заключается в том, что искусственному интеллекту намного легче один раз распознать и потом постоянно блокировать изображение без вмешательства человека, чем анализировать текст и пытаться определить, является ли он языком вражды.
ИИ будет совершать ошибки, но есть надежда, что в конце концов он научится модерировать. И интересно будет увидеть, какие ошибки алгоритм совершит при проверке фото в рамках борьбы с дезинформацией, распространяемой о коронавирусной пандемии.
В апреле Facebook отметил дезинформационными метками 50 миллионов постов на тему COVID-19 после фактчекинга 7,5 тысяч статей. С 1 марта соцсеть удалила рекламу 2,5 миллионов товаров «от коронавируса»: масок для лица и антисептиков.
Когда пост подвергается фактчекингу и дезинформация в нем подтверждается, прикрепленное к посту фото «запоминается». В следующий раз, когда кто-то поделится таким же изображением, к нему будет прикреплена метка про дезинформацию, независимо от того, ссылается ли пост на материал.
Дезинформация все еще пробивается в Facebook — чтобы понять это, достаточно посмотреть на конспирологические группы, посвященные пандемии. Масштабы Facebook осложняют поиск вредного контента. Аудитория соцсети настолько велика и разнообразна, что алгоритмам сложно определить, какой контент является приемлемым в разных культурах. Заданные стандарты качества могли бы эффективно работать для меньшей аудитории, но не для 2,5 миллиардов пользователей. Такого размера число пользователей Facebook достигло в начале 2020 года. Это равно трети населения планеты.
По материалам The Guardian
