Нещодавно компанія Microsoft анонсувала скорочення десятків редакторів, які працюють у новинному агрегаторі служби MSN. Вони займалися пошуком, написанням та публікацією новин. Тепер їх замінить спеціальний алгоритм.
Близько 50 працівників-аутсорсерів у Штатах та 27 у Великобританії втратять роботу 30 червня. При цьому штатні співробітники Microsoft залишаться з роботою. У компанії прогнозували, що робота штучного інтелекту може виявитися неякісною, тому відразу був розроблений план для повторного найму живих людей. У Microsoft побоювалися, що алгоритм може порушити суворі редакційні правила в питаннях насильства.
Побоювання виявилися не марними. Штучний інтелект, яким компанія Microsoft замінила людей в новинному агрегаторі MSN, став винуватцем расистського скандалу, пише видання The Guardian.
Новину про те, як співачка Джейд Феруолл з поп-групи Little Mix зіткнулася з расизмом в своєму житті, ШІ помилково проілюстрував фотографією її колеги по колективу Лі-Енн Піннок.
У своєму Instagram Феруолл відреагувала на інцидент критикою на адресу сервісу.
«MSN, якщо ви збираєтеся копіювати статті з інших, більш точних ЗМІ, можливо, вам слід переконатися, що ви використовуєте фото підходящої учасниці групи змішаної раси», – написала Феруолл.
Масла у вогонь підливає той факт, що обидві дівчини змішаної раси.
«Мене ображає те, що ви не змогли відрізнити двох кольорових жінок з чотирьох членів групи… Працюйте краще!».
За словами джерела The Guardian в Microsoft, Феруолл не знала, що новини в MSN тепер редагують не журналісти, а спеціальний алгоритм.
На запитання автора The Guardian, чому Microsoft впроваджує програмне забезпечення, яке не може відрізнити людей різних рас, чи можуть явні расистські забобони просочитися в роботу програмного забезпечення провідних корпорацій, і чи буде компанія переглядати плани по заміні редакторів-людей роботами, прес-секретар Microsoft заявила лише:
«Як тільки ми дізналися про цю проблему, ми негайно вжили заходів для її усунення і замінили неправильне зображення».
Однак, пізніше все той же алгоритм порахував, що стаття The Guardian про скандал з Феруолл буде цікава читачам і автоматично опублікував її на сервісі. У свою чергу Microsoft наказав редакторам, що ще залишилися у компанії, видалити з MSN будь-які згадки про цей скандал.
Microsoft — не перша компанія, що випробує штучний інтелект для роботи з проблемним контентом. Раніше ми писали про те, як працюють вдосконалені алгоритми для пошуку мови ненависті у Facebook. 12 травня в Facebook поділилися даними про значне зростання числа постів та коментарів, заблокованих за хейтспіч. Це сталося якраз через впровадження алгоритмів.
Точність роботи алгоритму невідома. В адміністрації соцмережі кажуть, що загальний обсяг хейтспіча, який публікують 1,7 мільярда користувачів, назвати складно.
Компанія вже два роки, з травня 2018-го, публікує щоквартальні звіти про те, як працюють стандарти спілкування в соцмережі. В останньому звіті говориться, що за перший квартал 2020 року у Facebook видалили 9,6 мільйона постів та коментарів. У четвертому кварталі 2019 го-видалених було менше — 5,7 мільйона.
