Как Clubhouse столкнулся с необходимостью модерировать живые разговоры

Как Clubhouse столкнулся с необходимостью модерировать живые разговоры

Рост популярности Clubhouse, новой соцсети, построенной на живом общении голосом, подогретый участием в дискуссиях Илона Маска и Марка Цукерберга, заставляет задуматься о модерации. Как модерировать прямой эфир и вовремя блокировать язык вражды и дезинформацию?

Модерация в режиме реального времени — проблема не только для Clubhouse. С этим уже сталкивались и Discord, и Live Audio Spaces в Twitter. Поговаривают, что Facebook тоже планирует внедрить подобную функцию.

«Аудио представляет собой принципиально иной набор проблем для модерации, чем текстовое общение. Это более эфемерно, и в нем сложнее исследовать и действовать», – сказал в интервью главный юрист Discord Клинт Смит.

Инструменты для обнаружения проблемного аудиоконтента отстают от инструментов, используемых для идентификации текста, а расшифровка и изучение записанных голосовых чатов — более трудоемкий процесс как для людей, так и для компьютеров.

Не все компании сохраняют голосовые записи для расследования жалоб на нарушения правил. В Twitter сохраняют аудиозаписи из Spaces в течение 30 дней или дольше, если надо расследовать жалобу. Discord вообще не записывает общение, а в Clubhouse говорят, что удаляет записи, если сеанс заканчивается без жалоб.

В качестве инструмента борьбы с языком вражды в Dicsord предлагают отключать звук или блокировать отдельных участников чата. Эти возможности появились после инфокампаний, в которых от Discord добивались реакций на оскорбления и заявления о превосходстве белой расы в голосовых чатах.

Голосовые чаты — довольно новая и интересная тема для интернета, и сейчас в них еще не выработались свои правила и возможные наказания.

Проблемы модерирования живого звука противопоставляются глобальному вопросу модерации контента в крупных социальных сетях, которые критикуют за их неподотчетность и непрозрачность действий относительно банов.

Онлайн-платформы также давно борются с блокировкой графического контента. В 2020 году прямая трансляция самоубийства на Facebook Inc разошлась по нескольким сайтам. В 2019 году стрельба в немецкой синагоге транслировалась в прямом эфире на платформе Twitch, принадлежащей Amazon Inc.

В конце февраля соучредитель Clubhouse Пол Дэвисон представил видение того, как приложение, доступное только по инвайтам, займет заметную роль в жизни людей. Оно станет местом для политических митингов и деловых совещаний.

Комнаты, число участников в которых сейчас ограничено 8000, будут масштабироваться «до бесконечности», а их создатели смогут получать «чаевые» от участников.

По словам источника, знакомого с ситуацией, в результате последнего раунда финансирования в январе капитализация Clubhouse достигла 1 миллиарда долларов. Финансирование осуществляла Andreessen Horowitz, ведущая венчурная компания Кремниевой долины.

На вопрос, как Clubhouse работает над модерацией неприемлемого контента, Дэвисон ответил, что крошечный стартап набирает сотрудников, которые смогут решать проблемы сразу на нескольких языках.

Приложение, аудитория которого достигла 10 миллионов человек, обслуживается лишь парой десятков человек. Сейчас компания использует как штатных модераторов, так и аутсорс.

За год с момента своего основания Clubhouse столкнулся с критикой из-за жалоб на мизогинию, антисемитизм и дезинформации о COVID-19, несмотря на правила, запрещающие все это.

В Clubhouse заявляют, что компания инвестирует в инструменты для обнаружения и предотвращения агрессии, а также разрабатывает функции, позволяющие создателям комнат устанавливать собственные правила и модерировать беседы.

По материалам Reuters

Content Protection by DMCA.com