Ігрова студія Activision інтегрувала в онлайн-режим шутера Call of Duty інноваційний інструмент модерації на основі штучного інтелекту. Він виявлятиме дискримінаційні висловлювання та образи в реальному часі в багатокористувацьких онлайн-матчах.
Цей інструмент, що отримав назву ToxMod, розроблений компанією Modulate. З його допомогою ШІ навчається й адаптується динамічно, без необхідності жорстких інструкцій від людини, використовуючи алгоритми та дані для розпізнавання поведінкових зразків.
Майкл Венс, технічний директор Activision, наголосив, що це вдосконалення покликане зробити ігри “приємними, чесними та доброзичливими для всіх гравців”.
Гравці зможуть відключити дію ШІ-модератора тільки, якщо повністю відключають голосовий чат в онлайн-грі.
За даними Activision, наявні інструменти, як-от система скарг від гравців та автоматичний моніторинг чатів та імен користувачів, дали змогу обмежити доступ до спілкування більш ніж для 1 мільйона акаунтів, які порушили правила поведінки спільноти.
Кодекс поведінки Call of Duty містить заборони на дискримінацію, домагання та переслідування, включно з образами на основі раси, сексуальної орієнтації, гендерної ідентичності, віку, культури, релігії та національності.
