Игровая студия Activision интегрировала в онлайн-режим шутера Call of Duty инновационный инструмент модерации на основе искусственного интеллекта. Он будет выявлять дискриминационные высказывания и оскорбления в реальном времени в многопользовательских онлайн-матчах.
Этот инструмент, получивший название ToxMod, разработан компанией Modulate. С его помощью ИИ обучается и адаптируется динамически, без необходимости жестких инструкций от человека, используя алгоритмы и данные для распознавания поведенческих образцов.
Майкл Вэнс, технический директор Activision, подчеркнул, что это усовершенствование призвано сделать игры «приятными, честными и дружелюбными для всех игроков».
Игроки смогут отключить действие ИИ-модератора только, если полностью отключают голосовой чат в онлайн-игре.
По данным Activision, имеющиеся инструменты, такие как система жалоб от игроков и автоматический мониторинг чатов и имен пользователей, позволили ограничить доступ к общению более чем для 1 миллиона аккаунтов, нарушивших правила поведения сообщества.
Кодекс поведения Call of Duty содержит запреты на дискриминацию, домогательства и преследование, включая оскорбления на основе расы, сексуальной ориентации, гендерной идентичности, возраста, культуры, религии и национальности.
