Как Hi-Rez массово борется с токсичным поведением

Создание долгосрочных инклюзивных сообществ лежит в основе миссии Hi-Rez. «Нашим главным приоритетом сейчас является понимание потребностей наших игроков с точки зрения доверия и безопасности», — говорит Джонс. Но в многопользовательских играх широко распространено токсичное поведение и даже домогательства, и команде любого размера будет непросто выявить проблемы в многомиллионном сообществе.

Hi-Rez использует прогнозную аналитику Safe Voice для акустического (тон голоса) и семантического (значение слов) анализа голосовой связи в игре. Система добавляет метки, созданные искусственным интеллектом, которые поясняют причину сообщения о сеансе, что ускоряет работу модераторов.

Джонс имеет 12-летний опыт управления игровыми сообществами и называет голосовой чат «диким Западом» в сфере доверия и безопасности. Немногие инструменты способны анализировать и визуализировать голосовые данные в игре, и Джонс описывает другие решения как «чрезвычайно дорогие и нереалистичные» для небольших и средних студий.

С помощью Safe Voice зарегистрированные случаи классифицируются по таким показателям, как оценка токсичности, оценка сбоев, общий риск и то, пострадали ли в том или ином инциденте игроки из группы риска. Это помогает команде Джонса «выявлять деструктивное поведение и активно бороться с незначительными токсическими веществами, чтобы мы могли реабилитировать игроков, а не ездить на велосипеде».

Для Hi-Rez важно обеспечить оптимальный порог выявления токсичного или деструктивного поведения. Чтобы найти правильный баланс между развлечениями и безопасностью, компания Hi-Rez усовершенствовала Safe Voice, используя фильтры токсичности и разрушений.

«Ложные срабатывания приводят к обращениям игроков, что заставляет нас работать больше. Изначально мы использовали ненормативную лексику для оценки токсичности, но в большинстве случаев мы обнаружили, что эти инциденты не влекут за собой никаких мер», — объясняет Джонс. Настроив Safe Voice в соответствии с игровой культурой, компания Hi-Rez снизила количество ложных срабатываний на 90%, что улучшило приоритизацию инцидентов и время реагирования на них.

Не всякое деструктивное поведение носит словесный характер. Громкие звуки, музыка и даже звуки домашних животных могут лишить вас удовольствия от игры. Когда компания Hi-Rez впервые начала использовать Safe Voice, они поняли, что «через микрофоны людей исходит много фонового шума». В течение 45-дневного периода мониторинга группа выявила около 3000 сеансов, на которые негативно повлиял фоновый шум.

Вооружившись этим пониманием, Джонс и его команда начали думать о решениях. «Это заставило нас рассмотреть возможность внедрения шумоподавления в игре», — говорит он. «Без Safe Voice мы бы не знали, что это проблема».

Всего несколько недель использования Safe Voice пролили новый свет на проблемы, влияющие на сообщество игроков Rogue Company. По словам Джонса, инструмент «освещает то, что раньше было темным пространством. Теперь мы можем увидеть, что есть, и принять меры по улучшению ситуации».