Comment Hi-Rez s'attaque aux comportements toxiques à grande échelle

La construction de communautés durables et inclusives est au cœur de la mission de Hi-Rez. "Notre principale priorité à l'heure actuelle est de comprendre les besoins de nos joueurs en termes de confiance et de sécurité", explique M. Jones. Mais les comportements toxiques et même le harcèlement sont omniprésents dans les jeux multijoueurs, et la détection des problèmes dans une communauté de millions de personnes serait un défi pour une équipe de toute taille.

Hi-Rez utilise l'analyse prédictive de Safe Voice pour effectuer une analyse acoustique (ton de la voix) et sémantique (sens des mots) sur les communications vocales dans le jeu. Le système ajoute des étiquettes générées par l'IA qui indiquent clairement la raison pour laquelle une session est signalée, ce qui accélère le travail des modérateurs.

Jones a 12 ans d'expérience dans la gestion de communautés de jeux, et il qualifie le chat vocal de "Far West" dans le domaine de la confiance et de la sécurité. Peu d'outils sont capables d'analyser et de visualiser les données vocales du jeu, et M. Jones décrit les autres solutions comme étant "extrêmement coûteuses et peu réalistes" pour les studios de petite et moyenne taille.

Avec Safe Voice, les instances signalées sont classées en fonction de paramètres tels que le score de toxicité, le score de perturbation, le risque global et la question de savoir si les joueurs à risque ont été touchés par un incident donné. Cela permet à l'équipe de Jones "d'identifier les comportements perturbateurs et de traiter de manière proactive les cas de toxicité mineure afin de réhabiliter les joueurs au lieu de les éliminer".

Il est important pour Hi-Rez de garantir un seuil optimal d'identification des comportements toxiques ou perturbateurs. Pour trouver le juste équilibre entre plaisir et sécurité, Hi-Rez a affiné Safe Voice en utilisant ses filtres de toxicité et de perturbation.

"Les faux positifs entraînent des appels de la part des joueurs, ce qui nous donne plus de travail. Au départ, nous avons fait en sorte que les injures contribuent aux scores de toxicité, mais la plupart du temps, nous avons constaté que les incidents n'étaient pas exploitables", explique M. Jones. En configurant Safe Voice pour qu'il corresponde à la culture de leur jeu, Hi-Rez a réduit les faux positifs de 90 %, ce qui a permis d'améliorer la hiérarchisation des incidents et les temps de réponse.

Tout comportement perturbateur n'est pas forcément verbal. Les bruits forts, la musique et même les bruits d'animaux domestiques peuvent nuire au plaisir du jeu. Lorsque Hi-Rez a commencé à utiliser Safe Voice, il s'est rendu compte que "beaucoup de bruits de fond passaient par les microphones des gens". Au cours de la période de contrôle de 45 jours, l'équipe a identifié près de 3 000 sessions affectées par le bruit de fond.

Armés de ce constat, Jones et son équipe ont commencé à réfléchir à des solutions. "Cela nous a incités à envisager de mettre en place une réduction du bruit dans le jeu", explique-t-il. "Nous n'aurions jamais su qu'il s'agissait d'un problème sans Safe Voice."

Quelques semaines d'utilisation de Safe Voice ont permis de faire la lumière sur des problèmes affectant la communauté des joueurs de la Rogue Company. Comme le dit Jones, l'outil "illumine ce qui était auparavant un espace sombre". Nous pouvons maintenant voir ce qui se passe et prendre des mesures pour améliorer la situation.