A Activision informou que Call of Duty: Modern Warfare 3 será lançado com um sistema de moderação de chat por voz com tecnologia de IA. Se trata do modelo ToxMod da Modulate alimentado por IA, que fará a moderação das conversas para combater comportamento tóxico.
A tecnologia faz uso da IA para identificar em tempo real discursos de ódio, linguagem discriminatória e assédio. Atualmente Call of Duty faz uso de filtros em texto com suporte para 14 idiomas (válido para o chat e nomes de usuário) e um sistema que permite aos próprios jogadores relatarem comportamentos inadequados.
A Activision disse que o chat por voz é monitorado e gravado “para o propósito expresso de moderação” e “está focada em detectar ofensas no bate-papo por voz contra palavras-chave específicas”.
O novo sistema com IA fará a moderação com base no Código de Conduta de Call of Duty, que permite “conversas fúteis” e “brincadeiras amigáveis”, mas não tolera “bullying ou assédio, incluindo comentários depreciativos baseados em raça, identidade ou expressão de gênero, orientação sexual, idade, cultura, fé, habilidades mentais ou físicas, ou país de origem”.
“A comunicação com outras pessoas, seja através do bate-papo por texto ou voz, deve ser isenta de linguagem ofensiva ou prejudicial. Discurso de ódio e linguagem discriminatória são ofensivos e inaceitáveis, assim como assediar e ameaçar outro jogador.”
