Moderação com inteligência artificial chega ao ‘Call of Duty’

Violações do código de conduta de ‘Call of Duty’ serão monitoradas por uma ferramenta de inteligência artificial (IA) chamada “ToxMod”, de acordo com anúncio feito pela publisher Activision e a parceira Modulate. A ideia é que a ferramenta vasculhe conversas nos chats de partidas online em Warzone 2.0 e Modern Warfare.

Estudos são conduzidos há anos, comprovando que a toxicidade de linguagem na internet é mais prevalecente nos videogames – e destes, jogos de tiro em primeira pessoa como Call of Duty reinam de forma problemática. Nas redes sociais, são vários os clipes que mostram abuso sendo direcionados não apenas a jogadores com desempenho inferior, mas também a mulheres e ao público LGBTQIAPN+. Isso quando as ações não resultam em situações físicas – “swatting’ (descobrir o endereço de alguém e enviar equipes táticas da polícia sob acusação falsa) é algo bem comum.

Imagem: divulgação/Activision

Por causa disso, a Activision firmou uma parceria com a Modulate, que criou a ToxMod, para trazer o que chamou de “moderação de chat de voz dentro do jogo”. A ferramenta promete a capacidade de identificar, de forma falada ou escrita, linguagens que figurem discursos de ódio, discriminação ou assédio em tempo real.

O comunicado não é dos mais esclarecedores e não diz exatamente “como” a ToxMod funciona, mas afirma que a sua adoção não vai substituir – e sim “complementar” – a moderação humana já presente por funcionários da Activision.

“Não há – e nunca haverá – lugar para o comportamento disruptivo nos videogames. Atacar chats de voz particularmente problemáticos sempre foi um extraordinário desafio por toda a indústria de jogos. Com essa colaboração, vamos agora trazer a tecnologia de ponta da Modulate, escalável em tempo real, para um nível global de reforço de regras.” – Michael Vance, CTO da Activision

“Estamos enormemente empolgados com esta parceria com a Activision para levarmos em frente a segurança por meio desta tecnologia de primeira linha. Esse é um grande passo adiante no apoio à comunidade de jogadores do tamanho de Call of Duty, e reforçar ainda mais o compromisso da Activision em liderar esse esforço.” – Mike Pappas, CEO da Modulate

A princípio, a tecnologia ficará restrita apenas a usuários de Call of Duty: Modern Warfare II e Call of Duty: Warzone 2.0 – e mesmo nesses, apenas nos EUA. A ToxMod também será incorporada a Modern Warfare III em seu lançamento, juntamente da disponibilização da ferramenta nos três jogos, em 10 de novembro de 2023.