Moderação com inteligência artificial chega ao ‘Call of Duty’
Uma tecnologia chamada ‘Modulate’’ vai monitorar conversas em chats durante partidas de ‘Call of Duty’, em busca de violações de condutaBy - Rafael Arbulu, 31 agosto 2023 às 16:46
Violações do código de conduta de ‘Call of Duty’ serão monitoradas por uma ferramenta de inteligência artificial (IA) chamada “ToxMod”, de acordo com anúncio feito pela publisher Activision e a parceira Modulate. A ideia é que a ferramenta vasculhe conversas nos chats de partidas online em Warzone 2.0 e Modern Warfare.
Estudos são conduzidos há anos, comprovando que a toxicidade de linguagem na internet é mais prevalecente nos videogames – e destes, jogos de tiro em primeira pessoa como Call of Duty reinam de forma problemática. Nas redes sociais, são vários os clipes que mostram abuso sendo direcionados não apenas a jogadores com desempenho inferior, mas também a mulheres e ao público LGBTQIAPN+. Isso quando as ações não resultam em situações físicas – “swatting’ (descobrir o endereço de alguém e enviar equipes táticas da polícia sob acusação falsa) é algo bem comum.
Por causa disso, a Activision firmou uma parceria com a Modulate, que criou a ToxMod, para trazer o que chamou de “moderação de chat de voz dentro do jogo”. A ferramenta promete a capacidade de identificar, de forma falada ou escrita, linguagens que figurem discursos de ódio, discriminação ou assédio em tempo real.
O comunicado não é dos mais esclarecedores e não diz exatamente “como” a ToxMod funciona, mas afirma que a sua adoção não vai substituir – e sim “complementar” – a moderação humana já presente por funcionários da Activision.
“Não há – e nunca haverá – lugar para o comportamento disruptivo nos videogames. Atacar chats de voz particularmente problemáticos sempre foi um extraordinário desafio por toda a indústria de jogos. Com essa colaboração, vamos agora trazer a tecnologia de ponta da Modulate, escalável em tempo real, para um nível global de reforço de regras.” – Michael Vance, CTO da Activision
“Estamos enormemente empolgados com esta parceria com a Activision para levarmos em frente a segurança por meio desta tecnologia de primeira linha. Esse é um grande passo adiante no apoio à comunidade de jogadores do tamanho de Call of Duty, e reforçar ainda mais o compromisso da Activision em liderar esse esforço.” – Mike Pappas, CEO da Modulate
A princípio, a tecnologia ficará restrita apenas a usuários de Call of Duty: Modern Warfare II e Call of Duty: Warzone 2.0 – e mesmo nesses, apenas nos EUA. A ToxMod também será incorporada a Modern Warfare III em seu lançamento, juntamente da disponibilização da ferramenta nos três jogos, em 10 de novembro de 2023.
Comentários