A moderação de conversas por voz em jogos online sempre foi um desafio, especialmente com o aumento de comportamentos inadequados. Empresas estão recorrendo à inteligência artificial para combater a toxicidade, mas será que a IA realmente consegue superar a capacidade humana de discernimento?

ÍNDICE

• A Moderação de Voz com IA em Ascensão
• Roblox e a Moderação de Voz por Machine Learning
• Os Desafios da Moderação em Tempo Real
• A Eficiência da IA na Moderação de Voz
• As Limitações da IA e o Papel Humano
• Outras Empresas Adotando a IA na Moderação
• IA como Ferramenta, Não Solução Definitiva

A Moderação de Voz com IA em Ascensão

O aumento do uso do chat de voz em videogames online inevitavelmente trouxe consigo um aumento no mau comportamento entre os jogadores. Afinal, é muito mais fácil gritar insultos e ofensas do que parar para digitá-los. Moderar essa toxicidade é difícil, e algumas empresas estão recorrendo à IA para ajudar a reprimir o pior disso.

Roblox e a Moderação de Voz por Machine Learning

Durante a GDC, o Diretor Técnico Sênior da Roblox, Kiran Bhat, e o Líder de Segurança de Voz, Hannes Heikinheimo, revelaram que a Roblox tem utilizado a moderação de chat de voz por machine learning há um ano e obteve bons resultados com isso. No entanto, reconheceram que, às vezes, seres humanos reais são melhores no trabalho.

Os Desafios da Moderação em Tempo Real

Moderar a voz em tempo real soa realmente assustador, porque para moderar a voz, você não só precisa saber o que a pessoa está dizendo, mas também capturar o tom e a intensidade do que está sendo dito para decidir se algo é tóxico ou não. Bhat disse durante a palestra: “Há também um contexto que faz parte do que é ofensivo. Então, é um problema realmente difícil.”

A Eficiência da IA na Moderação de Voz

Mitigando esse desafio, Bhat explicou que pelo menos 85% do que é considerado tóxico pode ser coberto em quatro categorias principais, e a grande maioria das ofensas é capturada com uma lista das 50 principais palavras-chave. “Então, mesmo que você trabalhe com as 50 principais palavras-chave nessas categorias, já terá feito um bom trabalho.”

As Limitações da IA e o Papel Humano

Hannes Heikinheimo, líder de segurança de voz da Roblox, alega resultados impressionantes. Após executar o sistema por cerca de um ano, período durante o qual foi expandido para cobrir 31 países, ele disse que o número de denúncias de abuso feitas por hora ativa de conversa foi reduzido pela metade.

Uma das vantagens de usar o machine learning para a moderação de voz é a consistência. Heikinheimo disse: “Ao contrário dos humanos, as máquinas não têm diferentes perspectivas ou opiniões, não ficam cansadas ou irritadas, ou têm dias ruins, elas apenas fazem o que fazem. Portanto, em casos muito claros de comportamento tóxico, as máquinas são mais eficazes e consistentes do que as pessoas.”

Mas a essencial humanidade que pode nos tornar difíceis de definir também nos permite fazer um trabalho melhor do que as máquinas em situações que não são tão claras. “As máquinas podem ser boas em combinar padrões, mas quando se trata de entender a intenção e exercer o bom senso, bem, os humanos ainda superam as máquinas”, completa.

Humanos ainda são melhores nesses tipos de coisas onde você pode estar muito perto do limite da decisão. “Ou pode ser um caso muito raro onde não temos muitos dados para o sistema de machine learning aprender. Então, nesses casos, os humanos ainda podem ser melhores”, afirmou Heikinheimo.

Outras Empresas Adotando a IA na Moderação

A Roblox não é a única empresa buscando a moderação de voz alimentada por IA. Durante a GDC de 2024, por exemplo, foram entrevistados dois fabricantes de software que trabalham em sistemas de machine learning para ajudar na moderação do chat de voz. Também é notável que a Activision relatou anteriormente sucesso semelhante com suas próprias ferramentas de moderação de voz alimentadas por IA em Call of Duty.

IA como Ferramenta, Não Solução Definitiva

Deixando de lado o ceticismo inato, é preciso reconhecer que o machine learning/IA – como queiram chamar – tem muitos casos de uso potenciais no mundo real, e este é um bom exemplo. Mas também demonstra que é uma ferramenta, não uma panaceia, e que nós, seres humanos, ainda temos um lugar neste admirável mundo novo do futuro.

O que você achou desta notícia? Deixe seu comentário abaixo e compartilhe sua opinião sobre o uso da IA na moderação de voz em jogos online!