Roblox lança ferramenta de reescrita de chat em tempo real com inteligência artificial para filtrar linguagem proibida.

A plataforma Roblox está lançando um recurso de reformulação de chat em tempo real, alimentado por inteligência artificial, que substitui automaticamente palavras banidas por linguagem mais respeitosa, anunciou a empresa na quinta-feira. O novo recurso vai além do filtro de texto atual do Roblox, que simplesmente substitui palavras e frases proibidas pelo símbolo "#". No entanto, o Roblox afirma que quando os usuários se deparam com cadeias de "####,”", as conversas podem ser interrompidas e difíceis de acompanhar. Agora, em vez de simplesmente exibir hashtags, o texto filtrado será reformulado em uma linguagem mais respeitosa que se aproxima da intenção original do usuário. Por exemplo, uma mensagem que diz "Hurry TF up!" anteriormente teria aparecido como "####,”, mas agora será reformulada para "Hurry up!" Todos no chat são notificados de que a mensagem foi reformulada para manter a conversa civilizada, afirma o Roblox. "O chat é central para como as pessoas se conectam, coordenam e jogam no Roblox", disse Rajiv Bhatia, vice-presidente de Produto de Usuário e Descoberta do Roblox, em um comunicado à imprensa. "A reformulação em tempo real ajuda a manter o gameplay e as conversas no caminho certo, orientando a linguagem para o que é apropriado. Esta abordagem reduz o atrito no chat, mantendo os padrões que ajudam a manter nossa comunidade civilizada." O Roblox observa que, embora a reformulação reduza parte da interrupção no chat, seu sistema de segurança continua em vigor para comportamentos mais sérios. O novo recurso é suportado em todos os idiomas atualmente disponíveis por meio das ferramentas de tradução automática do Roblox. A empresa também está aprimorando o sistema de filtragem de texto para detectar mais variações de linguagem proibida. O Roblox afirma que os resultados iniciais mostram que o sistema está melhorando na detecção de leetspeak e em tentativas mais sofisticadas de burlar os filtros. Isso permitiu à empresa reduzir a prevalência de falsos negativos ao compartilhar ou solicitar informações pessoais em 20 vezes. O anúncio de quinta-feira ocorre pouco tempo após o Roblox ter introduzido a verificação facial obrigatória para acesso aos chats em sua plataforma, seguindo uma onda de processos judiciais sobre a segurança infantil dos procuradores-gerais do Texas, Kentucky e Louisiana, entre outros. Os processos foram apresentados em resposta a relatos de que o Roblox estava expondo jovens usuários a riscos perigosos, como grooming e conteúdo explícito.