Roblox, febre entre crianças, faz IA caçar abusadores em games milionários

Só que, no momento em que ultrapassa os 110 milhões de usuários, a plataforma de jogos enfrenta muitas das dores do crescimento já vividas por outras colegas mais conhecidas. Mas tenta adotar postura distinta: enquanto se prepara para fazer uma verificação etária em massa, cria soluções internas de segurança com inteligência artificial que dá de graça a plataformas que queiram usá-las. Isso reduz, mas não acaba, admite a empresa, com as denúncias da presença de predadores sexuais e bullying.

99 Noites na Floresta

Imagem: Divulgação/Roblox

Repleta de jogos com gráficos pouco sofisticados, a Roblox atrai crianças justamente pela simplicidade. Não é preciso aprender comandos e dinâmicas muito complexas para fazer parte da brincadeira. Muitas delas se sentem tão imersas que já não se apresentam pelo nome, mas pelo apelido que adotam na plataforma. Também conta a favor a onipresença da plataforma, disponível em celulares, consoles famosos como Xbox e Playstation e PC.

Fora jogadores, o ecossistema da plataforma é composto por desenvolvedores de games, estúdios de tamanhos variados e criadores de itens digitais. Boa parte deles bastante jovem -tanto que suscita discussões trabalho infantil.

Um dos sucessos da temporada é "99 Noites na Floresta", um jogo-enigma cujo objetivo é descobrir com outros jogadores o que se passou em um bosque —e sobreviver a isso. Um dos criadores é Alec Kieft, de 27 anos. Conhecido como Cracky4, ele começou a fazer games para a Roblox aos 16, justamente porque era fácil.

Quando projeto um jogo, quero que as coisas sejam excessivamente simplificadas. E isso não é apenas para os mais jovens. Mesmo para um público mais velho, as coisas serem diretas e intuitivas
Alec Kieft, criador de "99 Noites na Florest"

Outro hit do ano é "Crescer um Jardim" (Grow a Garden). Feito por um adolescente de 16 anos, conhecido só pelo nome de seu avatar BMWLux, bateu o recorde de jogadores simultâneos de "Fortnite" (15,3 milhões) ao reunir 16,4 milhões de pessoas ao mesmo tempo. Com nome auto explicativo (você tem que criar e cuidar de um jardim) e com pinta de "revival" do Farmville, que rodava no Facebook, o título é símbolo do que rola no Roblox. Nem bem chegou à plataforma (tinha só mil usuários), e o estúdio neozelandês Spliting Point viu potencial nele e o comprou. Janzen Madsen, dono da empresa e conhecido como Jandel, conta que até nutria alguma expectativa em relação ao jogo feito em uma semana, mas não tanta.

Eu sabia que 'Grow a Garden' poderia atingir 100 mil jogadores simultâneos, talvez até 1 milhão. Mas 23 milhões é obviamente insano
Janzen "Jandel" Madsen, dono do game 'Grow a Garden', da Roblox

Dinheiro de CEO de empresa grande

Personagens dos jogos da Voldex, na Roblox Imagem: Divulgação/Voldex

Games consolidados também são alvo de outros estúdios, que pagam caro por eles. Fundada em 2015 para manter servidores de jogos no Minecraft, a Voldex abandonou a plataforma da Microsoft e hoje atua adquirindo e ampliando games na Roblox. Mira só aqueles que integram o top 20 em receita, possuem jogadores fiéis, mas ainda podem crescer.

A gente decidiu sair do 'Minecraft', do 'Fortnite' e focar no Roblox porque é a plataforma que mais cresce no mundo de games e a que mais beneficia os desenvolvedores em geral
Leonardo Vasques, brasileiro e engenheiro de software da Voldex

Caio Cabral, outro brasileiro na plataforma, é pioneiro na criação de itens. De Realengo, no Rio, ele trabalhava na Caixa Econômica Federal quando começou a fazer acessórios em 3D para avatares em 2016. Os pais só deixaram de suspeitar que o filho enfurnado no quarto com a cara enfiada no PC não estava metido em coisa errada quando o primeiro pagamento veio (R$ 8 mil) e ele passou a dar entrevistas e palestras.

Seu item de maior sucesso foi um óculos. Vendeu 3 milhões deles e faturou cerca de R$ 400 mil. Ele evita revelar quanto ganha hoje, mas diz já ter ganhado muita grana quando era um dos poucos designers autorizados na plataforma.

Era dinheiro de CEO de empresa gigante. Por mês, era de R$ 100 mil pra cima. Agora que abriu para todo mundo, eu fui rebaixado da Série A para a Série D
Caio Cabral, designer 3D e criador de itens digitais da Roblox

A segurança vem da IA

David Baszuck, fundador e CEO da Roblox Imagem: Divulgação/Roblox

Por trás dos negócios no Roblox, está o Robux. A moeda digital compra itens e melhorias nos jogos, mas pode virar dinheiro de verdade. Durante a RDC (Conferência para Desenvolvedores) em San Jose, na Califórnia, realizada no começo de setembro, o anúncio do aumento da taxa de retorno foi um dos momentos de maior euforia: o valor de 100 mil Robux passou de US$ 350 para US$ 380. Segundo a empresa, US$ 1 bilhão foi distribuído dessa forma no ano passado. Mantém os criadores felizes é crucial para os planos da Roblox de atingir 10% do faturamento total da indústria de games.

Outra das novidades anunciadas pelo CEO David Baszuck é o uso de inteligência artificial generativa para criar itens no meio do jogo e para dar aos desenvolvedores o poder de encurtar o trabalho. Só que outras modalidades dessa tecnologia são essenciais para o Roblox funcionar, diz Anupan Singh, vice-presidente de engenharia da empresa. Principalmente na moderação de conteúdo, afinal, é com ela que a companhia:

Você deve pensar no nosso grupo de segurança como um grupo de inteligência artificial, porque a maioria do trabalho é feita por IA
Anupan Singh

Moderar esse volume de dados em tempo real exige analisar o conteúdo centenas de milhares de vezes por segundo. Há muita IA por trás. LLMs (Grandes Modelos de Linguagem) são incríveis, mas incrivelmente lentos e não escalam para o que fazemos. Eles também não levam em conta a forma como as pessoas falam, por que, no Roblox, é como se tivessem criado uma linguagem própria
Matt Kaufman, chefe de segurança da Roblox

IA por toda parte

Moments, da Roblox Imagem: Divulgação/Roblox

O uso de IA é tão intenso que já consome boa parte da capacidade de processamento da Roblox. Não à toa, o data center no Brasil foi inaugurado em setembro para melhorar a experiência de jogo no país.

A IA acompanha toda a trajetória de um jogador. Assim que ele entra na plataforma, 400 modelos passam a rodar. A pressão da tecnologia exercida sobre a infraestrutura é levada em conta hora do lançamento de novas funções.

Durante a RDC, a companhia apresentou o "Moments", uma espécie de Reels com restrições. Só imagens dos jogos podem ser compartilhadas, não é possível comentar, replicar ou reunir os vídeos em um perfil dentro do Roblox. Tudo porque a empresa não quer ser vista como uma rede social e quer avaliar o tamanho do esforço que será vigiar com IA as interações resultantes.

Quantos anos você tem?

Imagem: Divulgação/Roblox

Moderação é outro assunto sensível, porque o Roblox está nos holofotes devido à ação de predadores sexuais e casos de bullying -os pais de um adolescente que se suicidou após anos de abusos verbais processaram a plataforma e o Discord.

Menores de todas as idades são permitidos na plataforma, mas há restrições. Não podem compartilhar fotos e vídeos dos celulares. A interação entre eles e adultos é proibida —a conversa só é permitida se ficar provado que se conhecem no mundo real; para isso, precisam, por exemplo, compartilhar a lista de contatos de seus celulares. E há games que, dependendo da faixa etária, não podem ser jogados por eles.

Só que, com uma exceção ou outra, a verificação etária é feita por autodeclaração. Para driblar os relatos falsos, a Roblox vai conduzir até o fim do ano um processo massivo de estimativa de idade. O usuário terá de enviar um vídeo de seu rosto movendo a cabeça, parecido com o processo para abrir conta em banco no Brasil. O objetivo é detectar que se trata de uma pessoa real, não uma foto, e definir a idade aproximada a partir dos detalhes faciais. O procedimento valerá para países onde menores não puderem enviar documentos oficiais.

Obrigar plataformas digitais a identificar a idade de seus usuários no Brasil é uma das exigências do ECA Digital. A lei sancionada há duas semanas pelo presidente Lula começa a valer dentro de seis meses.

Preferimos que a atividade aconteça no Roblox, onde podemos implementar todos esses recursos de segurança, em vez de desligar algo e fazer esse uso ir para outro lugar onde as pessoas fecham os olhos
Matt Kaufman, chefe de segurança da Roblox

Os vigilantes da Roblox

Imagem: Divulgação/Roblox Corporation

Uma das polêmicas recentes envolvendo o Roblox foi a expulsão do youtuber Schlep, que caçava predadores sexuais para denunciá-los à polícia. Para Kaufmann, o criador de conteúdo tinha as intenções certas, mas agia de maneira inapropriada. "O problema com vigilantes é que, mesmo que tenham as melhores intenções, eles podem violar nossas políticas (como direcionar usuários para comunicação fora da plataforma, mentir sobre a idade ou insinuar atividade violadora). Se estiverem violando nossas políticas, não podemos permitir que isso continue, porque normaliza o comportamento."

Segundo o executivo, a própria plataforma procura ativamente aliciadores e violadores e os denuncia às autoridades. Usa um sistema de IA chamado Sentinela, que tem o código liberado para outras empresas usarem. Algumas já o adotaram, mas Kaufmann não diz quais.

Só neste ano, 23 mil ocorrências desse tipo foram comunicadas ao NCMEC (Centro Nacional para Crianças Desaparecidas e Exploradas, na sigla em inglês), órgão dos EUA que subsidia com informações polícias do mundo, como a PF no Brasil.

Só gostaria que tivessem em mente que esse número é de 23 mil em um universo de 110 milhões de pessoas ativas na plataforma todos os dias. O número pode ser grande, mas como porcentagem, é muito, muito pequeno
Matt Kaufman, chefe de segurança da Roblox

Procure ajuda

Radar Big Tech #2
WhatsApp libera tradução automática de mensagens; saiba como usar Leia mais

Radar Big Tech #3
TikTok diz vetar anúncio eleitoral, mas liberou dezenas de posts pró-Marçal Leia mais

Deu Tilt #1
'Soberania é ter direito a um destino digital', diz embaixador Leia mais

Deu Tilt #2
Google liga Modo IA no Brasil e muda a vida de quem depende da busca online Leia mais

Deu Tilt #3
Declínio da web: por que Google agora vê ruína do atual modelo de internet? Leia mais

Deu Tilt #4
Golpes com Bolsa Família e Pix disparam, e governo vê 'epidemia de fraude' Leia mais

Diogo Cortiz
Lançamento de óculos da Meta é sinal de que a IA vai desaparecer Leia mais