Mundos virtuais construídos do zero e avatares personalizáveis atraem a atenção das crianças, que se tornaram o público-alvo do Roblox. A plataforma, lançada em 2006, permite aos utilizadores interagir com outros, criar jogos e até ganhar dinheiro com isso, com os pagamentos a serem feitos através de Robux (a moeda digital utilizada pela empresa). Não é só “mais um jogo”, mas uma “porta de entrada para a criatividade, aprendizagem e interação social”. “É um gigantesco parque temático.”

A descrição é feita por Kirra Pendergast, CEO da Safe on Social Media, organização que dá conselhos a escolas e empresas sobre segurança online, que diz que no Roblox as crianças “não estão apenas a jogar”, mas a “construir jogos, a aprender a programar e a explorar a arte digital e a autoexpressão através dos seus avatares”. Por sua vez, Eric Goldman, professor de direito na Universidade de Santa Clara (EUA), recorda que os filhos gostavam da plataforma porque conseguiam “construir os seus próprios mundos e navegar naqueles que foram construídos por outros”. “O Roblox parece ter despertado especialmente o lado artístico dos meus filhos, pois permitiu-lhes traduzir as suas imagens mentais em representações visuais”, explica.

A aplicação foi conquistando os mais novos ao longo dos anos e a sua popularidade aumentou durante o primeiro confinamento, em 2020, na sequência da Covid-19. E foi precisamente desde essa altura que as dores de crescimento começaram a fazer-se sentir. Começaram a surgir relatos de comportamentos inapropriados de determinados jogadores, preocupações com uma alegada falta de moderação de conteúdos ou até com a presença de jogos de teor sexual.

Embora já tenha enfrentado uma ameaça por parte de Kim Kardashian, dois processos judiciais interpostos por pais e tenha sido alvo de uma recente investigação da Bloomberg acerca da presença de predadores, o Roblox garante que passou as últimas “quase duas décadas” a trabalhar para construir “um dos ambientes online mais seguros para os utilizadores, especialmente os mais jovens”.

A presença de predadores e a “insuficiente” moderação para proteger as crianças

Uma data de nascimento, um nome de utilizador, que a própria plataforma aconselha a que não seja o “real”, e uma palavra-passe. São os requisitos obrigatórios para criar, gratuitamente, uma conta no Roblox. Ao contrário do que acontece noutras aplicações, não é necessário colocar qualquer email ou número de telemóvel. A total anonimidade que é permitida pode ser explorada por predadores e dificultar o trabalho da equipa de moderação de conteúdos.

Foi o que aconteceu com Arnold Castillo, utilizador mais conhecido como “Doc” e criador do popular jogo Sonic Eclipse Online. De acordo com uma investigação publicada pela Bloomberg no final de julho, o jovem de 22 anos enviou mensagens inapropriadas a uma menor de 12 anos como, por exemplo, “em breve vou corromper-te para além dos teus sonhos mais loucos” ou “és a razão pela qual vou acabar atrás das grades”. A conta de “Doc” foi banida do Roblox, mas o seu jogo, cuja propriedade tinha sido transferida para outro gamer, permaneceu ativo (seria mais tarde desativado devido a problemas relacionados com direitos de propriedade intelectual).

Pouco depois do bloqueio, “Doc” criou uma nova conta e conseguiu regressar à aplicação. Para assinalar o regresso, citou parte da música Without Me do rapper Eminem: “Guess who’s back, back again” (“Adivinha quem está de volta, de volta outra vez”, em tradução livre). Sob uma nova identidade online, adotando o nome de utilizador LastOutlawz, Arnold Castillo começou a conversar com outra rapariga, de 15 anos, que coagiu a fugir de casa. Foi detido e declarou-se culpado de “transportar uma menor através das fronteiras estaduais para fazer sexo”.

O caso de Arnold Castillo não é único. Segundo dados obtidos pela Bloomberg, desde 2018 as autoridades norte-americanas detiveram pelo menos 24 pessoas suspeitas de abusar sexualmente ou sequestrar vítimas que conheceram através do Roblox. Ainda assim, Matt Kaufman, diretor de segurança, rejeita, em declarações à Bloomberg. que a plataforma tenha um problema relacionado com a segurança dos menores: “Dezenas de milhões de pessoas de todas as idades têm uma experiência segura e positiva no Roblox todos os dias.”

Atualmente, o Roblox conta com mais de 77 milhões de utilizadores diários ativos em todo o mundo, sendo que, desses, cerca de 21,4 milhões estão na Europa. Ao Observador, a empresa, que não partilha o número de jogadores que tem em Portugal, afirma que 58% dos seus utilizadores são maiores de 13 anos. Para a moderação de conteúdos diz ter uma equipa de cerca de três mil pessoas, que é apoiada pela inteligência artificial.

O número de trabalhadores que se dedicam à moderação de conteúdos será insuficiente. Oito antigos e atuais funcionários do Roblox disseram à Bloomberg que o crescimento do número de utilizadores tem prioridade sobre a segurança dos menores. Por outro lado, uma moderadora revelou que a sua equipa recebe centenas de denúncias por dia relacionadas com a segurança das crianças e que esse número é demasiado elevado para que seja possível dar vazão às queixas.

A maioria dos especialistas ouvidos pelo Observador concorda que existem falhas na moderação de conteúdos. Kirra Pendergast, da Safe on Social Media, acredita que a moderação não é “suficiente para proteger as crianças”. “Embora o Roblox recorra a inteligência artificial e a moderadores humanos, o volume de conteúdos e interações é demasiado vasto para uma supervisão eficaz”, defende, acrescentando que recebe frequentemente relatos de “comportamentos predatórios” que “escapam”.

A opinião é seguida por Ron Kerbs, CEO da Kidas, empresa de segurança online que analisa comunicações em videojogos e alerta pais para atividades potencialmente perigosas, que afirma que o Roblox tem feito “esforços significativos” na área da moderação, mas que continua a não ser “totalmente infalível”. Por sua vez, Eric Goldman adota uma postura mais defensora da plataforma e afirma que muitos dos problemas encontrados são comuns aos enfrentados por “todos os serviços” disponíveis online.

O Roblox enfrenta um escrutínio extra devido ao número de crianças que fazem parte da sua base de utilizadores”, afirma o professor norte-americano, antes de salientar que “nenhum sítio no mundo é 100% seguro” para os menores.

Contactado pelo Observador, o Roblox defende-se e alega que a investigação feita pela Bloomberg contém “descaracterizações gritantes” sobre a forma como tenta proteger os utilizadores de “todas as idades” e não reflete “as complexidades da segurança infantil online” e “as experiências extremamente positivas que dezenas de milhões de pessoas de todas as idades têm [na app] todos os dias”.

Face às preocupações levantadas, o Observador também contactou a Comissão Nacional de Proteção de Dados (CNPD) para perceber se recebeu queixas relacionadas com o jogo e se tem recomendações a fazer face à utilização por parte de menores. Não foi possível obter uma resposta até à publicação deste artigo.

Uma ameaça de Kim Kardashian e a descoberta de jogos de teor sexual

As preocupações com falhas na segurança de alguns menores que utilizam o Roblox foram expostas recentemente pela Bloomberg, mas não são inteiramente novas. Há dois anos, no primeiro episódio da primeira temporada do reality show The Kardashians, um dos filhos de Kim Kardashian, Saint West, descobriu num jogo uma imagem da mãe onde era mencionada uma alegada “nova sex tape”.

Quando Saint West explicou que a imagem, segundo a qual existiam cenas inéditas do vídeo sexual de Kim Kardashian com o ex-namorado Ray J, fazia parte de um jogo no Roblox, a mãe respondeu da seguinte forma: “Ah, é um jogo? Então vamos processá-los se for um jogo com o meu nome e a minha fotografia”. “Se o meu filho fosse um pouco mais velho e soubesse ler, eu teria ficado mortificada”, afirmou a empresária, que terminou o episódio a dizer que tinha “todo o tempo, todo o dinheiro e todos os recursos” para “queimar” a empresa.

O episódio ficou disponível no dia 14 de abril de 2022, altura em que o Roblox reagiu e disse que o alegado vídeo íntimo de Kim Kardashian “nunca esteve disponível” na plataforma. A empresa afirmou ainda, segundo o site Eurogamer, que a imagem foi “rapidamente retirada e, felizmente, apenas ficou visível para um número extremamente reduzido de pessoas”. “Também retirámos rapidamente a experiência [o jogo] associada e banimos o programador da comunidade envolvido no incidente”, adiantou a plataforma, que disse ter “tolerância zero” para conteúdos sexuais.

Kim Kardashian finding out Saint saw her Jiggy jiggy video ad on Roblox has me crying ???????????? pic.twitter.com/MrHx4vLwcJ

— Justin Garth Lakey (@JustinGLakey) April 15, 2022

Poucos meses antes da ameaça de uma ação judicial por parte de Kim Kardashian, que não chegou a processar a empresa, a BBC já tinha revelado que existiam jogos de teor sexual no Roblox. Nesses espaços, criados por utilizadores e conhecidos como “condos”, os jogadores falavam abertamente sobre sexo e os seus avatares estavam nus e, por vezes, chegavam a ter relações sexuais com outros.

Os jogos ficavam acessíveis, por norma, durante menos de uma hora, antes de serem descobertos pelo Roblox. Em declarações à estação televisiva britânica, um porta-voz afirmou que a empresa estava sempre a tentar apagar este tipo de jogos e reconheceu que existia “um subconjunto extremamente pequeno de utilizadores que tentam deliberadamente quebrar as regras”. O responsável, cuja identidade não foi revelada, indicou ainda que o Roblox desenvolveu ferramentas de “controlo parental” que podem ser “utilizadas para restringir as pessoas com quem as crianças interagem e as experiências a que podem ter acesso”.

Em respostas enviadas ao Observador, a empresa reitera que tem um “conjunto robusto de medidas de segurança proativas e preventivas concebidas para apanhar rapidamente qualquer pessoa que tente contornar as regras” e salienta que existem controlos parentais para “limitar a conversação a uma lista selecionada de contactos ou desactivá-la completamente” ou para “gerir o conteúdo a que os filhos têm acesso”. Além disso, o Roblox lembra que as suas diretrizes, disponíveis online, proíbem “conversas sexualmente explícitas”, “relações românticas online”, pedidos de envio de “material sexual”, “nudez” ou “avatares com corpos ou roupas sexualmente sugestivas”.

A especialista Kirra Pendergast alerta que, embora existam ferramentas de controlo parental, muitos pais “não estão totalmente conscientes dos perigos presentes no Roblox”, que incluem “adultos a fingirem ser crianças para aliciar menores; exposição a conteúdos sexuais ou violentos; predadores que utilizam as funções de chat para atrair crianças para conversas mais privadas e menos moderadas” ou “erros de ortografia como apchat em vez de snapchat” para contornar a moderação.

Os pais precisam de entender completamente a aplicação antes de deixarem os seus filhos utilizá-la”, defende Kirra Pendergast, lembrando que a “forma como [os predadores] abordam as crianças está constantemente a evoluir”.

A empresa Kidas também considera que “muitos pais não estão totalmente conscientes dos perigos que o Roblox pode representar” e deixa um aviso: “A natureza interativa da plataforma e os conteúdos gerados pelos utilizadores podem, por vezes, contornar as medidas de segurança, o que torna crucial que os pais estejam vigilantes.”

Conteúdos sexuais e apostas em casinos. As duas ações interpostas por famílias

A presença de conteúdos sexuais e de aliciamento de menores nos jogos já colocou o Roblox na mira da justiça norte-americana. Numa ação judicial interposta no ano passado, vários pais alegavam que os filhos, com idades compreendidas entre os sete e os 12 anos, encontraram avatares nus ou a ter relações sexuais na aplicação e também receberam mensagens inapropriadas de outros jogadores ou links para sites pornográficos.

O site Game Developer escreve que, no processo, os pais referiam que as ferramentas criadas pela plataforma — que, segundo os progenitores,  apresenta-se como “amiga da família” mas tem uma “conduta inadequada e predatória” — para proteger os utilizadores mais novos estão desativadas por defeito. A advogada da acusação, Alexandra Walsh, considerou que existe na sociedade uma “perceção errada de que o Roblox é seguro”. “Os pais que nunca deixariam os filhos usar o TikTok não pensam duas vezes em deixá-los usar o Roblox, mesmo que o que eles encontrem possa ser mais prejudicial”, acusou a representante das famílias.

TikTok sob ultimato: ou corta laços com a China ou será proibido nos EUA. O que vai acontecer?

Em reação ao processo, o Roblox assegurou que age “rapidamente para bloquear conteúdo ou comportamento inadequado quando detetado” e que responderia adequadamente às alegações em sede própria. Esta não foi a ‘estreia’ da empresa em ações judiciais coletivas, uma vez que, anteriormente, já tinha sido acusada de criar uma rede de jogo ilegal para menores através da moeda digital Robux, que pode ser utilizada para comprar acessórios para os avatares, como roupas ou penteados.

As mães Rachel Colvin e Danielle Sass, que avançaram com o processo há cerca de um ano, alegaram que existem casinos online que aceitam apostas em Robux e que os filhos perderam dinheiro em apostas virtuais. De acordo com a Bloomberg Law, a dupla acusou o Roblox de facilitar o acesso e lucrar com casinos com nomes como Satozuki, Studs e RBLXWild.

O Roblox defendeu-se dizendo que esses sites “não têm qualquer afiliação legal” com a sua plataforma e, em abril deste ano, pediu que o processo fosse arquivado por considerar que as alegações das mães colidiam com a Secção 230, que determina que as plataformas tecnológicas não devem ser responsabilizadas pelo conteúdo que alojam. A justiça norte-americana decidiu, segundo o The Verge, que a ação vai prosseguir pois a legislação não se aplica às acusações. Isto porque estas não estão relacionadas com o conteúdo do Roblox, mas sim com suspeitas de que o site esteja a “facilitar transações entre menores e casinos online que permitem jogo ilegal e por alegadamente não ter tomado medidas suficientes para avisar os menores e os seus pais sobre esses casinos”.

Tábua de salvação em risco? Reforma à lei que ajudou a criar a internet deixa grandes tecnológicas na corda bamba

Eric Goldman afirma que esta ação judicial pode servir como uma “chamada de atenção para os riscos de oferecer esquemas de monetização, quando alguns dos interessados podem estar envolvidos em atividades ilegais”. No entender do professor de direito na Universidade de Santa Clara, os riscos são “agravados” quando se trata de um player como o Roblox, que tem uma “grande base de utilizadores infantis e que, por isso, chamará constantemente a atenção dos reguladores e dos advogados dos queixosos”.

Apesar dos problemas apresentados pelo Roblox, todos os especialistas ouvidos pelo Observador acreditam que uma proibição nos EUA não está em cima da mesa e não é a solução para os problemas. Eric Goldman diz que banir a plataforma seria “obviamente inconstitucional” e Kirra Pendergast, líder da Safe on Social Media, afirma que seria uma medida “extrema”. Ainda assim, nota que é necessário “discutir regulações e supervisões mais rigorosas para proteger os menores”. Já Ron Kerbs, CEO da Kidas, diz que uma proibição “pode não ser a solução mais eficaz” e pede um maior foco em “melhorar as medidas de segurança” e em dar “garantias de uma moderação sólida dos conteúdos”.