📚 Continue Lendo
Mais artigos do nosso blog
Um novo relatório divulgado pela Global Witness aponta que o algoritmo do TikTok recomenda conteúdo sexual e pornografia para crianças, mesmo com as configurações de segurança ativadas. A denúncia levantada por essa organização de defesa dos direitos humanos destaca a exposição precoce de jovens usuários a material impróprio, contrariando as próprias diretrizes de proteção da plataforma.
A pesquisa detalhada pela Global Witness incluiu a criação de perfis fictícios que simulavam ter 13 anos. Para essas contas de teste, os investigadores ativaram todas as configurações de segurança e restrições de idade disponíveis no aplicativo. No entanto, mesmo com essas salvaguardas, os perfis infantis foram inundados com recomendações de busca que continham termos sexualmente explícitos, os quais, ao serem explorados, direcionavam a vídeos de natureza sexual, inclusive imagens gráficas de penetração.
TikTok: Algoritmo expõe crianças a conteúdo sexual
A situação gera sérias preocupações sobre a eficácia das medidas de proteção da plataforma. A organização Global Witness, um grupo ativista focado na análise de como as grandes empresas de tecnologia afetam questões de direitos humanos, democracia e alterações climáticas, já havia identificado problemas similares em abril deste ano, durante o desenvolvimento de outros estudos. Os resultados subsequentes deste levantamento foram, conforme relatado por Ava Lee, da Global Witness à BBC, “um grande choque” para a equipe. “O TikTok não está apenas falhando em impedir que crianças acessem conteúdo inapropriado – ele está sugerindo isso a elas assim que criam uma conta”, afirmou Lee.
O TikTok, por sua vez, divulgou uma nota na qual reitera seu compromisso em proporcionar experiências seguras e adequadas para menores de idade. A empresa assegurou que tomou “medidas imediatas” para mitigar o problema assim que a Global Witness informou a respeito das descobertas. Entretanto, a persistência do problema é um ponto crucial da denúncia, visto que os perfis falsos foram criados entre julho e agosto deste ano e, mesmo após a notificação, as recomendações inadequadas persistiram.
A configuração de “modo restrito”, um recurso que, segundo o próprio TikTok, visa impedir que usuários visualizem “temas adultos ou complexos, como conteúdo sexualmente sugestivo”, demonstrou-se falha. Pesquisadores da Global Witness ativaram este modo nas contas falsas e, mesmo sem realizar buscas ativas por conteúdo proibido, foram apresentados a termos abertamente sexuais na seção “você pode gostar” do aplicativo. Essas sugestões guiavam a vídeos que incluíam mulheres simulando atos de masturbação, exibindo roupas íntimas em espaços públicos ou expondo os seios. Em contextos ainda mais alarmantes, foram encontrados filmes pornográficos explícitos com cenas de sexo de penetração, estrategicamente incorporados em materiais que, à primeira vista, pareciam inofensivos, numa aparente tentativa de contornar a moderação do aplicativo.
A resposta da companhia chinesa inclui a menção de mais de 50 funcionalidades projetadas especificamente para proteger adolescentes, e a afirmação de que nove em cada dez vídeos que violam suas diretrizes são removidos antes mesmo de serem assistidos. Contudo, a reincidência do problema de conteúdo sexualizado recomendado para contas infantis levanta questionamentos sérios sobre a eficácia e a aplicação dessas políticas. As quatro contas falsas utilizadas na investigação foram criadas em julho e agosto de 2024, usando apenas datas de nascimento que as identificavam como adolescentes de 13 anos, sem qualquer outra verificação de identidade adicional solicitada pela plataforma.
No Reino Unido, um estudo da Ofcom revela que crianças entre 8 e 17 anos passam, em média, de duas a cinco horas diárias online. Praticamente todas as crianças acima de 12 anos possuem celular e utilizam plataformas de vídeo como YouTube e TikTok. Em resposta a essa realidade, o TikTok implementou em 2023 um limite padrão de tempo de tela de 60 minutos para menores de 18 anos, mas essa restrição pode ser desativada manualmente pelo próprio usuário, o que compromete sua função protetiva.
Precedentes recentes ampliam as preocupações. Em março de 2025, uma reportagem da BBC revelou que o TikTok estava lucrando significativamente com transmissões ao vivo de conteúdo sexual protagonizado por adolescentes, retendo cerca de 70% dos valores gerados. Um processo judicial movido pelo Estado americano de Utah, referente a 2022, acusa o TikTok de ter ciência da exploração de crianças e adolescentes em lives, realizando até investigações internas sobre o tema, mas de ter ignorado a questão por “lucrar significativamente” com essa exploração. A plataforma se defende, argumentando que a ação desconsidera as “medidas proativas” que adota para aprimorar a segurança de seus usuários.
Imagem: bbc.com
Em 25 de julho deste ano, o Reino Unido endureceu sua legislação com a entrada em vigor dos Códigos Infantis da Lei de Segurança Online (Online Safety Act’s Children’s Codes), que impõe às plataformas digitais o dever legal de proteger crianças na internet. A legislação exige verificação de idade “altamente eficaz”, especialmente para sites pornográficos, e a adequação de algoritmos para bloquear conteúdos que promovam automutilação, suicídio ou distúrbios alimentares. O descumprimento pode acarretar multas de até 18 milhões de libras (equivalente a R$ 118 milhões) ou 10% da receita global das companhias, sendo aplicado o valor mais alto. Em situações extremas, executivos podem ser presos, e a Ofcom, agência reguladora da mídia no país, pode determinar a retirada de sites ou aplicativos do ar.
Essa nova legislação no Reino Unido suscitou amplo debate. Enquanto especialistas e ativistas, como Ian Russell da Fundação Molly Rose (criada após a morte de sua filha de 14 anos), defendem regras mais severas e até o banimento de menores de 16 anos das redes sociais, a Sociedade Nacional para a Prevenção da Crueldade contra Crianças (NSPCC) criticou a lei por não abranger a proteção em aplicativos de mensagens privadas como o WhatsApp, alegando que a criptografia de ponta a ponta nesses serviços “continua a representar risco inaceitável para crianças”. Em contrapartida, defensores da privacidade, como Silkie Carlo da Big Brother Watch, consideram os métodos de verificação de idade invasivos e ineficazes, apontando riscos de “violações de segurança, invasão de privacidade, exclusão digital e censura”.
No Brasil, o TikTok figura entre as redes sociais mais utilizadas, presente em 46% dos celulares, atrás do Instagram (91%) e do Facebook (76%), conforme pesquisa Mobile Time/Opinion Box. Estima-se que haja cerca de 100 milhões de usuários brasileiros. A regulamentação de plataformas digitais tem avançado no país. Em junho, o Supremo Tribunal Federal (STF) ampliou a responsabilização de empresas por conteúdos criminosos postados por terceiros. Mensagens antidemocráticas, pornografia infantil e incitação ao suicídio, por exemplo, devem ser removidas proativamente, enquanto outros conteúdos só necessitam ser apagados após notificação.
No dia 18 de setembro, o presidente Luiz Inácio Lula da Silva sancionou o Estatuto Digital da Criança e do Adolescente (ECA Digital), reforçando a responsabilidade das empresas de tecnologia na proteção de menores de 18 anos contra conteúdos nocivos. “É um equívoco acreditar que as big techs tomarão a iniciativa de se autorregular. Esse equívoco já custou a vida de várias crianças e adolescentes”, afirmou o presidente, que complementou que diversos países já progrediram na criação de dispositivos legais para a proteção de crianças e adolescentes no meio digital. A Agência Nacional de Proteção de Dados (ANPD) será a encarregada da regulação desse segmento no território brasileiro.
Confira também: crédito imobiliário
O cenário delineado pelo relatório da Global Witness ressalta a urgência de debates aprofundados sobre a segurança online e a proteção de crianças e adolescentes em plataformas digitais. A complexidade do tema, que envolve algoritmos, regulamentação governamental e direitos à privacidade, continua a exigir atenção contínua e ações conjuntas. Para mais análises sobre temas relevantes para a sociedade e os desafios do mundo digital, continue acompanhando nossa editoria de Análises.
Crédito: Getty Images
Recomendo
🔗 Links Úteis
Recursos externos recomendados
