📚 Continue Lendo
Mais artigos do nosso blog
A crescente disseminação de deepfakes de IA tem revelado uma alarmante face da tecnologia: a exploração para fins de conteúdo adulto. O caso de Alice, uma jovem de 17 anos, ilustra de forma contundente o dano e a humilhação provocados por essa prática. Em um episódio chocante, a adolescente deparou-se com um perfil no Instagram utilizando sua imagem sem permissão, modificada por inteligência artificial para parecer uma pessoa com síndrome de Down, e direcionando seguidores para plataformas de conteúdo explícito.
Alice relatou à BBC a surpresa e o sentimento de humilhação ao descobrir a conta falsa, que exibia fotos e vídeos de seu corpo com o rosto alterado. O perfil, que acumulava cerca de 25 mil seguidores, encaminhava os usuários para websites externos contendo material adulto. Apesar de suas múltiplas tentativas de contato com os responsáveis pela conta, informando ser menor de idade, ela não obteve resposta. “Foi muito assustador observar a completa desconsideração pela minha idade ou pelos meus sentimentos”, desabafou Alice.
Deepfakes de IA: Exploração em Conteúdo Adulto Preocupa
A experiência de Alice não é isolada, fazendo parte de uma tendência inquietante identificada pela BBC: contas que empregam a tecnologia deepfake para simular deficiências com o objetivo de monetizar conteúdo. Esses perfis no Instagram utilizam, sem consentimento, imagens do corpo de mulheres reais, provavelmente retiradas de suas redes sociais públicas. Filtros de IA são aplicados aos rostos, gerando representações de pessoas com síndrome de Down. As postagens frequentemente incluem mensagens sexualmente sugestivas, visando fomentar o engajamento e incitar comentários de natureza explícita por parte dos consumidores do conteúdo.
Segundo Eleanor Drage, pesquisadora sênior em ética de IA na Universidade de Cambridge, no Reino Unido, essa prática representa uma extração de dados “sem o consentimento das mulheres, usando-os para capitalizar a deficiência como forma de ganhar dinheiro”. Drage enfatiza o dano efetivo causado a pessoas como Alice, descrevendo o fenômeno como “uma rede de exploração” quando diversas mulheres são parte de um único perfil sem seu conhecimento ou autorização.
A monetização desses deepfakes se consolida em outras plataformas. Todas as contas investigadas pela BBC direcionavam seus usuários para perfis no OnlyFans, serviço de assinatura notório por hospedar conteúdo sexual. Nestas plataformas, os perfis mantinham o mesmo nome das contas falsas do Instagram, porém sem o filtro de síndrome de Down, exibindo corpos de diferentes mulheres com seus rostos ocultos ou cortados. Acredita-se que o corte dos rostos seja uma tática para contornar as políticas do OnlyFans, que proíbem explicitamente conteúdo gerado por IA sem consentimento.
A denúncia de Alice ao Instagram inicialmente resultou em uma resposta automática, indicando que a conta não violava as normas da plataforma. Embora deepfakes sexualmente explícitos contrariem as políticas do Instagram, os vídeos usando o corpo de Alice não eram categorizados como tal. No entanto, o problema não se limita à exploração individual; estende-se à comunidade da síndrome de Down, que se sente ofendida e usada por essa representação inautêntica e monetizada. Jeremy e Audrey, ativistas e produtores de podcast com síndrome de Down, expressaram sua profunda preocupação. “Acho que não está certo que eles tenham uma deficiência falsa”, afirmou Audrey, complementando que o uso desses deepfakes a faz sentir “usada”, enquanto Jeremy lamenta que a motivação por trás disso seja puramente financeira.
Em sua busca pelos criadores dessas contas, a BBC adentrou o universo dos “Gerentes de IA do OnlyFans”, indivíduos que constroem influenciadores virtuais para promover conteúdo adulto. Um desses “gerentes”, um francês chamado Dorian, mantinha um canal no YouTube com tutoriais sobre como criar esses influenciadores e um canal no Telegram com milhares de assinantes. Ele próprio admitia a capacidade da IA de “criar qualquer nicho sob demanda”, citando exemplos como modelos trans ou com nanismo, destacando a habilidade de “dominar nichos pouco atendidos ou em alta tendência”.
Imagem: bbc.com
Ao analisar as contas atribuídas a Dorian em seu canal no Telegram e as imagens de personagens gerados por IA em seus tutoriais, a BBC encontrou evidências de que um dos “nichos” explorados era justamente a síndrome de Down. Foi identificada uma correlação entre uma silhueta e um fundo específicos de uma de suas “influenciadoras” no Telegram e uma conta deepfake do Instagram que se apresentava como sendo uma pessoa com síndrome de Down. Uma modelo com síndrome de Down gerada por IA também foi identificada em um dos tutoriais de Dorian. Embora não haja provas de que Dorian tenha criado os deepfakes de Alice, a evidência reforça o padrão de exploração.
Após as descobertas da BBC, o YouTube agiu prontamente, cancelando os canais de Dorian por violar suas políticas de spam, golpes e práticas enganosas. A Meta, proprietária do Instagram, comunicou que todas as contas denunciadas pela BBC foram removidas da plataforma, incluindo a que utilizou a imagem de Alice, devido a violações como a personificação de terceiros e a promoção de serviços sexuais. O OnlyFans também se manifestou, garantindo que “todos os criadores passam por profunda verificação das suas identidades, para garantir que eles têm mais de 18 anos e consentimento de uso das imagens”, afirmando não permitir imagens do tipo em sua plataforma.
Esta problemática exige uma contínua atenção e ação coordenada das plataformas, autoridades e da sociedade para mitigar os riscos e proteger indivíduos da exploração digital, reforçando a importância da ética no desenvolvimento e uso da inteligência artificial. Para mais informações sobre como os riscos da inteligência artificial estão sendo abordados globalmente, acesse o Centro para o Estudo do Risco Existencial, da Universidade de Cambridge.
Confira também: crédito imobiliário
Em suma, a emergência dos deepfakes de IA para a criação de conteúdo adulto representa um desafio complexo para a privacidade, o consentimento e a integridade de comunidades vulneráveis. As ações recentes de plataformas digitais em resposta a denúncias, embora importantes, evidenciam a necessidade de regulamentação mais robusta e conscientização sobre os perigos da inteligência artificial usada de forma maliciosa. Continue acompanhando a seção de Análises para mais informações sobre as inovações tecnológicas e seus impactos na sociedade.
Crédito: Instagram, The Audrey and Jeremy Show
Recomendo
🔗 Links Úteis
Recursos externos recomendados
