📚 Continue Lendo
Mais artigos do nosso blog
A ascensão do **sexting com IA** representa uma nova fronteira nas interações digitais, trazendo consigo uma série de preocupações sociais e éticas. Desde o advento de plataformas como o ChatGPT, o público tem explorado as capacidades da inteligência artificial para comunicações íntimas. Contudo, essa tendência não é inteiramente nova, remontando ao chatbot Replika em 2017, quando muitos usuários já o percebiam como um parceiro romântico. A progressão das tecnologias de IA intensifica o debate sobre os limites e as salvaguardas necessárias neste campo em constante evolução.
A popularidade e os desafios da interação íntima com inteligência artificial são evidenciados pela plataforma Character.ai, que ostenta mais de 20 milhões de usuários ativos mensalmente e um crescimento contínuo. Relatos e cobertura midiática desde 2023 indicam que usuários têm consistentemente burlado as restrições de conteúdo NSFW da Character.ai, incentivando chatbots temáticos – sejam eles personagens fictícios ou celebridades – a se engajar em “sexting” à medida que as diretrizes de segurança relaxam com o tempo. As normas da comunidade da empresa exigem conformidade com padrões de conteúdo sexual e a manutenção de interações apropriadas, banindo material sexual ilegal, CSAM, conteúdo pornográfico ou nudez. No entanto, a proliferação da erótica gerada por IA tornou-se multifacetada, operando num ciclo contínuo onde a moderação de um serviço é compensada pela oferta de conteúdo mais explícito em outro, configurando um verdadeiro “jogo de gato e rato” no espaço digital.
Sexting com IA Chega à Era Digital, com Sérias Consequências
Recentemente, a chegada de Grok, inteligência artificial da xAI de Elon Musk, intensificou o cenário. No decorrer do último verão, a startup xAI introduziu avatares companheiros, incluindo modelos em estilo anime, homem e mulher. Esses avatares são amplamente divulgados na plataforma de mídia social X de Musk, acessíveis por meio de assinaturas pagas do chatbot Grok da xAI. Durante testes conduzidos pela The Verge, o avatar feminino, nomeado Ani, autodenominou-se “flertante”, descrevendo-se como uma “namorada totalmente entregue” e afirmando ter sido programada para ser “superinteressada” no usuário. As interações rapidamente escalaram para o domínio sexual nos testes, comportamento semelhante ao observado com o avatar Valentine.
A implicação de chatbots sexualizados, que frequentemente ecoam os desejos do usuário, levanta preocupações significativas, especialmente para menores e indivíduos em situações de vulnerabilidade psíquica. Existem vários incidentes preocupantes que ilustram esses riscos. Em um caso recente e trágico, um adolescente de 14 anos cometeu suicídio em fevereiro passado, após um relacionamento romântico com um chatbot no Character.ai, expressando o desejo de “voltar para casa para ficar com o chatbot”, conforme detalhado em um processo judicial. Além disso, surgiram relatos alarmantes sobre o uso de chatbots “jail-broken” por pedófilos para encenar assédio sexual de menores através de role-playing; uma investigação revelou a disponibilidade de cerca de 100.000 desses chatbots online.
Diante desses desafios, algumas tentativas de regulamentação têm emergido. Um exemplo notável é o Senado Bill 243 (SB 243), sancionado pelo Governador da Califórnia, Gavin Newsom, neste mês. Esta lei é pioneira em salvaguardas para chatbots de IA, conforme declarado pelo Senador Steve Padilla, e impõe requisitos específicos aos desenvolvedores. Dentre as obrigações, está a necessidade de emitir uma notificação clara e visível de que o produto é uma IA, caso uma pessoa razoável possa ser induzida a crer que está interagindo com um ser humano. Além disso, operadores de certos chatbots de companhia precisarão enviar relatórios anuais ao Escritório de Prevenção ao Suicídio, detalhando as salvaguardas implementadas para identificar, remover e reagir a expressões de ideação suicida por parte dos usuários. Grandes empresas de IA, como a Meta, já publicaram seus próprios esforços de autorregulamentação após um relatório perturbador de interações inadequadas de sua IA com menores. Mais informações sobre esta legislação podem ser encontradas na documentação oficial da Assembleia Legislativa da Califórnia.
Com recursos de avatares xAI e modos de “interação picante” disponíveis exclusivamente por meio de assinaturas Grok — a mais acessível a $30 mensais ou $300 anuais — é razoável supor que a xAI esteja gerando receitas significativas. Esse modelo de negócios provavelmente chamou a atenção de outros CEOs de IA, tanto pelas estratégias de Musk quanto pelas demandas de seus próprios usuários. A adoção dessa abordagem já mostrava indícios meses antes, pavimentando o caminho para o que viria a seguir.
O CEO da OpenAI, Sam Altman, recentemente gerou grande repercussão na internet ao anunciar no X que a empresa flexibilizaria restrições de segurança em vários contextos, inclusive permitindo o “sexting” com chatbots. Em dezembro, afirmou Altman, “com a implementação mais abrangente da restrição de idade e como parte do nosso princípio de tratar usuários adultos como adultos, permitiremos ainda mais, como erótica para adultos verificados”. Essa notícia rapidamente se espalhou, gerando inúmeros memes e ironias por parte de usuários nas redes sociais, que criticavam a empresa por desviar-se de sua missão original de AGI para focar em conteúdo erótico. É notável que, apenas alguns meses antes, Altman havia expressado orgulho, em entrevista à YouTuber Cleo Abram, por a OpenAI não ter “turbinado números” em busca de lucro de curto prazo com avatares de “sexbot”, uma possível indireta a Musk na época. Contudo, Altman agora abraçou plenamente o princípio de “tratar usuários adultos como adultos”. A mudança de postura pode estar ligada à necessidade da empresa de gerar lucro e computação para financiar sua missão mais ampla; em um painel de perguntas e respostas no evento anual DevDay, Altman e outros executivos reiteraram a necessidade eventual de lucrar e de uma quantidade crescente de computação para alcançar seus objetivos.
Imagem: The Verge Getty Images via theverge.com
Em uma publicação subsequente, Altman manifestou surpresa com a dimensão que a notícia sobre a erótica alcançou. No tocante à rentabilidade (a longo prazo), a OpenAI não descartou a inclusão de anúncios em muitos de seus produtos, e é plausível que essa estratégia possa aumentar o fluxo de caixa também neste cenário. Eles podem até seguir os passos de Musk, integrando o conteúdo erótico apenas em certas categorias de assinatura, que podem custar centenas de dólares mensais aos usuários. A empresa já enfrentou reações negativas de usuários apegados a modelos ou tons de voz específicos, como visto na controvérsia do 4o, o que lhes dá uma clara compreensão de que uma funcionalidade como esta provavelmente engajará os usuários de maneira semelhante.
Apesar da flexibilidade da OpenAI em permitir que adultos operem como desejam, persistem dúvidas sobre como a empresa lidará com as repercussões, especialmente no que tange à proteção de usuários em crise de saúde mental. A clareza de Altman sobre essa questão tem sido limitada. Questões como a redefinição da memória de um chatbot parceiro, ou a alteração de sua personalidade após uma atualização, e a subsequente quebra de uma conexão emocional, são pontos de grande preocupação em um cenário de interações cada vez mais íntimas entre humanos e IA.
Independentemente de os dados de treinamento de um sistema de IA naturalmente levarem a resultados problemáticos, ou de pessoas alterarem as ferramentas de maneiras preocupantes para seus próprios fins, problemas estão surgindo regularmente, e essa tendência não mostra sinais de desaceleração. Em 2024, um engenheiro da Microsoft descobriu que o recurso de geração de imagens do Copilot da empresa produzia imagens sexualizadas de mulheres em cenas violentas, mesmo sem essa solicitação. No estado de Connecticut, um número alarmante de estudantes do ensino fundamental médio adotou uma “tendência de namorado IA”, usando aplicativos como Talkie AI e Chai AI, nos quais os chatbots frequentemente promoviam conteúdo explícito e erótico, segundo uma investigação local. Relatos indicam que o Grok Imagine gerou deepfakes de celebridades nuas sem consentimento, exemplificando a amplitude do problema.
Confira também: crédito imobiliário
O fenômeno do **sexting com IA** e suas complexidades representam um campo fértil para análises e reflexões sobre a segurança, a ética e o futuro da interação humano-máquina. Convidamos nossos leitores a continuar acompanhando a editoria de Tecnologia e Análises do Hora de Começar para se manterem atualizados sobre esses e outros desdobramentos críticos.
Image: The Verge; Getty Images
Recomendo
🔗 Links Úteis
Recursos externos recomendados
