📚 Continue Lendo
Mais artigos do nosso blog
Sam Altman, renomado entusiasta da plataforma X e acionista do Reddit, trouxe à tona uma reflexão crítica na última segunda-feira: a proliferação de bots nas redes sociais tornou quase impossível distinguir publicações realmente escritas por humanos. Sua percepção foi compartilhada publicamente, levantando um debate importante sobre a autenticidade na era digital.
A “epifania”, conforme ele próprio descreveu, ocorreu enquanto lia e compartilhava conteúdos do subreddit r/Claudecode, onde diversas publicações elogiavam fervorosamente o OpenAI Codex. O Codex, um serviço de programação de software desenvolvido pela OpenAI e lançado em maio, compete diretamente com o Claude Code da Anthropics, e o subreddit parecia inundado por testemunhos de usuários autodeclarados que migraram para o serviço da OpenAI.
Sam Altman Diz que Bots Deixam Redes Sociais “Falsas”
A abundância de postagens celebrando a transição para o Codex no subreddit era tanta que um usuário chegou a brincar: “É possível migrar para o Codex sem fazer uma postagem sobre isso no Reddit?”. Esse cenário peculiar levou Altman a questionar a proporção de posts verdadeiramente oriundos de seres humanos. Ele admitiu ter tido uma experiência singular ao ler o conteúdo: “Eu presumo que seja tudo falso/bots, mesmo que, neste caso, eu saiba que o crescimento do Codex é realmente forte e a tendência aqui é real”, confessou em uma de suas postagens na plataforma X.
As Múltiplas Faces da “Falsidade” Digital
Altman, então, analisou em tempo real as diversas camadas que, segundo ele, contribuem para essa sensação de inautenticidade nas redes. Sua argumentação apontou para vários fatores interconectados que, juntos, obscurecem a linha entre o genuíno e o artificial. O executivo destacou que não se trata apenas de bots em sua forma mais simples, mas de um fenômeno complexo influenciado por comportamento humano e mecanismos das plataformas.
Primeiramente, ele observou que “pessoas reais começaram a incorporar as peculiaridades da linguagem dos LLMs (Large Language Models)”. Isso significa que a constante exposição a textos gerados por inteligência artificial pode estar moldando a forma como os próprios humanos se expressam online, tornando o discernimento ainda mais desafiador. Além disso, Altman mencionou que a “multidão Extremamente Online” tende a se agrupar de maneiras muito correlacionadas, formando bolhas de pensamento e discurso que podem parecer homogêneas.
A Lógica por Trás da Preocupação
O empresário também ponderou sobre o “extremismo do ciclo de hype” – alternando entre o “já era” e o “estamos de volta” –, uma característica que eleva o tom das discussões e cria narrativas polarizadas. Outro ponto crucial foi a pressão de otimização das plataformas sociais para impulsionar o engajamento e a maneira como a monetização dos criadores de conteúdo está ligada a essa métrica, incentivando práticas que visam a captação de atenção a qualquer custo. Altman também mencionou que a OpenAI já foi alvo de astroturfing por outras empresas no passado, o que o torna “extrasensível” à possibilidade de que publicações aparentemente orgânicas possam, na verdade, ser orquestradas. Ele reconheceu que todos esses fatores, incluindo “provavelmente alguns bots”, convergem para criar a paisagem atual das redes.
Essa análise de Altman levanta uma questão intrigante: embora LLMs, encabeçados pela OpenAI, tenham sido desenvolvidos para mimetizar a comunicação humana em seus mínimos detalhes, inclusive no uso de travessões, é possível que os humanos estejam agora imitando as máquinas. Vale lembrar que os modelos da OpenAI foram, sem dúvida, treinados em conteúdo do Reddit, onde Altman atuou como membro do conselho até 2022 e foi divulgado como um grande acionista durante a abertura de capital da empresa no ano passado.
O Contraste da OpenAI e a Realidade dos Bots
Altman acertadamente aponta que comunidades de fãs, impulsionadas por usuários extremamente ativos e sempre online nas mídias sociais, frequentemente desenvolvem comportamentos peculiares. Muitos grupos podem se degenerar em focos de ódio quando dominados por indivíduos que extravasam frustrações. O CEO da OpenAI também criticou os incentivos presentes quando plataformas de redes sociais e criadores dependem do engajamento para gerar receita, uma prática justa, mas com possíveis consequências. Curiosamente, Altman revelou que um dos motivos para suspeitar da natureza não-humana das postagens pró-OpenAI naquele subreddit era o fato de a própria empresa ter sido vítima de “astroturfing” anteriormente – prática que envolve publicações pagas por concorrentes ou por terceiros, garantindo assim uma desculpa para o competidor.
Embora não haja evidências concretas do suposto astroturfing neste caso, observamos o oposto quando subreddits da OpenAI reagiram negativamente após o lançamento do GPT 5.0. Em vez de ondas de elogios dos usuários mais fiéis ao novo modelo, uma enxurrada de posts irritados recebeu aprovação maciça. Usuários recorreram ao Reddit e ao X para reclamar de tudo, desde a “personalidade” do GPT até o consumo excessivo de créditos sem a conclusão das tarefas.
Imagem: Getty via techcrunch.com
Tráfego Não Humano: Um Panorama Amplo
Um dia após o lançamento problemático, Altman participou de uma sessão “pergunte-me qualquer coisa” no r/GPT no Reddit, na qual admitiu os problemas de implementação e prometeu mudanças. Desde então, o subreddit do GPT nunca recuperou totalmente o nível anterior de afeição, com usuários postando regularmente sobre sua insatisfação com as alterações no GPT 5.0. Seriam essas vozes humanas ou, como Altman sugere, de alguma forma, “falsas”? O CEO conclui: “O efeito líquido é que, de alguma forma, o Twitter/Reddit de IA parece muito falso de uma forma que realmente não parecia há um ou dois anos.”
Se essa percepção for verdadeira, a quem atribuir a culpa? A proliferação do GPT elevou a capacidade dos modelos de escrita a um ponto que os LLMs se tornaram um problema não apenas para as plataformas de redes sociais – que sempre lidaram com bots – mas também para escolas, o jornalismo e os tribunais. Embora o número exato de postagens no Reddit escritas por bots ou por contas fictícias usando LLMs seja desconhecido, é provável que represente uma parcela substancial. Dados da empresa de segurança digital Imperva indicam que mais da metade do tráfego total da internet em 2024 foi gerado por fontes não-humanas, grande parte devido aos LLMs. Até o próprio Grok, bot da plataforma X, afirma: “Os números exatos não são públicos, mas as estimativas para 2024 sugerem centenas de milhões de bots no X.” Para mais informações sobre o crescente impacto da IA, é possível consultar o trabalho da UNESCO sobre o tema em combate à desinformação online.
Os Interesses por Trás da Crítica?
Diversos observadores céticos têm especulado que a lamentação de Altman pode ser uma das primeiras incursões no marketing de uma suposta plataforma de rede social da OpenAI. Em abril, a The Verge noticiou que tal projeto, visando competir com X e Facebook, estaria em suas fases iniciais de desenvolvimento. No entanto, a existência ou não desse produto, assim como a possível segunda intenção de Altman ao sugerir que as redes sociais estão excessivamente “falsas” nos dias de hoje, permanecem incógnitas.
Um Futuro Sem Bots é Possível?
Motivações à parte, se a OpenAI realmente estiver planejando uma rede social, quais seriam as chances de ela ser uma “zona livre de bots”? Curiosamente, mesmo que optasse por uma abordagem inversa, proibindo humanos e funcionando apenas com inteligências artificiais, os resultados provavelmente não seriam tão diferentes. LLMs ainda sofrem de “alucinações” factuais, e uma pesquisa da Universidade de Amsterdã, que construiu uma rede social composta inteiramente por bots, descobriu que eles rapidamente formavam seus próprios grupos e câmaras de eco.
A discussão proposta por Sam Altman sublinha um desafio crescente na interação digital. Enquanto as redes sociais buscam inovar, a linha entre a presença humana autêntica e a intervenção algorítmica ou automatizada torna-se cada vez mais difusa, exigindo uma análise constante do conteúdo que consumimos e produzimos online. Continue acompanhando as discussões sobre a tecnologia e seus impactos acessando nossa editoria de Análises e fique por dentro das últimas novidades em tecnologia.
Crédito da imagem: Julie Bort / TechCrunch
Recomendo
🔗 Links Úteis
Recursos externos recomendados
