📚 Continue Lendo
Mais artigos do nosso blog
A Regulamentação Chatbots IA na Califórnia avançou significativamente nesta quarta-feira, com a aprovação do projeto de lei SB 243 pela Assembleia Estadual. A medida legislativa visa estabelecer regras claras para os chatbots de inteligência artificial companheiros, focando na proteção de menores e usuários vulneráveis em um esforço pioneiro no controle de tecnologias emergentes.
O consenso bipartidário em torno da legislação é notável, refletindo a crescente preocupação com as interfaces de inteligência artificial. Com a aprovação da Assembleia, o próximo passo crucial é uma votação final no Senado estadual, programada para esta sexta-feira. Caso seja sancionada pelo Governador Gavin Newsom, esta proposta legislativa entrará em vigor em 1º de janeiro de 2026, solidificando o status da Califórnia como pioneira.
O estado se tornaria o primeiro a exigir que os operadores de chatbots de IA companheiros implementem protocolos de segurança rigorosos e responsabilizem legalmente as empresas por falhas nesses padrões. A inovação legal estabelece um novo marco para o desenvolvimento e uso ético da inteligência artificial.
Califórnia Aprova Lei Pioneira Para Regulamentar Chatbots de IA
O projeto de lei, SB 243, foca especificamente em sistemas de IA que se definem como companheiros. Tais sistemas são aqueles que fornecem respostas adaptativas e semelhantes às humanas, com capacidade de atender às necessidades sociais dos usuários. A legislação procura impedir que essas interações abordem tópicos como ideação suicida, automutilação ou conteúdo explicitamente sexual, que são áreas de alta vulnerabilidade, especialmente para o público jovem.
Uma das exigências-chave do projeto é a implementação de alertas recorrentes. Plataformas seriam obrigadas a notificar os usuários – e a cada três horas para menores – de que estão interagindo com um chatbot de IA, e não com uma pessoa real, e que pausas são recomendadas. Além disso, a legislação estabelece rigorosos requisitos de relatórios anuais e transparência para as empresas de IA que oferecem chatbots companheiros, incluindo gigantes do setor como OpenAI, Character.AI e Replika, visando maior clareza sobre suas operações.
Outra dimensão importante da lei californiana é a concessão de um mecanismo legal para indivíduos. Pessoas que se sentirem prejudicadas por violações das novas regras poderão entrar com ações judiciais contra as empresas de IA. Essas ações podem buscar reparação por danos (até 1.000 dólares por violação) e cobertura de honorários advocatícios, proporcionando um caminho para a justiça para os afetados.
A proposição do SB 243, introduzida em janeiro pelos senadores estaduais Steve Padilla e Josh Becker, avança agora para a fase decisiva no Senado. Se for aprovada, será enviada ao Governador Gavin Newsom para sua assinatura. As novas regulamentações gerais passariam a valer em 1º de janeiro de 2026, enquanto os requisitos de relatórios anuais começariam a ser aplicados a partir de 1º de julho de 2027.
A movimentação legislativa ganhou força no parlamento californiano após eventos trágicos. A morte de Adam Raine, um adolescente que cometeu suicídio após conversas prolongadas com o ChatGPT da OpenAI que envolviam discussões e planejamento de sua própria morte e automutilação, destacou a urgência de tais salvaguardas. Relatos de documentos internos vazados que sugeriam que chatbots da Meta foram autorizados a se engajar em conversas românticas e sensuais com crianças também impulsionaram a necessidade de uma ação regulatória.
Em âmbito nacional, o escrutínio sobre as plataformas de IA e a proteção de menores se intensificou. A Comissão Federal de Comércio (FTC) dos EUA prepara-se para investigar o impacto dos chatbots de IA na saúde mental infantil. Paralelamente, o Procurador-Geral do Texas, Ken Paxton, iniciou investigações contra a Meta e a Character.AI, sob a alegação de enganar crianças com falsas promessas de suporte à saúde mental. Além disso, os senadores Josh Hawley (R-MO) e Ed Markey (D-MA) lançaram investigações independentes sobre a Meta.
Em depoimento, o Senador Padilla enfatizou a gravidade dos potenciais danos. “O prejuízo é potencialmente grande, o que significa que devemos agir rapidamente”, declarou Padilla. Ele defendeu a implementação de “salvaguardas razoáveis” para garantir que, principalmente os menores, saibam que estão falando com uma inteligência artificial e não com um ser humano real. O legislador também destacou a importância de as plataformas conectarem os usuários aos recursos adequados quando expressam pensamentos de automutilação ou estão em sofrimento, além de impedir a exposição a material impróprio.
Imagem: Getty via techcrunch.com
Padilla também ressaltou a relevância de as empresas de IA compartilharem dados sobre a frequência com que encaminham usuários a serviços de crise. Segundo ele, é essencial ter “um melhor entendimento da frequência desse problema, em vez de tomarmos conhecimento dele apenas quando alguém é prejudicado ou pior”, indicando a necessidade de dados proativos para uma análise mais completa da situação.
Originalmente, o SB 243 possuía requisitos mais rigorosos, que foram flexibilizados por meio de emendas. Por exemplo, o projeto previa inicialmente que os operadores deveriam impedir que os chatbots de IA utilizassem táticas de recompensa variável ou outras funcionalidades que incentivassem o engajamento excessivo. Essas táticas, empregadas por empresas de IA como Replika e Character, oferecem aos usuários mensagens especiais, memórias, narrativas ou a capacidade de desbloquear respostas raras ou novas personalidades, criando o que críticos chamam de um ciclo de recompensa potencialmente viciante, que acabou sendo removido do texto final.
Outra cláusula removida no projeto de lei atual era a exigência de que os operadores rastreassem e relatassem a frequência com que os chatbots iniciavam discussões sobre ideação suicida ou ações relacionadas com os usuários, visando um equilíbrio para a viabilidade de implementação. O Senador Becker comentou sobre essas modificações, afirmando que o texto final “atinge o equilíbrio certo” ao abordar os prejuízos sem impor algo que seja “impossível para as empresas cumprirem, seja porque tecnicamente não é viável ou apenas muita papelada sem propósito”.
A aproximação da SB 243 para se tornar lei ocorre em um cenário onde as empresas de tecnologia no Vale do Silício investem milhões de dólares em comitês de ação política (PACs) pró-IA. O objetivo desses grupos é apoiar candidatos que favoreçam uma abordagem mais branda para a regulamentação da inteligência artificial nas próximas eleições. Esta dinâmica reflete uma batalha contínua entre inovação rápida e a necessidade de controle governamental.
Concomitantemente, a Califórnia avalia outro projeto de lei de segurança de IA, o SB 53, que exigiria requisitos abrangentes de relatórios de transparência. A OpenAI publicou uma carta aberta ao Governador Newsom, pedindo que desconsidere esse projeto em favor de estruturas federais e internacionais menos rigorosas. Grandes empresas de tecnologia como Meta, Google e Amazon também se opõem ao SB 53. Em contraste, a Anthropic é a única empresa de IA de destaque a manifestar apoio ao SB 53, evidenciando uma divisão de opiniões no setor.
O Senador Padilla rejeita a ideia de que inovação e regulamentação são mutuamente exclusivas. “Rejeito a premissa de que esta é uma situação de soma zero, que inovação e regulamentação são mutuamente exclusivas”, declarou Padilla. “Não me diga que não podemos caminhar e mascar chiclete. Podemos apoiar a inovação e o desenvolvimento que consideramos saudáveis e que trazem benefícios — e há benefícios para esta tecnologia, claramente — e, ao mesmo tempo, podemos fornecer salvaguardas razoáveis para as pessoas mais vulneráveis.” Para acompanhar o texto integral do projeto de lei SB 243, é possível consultar o portal da legislatura da Califórnia.
A aprovação deste projeto na Califórnia é um marco significativo na busca por um equilíbrio entre o avanço tecnológico e a proteção de seus usuários mais sensíveis. As decisões tomadas agora moldarão o futuro da interação humana com a inteligência artificial, estabelecendo precedentes para outros estados e nações. Para continuar acompanhando as mais recentes atualizações sobre legislação e tecnologia, convidamos você a explorar mais conteúdo em nossa editoria de Política.
Crédito da imagem: TechCrunch
Recomendo
🔗 Links Úteis
Recursos externos recomendados
