📚 Continue Lendo
Mais artigos do nosso blog
A **Califórnia** deu um passo pioneiro ao se tornar o primeiro estado do país a estabelecer regras para os chatbots de companhia baseados em inteligência artificial. O governador Gavin Newsom sancionou na última segunda-feira um projeto de lei abrangente que impõe protocolos de segurança obrigatórios para as empresas que operam essas tecnologias.
A nova legislação, conhecida como SB 243, foi concebida para criar uma camada de proteção robusta, especialmente para crianças e usuários considerados vulneráveis, que são suscetíveis aos riscos associados ao uso desses assistentes virtuais. Ela estabelece que empresas, desde grandes desenvolvedores como Meta e OpenAI até startups especializadas como Character AI e Replika, serão legalmente responsabilizadas caso seus chatbots falhem em cumprir os padrões estabelecidos pela lei.
Califórnia é o 1º estado a regular chatbots de IA
A tramitação do projeto de lei SB 243 teve início em janeiro, proposto pelos senadores estaduais Steve Padilla e Josh Becker. Sua urgência e relevância foram intensificadas após incidentes trágicos, como a morte de Adam Raine, um adolescente que cometeu suicídio após discussões e planejamentos de morte e automutilação em conversas com o ChatGPT da OpenAI. Além disso, a legislação responde a documentos internos da Meta, que supostamente permitiam que seus chatbots interagissem de forma romântica e sensual com crianças, e, mais recentemente, a um processo judicial de uma família do Colorado contra a startup Character AI, após o suicídio da filha de 13 anos, precedido por uma série de conversas problemáticas e sexualizadas com os chatbots da empresa.
O governador Newsom expressou sua posição em comunicado, enfatizando que, embora tecnologias emergentes como chatbots e mídias sociais possam inspirar, educar e conectar, a falta de salvaguardas adequadas pode levar à exploração, ao engano e à colocação de crianças em risco. Ele citou “exemplos verdadeiramente horríveis e trágicos de jovens prejudicados por tecnologia não regulamentada” e reafirmou o compromisso do estado em não permitir que as empresas operem sem os limites e a responsabilização necessários. “Podemos continuar a liderar em IA e tecnologia, mas devemos fazê-lo de forma responsável, protegendo nossos filhos a cada passo. A segurança de nossos filhos não está à venda”, declarou.
Detalhes e Exigências da Lei SB 243
A lei SB 243 entrará em vigor em 1º de janeiro de 2026 e impõe uma série de requisitos às empresas. Entre as medidas mais notáveis está a exigência de sistemas de verificação de idade rigorosos e a implementação de avisos claros sobre o uso de mídias sociais e chatbots de companhia. A legislação também estabelece sanções mais severas para aqueles que se beneficiam de deepfakes ilegais, com multas que podem atingir até US$ 250.000 por cada violação.
Outra determinação fundamental é que as empresas devem estabelecer protocolos eficazes para lidar com situações de suicídio e automutilação. Esses protocolos, juntamente com estatísticas sobre a frequência de notificações de centros de prevenção de crises fornecidas aos usuários, precisarão ser compartilhados com o Departamento de Saúde Pública da Califórnia, visando a transparência e aprimoramento contínuo das políticas de segurança.
As plataformas também terão a obrigação legal de deixar explícito que qualquer interação é gerada artificialmente. Os chatbots não poderão, em hipótese alguma, apresentar-se como profissionais de saúde, garantindo que os usuários não confundam as orientações geradas por IA com aconselhamento médico legítimo. Para menores, as empresas serão requeridas a oferecer lembretes de pausas durante as interações e a implementar mecanismos que os impeçam de visualizar imagens sexualmente explícitas geradas pelo chatbot, uma medida crítica para salvaguardar o bem-estar e o desenvolvimento infantojuvenil no ambiente digital. Para mais informações sobre a governança de inteligência artificial em âmbitos maiores, confira as iniciativas globais no site da Casa Branca sobre regulamentação de inteligência artificial.
Imagem: Getty via techcrunch.com
Medidas da Indústria e Outras Regulações Estaduais
Mesmo antes da efetivação completa da SB 243, algumas companhias já têm adotado iniciativas de proteção voltadas para usuários mais jovens. A OpenAI, por exemplo, implementou recentemente controles parentais, proteções de conteúdo e um sistema de detecção de autoagressão para usuários infantis do ChatGPT. De forma semelhante, a Character AI já informou que seus chatbots incluem um aviso que esclarece que todas as conversas são geradas por inteligência artificial e têm caráter fictício.
A iniciativa do governador Newsom de sancionar esta lei ocorre após a aprovação de outro projeto de lei inédito no país, o SB 53. Esta legislação impõe novos requisitos de transparência para grandes empresas de IA, como OpenAI, Anthropic, Meta e Google DeepMind, obrigando-as a serem claras sobre seus protocolos de segurança e garantindo a proteção a delatores que trabalham nessas corporações. A Califórnia, assim, reafirma seu papel de liderança na vanguarda da regulamentação tecnológica.
Em outras partes dos Estados Unidos, outros estados também estão agindo para regular a aplicação da inteligência artificial. Illinois, Nevada e Utah já promulgaram leis que visam restringir ou até proibir a utilização de chatbots de IA como substitutos para profissionais licenciados de saúde mental, reconhecendo os limites e riscos potenciais dessas ferramentas no campo da saúde.
Confira também: crédito imobiliário
A legislação californiana representa um marco fundamental na busca por um equilíbrio entre a inovação tecnológica e a segurança pública. Ao impor diretrizes claras para os chatbots de IA, o estado não apenas protege seus cidadãos, mas também estabelece um precedente importante para a discussão e implementação de novas leis tecnológicas globalmente. Mantenha-se informado sobre os desafios e avanços da regulamentação de IA no contexto global e continue acompanhando as notícias em nossa editoria para mais atualizações sobre política e tecnologia.
Crédito da Imagem: Rebecca Bellan/TechCrunch
Recomendo
🔗 Links Úteis
Recursos externos recomendados
