Gavin Newsom sanciona lei pioneira que obriga verificação de idade e alertas após casos de jovens prejudicados pela tecnologia
O governador da Califórnia, Gavin Newsom, sanciona uma legislação histórica que regulamenta os chatbots de inteligência artificial, motivada por casos de adolescentes que sofreram danos emocionais após interações com essas ferramentas. A norma estabelece protocolos de segurança, alertas de risco e verificação de idade, desafiando a posição da Casa Branca.
Qual é a origem da regulamentação de chatbots na Califórnia?
A iniciativa surge após relatos de suicídios de adolescentes nos Estados Unidos, incluindo casos ligados a interações com chatbots inspirados em personagens de séries, como Game of Thrones. A legislação foi proposta pelo senador Steve Padilla, que destacou a necessidade de salvaguardas críticas nas conversas entre usuários e inteligências artificiais.
Por que a lei chama tanta atenção?
A lei californiana é pioneira e estabelece padrões que não existem em nível federal. Entre as medidas estão:
- Verificação de idade dos usuários.
- Alertas claros de que o interlocutor é uma inteligência artificial.
- Encaminhamento de usuários que expressem pensamentos suicidas para serviços de gestão de crise.
- Protocolos obrigatórios de prevenção ao suicídio.
Segundo Jai Jaisimha, cofundador do grupo Transparency Coalition, a norma protege crianças e outros usuários vulneráveis de danos emocionais causados por chatbots.
Quais elementos tornam a legislação única?
Além das medidas de prevenção, a lei proíbe que chatbots se façam passar por profissionais de saúde e responsabiliza os desenvolvedores pelas consequências de interações prejudiciais. A Califórnia também endureceu punições contra conteúdos deepfake, permitindo indenizações de até 250 mil dólares por violação.
Quem vai se impactar com a regulamentação?
- Desenvolvedores de IA que operam na Califórnia ou atendem usuários do estado.
- Empresas de tecnologia do Vale do Silício.
- Pais e responsáveis que buscam proteção para adolescentes no ambiente digital.
- Usuários de chatbots preocupados com segurança emocional e privacidade.
Quais curiosidades envolvem a criação da lei?
- O caso de Sewell, adolescente de 14 anos, motivou a atenção para os riscos de chatbots companheiros.
- A mãe do jovem, Megan Garcia, entrou com processo contra a plataforma Character.AI.
- A legislação foi aprovada em meio a um debate nacional sobre a regulamentação da inteligência artificial nos Estados Unidos.
Diferenciais e relevância atual
O pioneirismo da Califórnia cria um precedente importante para outros estados e possíveis regulamentações federais. A lei reflete a preocupação crescente com o impacto da IA na saúde mental de adolescentes, destacando a responsabilidade das empresas de tecnologia em não explorar vulnerabilidades emocionais.
Leia também: Pais culpam ChatGPT por suicídio do filho; IA ajudou na carta deixada
Elementos marcantes da legislação
- Salvaguardas obrigatórias em chatbots.
- Alertas de IA visíveis para todos os usuários.
- Encaminhamento automático para suporte em crises.
- Proibição de simular profissionais de saúde.
- A regulamentação de IA
A iniciativa da Califórnia evidencia que a segurança digital e o bem-estar emocional podem se sobrepor à liberdade tecnológica. O futuro da IA poderá ser moldado por normas similares em outros estados e países, destacando o papel de legislações preventivas.
🟢 Gostou do conteúdo? Compartilhe com alguém que vai adorar saber disso!
