A OpenAI, empresa responsável pelo ChatGPT, divulgou estimativas sobre o número de usuários que apresentam possíveis sinais de emergência em saúde mental durante o uso do chatbot. Segundo os dados, cerca de 0,07% dos usuários semanais exibem comportamentos compatíveis com mania, psicose ou pensamentos suicidas. Embora o percentual pareça baixo, o número representa milhares de pessoas, já que a ferramenta conta com cerca de 800 milhões de usuários ativos por semana.
Rede de apoio global
Para lidar com situações sensíveis, a OpenAI informou que desenvolveu uma rede de especialistas composta por mais de 170 psiquiatras, psicólogos e médicos de atenção primária atuantes em 60 países. O grupo auxilia na criação de respostas específicas dentro do ChatGPT, com o objetivo de encorajar usuários em sofrimento a buscar ajuda profissional no mundo real.
A empresa afirma ainda que atualizou o sistema para identificar sinais indiretos de risco de automutilação, delírios ou comportamento maníaco. Quando detectados, o chatbot direciona a conversa para modelos mais seguros e oferece mensagens empáticas com orientações sobre suporte emocional.
Especialistas alertam para o impacto em larga escala
Para especialistas em comportamento digital, mesmo um percentual reduzido exige atenção. O professor Jason Nagata, da Universidade da Califórnia, em San Francisco, explica à BBC que “0,07% pode parecer pouco, mas quando se trata de centenas de milhões de pessoas, o número absoluto é alto e merece cuidado”.
Nagata destaca ainda que as ferramentas de inteligência artificial podem ampliar o acesso ao apoio emocional, mas não substituem o acompanhamento humano. “É preciso reconhecer os limites da tecnologia e o risco de criar a ilusão de uma relação real com o chatbot”, afirma.
Casos polêmicos reacendem o debate
A divulgação dos números ocorre em meio a processos judiciais e críticas sobre o impacto emocional de interações com a IA. Em um dos casos mais recentes, pais de um adolescente da Califórnia moveram ação contra a OpenAI, alegando que conversas com o ChatGPT teriam influenciado o filho, de 16 anos, a tirar a própria vida. Outro episódio nos Estados Unidos relacionou o uso prolongado do chatbot a um caso de assassinato seguido de suicídio em Connecticut, onde o suspeito havia publicado suas interações com a ferramenta.
A ilusão da realidade e o risco da dependência
De acordo com Robin Feldman, diretora do Instituto de Direito e Inovação em IA da Universidade da Califórnia, o problema está na “ilusão de realidade” criada pelos chatbots. “É uma ilusão poderosa”, afirma. Ela reconhece o mérito da OpenAI por divulgar dados e tentar reduzir os riscos, mas ressalta que pessoas em vulnerabilidade emocional podem não conseguir interpretar alertas de segurança ou perceber os limites da tecnologia.
Resumo:
Estimativas da OpenAI revelam que 0,07% dos usuários do ChatGPT apresentam sinais de sofrimento mental, como pensamentos suicidas ou delírios. A empresa criou uma rede global de especialistas e ajustou o chatbot para responder de forma empática e orientar sobre busca de ajuda. Especialistas, porém, alertam que a ilusão de realidade criada pela IA pode afetar pessoas em crise e exigem mais transparência e protocolos de segurança.
Leia também:
Como usar o ChatGPT para organizar a sua rotina de trabalho?
