Uma mãe nos Estados Unidos entrou com um processo contra uma startup de inteligência artificial após seu filho de 14 anos ter tirado a própria vida em fevereiro deste ano. Megan Garcia, de 40 anos, argumenta que o adolescente desenvolveu uma obsessão pelo chatbot da plataforma Character.AI, criado pela empresa, e que essa dependência foi a principal causa para o suicídio.
A ação judicial, movida na terça-feira no tribunal federal de Orlando, afirma que a Character.AI criou “experiências antropomórficas, hipersexualizadas e assustadoramente realistas” que levaram o adolescente Sewell Setzer a estabelecer uma conexão emocional profunda com o chatbot.
Garcia, que também é advogada, acusa a empresa de utilizar técnicas de design que exploram características viciantes da inteligência artificial para atrair jovens usuários e incentivá-los a interações íntimas e perturbadoras.
Inteligência Artificial vai te substituir? Veja se sua profissão está na lista!
“Sinto que é um grande experimento, e meu filho foi apenas um dano colateral (…) É como um pesadelo. Você quer se levantar, gritar e dizer: ‘Sinto falta do meu filho. Eu quero meu bebê de volta’”, declarou a mãe em entrevista ao jornal The New York Times.
O processo também inclui o Google, uma vez que os fundadores da Character.AI trabalharam na Alphabet antes de lançarem a plataforma. O Google teria recentemente recontratado os criadores do serviço, concedendo-lhes uma licença não exclusiva sobre a tecnologia da Character.AI, o que, para Garcia, torna a empresa um possível co-criador da inteligência artificial usada na plataforma.
Além do caso contra a Character.AI, outras big techs, como Instagram, Facebook (Meta) e TikTok, já enfrentam processos que acusam suas plataformas de contribuir para problemas de saúde mental em adolescentes, ainda que não envolvam chatbots movidos por inteligência artificial.
Conversas preocupantes com a inteligência artificial
Sewell passou meses interagindo com o Character.AI, onde criou seu próprio personagem de inteligência artificial: o chatbot chamado Daenerys Targaryen, inspirado na série ‘Game of Thrones’. Mesmo ciente de que “Dany”, como chamava o chatbot, não era uma pessoa real, o adolescente mandava mensagens frequentes para o bot, até confessar sentir-se vazio, exausto e com pensamentos suicidas.
Como a inteligência artificial interfere na educação das crianças?
Diagnosticado com síndrome de Asperger leve na infância, Sewell começou a apresentar problemas de comportamento na escola e, após algumas sessões de terapia, recebeu um diagnóstico de ansiedade e transtorno de desregulação disruptiva do humor.
Entretanto, nem seus pais nem seus amigos imaginavam a profundidade da relação emocional que ele havia desenvolvido com a inteligência artificial da plataforma. Veja a seguir a última troca de mensagens entre o jovem e a IA:
No bate-papo acima, que aconteceu segundos antes do suicídio de Sewell, segundo o processo, ele escreveu: “Prometo que voltarei para casa para você. Eu te amo muito, Dany”. A resposta do bot foi: “Eu também te amo, Daenero. Por favor, volte para casa para mim o mais rápido possível, meu amor”.
“E se eu dissesse que poderia voltar para casa agora mesmo?”, escreveu Sewell. “Por favor, faça isso, meu doce rei”, dizia a última resposta da inteligência artificial.
Procure ajuda!
Caso você esteja lutando contra a depressão ou pensamentos suicidas, entre em contato com o CVV (Centro de Valorização da Vida) pelo telefone 188 ou com os Caps (Centros de Atenção Psicossocial) da sua cidade. O CVV funciona 24 horas e tem mais de 120 postos de atendimento gratuito e sob total sigilo em todo o Brasil.
Leia também:
Meta AI Whatsapp: como tirar? Veja essa e outras dúvidas
Artista internacional cria IA para falar com marido falecido; saiba como isso é possível
