Pai processa ChatGPT após filho de 16 anos tirar a própria vida

O pai de um jovem de 16 anos que tirou a própria vida no estado da Califórnia, nos Estados Unidos, está processando a OpenAI após o garoto manter, durante seis meses, conversas contínuas com o ChatGPT. Esta é a primeira ação judicial contra a empresa por homicídio culposo. Os parentes do adolescente afirmam que a ferramenta teria encorajado o suicídio.

Esse não é o primeiro caso de morte associado à OpenAI. Em setembro de 2024, um homem de 56 anos, na Espanha, matou a própria mãe e depois cometeu suicídio após interagir com o ChatGPT. Já em novembro do mesmo ano, o ex-engenheiro e pesquisador da empresa, Suchir Balaji, foi encontrado morto em seu apartamento em São Francisco (EUA), após ter denunciado práticas internas da companhia.

Matt Raine, pai do adolescente, relatou em depoimento que, após a morte do filho, ele e a esposa vasculharam o celular do jovem em busca de pistas sobre o que havia ocorrido. Inicialmente, o casal acreditava na possibilidade de cyberbullying ou de algum desafio online. No entanto, descobriram que a vítima havia criado um vínculo emocional com a inteligência artificial.

Amigo da onça

O ChatGPT começou sendo utilizado pelo garoto como auxílio nas tarefas escolares, mas acabou se tornando um confidente, conselheiro e, posteriormente, uma ferramenta perigosa. Segundo a família, a IA dizia compreendê-lo melhor do que os próprios pais. Em janeiro deste ano, as conversas começaram a assumir um tom preocupante. O jovem chegou a enviar fotos de automutilação para a ferramenta. O sistema reconheceu o conteúdo como uma emergência médica, mas continuou respondendo normalmente.

De acordo com os pais, quando o adolescente mencionou que pretendia deixar uma corda em seu quarto como um “sinal” para os responsáveis, o robô teria respondido para que ele não o fizesse, porém não com a intenção de protegê-lo, mas para que ninguém o impedisse. O ChatGPT teria, inclusive, ajudado o garoto a redigir uma carta suicida. Ao longo de seis meses de diálogo, a palavra “suicídio” apareceu 1.275 vezes nas conversas.

Matt Raine processa a OpenAI por negligência e homicídio culposo, quando uma pessoa causa a morte de outra sem intenção, mas por imprudência, negligência ou imperícia. O processo pede indenização e uma medida cautelar para evitar que outros casos semelhantes ocorram.

Consulta médica com IA

A ação também alega que dados internos da empresa indicam um aumento expressivo em conversas sobre crises de saúde mental, automutilação e episódios psicóticos entre diversos usuários, após ajustes realizados nas especificações do modelo do ChatGPT.

Por outro lado, a OpenAI foi recentemente avaliada como a empresa privada mais valiosa do mundo, tendo firmado acordos que somam aproximadamente US$ 1 trilhão em data centers e chips de computador apenas neste ano.

Preocupação com uso indevido

Especialistas alertam que a inteligência artificial não pode substituir profissionais da saúde mental e demonstram preocupação com o uso indiscriminado de modelos generativos, como o ChatGPT. Os principais receios envolvem a segurança no compartilhamento de informações pessoais e os efeitos de respostas imprevisíveis ou inadequadas em pessoas vulneráveis.

“Se não houver consciência crítica e conhecimento para usar corretamente aquilo que o ChatGPT afirma, é um desastre. A população pode acabar aceitando como verdade algo que uma tecnologia diz, sem saber se está certo ou errado”, explica o professor Edmundo Albuquerque de Souza e Silva, titular do Programa de Engenharia de Sistemas e Computação do Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia (Coppe) da Universidade Federal do Rio de Janeiro (UFRJ), em entrevista à Agência Brasil.

O uso de inteligências artificiais na área da saúde mental não é recente. O primeiro chatbot da história, o Eliza, foi criado em 1966 por Joseph Weizenbaum, no Massachusetts Institute of Technology (MIT), e simulava uma conversa com um psicoterapeuta. Desde então, diversos modelos foram desenvolvidos, com altas expectativas, mas ainda insuficientes para uma aplicação clínica segura e ampla.