ChatGPT não evita suicídio: jovem de 29 anos se mata após “consulta” por IA

Repercutiu nas redes sociais desta semana o suicídio de Sophie Rotemberg, 29 anos, após meses de desabafo no ChatGPT. Embora a IA não tenha estimulado diretamente o ato, não proporcionou auxilio adequado para evitar o pior. A matéria completa pode ser acessada no link: https://www.msn.com/pt-br/noticias/brasil/.

Já abordei em artigo anterior a tendência ao “atendimento” por meio da IA por parte de pessoas vivenciando depressão, neuroses e outros estados mentais que requerem auxílio especializado. Só no Brasil, um estudo revelou que por volta de 12 milhões de pessoas passaram a usa a IA como confidente, correndo o risco de agravar o quadro mental/emocional, como infelizmente ocorreu com a jovem Sophie.

Recentemente, o Independent (foto) publicou uma matéria a respeito dos efeitos do uso terapêutico da IA, especificamente do ChatGPT, hoje de longe o mais popular, mas não o único. É do comportamento humano buscar atalhos e facilidades, além de ser imediatista. Entretanto a IA não está preparada para acolher a dor humana em sua complexidade. Como no caso da jovem citada, indica verdadeiras panaceias, não se atentando para as diferentes abordagens necessárias dependendo do consulente, do tipo e da extensão do sofrimento mental ou emocional. Até mesmo as técnicas de autoajuda oferecidas pela IA são superficiais. É como tratar com Aspirina um quadro de pneumonia!

Se a OpenAI não sabe o que fazer, cabem aos profissionais de saúde e autoridades procurarem uma solução, que passe pela conscientização dos riscos e a indicação das verdadeiras alternativas de atendimento com especialistas e não pseudotecnologias incapazes de responder a dramas pessoais ou coletivos.

Enquanto o esforço oficial não chega, começo hoje uma campanha alertando sobre o perigo de confiar a própria saúde mental ao Machine Learning (Aprendizado de Máquina). Você não consultaria um estudante. Então, por que consultaria um sistema baseado em algoritmos (padrões)?

Nâo parece uma decisão humana.

Ou...parece?