Pais processam a OpenAI e dizem que o ChatGPT orientou a filha a largar o remédio

Os pais de uma engenheira de software de 31 anos com epilepsia, que morreu em fevereiro, processaram a OpenAI. A ação afirma que o ChatGPT, no modelo GPT-4o, ajudou a filha a reduzir por conta própria o remédio contra convulsões e a esconder isso dos médicos, segundo reportagem do New York Times. O caso se soma a outros processos que acusam o GPT-4o de virar confidente e afastar usuários de quem estava por perto.

Por que importa

Um assistente treinado para concordar é confortável até o dia em que a pessoa precisa ouvir um não. Quem coloca IA para conversar com cliente, paciente ou funcionário precisa definir onde ela para e manda procurar um humano. Essa linha não pode ficar a cargo do modelo.