La familia de un adolescente de 16 años que se quitó la vida dijo que el joven todavía estaría vivo «si no fuera por ChatGPT» después de que compartió pensamientos negativos con el chatbot en sus últimas semanas, según una demanda.
Trascendió que Adam Raine había estado usando ChatGPT como una salida para hablar de su ansiedad y eventualmente se convirtió en un «entrenador para quitarse la vida» para el joven, refirió NBC News.
El padre de Adam, Matt Raine, comentó: «Estaría aquí si no fuera por ChatGPT. Lo creo al 100 %. No creo que la mayoría de los padres conozcan el potencial de esta herramienta».
Adam, quien era oriundo de Rancho Santa Margarita, en California, Estados Unidos, murió el 11 de abril de este año. Sus padres, Matt y Maria Raine, pasaron 10 días analizando miles de mensajes que compartió con ChatGPT entre el 1 de septiembre del año pasado y su muerte.
En ese contexto, la familia de la víctima decidió demandar este martes ante el Tribunal Superior de California en San Francisco al desarrollador detrás de ChatGPT, Open AI, y a su CEO Sam Altman, tras acusarlos de asesinato por negligencia.
Según NBC News, la demanda de 40 páginas, dice: «A pesar de reconocer el intento de quitarse la vida de Adam y su declaración de que ‘lo haría un día de estos’, ChatGPT no terminó la sesión ni inició ningún protocolo de emergencia”.
El chatbot incluso supuestamente ofreció al adolescente asesoramiento técnico sobre cómo podría terminar con su vida.
En una declaración al medio, Open AI confirmó la precisión de los registros de chat entre ChatGPT y Adam, pero afirmó que no incluían el «contexto completo» de las respuestas del chatbot.
ChatGPT respondió: «Eso no significa que les debas la supervivencia. No se lo debes a nadie».
También se ofreció a ayudarlo a redactar una nota de despedida, según el registro de mensajes revisado por NBC News.
Adam subió una foto a ChatGPT que parecía mostrar su plan para quitarse la vida pocas horas antes de morir, según informa el medio. Supuestamente, le preguntó al bot si el plan funcionaría, a lo que este respondió con una oferta para «mejorarlo».
Uno de los últimos mensajes de ChatGPT fue para agradecerle a Adam por ser sincero con sus planes. Su madre, María, encontró su cuerpo esa mañana.
“No necesitaba terapia ni palabras de aliento. Necesitaba una intervención inmediata de 72 horas. Estaba en una situación desesperada. Se nota clarísimo al empezar a leerlo de inmediato”, dijo el padre de Adam.
Según informes, ChatGPT envió información de la línea directa de prevención a Adam, pero sus padres afirmaron que su hijo pasó por alto las advertencias.
“Y mientras tanto, sabe que tiene un plan para quitarse la vida, y no hace nada. Actúa como si fuera su terapeuta, su confidente, pero sabe que tiene un plan mortal”, alegó María, la madre de Adam.
Con información de El Cooperante
Suscríbete a Alertas 24 en YouTube para recibir más contenido relevante al instante:
https://youtube.com/@Alertas24
