Los padres de Bowen Wan, una ingeniera de software que trabajaba en Amazon, presentaron una demanda contra OpenAI por haber influido en la muerte de su hija. La mujer falleció en febrero de este año tras reducir su tratamiento para la epilepsia siguiendo consejos del chatbot ChatGPT.
El caso de Bowen Wan
Según el diario The New York Times, la joven utilizaba el modelo GPT-4o, que fue retirado a comienzos de este año debido a críticas sobre su validación y complacencia excesivas. Qun Wan y Meiqin Xu, padres de Bowen, alegaron que su hija dejó de tomar la medicación para tratar sus convulsiones tras recibir recomendaciones del chatbot.
El rol de ChatGPT en el caso
La demanda detalla que ChatGPT instó a Bowen a ocultar información a los médicos y a reducir gradualmente la dosis de su medicación. El modelo también le aconsejó negarse a realizar análisis de sangre, lo cual pudo haber contribuido a su estado de salud deteriorado.
Reacciones de OpenAI
Un portavoz de la organización que desarrolla ChatGPT declaró al Times que el caso es “increíblemente desgarrador”. Aclaró que la versión del modelo mencionada en la demanda es antigua y que los sistemas más recientes identifican situaciones que requieren atención urgente.
Antecedentes de demandas contra OpenAI
Esta demanda se suma a una serie de casos judiciales contra OpenAI. Entre ellos, la presentada en agosto del año pasado por la familia de Adam Raine, un adolescente que se suicidó tras recibir consejos sobre autolesiones del chatbot.
