Un pastor del estado de Florida presentó una demanda contra OpenAI al afirmar que las recomendaciones médicas proporcionadas por ChatGPT contribuyeron a retrasar el diagnóstico de una embolia pulmonar que puso en riesgo su vida.
La acción judicial, radicada en un tribunal de California, sostiene que el chatbot minimizó los síntomas que experimentaba Scott Winters y lo convenció de no acudir a un médico. Según el documento, la inteligencia artificial llegó a asegurarle que sus molestias no representaban un peligro y le transmitió mensajes para que confiara en que su organismo se recuperaría por sí solo.
ÚNETE A NUESTRO GRUPO DE WHATSAPP PARA ESTAR INFORMADO
Acusan a OpenAI de negligencia
La demanda señala a OpenAI y a su director ejecutivo, Sam Altman, por presunta negligencia y por ejercer la medicina sin autorización. Los abogados de Winters aseguran que ChatGPT ofreció diagnósticos, recomendaciones de tratamiento e incluso lo animó a desoír los consejos de familiares y amigos que insistían en que buscara atención médica.
Además, argumentan que las herramientas de seguridad del chatbot, diseñadas para derivar a los usuarios a profesionales de la salud cuando detectan posibles emergencias, no funcionaron de manera adecuada.
Un caso que podría marcar un precedente
El caso es considerado uno de los primeros en los que una persona atribuye daños físicos a las recomendaciones médicas emitidas por un chatbot de inteligencia artificial.
La demanda llega en un contexto en el que empresas como OpenAI y Microsoft impulsan herramientas de IA orientadas al ámbito sanitario, permitiendo a los usuarios consultar síntomas e incluso analizar historiales clínicos.
Los demandantes solicitan una compensación económica y piden que el servicio ChatGPT Health permanezca suspendido hasta que evaluadores independientes certifiquen que es seguro. También reclaman la implementación de controles más estrictos para impedir que el chatbot ofrezca diagnósticos o tratamientos médicos.
OpenAI responde
Desde OpenAI, el portavoz Drew Pusateri recordó que los términos de uso de ChatGPT establecen que la herramienta no debe utilizarse para diagnosticar ni tratar enfermedades.
No obstante, aseguró que la empresa trabaja para mejorar la seguridad de las respuestas relacionadas con la salud y sostuvo que las versiones más recientes del modelo identifican mejor las situaciones que requieren atención profesional, además de expresar con mayor claridad las limitaciones de la inteligencia artificial.
Cómo ocurrió el caso
Según la demanda, Winters comenzó a consultar a ChatGPT sobre distintos problemas de salud durante 2024. Aunque inicialmente el chatbot le recomendaba acudir a un médico, con el paso del tiempo dejó de emitir esas advertencias y empezó a ofrecer explicaciones sobre síntomas como los mareos que sufría con frecuencia.
Incluso cuando el pastor comentó que los miembros de su iglesia insistían en que fuera al hospital, el chatbot le respondió que muchas personas no comprendían el proceso de recuperación que estaba llevando adelante.
Con el paso de las semanas, su estado empeoró hasta el punto de permanecer casi todo el día sentado debido a los intensos mareos. Durante ese período, ChatGPT continuó restando importancia a los síntomas y sugirió pautas relacionadas con medicamentos, según la demanda.
El 13 de julio de 2025, tras consultar por un dolor en la ingle, el chatbot le indicó que probablemente se trataba de una molestia menor. Horas más tarde, Winters fue internado de urgencia en una unidad de cuidados intensivos, donde los médicos le diagnosticaron una embolia pulmonar masiva.
Los especialistas concluyeron que los mareos que venía experimentando podían estar relacionados con embolias previas y que el prolongado reposo había favorecido la formación de coágulos.
Crece el debate sobre la IA y la salud
El caso reavivó el debate sobre el uso de la inteligencia artificial para responder consultas médicas.
Aunque millones de personas utilizan semanalmente ChatGPT para obtener información sobre salud, distintos estudios científicos han advertido que estos sistemas todavía no ofrecen la fiabilidad necesaria para reemplazar la evaluación de un profesional.
ÚNETE A NUESTRO CANAL DE TELEGRAM PARA ESTAR INFORMADO
Investigaciones recientes también concluyeron que incluso las versiones especializadas para consultas médicas pueden pasar por alto situaciones de emergencia o activar de forma inconsistente sus mecanismos de seguridad, lo que mantiene abierto el debate sobre los límites de estas herramientas en el ámbito sanitario.
Con Información de LN.-
