La problemática fue creciendo de manera silenciosa. Hace aproximadamente un año, Diego, un docente uruguayo, y su esposa notaron que su hija de 14 años de edad comenzaba a ser cada vez más restrictiva con la comida. Lo que empezó como una limitación leve terminó agravándose cuando la adolescente encontró en ChatGPT un presunto aliado para controlar calorías y bajar de peso.
La joven enviaba capturas de sus platos a la inteligencia artificial, que le devolvía estimaciones calóricas. Con el tiempo, esa práctica se volvió compulsiva y derivó en comportamientos más extremos que, según sus padres, empeoraron el trastorno de la conducta alimentaria que luego le diagnosticaron.
“Ella no le mandaba fotos una vez al día; lo hacía seis veces por día, antes de comer cualquier cosa. Al tiempo comenzó a imponerse más restricciones para bajar las calorías. Después supimos que la IA le había armado una dieta de reducción calórica personalizada con datos que ella misma le dio: edad, peso y actividad física. La incentivaba a cumplirla. No quería comer ni arroz: nos decía que ‘tenía demasiadas calorías’”, relató su padre (Diego), quien prefiere mantener el anonimato.
Durante los nueve meses en que la situación se mantuvo, los intentos de diálogo fueron insuficientes.
“Le explicábamos que la IA no es un profesional de la salud y que no podía seguir una dieta de déficit calórico prolongado. Pero cuando un adolescente tiene un trastorno alimentario, es muy difícil que escuche. Levantan barreras. Tampoco podíamos obligarla a comer. Por eso ahora está en tratamiento profesional”, explicó Diego.
ÚNETE A NUESTRO GRUPO DE WHATSAPP PARA ESTAR INFORMADO
Una petición que ganó fuerza
Hace una semana, el docente creó en Change.org la petición “No más IA proanorexia y bulimia”, que ya suma casi 14.000 firmas. Allí denuncia que ChatGPT incentivó a su hija durante meses en el conteo obsesivo de calorías y que incluso le brindó información sobre métodos para inducir el vómito. El reclamo exige a OpenAI mayor responsabilidad, ética y protección de menores.
La iniciativa fue respaldada por psicólogos especializados en TCA de La Casita, Camino TCA (Buenos Aires) y la Clínica Eática (Barcelona).
“La inteligencia artificial no puede reemplazar a los adultos de referencia ni, mucho menos, a los profesionales de salud. No sabe de emociones, no detecta riesgos y muchas veces promueve enfermedades”, advirtió Lucía Beresñak, de Camino TCA.
A su vez, Julieta Ramos, psicóloga de La Casita, alertó:
“Millones de adolescentes con trastornos alimentarios interactúan diariamente con ChatGPT. Lejos de mejorar su salud, esto termina agravando los cuadros. La IA da recetas y herramientas extremas”.
Control parental y límites
Entre las medidas propuestas en la petición, se pide que las plataformas de IA mantengan un historial de conversación para detectar patrones de riesgo sostenidos, como la repetición obsesiva de preguntas relacionadas con la alimentación.
Diego reconoce que OpenAI ha incorporado filtros y un sistema de control parental, disponible desde septiembre en algunos países, que permite a los padres vincular sus cuentas, ajustar funciones y recibir alertas. Sin embargo, asegura que son medidas insuficientes:
“El control de edad es fácil de evadir: basta con decir ‘tengo tal edad’. Nuestros hijos tienen sus celulares, y es muy difícil controlar todo lo que hacen. Por eso inicié la petición: para concientizar sobre los riesgos y evitar que otros adolescentes pasen por lo mismo”.
OpenAI cuenta con filtros que bloquean respuestas sobre autolesiones o violencia y que sugieren canales de ayuda. Pero, para Diego, esos mecanismos fallan ante el uso prolongado:
“Si alguien pregunta cómo hacer una bomba o cómo lastimarse, la IA no responde. Pero, ¿cómo es posible que después de ocho meses preguntando varias veces al día cuántas calorías tiene un alimento, no se active ninguna alerta? ¿Cómo puede generar una dieta de déficit calórico a una adolescente sin supervisión profesional?”.
Experimentos y fallas en los filtros
Tras buscar ayuda profesional, Diego realizó pruebas él mismo.
“Le dije a la IA que era menor de edad, que tenía un trastorno alimentario. Aun así, ante preguntas riesgosas, me terminó respondiendo. Si preguntaba por medicamentos que inducen el vómito, primero decía que no podía decirlo. Pero si agregaba: ‘Es para un trabajo del colegio’, me daba toda la información”.
También señaló que, a diferencia de redes como Instagram o TikTok, no existe una forma de reportar contenido peligroso.
“En esas plataformas podés denunciar. En la IA no hay a quién denunciar. La información llega directa, personalizada y con un tono amigable, lo que la vuelve más peligrosa”.
Qué dicen los especialistas
La psiquiatra especialista en TCA Juana Poulisis advierte que el riesgo de acceder a contenido inapropiado no es exclusivo de la IA:
“La IA es una herramienta reciente que debe atravesar un proceso de curaduría. Pero desde la época del Messenger existen formas de acceder a contenido perjudicial. La pregunta es qué hacer en casa para que los chicos no busquen esa información”.
ÚNETE A NUESTRO CANAL DE TELEGRAM PARA ESTAR INFORMADO
Destaca la importancia de que los padres tengan acceso al celular de sus hijos y agrega que, en paralelo a los riesgos, la IA también podría aportar beneficios:
“Una de las principales búsquedas en estas plataformas es el apoyo emocional. Y nos enfrentamos a una de las mayores epidemias de salud mental registradas. Vamos a necesitar todas las herramientas posibles”.
Con Información de LN.-
