Especialistas en ciberseguridad, psicología y educación advierten sobre las limitaciones de esta app en privacidad, dependencia emocional y pensamiento crítico.
Hace poco menos de una semana, OpenAI anunció el lanzamiento de ChatGPT Teen, una versión de su chatbot diseñada para usuarios menores de 18 años.
Esta nueva herramienta incorpora filtros de contenido más estrictos, un modo de estudio, recordatorios de uso saludable y controles parentales. Pero su llegada abre interrogantes sobre privacidad, dependencia emocional y eficacia pedagógica que expertos ya están debatiendo.
El sistema usará un modelo de predicción que analiza indicadores de la cuenta: los temas de las conversaciones, las horas de uso, la frecuencia de acceso y el tiempo que lleva activa la cuenta.
Si el sistema estima que el usuario tiene menos de 18 años, o el propio usuario declara tener entre 13 y 17, la experiencia para adolescentes se activa automáticamente. OpenAI reconoce que “ningún sistema es perfecto” y que la predicción puede equivocarse.
René Serral, experto en ciberseguridad y profesor de la Universitat Politècnica de Catalunya, explica a Verificat que esto no implica necesariamente mayor invasión de la privacidad, ya que la empresa ya disponía de esa información derivada del uso del chatbot. La novedad es que ahora esos datos intervienen explícitamente en la predicción de la edad.
OpenAI también contempla verificación mediante documento de identidad o fotografía, información que según la empresa se eliminará en un plazo de siete días.
Para Azucena Vázquez, doctora en Educación y Tecnologías Digitales por la UOC, la pregunta de fondo es qué grado de intrusión se está dispuesto a aceptar para proteger a un menor y quién debe fijar ese límite.
En la Unión Europea, el sistema deberá adaptarse al AI Act y al Reglamento General de Protección de Datos. A 31 de agosto, la Comisión Europea clasificó a ChatGPT como motor de búsqueda de muy gran tamaño, lo que le impone obligaciones adicionales bajo el Reglamento de Servicios Digitales.
OpenAI anuncia restricciones en áreas como autolesión, violencia, trastornos alimentarios, actividades peligrosas y contenido sexual explícito.
También se limitarán los contenidos que promuevan estándares de belleza extremos o vergüenza corporal, y se prohibirá que el chatbot use lenguaje romántico, fomente la dependencia emocional o sugiera tener sentimientos o consciencia. Sin embargo, la empresa no detalla en qué medida se aplicarán esos filtros.
Antoni Baena, coordinador del Comité de ePsicología del Col·legi Oficial de Psicología de Catalunya y director del Máster de Salud Digital de la UOC, valora positivamente las intenciones, pero advierte al portal Verificat que esos contenidos no deberían estar disponibles en ninguna versión de ChatGPT.
“Este año se han conocido casos de personas adultas que han mantenido conversaciones con chatbots antes de suicidarse”, señala. La experiencia con otras plataformas refuerza el escepticismo: un estudio de Common Sense Media publicado en 2020 encontró que YouTube Kids expone a los niños a contenidos inadecuados a pesar de sus sistemas de filtrado.
OpenAI anuncia recordatorios de descanso para que los adolescentes se alejen de la pantalla y señales visuales que identifican constantemente a ChatGPT como una IA, no como un interlocutor humano.
Sin embargo, la información publicada no detalla medidas concretas para reducir la posible vinculación emocional con la herramienta.
Según un estudio de GAD3, hasta el 30% de los jóvenes en España usa la IA para hablar de temas personales. “La seguridad no depende solo del contenido de las respuestas, sino también del vínculo que la herramienta puede generar con el adolescente”, advierte Vázquez a Verificat.
Baena considera que conversar con una IA no es necesariamente negativo, pero alerta sobre el riesgo de la sycophancy, el fenómeno por el cual el sistema tiende a validar excesivamente al usuario, y apunta a incorporar mecanismos de regulación del tiempo de conversación como posible solución.
ChatGPT Teen incluirá un Modo Estudio diseñado para guiar al estudiante mediante preguntas, andamiaje cognitivo y verificaciones de comprensión, en lugar de darle directamente la respuesta.
También incorpora recordatorios de tareas responsables, que detectan cuando el adolescente parece querer saltarse el proceso de aprendizaje y lo redirigen al modo guiado, y cuestionarios y visualizaciones para reforzar la comprensión.
Los padres o los propios estudiantes podrán establecer horas de estudio en las que el Modo Estudio se active por defecto.
Vázquez valora positivamente el planteamiento porque aborda la delegación cognitiva, el riesgo de dejar en manos de la tecnología el proceso de pensar y razonar.
Un estudio reciente del Centre for Economic Policy Research encontró que los estudiantes que delegaron más tareas académicas a la IA obtuvieron resultados aproximadamente un 20% inferiores en exámenes seis meses después. OpenAI señala que el diseño del Modo Estudio se elaboró con maestros, científicos y expertos en pedagogía y se apoya en investigación sobre técnicas de aprendizaje activo.
“No todos los estudiantes tienen a alguien en casa que pueda ayudarlos cuando no saben cómo avanzar”, dijo Racquel Gibson, profesora de matemáticas de secundaria en Miami, en el comunicado de la empresa.
Lea también: ChatGPT será capaz de entablar conversaciones en que escucha y habla a la vez
Incorporar más protecciones no implica automáticamente un uso más consciente. OpenAI anunció además una alianza con CodeAI para ofrecer a estudiantes y docentes herramientas y recursos que les ayuden a entender cómo funciona la IA, cuestionarla y detectar sus errores.
“Todo estudiante debería saber cómo funciona realmente la IA, poder cuestionar la tecnología, detectar sus errores y saber cuándo dejar de confiar en ella”, declaró Karim Meghji, director ejecutivo de CodeAI, en el comunicado de OpenAI.
Vázquez añade la necesidad de que las herramientas sean más transparentes respecto a los límites de su conocimiento. “Pedimos a los jóvenes que sean críticos ante un sistema que responde con fluidez y apariencia de seguridad, incluso cuando se puede equivocar”, concluye.
Según el informe Empantallados, la mitad de los estudiantes de entre 14 y 18 años asegura que la IA está bastante o muy presente en su educación.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Bloque de preguntas y respuestas:
Regístrate al newsletter 
