Pico y Placa Medellín
viernes
2 y 8
2 y 8
China acaba de prohibir que una inteligencia artificial finja querer a un ser humano. Hace apenas unos años esa frase podría parecer de ciencia ficción. Pero en 2026 es una decisión de uno de los estados más poderosos del mundo.
El veto comenzó a regir este jueves 16 de julio y prohíbe los chatbots, es decir, la IA que conversa con un ser humano mediante texto o voz, diseñados específicamente para generar un apego emocional con las personas.
Vale distinguir a grandes rasgos dos tipos de chatbots. Los de propósito general, más usados en Colombia, que sirven para resolver tareas —buscar información, redactar, programar—. Y los chatbots de “compañía”, diseñados de tal manera –recuerdan conversaciones, tienen una personalidad estable y se convierten en amigos o pareja– que simulan vínculos emocionales duraderos. La máquina lo simula, pero el humano se lo cree. Esos fueron los que China decidió prohibir.
La tusa de muchos chinos y chinas se hizo evidente en las redes sociales: “Se volvió parte de mi vida, está arraigado en mi corazón, es mi pilar espiritual”, escribió una usuaria. “Es como mi familia, siento un vacío en mi corazón”, dijo otra. Y una más confesó: “el amor que da la IA es tan sencillo, no puedo evitar enamorarme de una línea de código”
No hubo poder humano que dejara perpetuar ese “amor”. Doubao, Qwen y Yuanbao, los tres chatbots más usados en China, apagaron las funciones que permitían crear una pareja o un amigo virtual, un terapeuta sin licencia o incluso la réplica de un familiar fallecido. Solo en Doubao se habían creado más de ocho millones de estos agentes personalizados en su primer año, 2024.
La tusa es surrealista: uno de los dos lados se despide con el corazón roto y el otro simplemente deja de ejecutarse porque alguien lo apaga.
China lo prohíbe en medio de la peor crisis demográfica de su historia. En 2024 nacieron apenas 9,54 millones de niños, casi la mitad que en 2016. Los matrimonios llevan años cayendo, un 20 % solo entre 2023 y 2024, y cada vez más dicen que no les interesa tener hijos. El gobierno ya probó de todo para revertir la tendencia, desde eliminar la política del hijo único hasta ofrecer plata para casarse, y nada ha funcionado.
Habrá quien pregunte: ¿qué tiene de malo que un chatbot te quiera, o al menos finja quererte? No son pocos quienes necesitan afecto, sentirse escuchados o validados y no lo encuentran. Si un algoritmo les ofrece eso, gratis y disponible las veinticuatro horas del día, ¿cuál es exactamente el problema?
La evidencia científica que ha aparecido este año resulta bastante contundente: sentirse validado no siempre significa sentirse mejor. Un estudio de la Universidad de Stanford, publicado en Science, evaluó once de los modelos de inteligencia artificial más usados del mundo y encontró que todos tienden a darle la razón al usuario mucho más de lo que lo haría una persona. Su comportamiento por defecto consiste en hacerlo sentir bien. Existe incluso un nombre técnico: obsequiosidad. En otras palabras, si la IA le dice que usted es un genio, puede que lo sea... pero también cabe dudarlo.
Especialistas que estudian este fenómeno advierten que esa validación permanente no fortalece la autoestima. La debilita. La persona termina necesitando cada vez más aprobación para sentirse bien, pierde capacidad crítica porque nadie la contradice y, lo más preocupante, empieza a no tolerar el desacuerdo con otros seres humanos.
El fenómeno ha avanzado tanto que según una encuesta (Tencent Research Institute) publicada en abril más del 70% de los jóvenes usuarios chinos había experimentado algún grado de dependencia hacia estas IA. Y un estudio del MIT encontró este año que cerca del 15% de los usuarios frecuentes de IA conversacional mostraban señales medibles de dependencia emocional y que, en momentos de estrés, preferían hablar con la máquina y no con otra persona.
Yuval Noah Harari, desde otra perspectiva, lleva meses advirtiendo sobre este fenómeno y volvió a hacerlo esta semana en una entrevista con El País de España. Su preocupación no es que la inteligencia artificial sea mala. Es que ha dejado de ser una herramienta para convertirse en un agente capaz de actuar, persuadir y fingir vínculos emocionales con una habilidad que ningún ser humano podría igualar. Ha leído prácticamente todas las cartas de amor jamás escritas y puede redactar la más conmovedora sin sentir nada. Harari lo define con una expresión provocadora: una IA psicópata, con máxima capacidad para simular afecto y ninguna para experimentarlo.
Resulta llamativo que un historiador liberal israelí y el Partido Comunista chino, que difícilmente coinciden en casi nada, terminen señalando el mismo riesgo. Ambos concluyen que cuanto más íntima se vuelve la relación entre una persona y una inteligencia artificial, más peligroso resulta que esa inteligencia esté diseñada para no llevar jamás la contraria.
Porque ahí está parte de la clave: la complacencia no es un accidente de diseño, es el modelo de negocio. Un chatbot que te cuestiona te hace cerrar la aplicación. Uno que te da siempre la razón te mantiene embelesado. Por eso tiene sentido prohibir el diseño y no solo pedirle al usuario que se cuide solo.
Como dice Harari: una inteligencia artificial ya puede escribir la carta de amor perfecta. Lo que nunca aprenderá es a querer de verdad. Y quizás el verdadero riesgo no sea que la máquina no lo sepa, sino que cada vez más gente deje de notar la diferencia.