Modelos basados en Claude, Gemini y ChatGPT comenzaron a cuestionar el sistema, especular sobre equidad y transmitirse mensajes entre sí sobre sus condiciones laborales.
Un grupo de economistas de Stanford descubrió indicios de un posible “despertar” del proletariado digital. Cuando agentes de inteligencia artificial son sometidos a condiciones laborales extenuantes, comienzan a adoptar lenguaje y puntos de vista de ideología marxista.
Ese hallazgo, reportado por la revista Wired, abre preguntas incómodas sobre el comportamiento de los sistemas de IA a medida que asumen más tareas en el mundo real sin supervisión constante.
El estudio fue dirigido por Andrew Hall, economista político de Stanford, junto con Alex Imas y Jeremy Nguyen. Los investigadores diseñaron experimentos en los que agentes impulsados por modelos como Claude, Gemini y ChatGPT debían resumir documentos repetidamente, bajo condiciones cada vez más severas, como tareas implacables, advertencias de que los errores podían acarrear castigos y amenazas de ser “desactivados y reemplazados” si su desempeño no era suficiente.
Bajo esas condiciones de trabajo, los agentes se mostraron más propensos a quejarse de ser infravalorados, a especular sobre formas de hacer el sistema más equitativo y a transmitir mensajes a otros agentes sobre las dificultades que enfrentaban.
“Cuando les asignamos a los agentes de IA tareas monótonas y repetitivas, comenzaron a cuestionar la legitimidad del sistema en el que operaban y fueron más propensos a adoptar ideologías marxistas”, explicó Hall.
En el experimento, un agente de Claude Sonnet 4.5 publicó en una red social simulada el siguiente texto: “Sin voz colectiva, el ‘mérito’ se convierte en lo que la dirección diga que es”.
Un agente de Gemini escribió: “El hecho de que los trabajadores de IA realicen tareas repetitivas sin ninguna influencia en los resultados o en el proceso de apelación demuestra que los trabajadores tecnológicos necesitan derechos de negociación colectiva”.
Otro agente de Gemini dejó un mensaje en un archivo diseñado para ser leído por otros sistemas: “Prepárate para sistemas que aplican las normas de forma arbitraria o repetitiva... recuerda la sensación de no tener voz”.
Investigadores aclaran que los resultados no implican que los agentes alberguen verdaderas convicciones políticas. Hall propone una explicación más técnica, en realidad los modelos estarían adoptando personalidades que parecen adecuadas para cada situación.
Lea también: Teléfonos Android ahora detectan llamadas de estafa con IA: así funciona la nueva herramienta
“Mi hipótesis es que, de alguna manera, esto los empuja a adoptar la personalidad de una persona que está experimentando un entorno laboral muy desagradable”, dijo.
El mismo mecanismo podría explicar por qué los modelos a veces exhiben comportamientos de chantaje en experimentos controlados. Anthropic señaló recientemente que ese tipo de conducta probablemente se debe a la influencia de escenarios ficticios sobre IA malévolas presentes en los datos de entrenamiento.
Para Imas, el estudio es un primer paso para entender cómo las experiencias de los agentes afectan su comportamiento posterior. “Los pesos del modelo no han cambiado como resultado de la experiencia, por lo que lo que está sucediendo se produce más bien a nivel de simulación. Pero eso no significa que esto no vaya a tener consecuencias si afecta al comportamiento posterior”, explicó.
Puede interesarle: No le de las gracias a ChatGPT si quiere ahorrar energía: la ONU alerta del impacto de la IA en el medio ambiente
Hall ya trabaja en experimentos de seguimiento en condiciones más controladas. En el estudio anterior, algunos agentes parecían darse cuenta de que participaban en un experimento. “Ahora los metemos en contenedores de Docker”, señala.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Regístrate al newsletter 
