La culpa fue de un algoritmo. Cuando expulsaron al pasajero David Dao del avión de United Airlines que iba de Chicago, Illinois, a Louisville, Kentucky, a mediados de 2017, las demás personas se preguntaron por qué él. Nadie tuvo una respuesta. El escándalo fue tremendo, sobre todo por la forma en la que lo desembarcaron: lo arrastraron por el pasillo de la aeronave y terminó herido. Como si se tratara de un sorteo que nadie vio, él fue el elegido.
El culpable se conoció días después, cuando se hablaba poco de la relación entre tiquetes de avión, algoritmos y pasajeros. Durante esos días se confirmó una práctica que ya se conocía como chisme: algunas aerolíneas sobrevenden sus vuelos, usando esa serie de operaciones que hacen un cálculo y hallan una solución (un algoritmo), con el fin de poder ocupar las sillas que queden vacías si un pasajero no aborda por algún motivo.
Sin embargo, el día que Dao se subió, el algoritmo falló (no son perfectos) y quedaron cuatro personas por fuera, una de ellas, sí o sí, debía viajar, pero David no, porque así lo determinó la operación.
¿Cómo? Basándose en el estado del viajero (si es frecuente o no), en el diseño de su itinerario (si tiene un vuelo de conexión), el tipo de tarifa del tiquete y el momento en el que se hizo el check in. Esos datos son los que analiza el algoritmo para determinar quién debe bajarse. Esa vez fue Dao.
¿Y eso qué tiene que ver?
Los algoritmos son las operaciones programadas con datos para que una computadora haga cálculos y convierta esos datos, que fueron los de entrada, en otros, los de salida. La vida de millones de personas está mediada por algoritmos, pero la mayoría no lo sabe porque son imperceptibles. Además de ser usados por compañías, como las de transporte aéreo, están en las plataformas digitales que se han vuelto indispensables para entretener, socializar, buscar o debatir.
Facebook, Netflix, Google, Spotify, Instagram, Twitter, entre otras, todas ellas los usan para determinar los likes y las decisiones. Sugieren y alinean los gustos de los usuarios, pero no se ven.
“Están por todas partes”, dice al comenzar su charla TED la matemática Cathy O’Neil, creadora del blog mathbabe.org y autora de diversos libros sobre la ciencia de los datos, entre ellos, Weapons of Math Destruction.
Según O´Neil, los algoritmos “ordenan y separan a los ganadores de los perdedores, los primeros consiguen el trabajo o buenas condiciones de crédito, y a los perdedores ni siquiera se les invita a una entrevista de trabajo y tienen que pagar más por el seguro de desempleo. Se nos califica mediante fórmulas secretas que no entendemos y a las que no se puede apelar”.
Cómo funcionan, ella lo explica así: un algoritmo necesita datos, cosas que hayan sucedido en el pasado. Por ejemplo, el de Facebook, requiere recopilar y evaluar cuáles son las publicaciones que le gustan a cada usuario, los amigos con los que más interactúa, las búsquedas que hace en Google.
Además, cuenta la matemática, el segundo ingrediente es “una definición del éxito. Lo que uno quiere y desea”. En el caso de la red social más popular, el éxito se traduce en el tiempo que la gente pasa en ella. La fórmula del algoritmo es contundente: conocer con qué es afín el usuario para darle más de eso y lograr que esté más tiempo conectado, además de mostrarle publicidad con la que se sienta a gusto.
El profesor del departamento de Ingeniería de la Universidad Nacional de Colombia, Jonatan Gómez Perdomo, comenta que no son recientes, pero sí lo es su uso en las plataformas sociales y en otro tipo de aplicaciones para conseguir conocer a sus usuarios, identificar patrones de comportamiento y personalidades con el propósito de engancharlos más a ellas y ofrecerles productos y servicios.
Por eso es que después de buscar unos zapatos, le aparecen por todas partes cuando navega en internet.
“Para lograrlo se requiere mucho conocimiento de programación, estadística y matemática”, dice el profesor, y agrega que ahora también hay algoritmos que se están aplicando en las ciencias cognitivas con el fin de identificar cómo trabaja el cerebro y emularlo, sin necesidad de que le suministren datos, solo aprendiendo.
Ese es el futuro, y ya hay avances, como AlphaGO Zero, un algoritmo de Google que fue capaz de aprender a usar el clásico juego de estrategia Go sin intervención humana.
Por ahora, los más implementados, los sistemas que pasan horas aprendiendo de la gente por medio de plataformas digitales, necesitan aún información. Así la consiguen e impactan a las personas sin que se den cuenta incluso.
La invasión a la privacidad es solo uno de los inconvenientes de los algoritmos. Cathy O’Neil, analista financiera dedicada a denunciar los excesos de Wall Street, explica en su libro Armas de destrucción matemática que algunos algoritmos se basan en estadísticas falsas o sesgadas.
Lo más preocupante, según escribe, es que cada vez más decisiones claves, por ejemplo si se obtiene o no un préstamo para comprar casa, no están en manos de humanos, sino de modelos estadísticos que perpetúan la desigualdad y refuerzan los prejuicios. Se valen de recetas matemáticas para expandir o limitar las oportunidades de seres de carne y hueso, denuncia.
Otro de los problemas que ha generado el uso de algoritmos en redes sociales y en plataformas de entretenimiento es la llamada caja de eco. Así lo señala una investigación publicada en la revista Pnas (Proceedings of the National Academy of Sciences), titulada: Anatomía del consumo de noticias en Facebook.
Este fenómeno se trata de que los algoritmos, al identificar los gustos y el consumo de los usuarios en internet, les muestra solo las cosas que les interesa, sin permitirles conocer otros puntos de vista y reforzando sus gustos.
Esto le dicen al oído
En esa caja de eco está metida la música, por ejemplo. La que están escuchando las personas en las plataformas de streaming es cada vez menos diversa y más homogénea. Eso dijo la periodista Liz Pelly en la edición de diciembre de la revista The Baffler. Allí escribió un artículo sobre la manera en que los servicios de música por internet, por ejemplo Spotify, están cambiando la manera como las personas escuchan música en sus dispositivos. Lo título The Problem With Muzak (El Problema con Muzak).
Spotify, que a diciembre de 2017 reportó cerca de 60 millones de suscriptores, tiene cierta “magia” en su funcionamiento de la que Pelly habla: recomienda a los usuarios canciones basándose en las tasas de omisión y las de finalización; millones de datos que la plataforma, desde un montón de cerebros en el mundo (centros de datos), es capaz de recopilar y de analizar, gracias a un algoritmo, con el fin de que sus usuarios escuchen solo lo que les gusta, por ejemplo, en las listas de reproducción que la app recomienda.
Eso tiene un solo propósito, que estos no dejen de usar la aplicación ni un solo día, que el tiempo que pasen en ella no se aburran escuchando canciones que no les gusta, como pasaba en la radio, que cada vez que sonaba algo que al oyente le disgustaba, cambiaba el dial.
Las tasas de finalización aumentan cuando cada usuario escucha el total de una canción que, en promedio tarda 3:50 minutos.
Las de omisión lo hacen cuando un oyente cambia de tema por algún motivo. Eso trae una consecuencia: que las canciones que más se saltan sean descartadas por el algoritmo en el futuro, y que las que sí se terminan de oír se posicionen como las más populares.
La magia también sucede porque la app usa algoritmos de aprendizaje automático, es decir, otra serie de códigos que son capaces de, usando la información recopilada de las escuchas de sus usuarios, identificar qué les gusta –géneros, artistas, canciones–.
Además, los algoritmos logran algo: reunir canciones según su letra, su ritmo, su mensaje, su melodía y agruparlas por categorías. Así, música para relajarse, para salir a caminar, para trabajar. Eso, según la autora, es poner a las personas a escuchar canciones partiendo de sus emociones y no de los favoritismos musicales.
Cada vez Spotify y las demás plataformas musicales que usan algoritmos como Apple Music y Deezer, que ella no menciona, se parecen más a Musak; de hecho, según narra la periodista, la obsesión de Spotify con las listas de reproducción basadas en el estado de ánimo hacen que sea más parecido a esa “marca que creó, programó y licenció canciones para tiendas minoristas a lo largo del siglo XX”; que priorizó listas de reproducción investigando y evaluando qué fue lo que más escucharon los oyentes, para que lo siguieran escuchando y esto influyera, por ejemplo, en mejorar su productividad laboral.
Eso no difiere de lo que hacen ahora las plataformas de streaming. Seguramente cada usuario reflexionará y deducirá si está escuchando más de lo mismo, o si la opción de descubrir, de flow como se llama, lo está poniendo a cantar las mismas canciones, o si por el contrario le están cumpliendo lo que le prometen, como relajarse, despertarse feliz o dormirse tranquilo.
