La imagen Pseudomnesia ganó el premio Sony World Award, uno de los más importantes del mundo para los fotógrafos. Su autor Boris Eldagsen, sin embargo, lo rechazó: la fotografía fue creada por Inteligencia Artificial. Él no hizo clic nunca, solo le dio las instrucciones a un programa que creó a dos mujeres, en blanco y negro, una abrazando a la otra.

La escena no existe. La imagen es creada, es falsa. Y vuelve a prender el debate y las alarmas: ¿con la IA se puede crear una realidad paralela? ¿Cómo sabremos qué es real o no, si una fotografía puede ser tan realista, si esos hipopótamos que hay corriendo por el río se ven como hipopótamos de los que tenemos en la mente que existen? (ver ayuda).

Lea más: Una imagen creada con IA ganó concurso de fotografía de Sony

Eldagsen, quien es un artista alemán, lo hizo para debatir, porque le parece que la reflexión va muy lenta y debería acelerarse de una vez: los límites de la IA en las creaciones artísticas. Para él, una imagen creada por IA no es una fotografía y no deberían competir entre ellas.

También quería saber si el premio estaba preparado para que participaran imágenes de este tipo, y que se dieran cuenta: no lo están, concluyó. “Nosotros, el mundo de la fotografía, necesitamos una discusión abierta sobre lo que consideramos fotografía y lo que no. ¿Es la sombrilla de la fotografía suficientemente amplia para invitar a imágenes de IA a entrar o sería un error?”.

La discusión, sin embargo, no es solo de los artistas. El mes pasado circularon en redes sociales imágenes de Donald Trump usando el traje anaranjado común en las cárceles de EE. UU. No eran reales, las creó el periodista británico Eliot Higgins en MidJourney, un programa de generación de imágenes de IA.

En ese momento Higgins explicó que las generó por puro aburrimiento y ninguna mala intención, y de hecho las compartió en un hilo de Twitter en el que precisó que habían sido generadas por la herramienta. Sin embargo, se volvieron virales y muchos cayeron: hubo quienes creyeron que Trump había sido detenido. Esa fue la realidad que vieron (o que quisieron ver).

La situación no es la única, incluso no solo pasa con fotografías, igual con videos y audios. Por estos días también se viralizó la canción Heart on my sleeve, creada con IA por un autor que firma como @ghostwriter977, que imitó con esta tecnología las voces de Drake y TheWeeknd.

Y entonces, ¿nos preocupamos?

La manipulación de imágenes no es nueva ni un invento de la actualidad. Para no ir muy lejos, solo hasta el final del siglo XX, cuando las herramientas digitales estuvieron en boom y se intervinieron imágenes con Photoshop. Es más, todavía se hace: Karol G a principios de este mes se quejó porque intervinieron tanto su foto que ni se parece, y ella se siente bien con su cuerpo.

Sin ir muy lejos, la explosión de filtros en Instagram ya es una alteración de la realidad: las personas no lucen como realmente se ven, sino como el filtro las muestra.

El artista Camilo Restrepo reflexiona: encuadrar de cierta manera ya puede alterar la realidad. Un ejemplo es la famosa fotografía Muerte de un miliciano, de Robert Capa, tomada en 1936, en la que un soldado cae en el campo de batalla tras recibir una bala. Todavía no hay certeza de si fue real o una escena ensayada varias veces para la cámara.

Ahora bien, las alteraciones en video y en audio sí son más de los últimos tiempos: en 2017 apareció un video del expresidente de Estados Unidos Barack Obama dando un discurso que no ocurrió: investigadores de la Universidad de Washington mezclaron imágenes de archivo suyos con audios similares a su voz, y crearon con IA un video en el que Obama cuenta sus logros presidenciales.

Lo que pasa, y es la gran preocupación actual, es que esta tecnología está avanzando y cada vez se hace más difícil darse cuenta de qué es real o qué es creado por IA.

En una de las más recientes actualizaciones de MidJourney contaron que entre las muchas mejoras había una “mayor calidad de imagen, salidas más diversas, rasgos estilísticos más amplios, soporte para texturas, formatos de imagen más anchos”. Eso significa que cada vez son más reales.

Estas creaciones se conocen como deepfakes. Se utiliza la IA para editar videos, audios o imágenes, utilizando una tecnología conocida como inteligencia artificial generativa multimodal: se mezclan textos, videos, fotos e incluso lenguajes de programación. El resultado son videos, audios e imágenes muy realistas, pero ficticias.

Son tan explícitas que confunden, y como muchas veces llegan a viralizarse, preocupan las consecuencias. Si bien puede hacer que su papá muerto sonría y hacerlo feliz, pueden ser utilizadas para difundir información falsa y crear caos. En temas políticos ya es un gran problema: las fake news incidieron en que Trump ganara la presidencia de EE. UU.

Puede ser peor cada vez. En el estudio Deepfakes y conflicto internacional de la Universidad Northwestern y la Institución Brookings, los expertos predicen que podría utilizarse en operaciones militares y de inteligencia. Para ellos, la seguridad está en riesgo.

Le puede interesar: Todas las identidades pueden ser igual de importantes, no hay que elegir: Chimamanda Ngozi en la Filbo

De acuerdo con un artículo de El País, de España, publicado en marzo de este año, más del 90 % de los videos falsos hiperrealistas son pornografía no consentida, contenidos que se duplican cada seis meses y suman más de 134 millones de visualizaciones, y citan el ejemplo de la creadora de contenidos QTCinderella en un video en el que denuncia que usaron su imagen para crear una secuencia pornográfica hiperrealista con IA. “Verte desnuda en contra de tu voluntad y difundida en internet es como sentirse violada”, dice ella.

Ahora bien, alguien famoso o con una gran audiencia en redes puede desmentirlo. Fue fácil saber que Trump no estaba en la cárcel: muchos medios de comunicación lo aclararon, fue noticia mundial. El problema más grande puede ser para los desconocidos: ¿qué hacer si usan su imagen para decir lo que no dijo?

También para los hechos: si las imágenes son cada vez más reales, ¿cómo saber que esa foto de las dos mujeres que ganó el Sony no es real, si lo parece tanto? Son dos mujeres desconocidas, una mirando a la izquierda, la nariz perfecta, la boca, la piel.

Las manos no. Y ahí está, por ahora, una de las claves.

Una cuestión ética

La discusión es compleja porque se está dando en tiempo real, dice Jonathan Echeverri, profesor del área de cultura de la Escuela de Artes y Humanidades de la Universidad Eafit. Además la tecnología está creciendo de manera exponencial, y la regulación, el control y la ética digital van muy lentas en comparación. Por ahora no hay respuestas definitivas.

Para él, en el tema del concurso de Sony, el truco es empezar a formalizar ciertas cosas: una categoría para la IA. La pregunta debería ser, ¿es razonable que la creación artificial compita con la creación humana?

El asunto, no obstante, es delicado, precisa él, porque cada vez esta tecnología avanza, es más accesible y será más difícil encontrar esos detalles para descubrir que esa imagen se generó con tecnología. Ya hay unos experimentos de aplicaciones que ayudan a descubrirlo y algunos programas, pero el profesor cree que en el futuro la batalla se va a perder.

Por ahora, todavía es posible: la IA no es buena con las manos, así que fijarse en ellas es un punto base. Pasa que la IA no sabe dibujar manos porque no hay suficientes imágenes de manos para alimentarse y aprender, porque las formas y los movimientos son muy complejos. Así que se adapta y ahora procura esconder esta parte del cuerpo en sus creaciones para no delatarse.

Le pasa a la imagen del artista Boris Eldagsen: hay algo muy raro en el dedo de la mano derecha de la mujer que está atrás.

De hecho, Eldagsen cuestionó que había que analizar en detalle su creación: “Uno tiene la sensación de que hay algo que no funciona en ella, ¿no es así? Ese algo es el hecho de que no se trata de una fotografía real, sino de una imagen producida sintéticamente”.

El profesor de cultura comenta que es muy importante generar estrategias de discriminación técnica tanto de los contenidos como comportamental, sobre todo en temas de desinformación. Se trata de herramientas de evaluación que permitan descubrir si es o no creada de esta forma y revisar implicaciones.

Aquí hay que tener en cuenta que esto va cambiando, no se dan unas estrategias y se olvidan, porque se van actualizando según lo que vaya pasando con la tecnología.

Un ejemplo de estrategias de discriminación es revisar bien la imagen y fijarse en los detalles: las manos —como ya lo dijimos—, el cuello, qué tan natural se ve el personaje, hacer zoom para ver inconsistencias, ¿seis dedos? Las comportamentales son si se puede identificar bien la fuente, hacer comparaciones, evaluar dónde se publicó ese contenido, si es viral.

Lea más: Avatares con problemas reales

Todo esto va a traer una discusión sobre el tema de la ética digital, que es urgente. Jonathan señala que es distinto a la normatividad, que es donde se ponen unas reglas de juego, la ética es más amplia y con una riqueza más potente, sobre todo en el tiempo, en tanto las normas se vuelven obsoletas, hoy sale chatGPT, mañana otra cosa muy distinta: la ética exige a las organizaciones y a los ciudadanos pensar cómo se van a usar, por ejemplo, los datos de las personas.

Los individuos y los grupos tienen una función fundamental: no comparta impulsivamente ese contenido del que no tiene idea la fuente. “Es un desafío comportamental enorme el que tenemos en este momento, porque esto nos concierne a todos”.

La gran pregunta desde la ética, dice el docente, es cómo hacer que esa tecnología esté a nuestro favor y no en contra. La respuesta se irá renovando con las actualizaciones tecnológicas. Piense en esta posibilidad: utilizar la IA para que haga los trabajos rutinarios y repetitivos, y así el humano toma las decisiones morales, las soluciones creativas.

Camilo Restrepo lo tiene claro: la IA es una herramienta para artistas que basan su práctica más en ideas que en técnicas, y en ese sentido la ve muy potente por las posibilidades artísticas: se puede hacer todo lo que se imagina.

Aunque hay preocupación, le emociona que “vamos a acercarnos a la fotografía con una mirada mucho más crítica, porque ni siquiera la fotografía digital ha logrado hacerlo con la contundencia tan alarmante que lo harán las imágenes creadas con IA. Ahora sí hay que ser más cautos y no creer siempre que lo que se está viendo es”.

Él habla de destruir la objetividad fotográfica, porque las personas se relacionan con las fotos desde la “verdad”, eso que se ve es así, olvidando que “el dispositivo fotográfico no es solamente la escena que hay al frente, sino que hay una persona pensante que tiene un ojo y toma unas decisiones, y hay un aparato que le imprime unas maneras específicas de representar la realidad. Siempre se han falseado las imágenes, un encuadre es una modificación de la realidad en la imagen porque se decide incluir algo o excluir, hay una intención”.

Así que hay mucho por hacer, es todo un desafío que empieza en cada uno. En desconfiar. Ya hay un camino recorrido con las fake news, pero todavía falta mucho. Las fuentes confiables se volverán fundamentales, los medios de comunicación tienen el compromiso de la rigurosidad, del contraste, de buscar, de dar seguridad, de investigar. Esos valores que han estado en la esencia de la labor.

En el estudio citado sugieren aumentar la alfabetización digital y el razonamiento crítico, desarrollar aplicaciones que ayuden, que los periodistas y analistas reduzcan su velocidad y verifiquen la información.

Lo cierto es que no hay respuestas exactas. De acuerdo con The Economist, en una encuesta a investigadores en IA hecha en 2022, el 48 % dijo que por lo menos hay un 10 % de posibilidad de que la IA impactará negativamente, algo como la extinción humana. El 25 % dijo que el riesgo es cero, y la media fue 5 %.

No hay que dejarse de preocupar, por supuesto, porque no se conocen muchas cosas, solo hay predicciones. The Economist lo resume así: “Los sistemas de IA existentes plantean preocupaciones reales sobre parcialidad, privacidad y derechos de propiedad intelectual, y a medida que la tecnología avance podrían surgir otros problemas. La clave es equilibrar la promesa de la IA con una evaluación de los riesgos, y estar listo para adaptarse”.

Por ahora, cuando vea esa imagen acérquese bien. ¿Serán posibles esos diez hipopótamos por el río, entre las casas, corriendo hacia usted en desbandada?

Hipopótamos por Inteligencia Artificial: reflexión desde el arte

El artista Camilo Restrepo publicó esta semana en su Instagram las imágenes de varios hipopótamos. El primer post lo llamó Billares Doradal 2049, y la acompañó con el hashtag #hipopotamosinvasores. Son diez imágenes creadas por IA imitando el afiche de Casius Marcelus, Perritos jugando billar. El título es igual jugando con el de la segunda película de Blade Runner. Parece un chiste, dice él, pero muy serio: ¿qué pasará en 2049 si no se hace nada con los hipopótamos que dejó Pablo Escobar? Pues habrá, añade, una invasión de hipopótamos que terminarán desplazando a los humanos. El segundo post lo llamó —el río de las tumbas—. Hace referencia al título de una película colombiana en la que hay muertos que bajan por el río Magdalena. En estas fotos los hipopótamos bajan por el río, muertos, e incluso se atrancan con toda la violencia que ha existido en el país. El tercer post es Rebelión y control. Están los hipopótamos corriendo en desbandada (foto), luego muertos en el pueblo y por último en una carnicería callejera (foto): su carne se vende. De aquí salió un texto, el del último post: una carta generada por ChatGPT al foro del lector del periódico El Tiempo, que Camilo especificó cómo fue escrita, pero fue publicada omitiendo ese detalle.

Para el artista esta acción, que además tuvo stories en Instagram en la misma línea, es una reflexión que continúa un tema que le ha interesado hace mucho y del que ha hecho varias obras: el problema de los hipopótamos en el Magdalena Medio. “Esa problemática tan grande que hay con unos animales que fueron una excentricidad de un narco, que se quedan viviendo en Colombia y llegan directamente a la cúspide de la pirámide porque están en un lugar donde no hay sequías, no tienen depredadores que se puedan comer las crías y se empiezan a reproducir exponencialmente”. Reflexiona sobre la solución de cazarlos, que ha sido apoyada por tantos biólogos, pero a la que se oponen varios animalistas. Esta vez la hace con IA, pone los post sin decir en principio que las imágenes fueron creadas con esta herramienta, y el debate empieza: algunos creen que son reales, otros se enojan, algunos explican.

Camilo comenta que él es un artista, no es un periodista que deba ser fiel a la realidad, y en el arte se permite la contradicción, así que su acción camina en esa línea delgada entre lo real y lo que no, y se pregunta por cómo se crea esa realidad. Así que ahí entra en el tema de la IA, para hacer más preguntas. Ahora, “si yo me pongo a decir que es realidad IA, ese efecto de objetividad fotográfica frente a una tragedia que puede pasar en un futuro se eliminaría y lo que yo quería era mostrar, exagerar demasiado la magnitud de la tragedia que puede ocurrir en 20 años si no se toman correcciones, y correcciones es una caza controlada de los narco hipopótamos que trajo Pablo Escobar”.

Hay más conclusiones de esta acción: una es que la IA es una herramienta muy potente para el arte, “para concretar la imaginación de una manera muy realista, para proponer escenarios imposibles donde quepa la reflexión, la crítica y la contradicción”.

Otra es que se van a crear unas imágenes efectistas que se van a confundir con fotografías, “pero que la historia terminará de descartarlas porque no hay ninguna trascendencia en la reflexión que proponen”. Para él, eso de ser real o no están ligadas a la cuestión de la objetividad fotográfica, creer que todo lo que hay en una foto es así como se ve, como si no se manipularan desde su creación. “Es algo que asusta, pero a mí también me deja muy contento: todos, no solo los artistas o especialistas en la imagen, por fin nos vamos a acercar a la fotografía con una mirada que cuestiona la representación de la realidad”.