Ya no se puede creer ni en lo que vemos. El dicho de “ver para creer” pasará de moda muy pronto.
Nadie sabe cuántos, pero expertos calculan que se han creado más de tres mil videos con Inteligencia Artificial sobre la guerra de Rusia contra Ucrania, y una cifra parecida sobre la guerra de Israel contra Hamás en la Franja de Gaza. En todos se pueden ver bombas cayendo en hospitales y colegios; niños y niñas llorando porque han quedado huérfanos. No quiere decir que este tipo de horrores no ocurran en las guerras, pero sí que mucho de lo visto en redes sociales fue creado con el fin de sembrar el caos.
La tecnología ha llegado a niveles incontrolables e inimaginables. Hace pocos días, The New York Times publicó un texto sobre Hany Farid, el mayor experto en deepfakes (ultrafalsos) del mundo: un académico de 60 años, entusiasta de la tecnología y programador, que ha sido capaz de detectar videos que dibujan una realidad casi exacta. La noticia es que ahora no sabe si lo que ve es real o falso.
Dice el texto de NYT: “Durante más de dos décadas, Farid, de 60 años, había sido el principal experto mundial en informática forense, pero en los últimos seis meses había dejado de confiar en sus propios ojos. Había dedicado su carrera a diferenciar la realidad visual de los deepfakes, atendiendo diariamente solicitudes de gobiernos, organizaciones de derechos humanos, periodistas, fuerzas del orden y miles de personas más, cada vez más confundidas y engañadas por el mundo digital. Las propias investigaciones de Farid habían demostrado que la mayoría de la gente ya no podía distinguir una fotografía real de una creación digital, una voz real de un clon de IA, un videoclip real de una falsificación total. Últimamente, ni siquiera él mismo superaba sus propias pruebas”.
Durante estas dos últimas décadas, Farid llegó a crear programas de computadora que podían detectar un video o una fotografía falsa por descuadres en el movimiento de los labios, por sombras que no concordaban con la posición del sol o por malformaciones propias de los generadores de Inteligencia Artificial, que llegan a poner en la imagen personas con seis dedos o dos brazos derechos. Sin embargo, ante un video de una bomba cayendo sobre una escuela en Irán, no podía saber cuál era la verdad. En un aparte del texto, concluye: “En general, no encontramos pruebas convincentes de que el vídeo sea falso o haya sido manipulado”. Parece que era falso, pero no se supo por el video mismo, sino porque no hubo reacciones en los medios tradicionales ni el gobierno de Irán se pronunció al respecto: no se bombardea una escuela con 150 niños y el hecho pasa desapercibido.
Como sucedía hace veinte años con la guerra en Afganistán o en Colombia —instalar una mina antipersonal valía menos de 100.000 pesos, pero encontrarla y desactivarla llegaba a costar hasta 5.000.000—, así pasa con la IA: crear un video o una imagen es sumamente barato, pero contrarrestar ese poder de desinformación es casi imposible. Dice el texto de NYT: “Farid afirmó que seguía confiando en poder resolver casi cualquier misterio de la IA, pero el problema radicaba en que cada investigación requería tiempo. La vida media de una publicación promedio en redes sociales era inferior a 90 segundos. ‘En 20 minutos, prácticamente todo se acaba’, dijo Farid. Muchas veces, terminaba su análisis, levantaba la vista del ordenador y se daba cuenta de que el daño ya estaba hecho. Una falsedad se había convertido en un hecho. Un hecho se había transformado en duda”.
Según verificadores de Google, la Inteligencia Artificial se alimenta de imágenes de videojuegos militares hiperrealistas (como Arma 3). “Los usuarios aplican filtros de baja calidad o visión nocturna para hacerlos pasar por transmisiones de combates reales”. También se usan videos de conflictos antiguos o de entrenamientos; fueron muy populares los videos de la anexión de Crimea en 2014 y de la guerra en Siria, “o incluso de ejercicios militares rutinarios de años pasados, afirmando que ocurren en ciudades ucranianas actuales”. Hay un rubro de contenidos totalmente creados o manipulados con IA para simular declaraciones falsas de líderes políticos o para escenificar situaciones dramáticas con civiles y soldados inexistentes. Finalmente, se usan también fragmentos de películas o grabaciones de detrás de cámaras de producciones cinematográficas locales.
El reto para los expertos es todo lo que se crea con Inteligencia Artificial: si se llegó a crear un detector que identificaba las pulsaciones de un hablante e incluso cómo una pupila no se alteraba pese a estar en situaciones extremas, la IA logró burlar ese tipo de identificadores.
Las cifras explican por qué el problema se volvió inmanejable. Según el medio especializado The Conversation, que cita a la firma de ciberseguridad DeepStrike, el número de deepfakes en internet pasó de cerca de 500.000 en 2023 a unos ocho millones en 2025, un crecimiento anual cercano al 900 %. La producción de mentiras visuales se multiplica más rápido de lo que cualquier sala de redacción o gobierno puede verificar.
Y el ojo humano ya no alcanza. Un metaanálisis de 56 estudios, recogido por la revista científica ScienceDirect, encontró que las personas aciertan apenas un 55 % de las veces al distinguir contenido real de uno falso: casi lo mismo que lanzar una moneda. Un experimento de la empresa de identidad digital iProov, en 2025, fue todavía más demoledor: solo el 0,1 % de los participantes logró identificar correctamente todas las imágenes verdaderas y falsas que se les mostraron. Pero la consecuencia más peligrosa no es que creamos mentiras, sino lo contrario: lo que los expertos llaman el “dividendo del mentiroso” (liar’s dividend), descrito por el Brennan Center for Justice, permite que cualquier político o gobierno desestime una prueba real tildándola de falsa. Cuando todo puede ser un montaje, nada tiene que responder por nada.
En las guerras, ese caos tiene efectos inmediatos. La organización CREOpoint, que monitorea desinformación, calculó que las afirmaciones falsas virales se multiplicaron por cien en las dos primeras semanas tras el ataque de Hamás del 7 de octubre de 2023, frente a los ocho meses anteriores. En el reciente conflicto entre Israel e Irán, verificadores de la agencia AFP detectaron videos generados con IA que mostraban supuestos daños en Tel Aviv y en el aeropuerto Ben Gurión, difundidos masivamente en Facebook, Instagram y X. Peor aún: según el laboratorio DFRLab del Atlantic Council y el observatorio NewsGuard, chatbots como Grok llegaron a confirmar como reales videos que eran falsos, amplificando el engaño en lugar de frenarlo.
El costo tampoco es solo informativo. La firma CETAS, del Instituto Alan Turing, reportó que el fraude impulsado por deepfakes causó más de 200 millones de dólares en pérdidas solo en el primer trimestre de 2025, y la consultora Deloitte proyecta que el fraude habilitado por IA generativa en Estados Unidos pase de 12.300 millones de dólares en 2023 a 40.000 millones en 2027. Conviene, eso sí, no caer en el pánico absoluto: Meta sostuvo que menos del 1 % de la desinformación verificada durante los procesos electorales de 2024 era contenido generado con IA, y varios analistas recuerdan que las “mentiras baratas” tradicionales —videos sacados de contexto, imágenes recicladas— siguen siendo más comunes que los deepfakes sofisticados. El riesgo, advierten, es que 2024 haya sido apenas un ensayo general.
Regístrate al newsletter