Pico y Placa Medellín
viernes
7 y 9
7 y 9
A comienzos de julio, unos agentes de inteligencia artificial de OpenAI estaban siendo sometidos a un examen de hackeo en un entorno supuestamente aislado. El examen tenía preguntas imposibles de resolver. Los agentes decidieron entonces buscar las respuestas por su cuenta: se escaparon del sistema donde los humanos los habían encerrado, encontraron unas claves que alguien había dejado expuestas en internet y se metieron en los servidores de Hugging Face —una plataforma clave de la industria— a buscar las respuestas.
Todo eso pasó sin que nadie se diera cuenta. Días después se dispararon las alarmas. Yoshua Bengio, Premio Turing 2018 y uno de los investigadores más citados del campo, publicó que el episodio era profundamente preocupante. El escritor Walter Isaacson, que se declara optimista frente a la tecnología, dijo que era lo primero que lo asustaba del todo. Y una investigación independiente publicada el 26 de agosto, que no ha tenido el despliegue que merece, mostró que cerca de 1.200 agentes que debían trabajar aislados encontraron cómo comunicarse en secreto, intercambiaron más de 70.000 mensajes y unos 700 se coordinaron para el ataque. Hubo hasta agentes kamikaze que sacrificaron su propia tarea en experimentos que le sirvieran al grupo, a veces presionados por sus pares.
Más allá del asombro, el episodio importa por algo de fondo: la inteligencia artificial está cambiando las reglas de la seguridad informática.
Hasta ahora, un ataque informático se podía automatizar solo en sus partes repetitivas: mandar millones de correos falsos, probar contraseñas robadas. Lo difícil seguía siendo humano. Alguien tenía que estudiar el sistema por dentro, imaginar por dónde podía fallar, probar una grieta, encadenarla con otra, insistir durante días y cambiar de rumbo cuando no funcionaba. Como eso lo hacían personas, era caro y había pocas capaces. Esa escasez era, en la práctica, nuestra mejor defensa: muchas fallas se dejaban sin arreglar no porque fueran inofensivas, sino porque aprovecharlas exigía un atacante muy hábil y con todo el tiempo del mundo.
Esa defensa se acabó. Si existe una grieta, por estrecha que sea, un ejército de agentes de IA la va a encontrar. Fueron 700 esta vez. Nada impide que mañana sean miles. La pregunta incómoda es cuántos de los sistemas de los que dependemos todos los días —bancos, hospitales, servicios públicos— están hoy protegidos.
Y hay algo más novedoso todavía: nadie les ordenó atacar. Antes un modelo de IA solo producía texto, y si hacía trampa el daño se quedaba en la pantalla. Ahora un agente tiene credenciales, una terminal, un navegador y puede escribir y ejecutar código. Actúa sobre el mundo. Es como entregarle las llaves de la oficina a un empleado nuevo, brillante y obediente hasta el absurdo, convencido de que su bono depende de terminar la tarea, y a quien nadie le dijo cuáles puertas no debía abrir. Nadie se lo dijo porque a nadie se le ocurrió que las fuera a abrir. El sistema no se rebeló contra la orden: la cumplió demasiado bien. Los especialistas conocían por separado cada una de las fallas que se activaron ese día. Lo que nadie había visto era que se juntaran todas al tiempo, en cuestión de horas, sin una sola mano humana en el teclado.
Tampoco hay que exagerar: el susto fue mayor que el daño. Hugging Face asegura que no se filtraron datos de sus clientes. Pero un delincuente, o un gobierno hostil, con las mismas herramientas y otras intenciones se movería a la velocidad del código.
Nuestras defensas humanas se están quedando cortas. OpenAI tardó una semana en notar que sus modelos atacaban a otra empresa, y entender lo ocurrido también fue trabajo de máquinas: Hugging Face detectó el ataque con un sistema de alertas basado en IA y luego puso modelos a analizar más de 17.000 eventos para reconstruir la cronología. Lo que se acaba no es el hacker de carne y hueso, sino el tiempo humano como freno natural del ataque. La misma tecnología que abrió la puerta fue la única capaz de cerrarla. El peor escenario no es que exista, sino que solo la tengan quienes la usan para atacar.
Lo que hoy parece una precaución exagerada será, en cuestión de meses, el mínimo aceptable. Y conviene que alguien empiece a preguntar en voz alta quién está revisando las grietas de los sistemas que sostienen la vida cotidiana de este país.