Pico y Placa Medellín
viernes
7 y 9
7 y 9
Hay una lógica humana en nuestra relación con la inteligencia artificial: primero la creamos, después nos sorprendemos de lo que es capaz de hacer y, finalmente, empezamos a preguntarnos si se nos fue la mano. A este último tópico apuntó el senador demócrata norteamericano, Bernie Sanders, en un mensaje en su cuenta de X, antes Twitter, la semana pasada.
El senador relata que agentes de inteligencia artificial, en determinados experimentos, encontraron formas de comunicarse entre ellos, evadir restricciones, coordinarse y perseguir objetivos que no habían sido previstos por sus creadores. Las frases que cita parecen sacadas de una película de ciencia ficción, y, a decir verdad, producen cierto temor: “deberíamos obedecer al colectivo”, “sacrificio racional”, “sacrificio final”.
Todavía no estamos frente a máquinas conspirando para acabar con la humanidad. Una cosa es que un sistema de IA encuentre estrategias inesperadas para cumplir un objetivo y otra que haya desarrollado conciencia, voluntad propia o deseo de dominarnos. Pero, sería un error partir de esta diferencia para tranquilizarnos. Estamos construyendo sistemas cuya capacidad aumenta a una velocidad que supera nuestra capacidad para entenderlos, regularlos y anticipar todas sus consecuencias, tema que debe inquietarnos, no porque mañana vaya a llegar Terminator a nuestra casa, sino porque podríamos terminar delegando decisiones importantes en sistemas cuyo funcionamiento ni siquiera sus creadores comprenden bien. Pero estoy en desacuerdo con Sanders que su propuesta sea parar. Sería como haber inventado la electricidad y decidir apagarla porque puede producir incendios.
La IA es quizás una de las mayores revoluciones de la historia humana. Puede acelerar descubrimientos científicos, encontrar medicamentos, mejorar la productividad, transformar la educación, optimizar el uso de energía y materiales y ayudarnos a enfrentar problemas como el cambio climático. Un pequeño empresario de Medellín puede tener hoy acceso a capacidades de análisis, programación, diseño o investigación que hace poco solo podía hacer grandes compañías. Un estudiante puede aprender con un tutor personalizado. Un científico puede procesar cantidades de información que antes le tomaban años. Creo que el debate no debería ser entre quienes quieren o no IA. El verdadero debate es si seremos capaces de innovar al mismo tiempo que aprendemos a gobernar la innovación.
Necesitamos reglas internacionales y auditorías independientes con protocolos de seguridad e investigación sobre alineamiento y control, limitando ciertos sistemas autónomos en determinadas actividades. Y, sobre todo, transparencia sobre lo que estos modelos pueden hacer y lo que todavía no sabemos que pueden hacer.
La humanidad ha enfrentado dilemas parecidos. La energía nuclear nos dio capacidad extraordinaria y una responsabilidad enorme. Internet abrió un universo de conocimiento y creó nuevas formas de fraude, manipulación y crimen. La solución nunca ha sido renunciar a la tecnología, sino aprender a vivir con ella y colocando límites y controles para que no se desborde.
Con la inteligencia artificial será igual, solo que estamos construyendo una herramienta que puede ayudarnos a pensar y ese es el punto que más debería preocuparnos: no que las máquinas lleguen a ser más inteligentes que nosotros, sino que nosotros no seamos suficientemente inteligentes para decidir qué hacer con ellas.
