Pico y Placa Medellín
viernes
7 y 9
7 y 9
Contrario a lo que muchos piensan por estos días, hay pocos acuerdos entre los líderes del sector tecnológico alrededor de los riesgos que la inteligencia artificial representa para la humanidad y, sobre todo, de la forma correcta de afrontarlos.
Por un lado, están quienes piden moderar el ritmo de desarrollo de los modelos más avanzados. Dario Amodei, CEO de Anthropic, ha planteado que las empresas deberían ralentizar temporalmente el avance de sus capacidades para dar tiempo a desarrollar mecanismos de seguridad capaces de mantenerlas bajo control. Su propuesta incluye evaluaciones independientes, estándares comunes entre los principales laboratorios y cooperación internacional. Sam Altman, de OpenAI, y Elon Musk, de X, han expresado su acuerdo con esta posición.
Por otro lado, están quienes consideran que no es necesario coordinar una desaceleración de la industria. Mark Zuckerberg, CEO de Meta, por ejemplo, sostiene que las propias empresas tienen fuertes incentivos para desarrollar sus modelos de manera segura. Algo similar planteó Arthur Mensch, CEO de Mistral. Desde esta perspectiva, cada laboratorio puede decidir por sí mismo cuándo necesita hacer más pruebas, modificar un modelo o retrasar un producto.
Y entre estos extremos existe toda una variedad de posiciones con diferentes bemoles. Entre ellas, la de Jensen Huang, CEO de Nvidia, a quien le preocupa que Estados Unidos reduzca el ritmo de desarrollo mientras China continúa avanzando. Desde esta perspectiva, el problema no es necesariamente si debemos desacelerar, sino si hacerlo unilateralmente es apropiado.
La discrepancia entre estas visiones no es técnica. Todos estos actores conocen de primera mano las extraordinarias capacidades de los sistemas que están construyendo y son conscientes de que pueden traer impactos negativos gigantescos. Sus diferencias son humanas. Yo las resumiría en dos aspectos: los intereses y la moral.
Para empezar por los intereses, la industria de la inteligencia artificial es heterogénea y los distintos actores, dependiendo de su posición en ella, enfrentan incentivos diferentes frente a las posibles estructuras regulatorias.
Una regulación que obligue a realizar evaluaciones, auditorías, certificaciones y pruebas de seguridad regulares aumenta los costos fijos de desarrollar modelos de frontera. Esto elevaría las barreras de entrada en la generación de modelos, protegiendo a los incumbentes de mayor tamaño en esa parte del negocio, pero afectando a las compañías nuevas y a las chicas allí. Además, esto impactaría la demanda de cómputo de la industria entera, estancando las utilidades de los productores de insumos e infraestructura de procesamiento.
Esto ayuda a entender por qué Anthropic y OpenAI—las empresas que concentran la mayor parte del mercado comercial de modelos de IA—parecen más simpáticas a la idea de altas exigencias regulatorias, mientras que Meta y Mistral—compañías con urgente deseo de ampliar su participación en el uso de modelos—y Nvidia—principal proveedora de chips—parecen ser más escépticas al respecto.
Pero tampoco podemos ser cínicos. Además de las diferencias en intereses, es posible notar diferencias morales entre quienes están teniendo esta conversación. Es bastante claro ya que la IA tiene el potencial para traer beneficios extraordinarios—piensen en algo como encontrar tratamientos para enfermedades por las que hoy mueren millones. Para muchos, como Zuckerberg, es difícil no ver entonces la interrupción del avance de esta tecnología como un perjuicio a la humanidad. Entonces, definir cuánto deberían pesar los potenciales costos versus los potenciales beneficios de la IA no es una tarea moral y en ello parecen diferir los líderes del sector.
En la visión de Huang subyace también una postura específica respecto a una discusión moral profunda. Ante un escenario de interdependencia estratégica, como el de la geopolítica actual, ¿qué tan importante deberían ser los valores que encarna una sociedad en la competencia tecnológica? ¿Es decir, es razonable pensar que llegaría menos mal (o más bien) al mundo si la fuerza más poderosa que hemos creado los humanos terminara en control de una democracia en vez de un régimen autoritario? Para esto tampoco hay una respuesta técnica y las convicciones de los líderes de la industria a nivel global difieren en este sentido.
Así, aunque sea razonable pensar que manejar la IA requerirá educación técnica, diría que lo que realmente demandan nuestros tiempos es formación cívica. Lo que necesitamos son personas capaces de preguntarse para qué queremos utilizar esta tecnología, qué riesgos estamos dispuestos a asumir para gozar de su poder, qué responsabilidades no queremos delegar en ella y qué tipo de nueva virtud emergerá en nuestras sociedades si la adoptamos.
