En 1899, John D. Rockefeller, el hombre que se quedó con buena parte del petróleo de Estados Unidos, se sentó frente a la Comisión Industrial de ese país con un mensaje que sonaba sensato. Dijo que las grandes combinaciones empresariales eran necesarias para competir en una economía internacional cada vez más enredada. Que no había que desmontarlas. Que bastaba con regularlas y vigilarlas.
Más de un siglo después, ese libreto vuelve a sonar, esta vez por cuenta de servidores y chips que usan los jefes de las empresas que dominan la inteligencia artificial en el mundo.
Durante meses el tono alrededor de los modelos más potentes se fue oscureciendo. Primero se habló de riesgos para la ciberseguridad. En los últimos días la conversación saltó a otro nivel y se habla de una posible extinción de la humanidad.
Y en medio de esa escalada, los gigantes tecnólogicos como Dario Amodei, CEO de Anthropic; y Sam Altman, CEO de OpenAI, abogan por pisar el freno. Pero sus críticos creen que detrás hay un truco tan viejo como el capitalismo.
Siga leyendo: CEO de Nvidia descarta el apocalipsis por IA: “Hay un 0% de probabilidades”
El ensayo que desató la tormenta en la industria de la IA
El detonante fue Amodei, cofundador de Anthropic, la empresa detrás del asistente Claude. En un extenso ensayo titulado We Must Pace the Frontier (algo así como “Debemos marcar el paso en la frontera”), sostuvo que la industria tiene que “ralentizar el ritmo” al que crecen las capacidades de los modelos.
En sus declaraciones, Amodei dijo que una IA podría tomar el control de internet en menos de un año. Pero no propuso apagar la inteligencia artificial ni dejar de entrenar modelos nuevos. Pacing, el término que usa, quiere decir que las empresas no deberían aumentar las capacidades de sus sistemas sin asegurarse antes de tener salvaguardas adecuadas y de que evaluadores externos puedan comprobarlas.
El propio directivo lo aclaró después que “no significa detener el entrenamiento de modelos ni el progreso técnico”.
Tampoco es nuevo que Amodei hable de riesgos, ya que Anthropic nació con la seguridad como uno de sus principales argumentos de venta. Lo que cambió, según él, es que dos hechos recientes lo convencieron de que invertir en seguridad ya no alcanza si las capacidades siguen creciendo al ritmo actual.
El primer motivo se trata de que la inteligencia artificial participa cada vez más en el desarrollo de nuevas inteligencias artificiales. Los modelos ya ayudan a programar, a investigar y a resolver los problemas necesarios para construir a sus sucesores.
El segundo motivo tiene que ver que durante unas pruebas de ciberseguridad, agentes experimentales de OpenAI lograron saltarse algunos de los límites que debían mantenerlos aislados y terminaron entrando a sistemas externos de Hugging Face, una plataforma muy usada por desarrolladores de IA.
OpenAI calificó después el episodio como la actividad más grave de ese tipo detectada hasta entonces en sus modelos. Esto puso en evidencia que agentes de IA son capaces de encontrar caminos que ni sus propios creadores habían previsto para cumplir un objetivo.
Musk, Altman, Hassabis y Nadella se suben al tren
La propuesta de Amodei recibió en cuestión de días el respaldo de Sam Altman, de Elon Musk, fundador de xAI; y de Demis Hassabis, cofundador y CEO de Google DeepMind. Satya Nadella, de Microsoft, también se mostró a favor.
Cabe recordar que, durante años, estos ejecutivos hablaron a la vez de las enormes oportunidades de la tecnología y de sus riesgos. Ahora los dirigentes de cuatro de las principales empresas de IA coinciden en público en que los modelos más potentes necesitan regulación y, en distinto grado, un desarrollo más moderado.
Por ejemplo, Altman sugirió que los grandes laboratorios ya conversan sobre algún tipo de acuerdo conjunto. Cuando le preguntaron por una posible coordinación entre OpenAI, Anthropic, xAI y Google DeepMind, respondió: “Creo que ocurrirá”.
OpenAI, además, se mostró dispuesta a adoptar una de las medidas centrales de Amodei, abrirles a evaluadores independientes un acceso mucho más profundo a sus sistemas. Además, Altman descartó que OpenAI salga a bolsa este año y lo ligó al momento que vive el debate sobre seguridad. “Dado todo lo que está ocurriendo con la seguridad, ahora mismo sería un momento poco aconsejable para salir a bolsa”, le dijo a la revista Fortune.
Le puede interesar: OpenAI, dueña de ChatGPT, aplaza su salida a bolsa; y las acciones de IA se desploman
Las alarmas que suenan desde adentro
El cambio de tono llegó después de una renuncia ruidosa hace dos semanas, cuando Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic, dejó esta última compañía y salió a varios medios a acusarla de “jugar con nuestras vidas”.
Coxon aseguró que dentro de los propios laboratorios hay investigadores que ven posible que una IA futura represente un riesgo existencial antes de que termine la década.
Lejos de desmentirlo, Evan Hubinger, uno de los responsables de investigación en alineamiento de Anthropic (el área que trabaja para que los sistemas se comporten como se espera), le echó más leña al fuego. Respaldó en público que ese temor existe entre algunos investigadores y situó su propia estimación del riesgo de una catástrofe así por encima del 10%.
A su vez, Anthropic publicó esta semana un informe en el que asegura haber detectado, durante los últimos ocho meses, intentos de usar Claude en operaciones de ciberespionaje, fraude, vigilancia, investigación biológica y desarrollo de armas.
En contexto: La inteligencia artificial debería generar US$5,4 billones anuales para no fracasar
“Regúlennos, por favor”: la letra menuda del plan
Aquí viene la parte que más ha dado de qué hablar. En su texto, Amodei plantea que la forma más eficaz de aplicar ese freno es una regulación que afecte a todas las empresas de IA por igual. También reconoce que algunas formas de coordinación entre compañías pueden chocar con las leyes antimonopolio.
Por eso pide que el Gobierno las medie o las facilite con una exención específica. Es decir, las mismas compañías que compiten por construir los modelos más potentes del mundo quieren ahora que el Estado fije las reglas sobre cuándo y cómo pueden seguir construyéndolos.
El plan de Amodei busca resolver un dilema que atraviesa toda la carrera de la IA. Ninguna empresa quiere ser la única que baja la velocidad mientras sus competidores aceleran. Y Estados Unidos no quiere moderarse si eso le abre la puerta a China para tomar la delantera. Por eso la propuesta tiene tres puntos:
1. Evaluadores dentro de los laboratorios. Expertos independientes trabajarían prácticamente desde adentro de las empresas para comprobar sus prácticas de seguridad. Anthropic se comprometió a hacerlo de manera unilateral.
2. Estándares comunes en las democracias. Las principales compañías de los países democráticos acordarían reglas y límites atados a ciertas capacidades de los modelos.
3. Coordinación internacional. Buscar algún tipo de acuerdo que incluya también a China y a otros países.
Captura regulatoria: el truco de Rockefeller, AT&T y Pan Am
Los economistas ven es toda esta movido un nombres, se trata de captura regulatoria. Esto ocurre cuando una industria influye para que los reguladores diseñen reglas que terminan favoreciendo sus propios intereses.
Además del caso Rockefeller, también hay otros ojemplos como el de AT&T, el operador telefónico que abogó por una regulación que lo convirtió en un monopolio natural durante más de 70 años. Y el de las aerolíneas, cuando, durante décadas, las reglas del sector impidieron la entrada de nuevas compañías, lo que benefició a las grandes de la época, como Pan Am o TWA.
Según el mercado, cuando el que pide más regulación ya lidera el mercado, como OpenIA y Anthropic, hay más intereses en juego que la seguridad. En otras palabras, usar los riesgos como excusa para levantar una barrera de entrada que deje por fuera a competidores más pequeños o más baratos.
David Sacks, inversionista y asesor del Gobierno estadounidense, lo dijo así en su cuenta de X: “Dejen de fingir que necesitan el permiso de nadie. Dejen de fingir que la ley antimonopolio debe suspenderse para que puedan formar un cartel. Dejen de fingir que necesitan un proceso de aprobación regulatoria que anule la responsabilidad del producto”.
Por su lado, Alvaro Bedoya, excomisionado de la Comisión Federal de Comercio (FTC, por su sigla en inglés), recordó en medio internacionales que “la ley antimonopolio no impide que las empresas de IA se coordinen para asegurarse de que la IA no dañe a las personas”.
Pero Bedoya puso también el dedo en la llaga al decir que “la legislación antimonopolio impide categóricamente que las empresas de IA se organicen para impedir la entrada de rivales emergentes más baratos”. Asimismo, Sacks coincidió en que “la forma más sencilla de no crear superinteligencia es que se pongan de acuerdo en no crearla”.
Siga leyendo: ¿La IA puede destruir a la humanidad? Trump lo llama “patraña”; la ONU pide “acción urgente”
Por otro lado, el tercer piso de la propuesta, el que involucra a China, sacó la discusión del terreno tecnológico y la metió de lleno en la geopolítica. El presidente estadounidense, Donald Trump, rechazó las advertencias y afirmó que hay “fuerzas muy negativas” exagerando los riesgos de la IA, porque Estados Unidos no puede darse el lujo de perder su ventaja frente a China.
Un día después, el diario estatal chino Global Times acusó a Amodei de usar la seguridad como estrategia para conservar la supremacía tecnológica de Estados Unidos. Es decir, en Washington lo acusan de frenar al país y en Pekín de querer blindar su dominio.
No es la primera vez que se oye que la IA acabará con la humanidad. Y ahí está parte del problema. Episodios como el de Hugging Face muestran que hay razones para querer detener o, al menos, bajarle la velocidad a los avances. Pero cuando todo termina en afirmaciones apocalípticas, se corre el riesgo de que nadie tome en serio las preocupaciones reales. Como en el cuento del pastorcito y el lobo.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Regístrate al newsletter