La polémica frase se da luego de la advertencia de un exinvestigador de OpenAI y Anthropic sobre los riesgos de la IA para la vida humana.
Geoffrey Hinton, el investigador británico-canadiense que ganó el Premio Nobel de Física en 2024 por su trabajo fundacional en redes neuronales artificiales y a quien el mundo de la tecnología llama el “padrino de la IA”, dijo esta semana en el programa Newsnight de la BBC que “no es descabellado” considerar una probabilidad del 10% de que la inteligencia artificial provoque la extinción de la humanidad en la próxima década.
La declaración se conoce luego de que esta misma semana un investigador que trabajó en OpenAI y Anthropic acusara públicamente a ambas empresas de correr hacia una superinteligencia sin medir las consecuencias, alarma que un científico senior de Anthropic respaldó.
Hinton tiene 76 años, dedicó décadas a construir las bases teóricas del aprendizaje profundo y en 2023 renunció a Google para poder hablar libremente sobre los riesgos de la tecnología que ayudó a crear. Esta semana volvió a hacerlo con una claridad que pocos investigadores de su trayectoria se permiten.
Cuando el programa le preguntó si existía una probabilidad superior al 10% de que la IA acabara con todos los seres humanos, posiblemente en el plazo de una década, Hinton respondió que sería “muy insensato” asumir que el riesgo es tan bajo como el 1%.
“Una probabilidad del 10% me parece una estimación razonable. Pero nadie sabe realmente cómo hacer una estimación sensata”, dijo.
El argumento central de Hinton es que la humanidad nunca antes había creado entidades capaces de superar la inteligencia humana y que esa novedad hace que los riesgos sean genuinamente difíciles de predecir.
“Nunca hemos creado seres que pronto podrían ser más inteligentes que nosotros. No sabemos qué va a pasar”, señaló.
Hinton también advirtió algo que suele perderse en los debates sobre IA y riesgo existencial: una inteligencia artificial avanzada no necesitaría controlar robots ni sistemas físicos para representar una amenaza grave.
“Lo primero que hay que entender es que ni siquiera necesita ser capaz de actuar en el mundo real para causar estragos”, dijo, añadiendo que la IA podría generar un “caos absoluto simplemente hablando con la gente”. Los escenarios que mencionó incluyen el diseño de virus biológicos o informáticos peligrosos y la ejecución de ciberataques devastadores, todo ello sin salir de una pantalla.
El mismo día en que las declaraciones de Hinton circulaban en medios de todo el mundo, Jacob Coxon, un investigador de 27 años que había trabajado en modelos fundamentales de inteligencia artificial para OpenAI y Anthropic, renunció públicamente a su puesto en Anthropic y acusó a ambas compañías de actuar de manera irresponsable.
“Ninguna de las dos empresas actúa con responsabilidad. Se lanzan de lleno a por una superinteligencia que se automejora y juegan con nuestras vidas”, declaró.
Coxon añadió algo que el debate público suele ignorar: quienes trabajan dentro de esas empresas en los sistemas más avanzados albergan, en privado, el temor de que la tecnología pueda suponer una amenaza existencial para finales de la década.
Es una afirmación sobre el estado interno de organizaciones que públicamente presentan sus sistemas como seguros y beneficiosos.
Por su parte, Evan Hubinger, responsable de Ciencia de Alineación en Anthropic, respaldó públicamente las inquietudes de Coxon y fue más lejos. Hubinger afirmó que, en su opinión, existe una probabilidad superior al 10% de que la IA pueda acabar con todos los humanos en la próxima década.
Al mismo tiempo, aclaró que los sistemas actuales de inteligencia artificial no representan un peligro inmediato y que su preocupación central es la posible aparición de una superinteligencia mediante automejora recursiva, un proceso en el que los sistemas de IA crearían de forma autónoma sucesores cada vez más potentes sin intervención humana.
Lea también: ChatGPT resolvió uno de los problemas más difíciles de las matemáticas, pero enfrenta disputa por el mérito
Que el responsable de alineación de una de las empresas más avanzadas del sector haga esa estimación públicamente es, en sí mismo, un hecho poco habitual en una industria que tiende a comunicar sus avances con optimismo y a reservar las dudas para los documentos internos.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Preguntas frecuentes:
Regístrate al newsletter 
