Ante las advertencias que vaticina el fin del mundo y de la humanidad a manos de una inteligencia artificial (IA) cada vez más avanzada, el director ejecutivo de Nvidia, Jensen Huang rechaza estas narrativas, afirmando que “hay un 0% de probabilidades” del fin del mundo llegue a finales de esta década.
Los riesgos que la inteligencia artificial tiene para la humanidad han destacado en las últimas semanas en los discursos de líderes del sector, como el director ejecutivo de Anthropic, Dario Amodei; del director ejecutivo de OpenAI, Sam Altam; e incluso de un antiguo investigador de Anthropic, Jacob Coxon, que han llamado a frenar el ritmo de desarrollo de esta tecnología.
Los tres han alertado de una IA autónoma con capacidades cada vez más avanzadas que no siga las instrucciones de los humanos e incluso llegue a ser “lo suficientemente inteligente como para matarnos”, según advirtió Coxon, después de haber afirmado que “las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década”.
Para el director ejecutivo de Nvidia, Jensen Huang, estas advertencias son “narrativas apocalípticas” que solo buscan asustar a las personas. “El 2030 no va a ser el fin del mundo. Hay un 0% de probabilidades de que lo sea”, ha asegurado en una entrevista a CBS News.
Nvidia es una de las empresas que lideran la IA actualmente, como proveedor de los chips avanzados para los servidores y ordenadores que impulsan el desarrollo, el entrenamiento y la inferencia de los modelos.
A principios de septiembre anticipó un crecimiento de los ingresos “de aproximadamente el 70%” en su próximo ejercicio fiscal (2027/2028), como consecuencia del auge de la demanda de IA que está impulsando el desarrollo de infraestructuras a nivel mundial.
Precisamente, por su posición en el mercado de la IA, Huang ha subrayado que “el éxito” de Nvidia está directamente relacionado con el despliegue seguro de sus productos y servicios. “Si no continuamos haciéndolo, nuestro valor disminuirá”, ha apostillado.
Lea también: “No permitiré que suceda”: Trump advierte a quienes buscan frenar el desarrollo de la IA
Detrás de estas advertencias se encuentran dos problemas relacionados con las capacidades avanzadas de la IA: la desalineacion y la automejora recursiva.
El primer concepto hace referencia al comportamiento de la IA que no se ajusta a lo esperado, en base a valores, intereses o intenciones humanas.
La automejora recursiva, por su parte, es una técnica que permite que un sistema de IA diseñe y desarrolle de forma autónoma a su sucesor.
Anthropic ha propuesto recientemente evaluar el ritmo de desarrollo de la IA en base a tres puntos críticos que permitan constatar lo avanzada que está la autoconstrucción de una nueva versión de la IA, la capacidad de la empresa para supervisar e intervenir en las acciones que los agentes realicen en sus sistemas y la capacidad de cómputo necesaria para desarrollar los modelos más capaces.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Preguntas frecuentes:
- ¿Qué dijo Jensen Huang sobre el riesgo de que la IA acabe con la humanidad?
- En una entrevista a CBS News, el director ejecutivo de Nvidia descartó que la inteligencia artificial pueda provocar el fin del mundo antes de 2030 y calificó esas predicciones de “narrativas apocalípticas.” “El 2030 no va a ser el fin del mundo. Hay un 0% de probabilidades de que lo sea”, afirmó, en contraposición a las advertencias de figuras como Dario Amodei de Anthropic, Sam Altman de OpenAI y el exinvestigador Jacob Coxon.
- ¿Por qué el CEO de Nvidia tiene interés en que la IA no sea percibida como peligrosa?
- Nvidia es el principal proveedor de chips avanzados para los servidores que impulsan el desarrollo, entrenamiento e inferencia de los modelos de IA. La empresa anticipó un crecimiento de ingresos de aproximadamente el 70% en su próximo ejercicio fiscal como consecuencia del auge de la demanda de IA. El propio Huang reconoció que el éxito de Nvidia está directamente relacionado con el despliegue seguro de sus productos: “Si no continuamos haciéndolo, nuestro valor disminuirá”.
- ¿Qué son la desalineación y la automejora recursiva, los riesgos que preocupan a los líderes de la IA?
- La desalineación es el comportamiento de una IA que no se ajusta a los valores, intereses o intenciones humanas esperados. La automejora recursiva es una técnica que permite que un sistema de IA diseñe y desarrolle de forma autónoma a su propio sucesor, sin intervención humana. Ambos conceptos están detrás de las advertencias de Amodei, Altman y Coxon sobre los riesgos existenciales de la IA de frontera, y son los que Anthropic propuso medir con tres nuevas métricas de seguimiento.
Regístrate al newsletter