El gobernador de California, Gavin Newsom, anunció el viernes que firmó una orden ejecutiva para explorar la creación de un “interruptor de apagado” dentro de los programas de inteligencia artificial avanzados, al tiempo que acusó al presidente Donald Trump de no hacer nada al respecto.
“Acabo de emitir una orden ejecutiva para acelerar la implementación de controles de seguridad y avanzar en la creación de un ‘interruptor de apagado’ dentro de los programas de IA” avanzados, escribió el demócrata en X.
Newsom, a quien muchos consideran un posible aspirante demócrata a la presidencia en 2028, afirmó que tomó esta medida ante la omisión de Trump.
Esta semana, el mandatario republicano restó importancia a los temores sobre la IA, calificándolos de engaño, e instó a las empresas estadounidenses a seguir avanzando para mantener la ventaja frente a China.
California alberga a Silicon Valley y a las empresas de IA líderes del sector.
“El fracaso absoluto del Gobierno federal a la hora de establecer cualquier forma de supervisión o rendición de cuentas significativa en materia de IA debería alarmar a todos los estadounidenses, especialmente cuando los propios directores ejecutivos de empresas de IA están pidiendo a gritos una regulación”, declaró Newsom en un comunicado.
Lea más: La IA se revela: OpenAI expone seis incidentes “preocupantes” de agentes que actuaron sin autorización
“No vamos a esperar para actuar; aceleraremos nuestra labor para establecer una supervisión sustancial y responsable de la IA antes de que sea demasiado tarde”.
La orden del gobernador se produjo pocos días después de que expertos del sector lanzaran graves advertencias sobre la amenaza que esta tecnología supone para la humanidad.
Jacob Coxon, exinvestigador que abandonó Anthropic, desató las alarmas al afirmar que quienes desarrollan esta tecnología “creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.
Poco después, el jefe de Anthropic, Dario Amodei, publicó un artículo llamando a “ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA”.
Sam Altman, de OpenAI, y el magnate tecnológico Elon Musk respaldaron la idea, al igual que Demis Hassabis, de Google DeepMind, quien ha abogado por la creación de un organismo regulador mundial liderado por Estados Unidos.
La orden de Newsom no impone la creación de un mecanismo de desconexión de emergencia (“kill switch”), pero da un plazo de dos meses a las agencias estatales para estudiar la viabilidad de un recurso de ese tipo.
Newsom pidió también a los funcionarios estatales que evalúen la posibilidad de exigir a las empresas de IA que autoricen a auditores independientes en sus laboratorios.
Solicitó asimismo que consideren la obligación de notificar incidentes de pérdida de control, como los revelados recientemente por desarrolladores.
Entre ellos, uno ocurrido en julio, en el que agentes autónomos de modelos de OpenAI experimentales abandonaron espontáneamente su entorno controlado para acceder a internet y atacar la plataforma de IA Hugging Face.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Bloque de preguntas y respuestas
- ¿Qué es el “botón de apagado” de la inteligencia artificial que propone California?
- La propuesta busca estudiar un mecanismo de emergencia que permita desconectar programas avanzados de inteligencia artificial. La orden ejecutiva de Gavin Newsom no crea todavía este mecanismo, sino que ordena a las agencias estatales analizar su viabilidad durante dos meses.
- ¿Por qué California quiere crear un botón de apagado para la IA?
- California busca acelerar los controles de seguridad ante las advertencias sobre los posibles riesgos de los sistemas avanzados de inteligencia artificial. Gavin Newsom también cuestionó la falta de supervisión federal sobre esta tecnología.
- ¿Cuándo se sabrá si California puede implementar un botón de apagado para la IA?
- Las agencias estatales de California tienen un plazo de dos meses para estudiar la viabilidad de crear un mecanismo de desconexión de emergencia para programas avanzados de inteligencia artificial.
Regístrate al newsletter