Más de 100 gigantes tecnológicos de todo el mundo, entre ellos OpenAI, Oracle, Microsoft, Google, Hugging Face y Anthropic, firmaron una carta abierta en la que instan a un esfuerzo global para “fortalecer las defensas cibernéticas” frente a las amenazas amplificadas por la inteligencia artificial (IA).
“Tenemos una ventana de tiempo limitada para fortalecer las defensas cibernéticas”, dice la misiva. “En los próximos meses, los ciberataques habilitados por la IA se volverán mucho más frecuentes y sofisticados a medida que los modelos de todo el mundo adquieran capacidades cada vez mayores”.
En los últimos meses han aumentado las preocupaciones sobre las capacidad de los modelos de IA, cada vez más avanzados.
Lea también: OpenAI frena el desarrollo de su IA para evitar que hackee a otras plataformas, ¿qué pasó?
A mediados de julio, dos modelos de OpenAI escaparon de su entorno de pruebas confinado y obtuvieron acceso a internet. Después hackearon de forma autónoma la plataforma Hugging Face, un repositorio en línea que usan los desarrolladores de IA para almacenar y compartir código.
Posteriormente, Anthropic descubrió que sus modelos también habían obtenido acceso no autorizado a tres organizaciones no identificadas durante pruebas que se suponía que debían mantenerlos alejados de los sistemas “del mundo real”.
Regístrate al newsletter