La empresa tecnológica Anthropic anunció que todos los modelos de su plataforma de inteligencia artificial Claude lanzados a partir de este mes incluirán un sistema de etiquetado que permite identificar los contenidos generados por IA.
La medida busca cumplir con el artículo 50 (2) de la Ley de IA de la Unión Europea, que desde principios de agosto obliga a los desarrolladores a etiquetar de forma clara los contenidos sobre asuntos de interés público creados o manipulados con esta tecnología, según informó Wired.
El sistema se aplicará de manera global en todos los países donde Claude esté disponible, no solo en Europa, por lo que también se verá en Colombia.
“A medida que el contenido generado por IA se vuelve más común, una mayor transparencia e información sobre su origen pueden brindar a los usuarios un contexto útil sobre la información que consumen. Para fomentar la transparencia y cumplir con nuestras obligaciones legales, Anthropic está trabajando para incluir marcas legibles por máquina en el contenido que genera Claude”, explicó la compañía en su blog oficial.
Cómo funciona el sistema
El etiquetado opera de manera diferenciada según el formato del contenido. Las imágenes y gráficos creados con IA incluirán metadatos que evidencian su origen, basados en el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido, C2PA, un estándar que cofundaron las compañías Adobe, Microsoft, Intel, Arm, Truepic y la BBC, y al que posteriormente se sumaron Google, Meta y otras, según informó Europa Press.
Los textos, en cambio, llevarán marcas de agua invisibles incrustadas en la propia secuencia de tokens que emite el modelo. Esa marca viaja con el texto cuando se copia y pega, se exporta o se transmite a través de una API, y puede persistir incluso después de ciertas ediciones.
“La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente independientemente del producto Claude o de la superficie de origen del texto. No la verás y no altera el significado, la calidad ni la legibilidad de la respuesta de Claude”, precisó la empresa.
El sistema estará activo en Claude, Claude API, Claude Code, Claude Cowork y Claude Tag, así como en los modelos accesibles a través de plataformas como AWS, Google Cloud y Microsoft Foundry.
Para los modelos anteriores al 2 de agosto, la Ley de IA de la UE otorga un periodo de gracia de cuatro meses, con plazo hasta el 2 de diciembre, que Anthropic tiene previsto cumplir.
Implicaciones en el día a día
La medida tiene consecuencias directas para millones de personas que usan Claude para redactar textos con la expectativa de que nadie detecte el origen del contenido. Esa certeza está a punto de desaparecer, aunque con matices importantes.
Lea también: Grupo de científicos usó IA para crear 16 virus, ¿con qué fin?
Uno de los aspectos más relevantes del sistema es que la marca puede aparecer en textos que no fueron escritos íntegramente por la IA. Anthropic advierte que cuando Claude edita, traduce, resume o convierte un archivo, el resultado puede llevar una marca incluso si las ideas, el texto o los datos originales provienen de una fuente humana.
“Claude puede no ser el autor original. La gente a menudo usa Claude para editar, traducir, resumir o convertir archivos. El resultado puede llevar una marca de Claude incluso si las ideas, texto o datos subyacentes son originarios de otra fuente”, señaló la compañía en una respuesta al diario El País de España.
Anthropic trabaja en un mecanismo para que usuarios y terceros puedan detectar las marcas de agua y los metadatos de procedencia. La empresa adelantó que dará a conocer próximamente los detalles sobre ese sistema de verificación, aunque todo apunta a que será de acceso relativamente amplio.
Sin embargo, el sistema tiene limitaciones. La marca puede no estar presente o puede desaparecer en varios escenarios, por ejemplo si el texto fue generado por un modelo lanzado antes del 2 de agosto, si el contenido fue editado, parafraseado, traducido o mezclado considerablemente con otros textos, si el fragmento es demasiado corto para identificar una señal confiable, o si los metadatos de un archivo fueron eliminados al convertirlo, guardarlo nuevamente o tomar una captura de pantalla.
Para consultar contenido premium o profundizar sobre sus temas de interés de Medellín, Antioquia, Colombia y el Mundo, regístrese aquí.
Bloque de preguntas y respuestas:
- ¿Qué es la marca de agua invisible que Anthropic añadió a Claude?
- Es una señal incrustada en la secuencia de texto que genera Claude, imperceptible para el lector pero detectable por máquinas. Viaja con el texto al copiarlo o exportarlo y puede persistir después de ciertas ediciones. Aplica desde el 2 de agosto en todos los modelos nuevos de Claude a nivel global, en cumplimiento de la Ley de IA de la Unión Europea.
- ¿Puede desaparecer la marca de agua de los textos de Claude?
- Sí. La marca puede no estar presente si el texto fue muy editado, parafraseado, traducido o mezclado con otros contenidos, si el fragmento es demasiado corto, si fue generado por un modelo anterior al 2 de agosto o si los metadatos fueron eliminados al convertir el archivo o tomar una captura de pantalla.
- ¿La marca de agua de Claude prueba que un texto fue escrito por IA?
- No de manera definitiva. Anthropic aclara que encontrar una marca indica que el contenido pudo haber sido procesado por Claude, pero no prueba que la IA haya creado las ideas originales. La ausencia de marca tampoco garantiza que el texto no haya sido generado por IA.
Regístrate al newsletter