Claude, chivato

La transparencia es valiosa para el lector, pero la decisión sobre qué se transparenta deja de estar en manos del autor y pasa a estar en las de la herramienta.

Uno de los temas de la IA este verano sin duda ha sido el de Anthropic anunciando que los nuevos modelos de Claude incorporarán una marca de agua invisible en los textos que generan. No sólo estará presente en ficheros (PDF, txt, docx, etc..), la marca seguirá con el contenido cuando se copie y pegue, puede sobrevivir a una edición pequeña y se aplicará en la aplicación de Claude, la API, Claude Code, Cowork y los servicios de nube que distribuyen los modelos. Además, se añadirá en todo el mundo, aunque la obligación procede de la Unión Europea.

La justificación de Anthropic es clara y directa: la ley lo exige. Desde el 2 de agosto de 2026, el artículo 50 del Reglamento de Inteligencia Artificial obliga a los proveedores de sistemas generativos a hacer que sus contenidos sean identificables mediante marcas “legibles por máquinas”. Otro de sus argumentos es que son los primeros, pero no serán los últimos. Los modelos de IA que ya estaban en el mercado disponen de una prórroga hasta el 2 de diciembre, pero tenemos que más de 190 organizaciones han firmado el código europeo que explicita cómo cumplir la norma, entre ellas Google, OpenAI, Meta, Microsoft, Mistral y la misma Anthropic.

El primer problema es que Anthropic ha optado por ir más allá del deber: una solución aplicada en el propio modelo a escala mundial y que afectará a todos los textos que genere, cuando la propia AI Act establece excepciones como las traducciones que no reformulan el significado original. Aventuro una hipótesis: la empresa dirigida por Dario Amodei puede tener un interés especial en que los textos humanos y generados con IA se distingan automáticamente, para entrenar sus futuros modelos sólo con los primeros.

Cómo se puede esconder una marca dentro de un texto

La marca de agua no consiste en caracteres invisibles, metadatos ni palabras que Claude esté obligado a repetir. Está integrada en el proceso mediante el que el modelo decide cada nueva palabra.

Recordemos que un modelo de lenguaje es no determinista, no tiene preparada una única respuesta. En cada paso calcula varias continuaciones posibles y les asigna probabilidades. Después introduce cierta aleatoriedad para decidir entre palabras razonables: una tarde puede ser «anodina», «nublada» o «gris», etc.

Claude utilizará una clave secreta como semilla y las palabras anteriores para reconducir esa aleatoriedad. Según la empresa, las decisiones seguirán pareciendo las normales que tomaría el modelo, pero formarán un patrón estadístico. Quien disponga de la clave podrá analizar un texto y calcular la probabilidad de que sus palabras hayan sido escogidas siguiendo dicho patrón.

Anthropic lo explica con una analogía. Imaginemos una partida de Monopoly en la que sustituimos los dados por una secuencia de dígitos de pi. Para los jugadores, los números seguirán pareciendo azarosos. Pero si después comprobamos la secuencia y observamos toda la partida, será fácil detectar que aquellos resultados no procedían realmente de unos dados aleatorios.

El sistema se basa en SynthID-Text, una tecnología desarrollada por Google DeepMind y publicada en Nature en 2024. En el propio paper comentan sus limitaciones: funciona mejor cuanto más largo es el texto. Por eso tiene poco margen para ser integrado en una afirmación factual donde solo cabe una respuesta correcta, y aún menos en código, donde cambiar una palabra puede malograr el programa. Una traducción sí contendrá la marca porque el modelo elige todas las palabras. En una corrección ortográfica ligera probablemetne haya tan pocas decisiones que la señal resulte indetectable.

Además una reescritura completa puede borrarla. Pero una edición superficial probablemente no. Ya hay varios proyectos de plugins y skills que a partir de un texto de Claude lo vuelven a aleatorizar. Pero claro, se quedan con una nueva versión que no es el que les da el modelo de forma directa.

¿Empeora Claude lo que escribe?

Esta parte ha provocado una discusión interesante. Según Anthropic, la marca de agua no empeora la redacción. Desde fuera cabe discutirlo un poco más.

John Gruber considera que Anthropic está adulterando deliberadamente la escritura. Tiene un punto, podemos considerar que siempre habría un adjetivo ligeramente más adecuado, una expresión parcialmente más clara y un montón de pequeñas decisiones sólo marginalmente peores, pero que acumuladas suponen un resultado peor. El enfado de Gruber, que comparto, es que la máquina ya no decide lo mejor para mí, sino que acumula pequeñas renuncias ajenas a mi criterio.

Anthropic niega que exista ese deterioro. Afirma que la marca no añade tokens (para quien le preocupe el gasto), que apenas consume computación y que no tiene un efecto práctico sobre la creatividad, la legibilidad o la calidad. Para demostrarlo señala que Google en un experimento comparó casi veinte millones de respuestas de Gemini, unas con la marca de agua y otras sin marcar, y no encontró diferencias estadísticamente significativas en las valoraciones de los usuarios. A la contra de eta “demostración” uno puede sostener que ahí se midió la satisfacción del usuario medio, no la calidad, confusión habitual entre ingenieros.

Efecto Bruselas y transparencia

Mucha de la contestación de gran parte del sector de la IA en EEUU viene dada por la aceptación del “efecto Bruselas” que supone el acatamiento de Anthropic. Para la compañía muchas veces lo más cómodo es adoptar la legislación más restrictiva (otras veces no, véase Apple vs Unión Europea), pero parte de la opinión pública estadounidense lleva años señalando el exceso de regulación europeo como gran culpable de no tener modelos frontera en nuestro continente.

Luego está el tema de la privacidad. Anthropic aclara que la marca no contiene el nombre del usuario, su organización, el identificador de la conversación ni ningún otro dato que permita rastrearlo. Por tanto, no estamos ante una pérdida de privacidad personal en el sentido convencional.

Pero sí la hay, sostengo, de otro tipo. Dentro de la privacidad está el proceso y las herramientas que uno utiliza. Y Claude marcará todos los textos que genere, los que haremos públicos y los que mantengamos privados. Como usuarios perdemos la capacidad para decidir cuándo consideramos relevante compartir el método de trabajo.

Podemos querer reconocer que un informe fue redactado sustancialmente con una IA y, al mismo tiempo, querer mantener agencia sobre si utilizamos Claude para traducirlo, corregir tres frases o probar diferentes variantes. La transparencia es valiosa para el lector, pero la decisión sobre qué se transparenta deja de estar en manos del autor y pasa a estar en las de la herramienta. Llegados a un punto el esquema puede resultar ser absurdo: toda herramienta digital tendrá inteligencia artificial, en todo o en parte es probable que la mayoría de textos pasen por una IA, quedando señalados. Sería como marcar un texto actual como “escrito en un ordenador”.

Además, el sistema no sabe explicar el reparto del trabajo. Una detección positiva indica que Claude probablemente procesó parte del contenido, pero sospecho que no se va a entender así. No distingue entre un texto escrito íntegramente por el modelo, una traducción, una reformulación extensa o la inclusión de varios párrafos generados dentro de una obra humana. Esto hace que la marca sea contraproducente como detector de fraude académico o como prueba de autoría. Un resultado positivo podría atribuir demasiado trabajo a la inteligencia artificial. Uno negativo tampoco demuestra que el texto sea humano: la marca puede desaparecer mediante una paráfrasis intensa, al mezclarse con otros contenidos o no estar presente en modelos que todavía no la aplican.

En todo caso, mi inquietud conecta con lo que comentamos en “La creatividad será controlada: cuando el pincel o la máquina de escribir se niegan a plasmar lo que quieres crear”. La Unión Europea y Anthropic fuerzan la norma en el software que utilizamos, que nos obliga y vigila. Hoy es un texto marcado como creado con IA, mañana es un coche que ya no nos obedece al conducir y en el futuro - quién sabe, técnicamente será posible - la máquina decidirá de qué podemos escribir y qué podemos comunicar.

Imágenes: Antonio Ortiz con Magnific.