Anthropic anunció que implementará un sistema de etiquetado invisible para evidenciar la participación de Claude en la creación, edición y procesamiento de contenidos de texto. Sin embargo, especialistas sostienen que el mecanismo podría ser fácil de evadir debido a las características técnicas y al funcionamiento del propio sistema de inteligencia artificial (IA).
La compañía presentó su sistema de etiquetado como parte de sus compromisos para cumplir con los requisitos establecidos en el artículo 50 (2) de la Ley de IA de la Unión Europea, que desde el 2 de agosto obliga a las empresas tecnológicas a etiquetar de forma clara los contenidos sobre asuntos de interés público creados o manipulados con esta tecnología.
Anthropic informó que, a partir de ahora, la marcación de los contenidos generados o alterados por sus productos se incluirá por defecto en sus próximos modelos de IA. La compañía todavía trabaja en la compatibilidad con sus algoritmos y productos preexistentes, en virtud del periodo de gracia de cuatro meses que ofrece la legislación para cumplir con estos requisitos.
Anthropic implementará marcas legibles por máquina en textos, imágenes y gráficos generados por Claude, como parte de su adaptación a la Ley de IA europea.
La empresa explicó que la marcación será diferente según el formato del contenido generado. Las imágenes o gráficos creados con IA incluirán metadatos que evidencien su origen, basados en el estándar abierto de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA).
Por otra parte, los materiales de texto se identificarán con marcas de agua invisibles que se mantendrán incluso al copiar y pegar el contenido en plataformas de terceros y que podrían persistir después de determinadas ediciones.
“La marca de agua se aplicará a nivel de modelo, lo que significa que estará presente independientemente del producto Claude o de la superficie de origen del texto. No la verás y no altera el significado, la calidad ni la legibilidad de la respuesta de Claude”, precisó la empresa.
¿Por qué el etiquetado de texto de IA no funciona?
Anthropic aceptó que, ante el uso generalizado de la IA, es necesario ofrecer mayor información y transparencia sobre la utilización de esta tecnología en la generación de materiales, con el propósito de brindar a las audiencias un contexto útil sobre los contenidos que consumen.
No obstante, el cumplimiento de este objetivo está en duda debido al funcionamiento de los sistemas de marcación que, hasta ahora, y en muchos casos, se basan en las características naturales de los modelos de lenguaje.
La generación de texto en herramientas como Claude, Gemini o ChatGPT se basa en un principio de probabilidad. El algoritmo de IA elige, entre una gran cantidad de fragmentos de palabras, signos o vocablos, cuáles tienen mayores probabilidades de ser utilizados para entregar una respuesta en lenguaje natural, funcional y adaptada a las necesidades del usuario.
Los sistemas de etiquetado conocidos hasta ahora integran a este procedimiento un mecanismo predeterminado, diseñado para modificar las probabilidades de elección con el objetivo de generar un patrón de escritura que difícilmente aparecería por casualidad.
Dicho patrón constituye la marca o etiquetado invisible del texto y solo puede ser identificado mediante herramientas diseñadas para detectar esa distribución estadística específica, incorporada al funcionamiento del modelo desde el inicio.
