La medida busca cumplir con las nuevas exigencias europeas de transparencia sobre contenidos creados con inteligencia artificial.
Anthropic comenzó a incorporar marcas de agua ocultas en los textos generados por los nuevos modelos de Claude disponibles en la Unión Europea desde el pasado 2 de agosto.
La medida responde al Código de Transparencia de la Unión Europea, que establece nuevas obligaciones para identificar contenidos generados mediante inteligencia artificial.
De acuerdo a un artículo de El País, Anthropic explicó que la señal se integra directamente en el contenido y no resulta visible para quien lee el texto.
“La marca de agua es parte del texto, por tanto viajará con el texto cuando se copie y pegue y puede persistir incluso con cierta edición”, señaló la compañía al explicar el funcionamiento de la tecnología.
La empresa también indicó que la marca será “imperceptible” y no modificará la apariencia del contenido generado por Claude.
La señal no se limitará a contenidos escritos completamente por Claude. Anthropic advirtió que también puede incorporarse cuando una persona utiliza la herramienta para editar, traducir, resumir o transformar material procedente de otra fuente.
“Claude puede no ser el autor original. La gente a menudo usa Claude para editar, traducir, resumir o convertir archivos. El resultado puede llevar una marca de Claude incluso si las ideas, texto o datos subyacentes son originarios de otra fuente”, explicó la compañía.
Anthropic trabaja además en herramientas que permitan identificar estas señales y conocer la procedencia de los metadatos asociados a los contenidos.
“Estamos trabajando para permitir que usuarios y otras entidades puedan detectar las marcas incluidas y la procedencia de los metadatos”, indicó la empresa.
La detección tendrá algunas limitaciones
La compañía reconoce que la identificación puede resultar más compleja cuando un texto experimenta modificaciones importantes.
Ediciones extensas, traducciones, fragmentos muy breves o la incorporación del contenido dentro de un texto mayor pueden afectar la detección. La conversión de archivos, las capturas de pantalla y otras modificaciones también pueden eliminar información asociada.
Los modelos de Claude lanzados desde el 2 de agosto incorporan estas marcas. Para los modelos anteriores, Anthropic contempla cumplir con el plazo establecido por la Unión Europea hasta el 2 de diciembre.
OpenAI, también adoptó el Código de Transparencia europeo, y anunció medidas para identificar contenidos generados por sus sistemas. Google, Meta, Microsoft y Mistral figuran entre las empresas que han firmado el código.
Sin embargo, hasta ahora xAI y compañías chinas no se han adherido a esta iniciativa europea.
📰 Sigue a Aurora Noticias en Google News
Seguir en Google News