OpenAI marcará con marca de agua las respuestas de ChatGPT por defecto, solo en la UE

OpenAI ha anunciado que, a partir de ahora, el texto generado por ChatGPT será marcado automáticamente con una firma digital en la Unión Europea. Esta medida responde a la exigencia del AI Act europeo, vigente desde agosto, que obliga a identificar el contenido producido por sistemas de inteligencia artificial mediante un método detectable por otras herramientas. La empresa llama a su tecnología “textGrain”, un proceso propietario que inserta patrones sutiles en la selección de palabras; dichos patrones son invisibles para el lector pero pueden ser reconocidos por un detector especializado que OpenAI pondrá a disposición de un número limitado de investigadores y organizaciones, con la posibilidad de ampliar el acceso mediante solicitudes de aprobación.

Fuera del bloque europeo, la función de marca de agua estará disponible pero desactivada por defecto, permitiendo a los usuarios decidir si la activan. Aunque existen estándares como SynthID y el proyecto C2PA, la efectividad de cualquier método de watermarking sigue siendo imperfecta y susceptible de elusión por usuarios con conocimientos técnicos.

Esta iniciativa es relevante porque busca aumentar la transparencia y la trazabilidad de los textos generados por IA, facilitando la detección de contenido automatizado y ayudando a cumplir con la normativa regulatoria. Además, al ofrecer la herramienta a investigadores, OpenAI promueve la evaluación independiente de su fiabilidad y su posible adopción en otros mercados.

Leer artículo original en Ars Technica AI

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.