OpenAI prepara un nuevo cambio en ChatGPT que busca facilitar la identificación de contenido creado con inteligencia artificial. La compañía incorporará marcas de agua invisibles en determinados textos generados por ChatGPT y Codex, comenzando con usuarios elegibles de la Unión Europea.
La medida responde a los requisitos de transparencia establecidos por la Ley de Inteligencia Artificial de la Unión Europea. Para startups y empresas digitales, esta tecnología abre una nueva etapa en la forma de identificar, verificar y gestionar contenido generado mediante herramientas de IA.
ChatGPT utilizará una señal invisible en sus textos
La tecnología recibe el nombre de textGrain y funciona mediante una señal estadística integrada en las elecciones de palabras realizadas por el modelo. No agrega caracteres ocultos, espacios invisibles ni elementos que puedan observarse al copiar el contenido.
OpenAI comenzará a implementar esta función durante las próximas semanas entre usuarios elegibles de ChatGPT y Codex en la Unión Europea. Además, los clientes de la API podrán activar voluntariamente las marcas de agua en determinados modelos alrededor del mundo.
Otra lectura recomendada: TikTok Shop convierte las ventas en vivo en oportunidad para la moda
La detección todavía tiene limitaciones
La marca puede ayudar a determinar si un sistema de OpenAI generó o procesó determinado contenido. Sin embargo, no permite conocer quién escribió originalmente el texto, quién es su propietario o cuánto trabajo humano participó en su creación.
También existen dificultades técnicas. Editar, traducir o reescribir un contenido puede debilitar la señal, mientras los textos breves resultan más difíciles de detectar. Por esta razón, el detector no estará disponible inicialmente para cualquier usuario; OpenAI dará acceso inicial a investigadores y organizaciones expertas aprobadas. En pruebas con textos de 400 tokens, reemplazar 25 por ciento de las palabras redujo la detección de aproximadamente 92 a 17 por ciento.
