OpenAI comenzará a marcar textos de ChatGPT en la UE.

OpenAI ha anunciado que implementará una marca de agua invisible en los textos generados por sus modelos ChatGPT y Codex dentro de la Unión Europea, en cumplimiento con el EU AI Act. Esta medida se anunció recientemente en un comunicado de la empresa.

Desde el pasado 2 de agosto, entraron en vigor las reglas de transparencia del EU AI Act, exigidas a las empresas de inteligencia artificial para que marquen el contenido generado por sus sistemas de manera que otros sistemas puedan identificarlo. Este nuevo enfoque será progresivamente disponible para los usuarios de ChatGPT y Codex en la UE, mientras que los desarrolladores que utilizan la API de OpenAI en todo el mundo tienen la opción de activarla para ciertos modelos desde hoy, aunque estará desactivada por defecto.

La marca de agua no es un símbolo físico, sino que se incorpora sutilmente en las elecciones de palabras realizadas por el modelo, creando un patrón que es invisible para los lectores, pero detectable por sistemas diseñados al efecto. Este sistema garantiza que el patrón se transfiera con el texto al ser copiado o pegado. OpenAI aclara que este mecanismo no identifica a los usuarios y que no ha habido cambios significativos en el rendimiento de los modelos con la marca de agua activada.

Fue publicada también un informe técnico sobre el método de marca de agua, denominado textGrain, que fue elaborado junto a investigadores de la Universidad de Pensilvania y Yale. Este informe detalla cómo, mediante el uso de una clave secreta, se pueden ordenar las predicciones de palabras para completar oraciones. Combinando cientos de estos ajustes, el detector puede identificar contenido generado por IA solo con el texto y la clave.

Un aspecto interesante del análisis es la posibilidad de que la marca de agua pueda eliminarse mediante la edición. En pruebas realizadas, reemplazar el 10% de las palabras por sinónimos redujo la detección de aproximadamente un 92% a un 66%. Además, se observó que los fragmentos cortos, las respuestas matemáticas y el texto traducido son más difíciles de detectar.

OpenAI ha decidido inicialmente ofrecer acceso al detector únicamente a investigadores y organizaciones expertas aprobadas, enfatizando que la ausencia de una marca de agua no prueba necesariamente la autoría humana. Esto se debe a que el texto podría ser demasiado corto, editado en exceso o provenir de otro sistema de IA.

El contexto de la implementación de esta tecnología se ve reflejado en una tendencia más amplia entre las compañías de inteligencia artificial, como Anthropic, Google, Meta y Microsoft, que se han comprometido a seguir el código de prácticas de la UE sobre contenido generado por IA. Este movimiento responde, en parte, a la creciente preocupación sobre la autenticidad y la procedencia de los textos generados artificialmente en el ámbito digital.

La decisión de OpenAI de finalmente avanzar con esta marca de agua se tomó después de una reflexión cuidadosa. Anteriormente, se había desarrollado una marca de agua, pero se retrasó su lanzamiento por temor a que los usuarios optaran por rivales que no aplicaran esta medida. La evolución en la regulación y las expectativas del sector han llevado a un momento en que la transparencia se vuelve primordial.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.