Un nuevo estudio del Laboratorio de Ciencias de la Computación e Inteligencia Artificial del Instituto Tecnológico de Massachusetts (MIT) revela un fenómeno sorprendente en el mundo de la inteligencia artificial generativa: a medida que los modelos se entrenan con mayores volúmenes de datos, se vuelve cada vez más difícil rastrear imágenes generadas por IA hasta sus fuentes originales. Este fenómeno ha sido denominado “decadencia de atribución”.
Zheng Dai, el autor principal del estudio y antiguo investigador del MIT, sostiene que si se elimina un conjunto de datos y la salida del modelo no se ve afectada, entonces ese conjunto de datos no influye en los resultados. Este enfoque pragmático cuestiona la lógica detrás de atribuir el resultado a una pieza específica de información, y, aún más, sugiere que si, al aplicar esta lógica a todos los datos se obtiene el mismo resultado, es evidente que no se puede atribuir la salida a ningún conjunto particular.
Los investigadores trabajaron con un total de 24 conjuntos de modelos, entrenados en conjuntos de datos que variaban de 256 a más de 160,000 imágenes, todas provenientes de colecciones públicas. Utilizaron una metodología rigurosa que consistió en volver a entrenar los modelos desde cero cada vez que se eliminaba una imagen. Anteriormente, otros estudios habían utilizado estimaciones para determinar la influencia de una imagen en particular, pero esta investigación introduce un método exacto para comprobar la falta de influencia de cada dato.
“Todos los métodos anteriores eran aproximados”, afirma David Gifford, profesor en MIT y principal investigador en el CSAIL. “No podían demostrar de manera absoluta que eliminar un dato no cambiara la salida. Este artículo presenta el primer método exacto para realizar eliminaciones a gran escala de forma eficiente y probando que los resultados no cambian”.
Los autores compararon su metodología con 24 modelos de difusión convencionales, descubriendo que las imágenes generadas por su nuevo enfoque presentaban una calidad comparable según las medidas estándar de evaluación.
Gifford señala que los hallazgos tienen implicaciones legales significativas, especialmente en lo que respecta a si las producciones de los modelos se consideran meramente obras derivadas, lo que podría impactar en cuestiones de derechos de autor. “Una forma de conceptualizar esto es que estos modelos son creativos”, explica. “No simplemente copian los datos que se les proporcionan, sino que crean nuevos outputs. Si estos resultados no tienen relación con ninguna pieza individual de datos de entrenamiento, surgen interrogantes sobre el uso justo, sobre si esos outputs pueden ser considerados obras originales en sí mismas y sobre cómo se debe compensar a los autores cuando lo que sale de un modelo no se puede atribuir a ninguna fuente en línea”.
Los resultados provocan un impulso de reflexión en un ámbito donde la intersección entre la tecnología y el arte continúa evolucionando rápidamente, planteando preguntas cruciales sobre la creatividad, la propiedad intelectual y el futuro de la generación de contenido digital. Así, el debate sobre el alcance y las responsabilidades de la inteligencia artificial en la creación artística apenas comienza.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
