Investigador de Anthropic muestra IA auto-mejorativa

Los modelos de inteligencia artificial que se entrenan mediante otros modelos de IA se han convertido en un objetivo popular para los neolabs. Recientemente, un investigador del programa de becados de Anthropic ha compartido una visión anticipada sobre cómo podría implementarse esta idea en la práctica.

Un nuevo trabajo de investigación ha sido publicado, mostrando de qué manera los sistemas de IA pueden mejorar de manera fiable el rendimiento de un modelo en diversos índices de alineación. Al ser evaluados en diez benchmarks específicos relacionados con comportamientos desalineados, estos sistemas automatizados lograron mejorar en cada uno de ellos sin deteriorar el rendimiento general.

Dirigido por el becado Chen Yueh-Han de Anthropic, este sistema imita gran parte del enfoque tradicional de investigación. Cada sistema automatizado explora la literatura disponible, propone un método y entrena el modelo usando ese método durante 30 minutos, elevando progresivamente el benchmark en varias iteraciones. Los métodos efectivos son retenidos y los ineficaces son descartados, permitiendo a este sistema operar de manera rápida y a gran escala.

Los resultados preliminares sugieren que la alineación post-entrenamiento automatizada podría convertirse en una práctica viable en un futuro cercano. Este avance es un paso hacia lo que muchos consideran un hito significativo en el progreso de la IA: la auto-mejora recursiva. Si los modelos pueden optimizar su propio entrenamiento de alineación, es posible que puedan mejorar los métodos de entrenamiento en general, lo que podría llevar a la obsolescencia de los investigadores humanos en el campo.

El estudio aborda esta idea de manera directa, comparando el investigador automatizado de alineación (AAR, por sus siglas en inglés) con su homólogo humano. Se menciona que, en promedio, el mejor método de AAR supera lo que proponen investigadores experimentados en un lapso de seis horas. Además, se destaca que las orientaciones de investigación guiadas por humanos no logran un rendimiento superior.

En un intento de reforzar estas observaciones, se realiza una comparación de costos: el AAR tiene un coste aproximado de 4 dólares por hora en comparación con los 150 dólares que se pagan por hora a los investigadores humanos.

Sin embargo, el estudio también apunta algunas limitaciones de este enfoque. El sistema automatizado solo opera de manera efectiva en la medida en que los benchmarks reflejan los objetivos de alineación reales, y aún existen desafíos significativos en el establecimiento y mantenimiento de estos benchmarks, así como en la ampliación de la literatura de la que se nutren los investigadores automatizados.

Este artículo presenta información de interés en el contexto del avance tecnológico en la inteligencia artificial hasta la fecha de publicación original (2026-08-28 13:30:00).

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.