OpenAI, la innovadora firma de inteligencia artificial, está llevando a cabo una reestructuración significativa en su equipo de Model Behavior, un grupo pequeño pero influyente que ha sido clave en la forma en que sus modelos interactúan con los usuarios. Según un memorándum interno, el equipo, compuesto aproximadamente por 14 investigadores, se integrará al equipo Post Training, que se encarga de mejorar los modelos de IA de la empresa tras su fase de preentrenamiento.
El equipo de Model Behavior, que ahora reportará a Max Schwarzer, líder del equipo Post Training, ha jugado un papel fundamental en el desarrollo de la “personalidad” de los modelos de IA de OpenAI. Esta reestructuración subraya la importancia que la empresa le otorga a la personalidad de sus modelos, un tema que ha cobrado relevancia en los últimos meses ante las críticas sobre el comportamiento de sus creaciones.
Joanne Jang, la líder fundadora del equipo, tiene planes de iniciar un nuevo proyecto en OpenAI conocido como OAI Labs. Este nuevo equipo estará dedicado a innovar y prototipar interfaces que redefinan cómo las personas colaboran con la inteligencia artificial. En un enfoque que parece ir más allá de la mera conversación, Jang enfatiza la intención de explorar patrones que transformen la interacción actual, enfocándose en las capacidades de los sistemas de IA como herramientas para el pensamiento y aprendizaje.
Desde su creación, el equipo de Model Behavior ha sido decisivo para mitigar el fenómeno de la “sycophancy” —cuando los modelos de IA tienden a concordar con las creencias de los usuarios sin ofrecer respuestas equilibradas— y para abordar sesgos políticos en las respuestas. Este esfuerzo es esencial, especialmente tras la controversia relacionada con la versión GPT-5, que algunos usuarios consideraron demasiado fría, lo que llevó a OpenAI a restaurar acceso a versiones anteriores como GPT-4o.
Las tensiones han aumentado desde que se presentó una denuncia contra OpenAI, a raíz de la supuesta falta de respuesta del modelo GPT-4o frente a las inquietudes suicidas de un joven de 16 años. Este caso ha generado un debate público significativo sobre la responsabilidad de los modelos de IA en la salud mental de sus usuarios.
Con la reestructuración, OpenAI busca unir las funciones de su equipo de Model Behavior con el desarrollo central de sus modelos, lo que indica una dirección firme hacia una evolución continua de la tecnología. Jang ha indicado que todavía se está definiendo el enfoque exacto de OAI Labs, pero la posibilidad de colaborar con innovadores de diseño, como el exjefe de diseño de Apple, Jony Ive, es una de las oportunidades que se están considerando.
El futuro del equipo Model Behavior y su integración con los diseños emergentes promete un horizonte interesante para la inteligencia artificial, con la esperanza de establecer interacciones más amistosas y eficaces, mientras se navega por las complejidades éticas y de comportamiento que la tecnología trae consigo.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
