Aleksander Madry regresa a OpenAI para reforzar la seguridad en IA avanzada

Aleksander Madry, quien lideró el equipo de Preparación de OpenAI, anunció su regreso a la empresa pocos meses después de su salida en mayo de 2026. Madry trabajará junto al científico jefe Jakub Pachocki para enfrentar los riesgos de seguridad que plantea el avance acelerado de la inteligencia artificial, en un contexto en el que la empresa ha identificado nuevos desafíos con sus modelos más recientes¹.

El retorno de Madry se produce tras la calificación de nivel 'Crítico' en capacidad cibernética para Astra, uno de los modelos en desarrollo de OpenAI, lo que ha llevado a la compañía a retrasar partes de su lanzamiento para reforzar las protecciones contra el mal uso¹.

El regreso de Madry y el nuevo contexto

Madry comunicó su regreso en una publicación en X, donde explicó que la evolución de la inteligencia artificial ha entrado en una fase que exige priorizar la seguridad de los sistemas más avanzados¹. Jakub Pachocki, científico jefe de OpenAI, señaló que invitó a Madry a volver para abordar juntos las implicancias del rápido desarrollo tecnológico y su impacto en la estrategia de la empresa¹.

Sam Altman, director ejecutivo de OpenAI, destacó la experiencia de Madry para enfrentar los desafíos de seguridad ante la posibilidad de una superinteligencia, y celebró su reincorporación al equipo¹.

Astra, el primer modelo con nivel crítico

En septiembre de 2026, OpenAI calificó a Astra, uno de sus modelos en desarrollo, con el nivel 'Crítico' de capacidad cibernética bajo su Marco de Preparación, siendo el primer caso en la empresa¹. Esta calificación implica que Astra, con los recursos adecuados, puede identificar y explotar fallas de seguridad en sistemas protegidos sin intervención humana directa¹.

Como respuesta, OpenAI retrasó parte del desarrollo y lanzamiento de Astra mientras implementaba y probaba medidas adicionales de protección¹. El área de Preparación, que Madry dirigía, es responsable de evaluar estos riesgos, incluyendo amenazas cibernéticas, biológicas y la autonomía de los modelos¹.

Tensiones internas y salidas recientes

El regreso de Madry ocurre en medio de un año marcado por salidas y advertencias de empleados vinculados a la seguridad en OpenAI¹. A principios de octubre de 2026, David Robinson, encargado de los reportes de seguridad de la empresa, renunció y publicó un ensayo en el que criticó la cultura interna y la falta de precaución en el desarrollo de sistemas avanzados¹.

Un vocero de OpenAI respondió que la empresa sigue fortaleciendo sus prácticas de seguridad para enfrentar los riesgos actuales¹.

El enfoque inmediato en controles de seguridad

Según los mensajes de Madry y Pachocki, el objetivo inmediato será definir qué controles de seguridad deben implementarse en los modelos más avanzados antes de que lleguen a usuarios o sistemas externos¹.

Madry, que también es profesor en el MIT y continúa en licencia, aportará su experiencia en la evaluación de riesgos catastróficos y en la creación de marcos para la seguridad de la inteligencia artificial¹.

Nota de la Redacción: esta nota se basa en la información disponible al publicarla y se actualizará si otras fuentes aportan más datos.

Fuentes

Texto elaborado por la Redacción de Columna Digital a partir de estas fuentes:

1. Infobae ↩

Redacción Columna Digital. Es posible que en la preparación de esta nota se hayan usado herramientas de inteligencia artificial para reunir fuentes, procesar datos, corregir o redactar textos, bajo la supervisión del equipo de Redacción.