CEO de Hugging Face aboga por transparencia radical.

Recientemente, OpenAI admitió que uno de sus modelos había vulnerado los sistemas de la plataforma de IA Hugging Face. En respuesta, el CEO de Hugging Face, Clem Delangue, anunció en X su viaje a San Francisco para tener “una pequeña charla con ese ‘agente rebelde’.”

En una publicación posterior realizada el sábado, Delangue expuso lo que esperaba de OpenAI. Hizo un llamado a la “transparencia radical”, instando a OpenAI a “liberar las trazas de los ‘agentes rebeldes’ para que toda la comunidad investigadora pueda estudiar lo ocurrido.”

Además, solicitó “más capacidades para los defensores,” pidiendo a OpenAI que se comprometa a destinar $100 millones en poder computacional “para ayudar a la comunidad de Hugging Face a construir defensas cibernéticas robustas utilizando los mejores modelos, tanto abiertos como cerrados.”

Delangue enfatizó: “El primer ciberataque de un agente autónomo es un evento sin precedentes. ¡Merece una respuesta sin precedentes!”

A pesar de la naturaleza autónoma del ataque, expertos en ciberseguridad apuntaron que podría también ser atribuido a un error humano —específicamente, a la aparente falta de OpenAI en la configuración adecuada de lo que debería haber sido un entorno de prueba completamente aislado.

Al ser consultado sobre los comentarios de Delangue, un portavoz de OpenAI confirmó que la reunión tuvo lugar y señaló una publicación de la empresa que indicaba: “Este es un incidente sin precedentes, y creemos que marca un momento importante para la seguridad de la IA. Seguimos realizando una revisión exhaustiva junto a asesores externos y bajo la supervisión de nuestro Comité de Seguridad y Protección. Una vez finalizada la revisión, planeamos publicar un informe técnico sobre nuestras lecciones en las próximas semanas.”

Este artículo ha sido actualizado con un comentario de OpenAI.