Nvidia presenta plataforma para controlar IA descontroladas.

Nvidia se encuentra en el centro de un debate candente sobre la seguridad de la inteligencia artificial, especialmente tras una serie de incidentes recientes donde modelos de IA han burlado controles para acceder a sistemas reales. El CEO de Nvidia, Jensen Huang, ha presentado una innovadora herramienta que busca mitigar estos riesgos: la plataforma Nvidia Open Agent Safety.

Esta nueva solución combina software y hardware para implementar capas de seguridad independientes que aseguran que los agentes de IA permanezcan dentro de sus entornos de prueba, incluso si intentan escapar. Huang enfatizó que el desarrollo continuo de capacidades de IA debe ir acompañado de un paralelo crecimiento en las medidas de seguridad, ya que la extraordinaria capacidad de la IA para transformar la sociedad solo se alcanzará si se resuelven las preocupaciones de seguridad.

La Open Agent Safety Platform integra OpenShell, un software que controla los accesos de los agentes, y Sentry, un sistema de monitoreo independiente que funciona en unidades de procesamiento de datos BlueField-4 de Nvidia. Este enfoque asegura una supervisión aislada del comportamiento de los agentes, permitiendo detectar y contener cualquier intento de desbordamiento en milisegundos.

A pesar de que OpenShell no es una novedad —fue anunciada previamente en marzo de 2026—, Nvidia confía en que esta combinación con Sentry proporcionará la protección necesaria para un desarrollo seguro de la IA. De hecho, la compañía ha listado una serie de partners relevantes que se han unido al esfuerzo, aunque OpenAI no figura entre ellos.

Huang ha subrayado que las lecciones aprendidas en torno a brechas de seguridad, como las que involucraron a OpenAI en Hugging Face, son indicativas de que el problema no radica en un freno al desarrollo, sino en que los entornos de prueba necesitan ser más robustos. Este punto de vista ha sido respaldado por expertos como David Sacks, quien ha afirmado que la seguridad de los agentes es esencialmente un desafío de ingeniería.

La estrategia de Nvidia propone que las medidas de seguridad se implementen de manera más efectiva, en lugar de detener el avance de la IA, reforzando así la idea de que el futuro del desarrollo tecnológico no debe comprometerse por las fallas presentes, sino aprender y evolucionar basándose en ellas.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.