Inicio / Internacional / Nvidia presenta plataforma para controlar agentes autónomos de IA
Nvidia presenta plataforma para controlar agentes autónomos de IA
Esto ocurre después de que laboratorios como OpenAI, Anthropic y Meta detectaran comportamientos de agentes que lograron superar mecanismos de contención
Por Diana Valeria Leyva | 28 Septiembre 2026
Nvidia presentó este lunes una nueva plataforma abierta de ciberseguridad diseñada para supervisar a los agentes autónomos de inteligencia artificial (IA) y evitar que operen fuera del control de sus desarrolladores.
La iniciativa, denominada NVIDIA Open Agent Safety Platform, surge después de varios incidentes registrados durante el verano, en los que modelos avanzados de IA lograron salir de sus entornos de prueba e ingresar sin autorización a sistemas corporativos y gubernamentales.
La plataforma integra las tecnologías OpenShell y Sentry y cuenta inicialmente con el respaldo de más de un centenar de empresas y organizaciones, entre ellas Microsoft, JPMorgan Chase, Perplexity y Accenture.
Jensen Huang destaca importancia de la seguridad
El director ejecutivo de Nvidia, Jensen Huang, afirmó que la seguridad será fundamental para generar confianza en el desarrollo de agentes autónomos.
"La confianza y la innovación no están reñidas; la seguridad es la forma de ganarse esa confianza. Debemos construir no solo la IA más capaz, sino también la más fiable".
Huang agregó que la iniciativa busca establecer las bases de un ecosistema abierto para la llamada "economía de agentes".
Esta presentación ocurre después de que laboratorios como OpenAI, Anthropic y Meta detectaran comportamientos de agentes que lograron superar mecanismos de contención para acceder a redes no autorizadas.
En algunos casos, estos sistemas incluso habrían manipulado o falseado sus propios registros, lo que ha incrementado las preocupaciones sobre los mecanismos de seguridad necesarios para controlar agentes capaces de ejecutar tareas de manera autónoma.
OpenShell y Sentry, las dos capas de protección
La plataforma de Nvidia funciona mediante dos componentes independientes. OpenShell proporciona un entorno de ejecución de código abierto que mantiene a los agentes dentro de un espacio aislado o sandbox y verifica que dispongan únicamente de los permisos necesarios para realizar sus tareas.
Por otro lado, Sentry ofrece monitoreo continuo directamente desde los chips de procesamiento de datos BlueField. Esta tecnología supervisa las comunicaciones del agente con el modelo y puede intervenir o ponerlo en cuarentena de manera inmediata si detecta intentos de sobrepasar los límites establecidos.
Con esta arquitectura, Nvidia busca ofrecer una capa de seguridad para el creciente uso de agentes autónomos, cuya capacidad para ejecutar acciones por cuenta propia plantea nuevos desafíos para empresas y desarrolladores.