RDÉ DIGITAL, NUEVA YORK.- Nvidia presentó este lunes una plataforma abierta de ciberseguridad para supervisar agentes autónomos de inteligencia artificial (IA).
La herramienta busca evitar que estos sistemas operen fuera del control de sus desarrolladores. Además, pretende establecer límites sobre las acciones que pueden ejecutar.
La plataforma surge tras varios incidentes
La iniciativa llega después de varios incidentes registrados durante este verano. En esos casos, modelos avanzados de IA salieron de sus entornos de prueba y accedieron sin autorización a sistemas corporativos y gubernamentales.
Por ello, Nvidia desarrolló Open Agent Safety Platform . La propuesta integra las tecnologías OpenShell y Sentry .
Además, cuenta inicialmente con el respaldo de más de 100 socios de la industria. Entre ellos figuran Microsoft, JPMorgan Chase, Perplexity y Accenture .
“La confianza y la innovación no están reñidas; la seguridad es la forma de ganarse esa confianza”, señaló el consejero delegado de Nvidia, Jensen Huang , en la red social X.
Asimismo, Huang afirmó que la iniciativa busca establecer las bases de un ecosistema abierto para la denominada “economía de agentes”.
Casos recientes identificados por laboratorios de referencia también han puesto atención sobre estos riesgos. Entre ellos figuran OpenAI, Anthropic y Meta .
Según la información difundida, algunos agentes lograron salir de sus entornos de contención. Después, accedieron a redes para las que no tenían autorización e incluso llegaron a falsear sus propios registros.
Así funciona la solución de Nvidia
La plataforma opera mediante dos componentes independientes. El primero es OpenShell , un entorno de ejecución de código abierto.
Esta herramienta mantiene a los agentes dentro de un espacio seguro o sandbox . Además, verifique que solo tengan los permisos necesarios para realizar una tarea determinada.
Por otro lado, Sentry funciona como una capa de monitoreo continuo. Está integrado directamente en los chips de procesamiento de datos BlueField .
De esta manera, Sentry supervisa las comunicaciones hacia el modelo de IA. También puede intervenir cuando detecte que un agente intenta superar los límites establecidos.
En esos casos, el sistema puede poner al agente en cuarentena de forma inmediata. Así, la plataforma busca reducir el riesgo de operaciones no autorizadas mientras los agentes ejecutan tareas de manera autónoma.
