Nvidia ha decidido mitigar la creciente preocupación por la IA, presentando un nuevo sistema de seguridad para IA. Este sistema, en el que Nvidia ha colaborado con prácticamente todas las empresas de IA y tecnología imaginables, impedirá que los agentes de IA actúen sin control. La plataforma combina software y hardware, capaces de desactivar los agentes en cuanto falla la seguridad del software. Si algún agente de IA se descontrola, este sistema puede aislarlo y detenerlo en milisegundos. El sistema, denominado Open Agent Safety Platform, es completamente de código abierto y está diseñado para proteger a los agentes de IA tanto durante sus pruebas como una vez implementados en línea para el público.
Podría interesarle
Todo el sistema funciona de forma bastante sencilla, pero como afirma Nvidia, de forma muy fiable. Un administrador carga un agente en el llamado OpenShell, por ejemplo, una empresa. OpenAI Información sobre las capacidades y limitaciones del agente. Esto significa, por ejemplo, que el agente solo puede leer datos y no puede escribir en ellos bajo ninguna circunstancia. En el momento en que el agente deja de leer datos y comienza a escribir en ellos, se activa la segunda parte del sistema, denominada Sentry. Además, OpenShell es completamente independiente del agente de IA y se encarga de su monitorización. En el momento en que OpenShell detecta que el agente ha infringido alguna norma (por ejemplo, en nuestro caso, al comenzar a escribir en datos), activa Sentry. Este último se ejecuta en procesadores especializados Nvidia BlueFild 4, por lo que su hardware está completamente separado del resto del sistema. Esto impide que el propio agente de IA lo controle. En el momento en que Sentry detecta que debe aislar al agente, como afirma Nvidia, lo aísla inmediatamente y finaliza sus actividades en cuestión de milisegundos. Precisamente por ello, el agente no podrá protegerse a sí mismo, sino que estará bajo supervisión, pudiendo finalizar su actividad de inmediato.
Galería de fotos
Nvidia ha ideado una solución que ha provocado que las mayores empresas de IA del mundo pidan regulación en las últimas semanas, porque sus agentes están superando los sistemas de seguridad de las propias empresas y, si empiezan a hacer lo que quieren, existe el riesgo de que sea imposible detenerlos. Esto es precisamente lo que debería resolver la solución Open Agent Safety Platform. Básicamente, crea una supervisión de lo que hacen los agentes y, en el momento en que infringen las reglas, serán castigados inmediatamente. Nvidia está posicionando la tecnología como 100% El software de código abierto, no solo en términos de software, sino que fabricantes como Intel, Arm o, por ejemplo, también podrán incluirlo en su hardware. Apple dentro de sus chips móviles.
