Nvidia ha deciso di attenuare le crescenti preoccupazioni relative all'intelligenza artificiale, introducendo un nuovo sistema di sicurezza per l'IA. Questo sistema, sviluppato in collaborazione con quasi tutte le aziende di IA e tecnologia più note, mira a impedire agli agenti di IA di agire in modo incontrollato. La piattaforma combina software e hardware, in grado di arrestare gli agenti nel momento stesso in cui si verifica un malfunzionamento del software di sicurezza. Se un agente di IA dovesse sfuggire al controllo, questo sistema può isolarlo e bloccarlo in pochi millisecondi. Il sistema, denominato Open Agent Safety Platform, è completamente open source ed è progettato per proteggere gli agenti di IA sia durante la fase di test che una volta che sono già disponibili online al pubblico.
Potrebbe interessarti
L'intero sistema funziona in modo piuttosto semplice, ma, come afferma Nvidia, in modo molto affidabile. Un amministratore carica un agente nel cosiddetto OpenShell, ad esempio un'azienda OpenAI Informazioni su ciò che l'agente può e non può fare. Ciò significa, ad esempio, che l'agente può solo leggere i dati e non può scriverci in nessuna circostanza. Nel momento in cui l'agente smette di leggere i dati e inizia anche a scriverci, si attiva la seconda parte del sistema, denominata Sentry. Inoltre, l'intero OpenShell è completamente indipendente dall'agente IA e serve a monitorarlo. Nel momento in cui OpenShell rileva che l'agente ha violato qualcosa, ad esempio, nel nostro caso, ha iniziato a scrivere sui dati, attiva Sentry. Quest'ultimo viene eseguito su processori specializzati Nvidia BlueFild 4 e il suo hardware è quindi completamente separato dall'hardware del resto del sistema. Questo impedisce all'agente IA stesso di controllarlo. Nel momento in cui Sentry rileva che deve isolare l'agente, come affermato da Nvidia, lo isola immediatamente e ne termina le attività in pochi millisecondi. Proprio per questo motivo, l'agente non sarà in grado di proteggersi, ma sarà soggetto a un sistema di supervisione in grado di terminarlo immediatamente.
Galleria fotografica
Nvidia ha ideato una soluzione che nelle ultime settimane ha suscitato richieste di regolamentazione da parte delle più grandi aziende di IA al mondo, perché i loro agenti stanno superando le capacità dei sistemi di sicurezza delle aziende stesse e, se iniziano a fare quello che vogliono, c'è il rischio che diventino impossibili da fermare. Questo è esattamente ciò che la soluzione Open Agent Safety Platform dovrebbe risolvere. In sostanza, crea una supervisione su ciò che fanno gli agenti e, nel momento in cui infrangono le regole, vengono immediatamente puniti. Nvidia sta posizionando la tecnologia come 100% open source, non solo in termini di software, ma anche produttori come Intel, Arm o, ad esempio, potranno includerlo nel loro hardware Apple all'interno dei loro chip per dispositivi mobili.
