Nvidia har besluttet at afhjælpe den voksende bekymring omkring AI ved at introducere et nyt AI-sikkerhedssystem. Sikkerheden, som Nvidia har arbejdet på med næsten alle tænkelige AI- og teknologivirksomheder, vil forhindre AI-agenter i at gøre, hvad de vil. Platformen kombinerer software, men også hardware, der kan lukke agenter ned i det øjeblik, en softwaresikkerhed fejler. Hvis en AI-agent kommer ud af kontrol, kan dette system isolere og stoppe den på millisekunder. Systemet, kaldet Open Agent Safety Platform, er fuldstændig open source og er designet til at sikre AI-agenter både under deres test og når de allerede er implementeret online for offentligheden.
Du kunne være interesseret i
Hele systemet fungerer ret simpelt, men som Nvidia hævder, meget pålideligt. En administrator uploader en agent til den såkaldte OpenShell, for eksempel en virksomheds OpenAI information om, hvad agenten kan og ikke kan gøre. Det betyder for eksempel, at den siger, at agenten kun kan læse data og under ingen omstændigheder kan skrive til den. I det øjeblik agenten stopper med kun at læse data, men også begynder at skrive til den, aktiveres den anden del af systemet, der er mærket Sentry. Desuden er hele OpenShell fuldstændig uafhængig af AI-agenten og tjener til at overvåge den. I det øjeblik OpenShell registrerer, at agenten har overtrådt noget, for eksempel i vores tilfælde, hvis den begyndte at skrive til data, aktiverer den Sentry. Den kører derefter på specialiserede Nvidia BlueFild 4-processorer, og dens hardware er derfor fuldstændig adskilt fra hardwaren i resten af systemet. Det er dette, der vil forhindre AI-agenten selv i at kontrollere den. I det øjeblik Sentry registrerer, at den skal isolere agenten, som Nvidia hævder, isolerer den straks agenten og afslutter dens aktiviteter inden for millisekunder. Netop på grund af dette vil det ikke være muligt for agenten at beskytte sig selv, men den vil have tilsyn over sig, der kan afslutte den med det samme.
Fotogalerie
Nvidia har fundet en løsning, der i de seneste uger har ført til krav om regulering fra verdens største AI-virksomheder, fordi deres agenter vokser fra virksomhedernes egne sikkerhedssystemer, og hvis de begynder at gøre, hvad de vil, er der risiko for, at de vil være umulige at stoppe. Det er præcis, hvad Open Agent Safety Platform-løsningen skal løse. Dette skaber i bund og grund tilsyn med, hvad agenter gør, og i det øjeblik de bryder reglerne, vil de blive straffet med det samme. Nvidia positionerer teknologien som 100% open source, ikke kun hvad angår software, men producenter som Intel, Arm eller for eksempel også vil kunne inkludere det i deres hardware Apple i deres mobile chips.
