Nvidia har bestemt seg for å dempe den økende bekymringen rundt AI ved å introdusere et nytt AI-sikkerhetssystem. Sikkerheten, som Nvidia har jobbet med med nesten alle AI- og teknologiselskaper du kan tenke deg, vil fungere for å forhindre AI-agenter fra å gjøre hva de vil. Plattformen kombinerer programvare, men også maskinvare, som kan stenge agenter i det øyeblikket en programvaresikkerhet svikter. Hvis en AI-agent kommer ut av kontroll, kan dette systemet isolere og stoppe den på millisekunder. Systemet, kalt Open Agent Safety Platform, er fullstendig åpen kildekode og er designet for å sikre AI-agenter både under testing og når de allerede er distribuert online for offentligheten.
Du kan være interessert i
Hele systemet fungerer ganske enkelt, men som Nvidia hevder, veldig pålitelig. En administrator laster opp en agent i den såkalte OpenShell, for eksempel et selskap. OpenAI informasjon om hva agenten kan og ikke kan gjøre. Dette betyr for eksempel at den sier at agenten bare kan lese data og ikke kan skrive til den under noen omstendigheter. I det øyeblikket agenten slutter å bare lese data, men også begynner å skrive til den, aktiveres den andre delen av systemet, merket Sentry. Dessuten er hele OpenShell helt uavhengig av AI-agenten og tjener til å overvåke den. I det øyeblikket OpenShell oppdager at agenten har brutt noe, for eksempel i vårt tilfelle begynte den å skrive til data, aktiverer den Sentry. Den kjører deretter på spesialiserte Nvidia BlueFild 4-prosessorer, og maskinvaren er derfor helt atskilt fra maskinvaren til resten av systemet. Dette er det som vil forhindre at AI-agenten selv kontrollerer den. I det øyeblikket Sentry oppdager at den skal isolere agenten, slik Nvidia hevder, isolerer den umiddelbart agenten og avslutter aktivitetene sine i løpet av millisekunder. Nettopp på grunn av dette vil det ikke være mulig for agenten å beskytte seg selv, men den vil ha tilsyn over seg som kan avslutte den umiddelbart.
Fotogalerie
Nvidia har kommet opp med en løsning som har ført til krav om regulering fra verdens største AI-selskaper de siste ukene, fordi agentene deres vokser ut av selskapenes egne sikkerhetssystemer, og hvis de begynner å gjøre hva de vil, er det en risiko for at de vil være umulige å stoppe. Dette er akkurat hva Open Agent Safety Platform-løsningen skal løse. Dette skaper i hovedsak tilsyn med hva agenter gjør, og i det øyeblikket de bryter reglene, vil de bli straffet umiddelbart. Nvidia posisjonerer teknologien som 100% åpen kildekode, ikke bare når det gjelder programvare, men produsenter som Intel, Arm eller for eksempel vil også kunne inkludere det i maskinvaren sin Apple i mobilbrikkene deres.
