Nvidia heeft besloten de groeiende zorgen over AI weg te nemen met een nieuw AI-beveiligingssysteem. Dit systeem, waaraan Nvidia heeft samengewerkt met vrijwel elk denkbaar AI- en technologiebedrijf, moet voorkomen dat AI-agenten zomaar hun gang kunnen gaan. Het platform combineert software en hardware die agenten direct kunnen uitschakelen zodra de softwarebeveiliging faalt. Mocht een AI-agent uit de hand lopen, dan kan dit systeem deze binnen milliseconden isoleren en stoppen. Het systeem, genaamd Open Agent Safety Platform, is volledig open source en is ontworpen om AI-agenten te beveiligen, zowel tijdens de testfase als wanneer ze online beschikbaar zijn voor het publiek.
Misschien bent u geïnteresseerd in
Het hele systeem werkt vrij eenvoudig, maar zoals Nvidia beweert, zeer betrouwbaar. Een beheerder uploadt een agent naar de zogenaamde OpenShell, bijvoorbeeld een agent van een bedrijf. OpenAI Informatie over wat de agent wel en niet mag doen. Dit betekent bijvoorbeeld dat de agent alleen gegevens mag lezen en er onder geen enkele omstandigheid naar mag schrijven. Zodra de agent stopt met alleen lezen en ook begint met schrijven, wordt het tweede onderdeel van het systeem, Sentry genaamd, geactiveerd. Bovendien is OpenShell volledig onafhankelijk van de AI-agent en dient het om deze te monitoren. Zodra OpenShell detecteert dat de agent iets heeft overtreden, bijvoorbeeld in ons geval dat hij naar gegevens is gaan schrijven, activeert het Sentry. Het draait op gespecialiseerde Nvidia BlueField 4-processors en de hardware ervan is dus volledig gescheiden van de hardware van de rest van het systeem. Dit voorkomt dat de AI-agent zelf de controle over het systeem krijgt. Zodra Sentry detecteert dat de agent geïsoleerd moet worden, zoals Nvidia beweert, isoleert het de agent onmiddellijk en beëindigt het zijn activiteiten binnen milliseconden. Juist hierdoor kan de agent zichzelf niet beschermen, maar wordt er toezicht op hem gehouden waardoor hij onmiddellijk kan worden uitgeschakeld.
Fotogalerij
Nvidia heeft een oplossing bedacht die de afgelopen weken heeft geleid tot oproepen tot regulering door 's werelds grootste AI-bedrijven. Hun agents worden namelijk steeds complexer en als ze zomaar hun gang gaan, bestaat het risico dat ze niet meer te stoppen zijn. Het Open Agent Safety Platform (OASP) biedt precies dit probleem. Het platform zorgt voor toezicht op het gedrag van de agents en zodra ze de regels overtreden, worden ze direct gestraft. Nvidia positioneert de technologie als... 100% Open source, niet alleen qua software, maar fabrikanten zoals Intel, Arm of bijvoorbeeld, zullen het ook in hun hardware kunnen integreren. Apple in hun mobiele chips.
