Nvidia har beslutat att lindra den växande oron kring AI genom att introducera ett nytt AI-säkerhetssystem. Säkerheten, som Nvidia har arbetat med med nästan alla AI- och teknikföretag du kan tänka dig, kommer att förhindra AI-agenter från att göra vad de vill. Plattformen kombinerar programvara, men även hårdvara, som kan stänga av agenter i det ögonblick som en programvarusäkerhet misslyckas. Om någon AI-agent kommer ur kontroll kan detta system isolera och stoppa den på millisekunder. Systemet, som kallas Open Agent Safety Platform, är helt öppen källkod och är utformat för att säkra AI-agenter både under testning och när de redan är distribuerade online för allmänheten.
Du kan vara intresserad av
Hela systemet fungerar ganska enkelt, men som Nvidia påstår, mycket tillförlitligt. En administratör laddar upp en agent i det så kallade OpenShell, till exempel ett företags OpenAI information om vad agenten kan och inte kan göra. Det betyder till exempel att den säger att agenten bara kan läsa data och inte kan skriva till den under några omständigheter. I det ögonblick som agenten slutar bara läsa data, men också börjar skriva till den, aktiveras den andra delen av systemet som är märkt Sentry. Dessutom är hela OpenShell helt oberoende av AI-agenten och tjänar till att övervaka den. I det ögonblick som OpenShell upptäcker att agenten har brutit mot något, till exempel i vårt fall, om den började skriva till data, aktiverar den Sentry. Den körs sedan på specialiserade Nvidia BlueFild 4-processorer och dess hårdvara är därför helt separat från hårdvaran i resten av systemet. Det är detta som kommer att hindra AI-agenten själv från att kontrollera den. I det ögonblick som Sentry upptäcker att den ska isolera agenten, som Nvidia hävdar, isolerar den omedelbart agenten och avslutar dess aktiviteter inom millisekunder. Det är just på grund av detta att det inte kommer att vara möjligt för agenten att skydda sig själv, men den kommer att ha övervakning över sig som kan avsluta den omedelbart.
Fotogalerie
Nvidia har kommit på en lösning som har lett till krav på reglering från världens största AI-företag de senaste veckorna, eftersom deras agenter växer ur företagens egna säkerhetssystem och om de börjar göra vad de vill finns det en risk att de blir omöjliga att stoppa. Det är precis detta som Open Agent Safety Platform-lösningen ska lösa. Detta skapar i huvudsak tillsyn över vad agenter gör och i det ögonblick de bryter mot reglerna kommer de att omedelbart straffas. Nvidia positionerar tekniken som 100% öppen källkod, inte bara vad gäller programvara, utan tillverkare som Intel, Arm eller till exempel kommer också att kunna inkludera det i sin hårdvara. Apple i sina mobila chips.
