Az Nvidia úgy döntött, hogy enyhíti a mesterséges intelligenciával kapcsolatos növekvő aggodalmakat, és egy új MI-biztonsági rendszert vezet be. A biztonsági rendszer, amelyen az Nvidia szinte minden elképzelhető MI-vel és technológiai céggel együttműködött, megakadályozza, hogy a MI-ügynökök azt tehessék, amit akarnak. A platform szoftvert és hardvert is ötvöz, amely képes leállítani az ügynököket abban a pillanatban, amikor bármilyen szoftverbiztonsági hiba bekövetkezik. Ha egy MI-ügynök kicsúszik az irányítás alól, ez a rendszer ezredmásodpercek alatt képes elkülöníteni és leállítani azt. A rendszer, amelyet Open Agent Safety Platformnak neveznek, teljesen nyílt forráskódú, és úgy tervezték, hogy biztosítsa a MI-ügynökök védelmét mind a tesztelésük során, mind pedig akkor, amikor már online, nyilvánosan elérhetővé válnak.
Érdekelhet
Az egész rendszer meglehetősen egyszerűen, de ahogy az Nvidia állítja, nagyon megbízhatóan működik. Egy adminisztrátor feltölt egy ügynököt az úgynevezett OpenShellbe, például egy céget OpenAI Információ arról, hogy mit tehet és mit nem az ügynök. Ez azt jelenti például, hogy azt mondja, hogy az ügynök csak adatokat olvashat, és semmilyen körülmények között nem írhat bele. Abban a pillanatban, amikor az ügynök abbahagyja az adatok olvasását, de írást is elkezd bele, aktiválódik a rendszer második része, a Sentry. Sőt, a teljes OpenShell teljesen független az MI ügynöktől, és annak felügyeletére szolgál. Abban a pillanatban, amikor az OpenShell azt észleli, hogy az ügynök megsértett valamit, például a mi esetünkben elkezdett adatokat írni, aktiválja a Sentryt. Ezután speciális Nvidia BlueFild 4 processzorokon fut, és hardvere ezért teljesen elkülönül a rendszer többi részének hardverétől. Ez az, ami megakadályozza, hogy maga a MI ügynök irányítsa azt. Abban a pillanatban, amikor a Sentry azt észleli, hogy el kell különítenie az ügynököt, ahogy az Nvidia állítja, azonnal izolálja az ügynököt, és milliszekundumokon belül leállítja a tevékenységét. Pontosan emiatt az ügynök nem tudja megvédeni magát, de felügyelete lesz felette, amely azonnal leállíthatja azt.
Photo Gallery
Az Nvidia olyan megoldással állt elő, amely az elmúlt hetekben a világ legnagyobb mesterséges intelligencia cégeinél szabályozási felhívásokhoz vezetett, mivel ügynökeik kinövik a vállalatok saját biztonsági rendszereit, és ha azt kezdenek el csinálni, amit akarnak, fennáll a veszélye annak, hogy lehetetlen lesz megállítani őket. Pontosan ezt kellene megoldania az Open Agent Safety Platform megoldásának. Ez lényegében felügyeletet teremt az ügynökök tevékenysége felett, és abban a pillanatban, hogy megszegik a szabályokat, azonnal megbüntetik őket. Az Nvidia a technológiát úgy pozicionálja, hogy 100% nyílt forráskódú, nemcsak szoftverek tekintetében, hanem olyan gyártók is beépíthetik majd a hardvereikbe, mint az Intel, az Arm vagy például Apple a mobil chipjeiken belül.
