Nvidia se je odločila omiliti naraščajočo zaskrbljenost glede umetne inteligence in predstavila nov varnostni sistem umetne inteligence. Varnostni sistem, pri katerem je Nvidia sodelovala s skoraj vsakim podjetjem za umetno inteligenco in tehnologijo, ki si ga lahko zamislite, bo preprečil agentom umetne inteligence, da bi počeli, kar koli želijo. Platforma združuje programsko in strojno opremo, ki lahko agente zaustavi v trenutku, ko odpove katera koli programska varnost. Če kateri koli agent umetne inteligence uide izpod nadzora, ga lahko ta sistem izolira in ustavi v milisekundah. Sistem, imenovan Open Agent Safety Platform, je popolnoma odprtokoden in je zasnovan za zaščito agentov umetne inteligence tako med testiranjem kot tudi takrat, ko so že na voljo javnosti na spletu.
Lahko bi vas zanimalo
Celoten sistem deluje precej preprosto, a kot trdi Nvidia, zelo zanesljivo. Skrbnik naloži agenta v tako imenovani OpenShell, na primer podjetje OpenAI informacije o tem, kaj agent lahko in česa ne sme storiti. To na primer pomeni, da pravi, da lahko agent samo bere podatke in vanje pod nobenim pogojem ne more pisati. V trenutku, ko agent preneha samo brati podatke, ampak jih tudi začne pisati, se aktivira drugi del sistema z oznako Sentry. Poleg tega je celoten OpenShell popolnoma neodvisen od agenta umetne inteligence in služi za njegovo spremljanje. V trenutku, ko OpenShell zazna, da je agent nekaj kršil, na primer v našem primeru je začel pisati podatke, aktivira Sentry. Ta nato deluje na specializiranih procesorjih Nvidia BlueFild 4 in je njegova strojna oprema zato popolnoma ločena od strojne opreme preostalega sistema. To bo preprečilo, da bi ga agent umetne inteligence sam nadzoroval. V trenutku, ko Sentry zazna, da bi moral agenta izolirati, kot trdi Nvidia, ga takoj izolira in v nekaj milisekundah prekine njegove dejavnosti. Prav zaradi tega se agent ne bo mogel zaščititi sam, ampak bo imel nad njim nadzor, ki ga lahko takoj prekine.
Fotogalerie
Nvidia je pripravila rešitev, ki je v zadnjih tednih privedla do pozivov k regulaciji s strani največjih svetovnih podjetij za umetno inteligenco, saj njihovi agenti preraščajo lastne varnostne sisteme podjetij in če začnejo početi, kar hočejo, obstaja tveganje, da jih bo nemogoče ustaviti. Prav to bi morala rešiti rešitev Open Agent Safety Platform. To v bistvu ustvarja nadzor nad tem, kaj agenti počnejo, in v trenutku, ko kršijo pravila, bodo takoj kaznovani. Nvidia tehnologijo pozicionira kot 100% odprtokodna programska oprema, ne le v smislu programske opreme, ampak jo bodo lahko v svojo strojno opremo vključili tudi proizvajalci, kot so Intel, Arm ali na primer Apple znotraj svojih mobilnih čipov.
