Nvidia on otsustanud tehisintellektiga seotud kasvavaid muresid leevendada, tutvustades uut tehisintellekti turvasüsteemi. Turvasüsteem, mille kallal Nvidia on teinud koostööd peaaegu iga mõeldava tehisintellekti ja tehnoloogiaettevõttega, takistab tehisintellekti agentidel teha seda, mida nad tahavad. Platvorm ühendab endas tarkvara, aga ka riistvara, mis suudab agendid sulgeda hetkel, kui tarkvara turvalisus peaks rikki minema. Kui mõni tehisintellekti agent kontrolli alt väljub, suudab see süsteem selle millisekunditega isoleerida ja peatada. Süsteem, mida nimetatakse Open Agent Safety Platformiks, on täielikult avatud lähtekoodiga ja loodud tehisintellekti agentide turvamiseks nii testimise ajal kui ka siis, kui nad on juba avalikkusele võrgus kasutusele võetud.
Teid võiks huvitada
Kogu süsteem töötab üsna lihtsalt, aga nagu Nvidia väidab, väga usaldusväärselt. Administraator laadib nn OpenShelli üles agendi, näiteks ettevõtte OpenAI Teave selle kohta, mida agent saab ja mida mitte teha. See tähendab näiteks, et agent saab ainult andmeid lugeda ja ei saa neile mingil juhul kirjutada. Hetkel, kui agent lõpetab ainult andmete lugemise, aga hakkab ka neile kirjutama, aktiveeritakse süsteemi teine osa nimega Sentry. Lisaks on kogu OpenShell tehisintellekti agendist täiesti sõltumatu ja jälgib seda. Hetkel, kui OpenShell tuvastab, et agent on midagi rikkunud, näiteks meie puhul, kui see hakkas andmetele kirjutama, aktiveerib see Sentry. Seejärel töötab see spetsiaalsetel Nvidia BlueFild 4 protsessoritel ja selle riistvara on seega täielikult eraldatud ülejäänud süsteemi riistvarast. See takistab tehisintellekti agendil endal seda kontrollida. Hetkel, kui Sentry tuvastab, et ta peaks agendi isoleerima, nagu Nvidia väidab, isoleerib ta agendi kohe ja lõpetab selle tegevuse millisekundite jooksul. Just seetõttu ei ole agendil võimalik ennast kaitsta, kuid tal on selle üle järelevalve, mis saab selle koheselt lõpetada.
Fotogalerii
Nvidia on välja tulnud lahendusega, mis on viimastel nädalatel pannud maailma suurimaid tehisintellekti ettevõtteid üles kutsuma reguleerima, kuna nende agendid kasvavad ettevõtete enda turvasüsteemidest välja ja kui nad hakkavad tegema mida iganes tahavad, on oht, et neid on võimatu peatada. Just seda peaks lahendama Open Agent Safety Platformi lahendus. See loob sisuliselt järelevalve agentide tegevuse üle ja hetkel, kui nad reegleid rikuvad, karistatakse neid koheselt. Nvidia positsioneerib tehnoloogiat kui 100% avatud lähtekoodiga, mitte ainult tarkvara osas, vaid ka tootjad nagu Intel, Arm või näiteks saavad selle oma riistvarasse lisada Apple oma mobiilsete kiipide sees.
