„Nvidia“ nusprendė sumažinti didėjantį susirūpinimą dėl dirbtinio intelekto, pristatydama naują dirbtinio intelekto saugumo sistemą. Ši saugumo sistema, kurią „Nvidia“ kuria su beveik kiekviena dirbtinio intelekto ir technologijų bendrove, neleis dirbtinio intelekto agentams daryti to, ko jie nori. Platforma apjungia ne tik programinę įrangą, bet ir aparatinę įrangą, kuri gali išjungti agentus, kai tik sugenda programinės įrangos saugumas. Jei kuris nors dirbtinio intelekto agentas tampa nevaldomas, ši sistema gali jį izoliuoti ir sustabdyti per milisekundes. Sistema, vadinama „Open Agent Safety Platform“, yra visiškai atvirojo kodo ir sukurta siekiant apsaugoti dirbtinio intelekto agentus tiek jų testavimo metu, tiek kai jie jau yra viešai prieinami.
Jums gali būti įdomu
Visa sistema veikia gana paprastai, bet, kaip teigia „Nvidia“, labai patikimai. Administratorius įkelia agentą į vadinamąjį „OpenShell“, pavyzdžiui, įmonės... OpenAI informacija apie tai, ką agentas gali ir ko negali daryti. Tai reiškia, pavyzdžiui, kad agentas gali tik skaityti duomenis ir negali į juos rašyti jokiomis aplinkybėmis. Kai agentas nustoja tik skaityti duomenis, bet ir pradeda į juos rašyti, aktyvuojama antroji sistemos dalis, pavadinta „Sentry“. Be to, visa „OpenShell“ yra visiškai nepriklausoma nuo dirbtinio intelekto agento ir skirta jį stebėti. Kai tik „OpenShell“ aptinka, kad agentas ką nors pažeidė, pavyzdžiui, mūsų atveju, jis pradėjo rašyti į duomenis, jis aktyvuoja „Sentry“. Tada jis veikia specializuotuose „Nvidia BlueField 4“ procesoriuose, todėl jo aparatinė įranga yra visiškai atskirta nuo likusios sistemos aparatinės įrangos. Tai neleis pačiam dirbtinio intelekto agentui jo valdyti. Kai tik „Sentry“ aptinka, kad, kaip teigia „Nvidia“, jis turėtų izoliuoti agentą, jis nedelsdamas jį izoliuoja ir per milisekundes nutraukia jo veiklą. Būtent dėl šios priežasties agentas negalės savęs apsaugoti, tačiau turės jį prižiūrinčią funkciją, kuri gali jį nedelsiant nutraukti.
Nuotraukų galerija
„Nvidia“ pasiūlė sprendimą, kuris pastarosiomis savaitėmis paskatino didžiausias pasaulyje dirbtinio intelekto bendroves raginti ją reguliuoti, nes jų agentai išauga iš bendrovių saugumo sistemų ir jei jie pradeda daryti ką nori, kyla rizika, kad jų sustabdyti bus neįmanoma. Būtent tai ir turėtų išspręsti „Open Agent Safety Platform“ sprendimas. Tai iš esmės sukuria agentų veiksmų priežiūrą, o vos tik jie pažeidžia taisykles, jie yra nedelsiant baudžiami. „Nvidia“ pozicionuoja šią technologiją kaip... 100% atvirojo kodo ne tik programinės įrangos prasme, bet ir tokie gamintojai kaip „Intel“, „Arm“ ar, pavyzdžiui, galės jį įtraukti į savo aparatinę įrangą Apple savo mobiliųjų lustų viduje.
