Lai mazinātu pieaugošās bažas par mākslīgo intelektu (MI), Nvidia ir nolēmusi ieviest jaunu MI drošības sistēmu. Šī drošības sistēma, pie kuras Nvidia ir sadarbojusies ar gandrīz katru MI un tehnoloģiju uzņēmumu, neļaus MI aģentiem darīt visu, ko vien var iedomāties, darbosies, lai neļautu MI aģentiem darīt visu, ko vien vēlas. Platforma apvieno gan programmatūru, gan aparatūru, kas var apturēt aģentus brīdī, kad rodas programmatūras drošības kļūme. Ja kāds MI aģents iziet no kontroles, šī sistēma var to izolēt un apturēt milisekundēs. Sistēma, ko sauc par Atvērto aģentu drošības platformu (Open Agent Safety Platform), ir pilnībā atvērtā koda un ir izstrādāta, lai aizsargātu MI aģentus gan to testēšanas laikā, gan tad, kad tie jau ir publiski pieejami.
Jūs varētu interesēt
Visa sistēma darbojas diezgan vienkārši, bet, kā apgalvo Nvidia, ļoti uzticami. Administrators augšupielādē aģentu tā sauktajā OpenShell, piemēram, uzņēmuma OpenAI informācija par to, ko aģents var un ko nevar darīt. Tas nozīmē, piemēram, ka tas norāda, ka aģents var tikai lasīt datus un nekādos apstākļos nevar tajos rakstīt. Brīdī, kad aģents pārstāj tikai lasīt datus, bet arī sāk tajos rakstīt, tiek aktivizēta sistēmas otrā daļa ar nosaukumu Sentry. Turklāt viss OpenShell ir pilnībā neatkarīgs no mākslīgā intelekta aģenta un kalpo tā uzraudzībai. Brīdī, kad OpenShell konstatē, ka aģents ir kaut ko pārkāpis, piemēram, mūsu gadījumā tas sāka rakstīt datos, tas aktivizē Sentry. Pēc tam tas darbojas ar specializētiem Nvidia BlueFild 4 procesoriem, un tā aparatūra tāpēc ir pilnībā atdalīta no pārējās sistēmas aparatūras. Tas neļaus pašam mākslīgā intelekta aģentam to kontrolēt. Brīdī, kad Sentry nosaka, ka tam ir jāizolē aģents, kā apgalvo Nvidia, tas nekavējoties izolē aģentu un milisekundēs pārtrauc tā darbību. Tieši šī iemesla dēļ aģents nevarēs sevi aizsargāt, bet tam būs uzraudzība pār to, kas to var nekavējoties pārtraukt.
Fotogalerie
Nvidia ir nākusi klajā ar risinājumu, kas pēdējās nedēļās ir izraisījis pasaules lielāko mākslīgā intelekta uzņēmumu aicinājumus pēc regulēšanas, jo to aģenti pāraug uzņēmumu pašu drošības sistēmas, un, ja viņi sāk darīt visu, ko vēlas, pastāv risks, ka viņus vairs nebūs iespējams apturēt. Tieši to vajadzētu atrisināt Open Agent Safety Platform risinājumam. Tas būtībā rada uzraudzību pār aģentu rīcību, un brīdī, kad viņi pārkāpj noteikumus, viņi nekavējoties tiek sodīti. Nvidia pozicionē šo tehnoloģiju kā 100% atvērtā pirmkoda programmatūra ne tikai programmatūras ziņā, bet arī tādi ražotāji kā Intel, Arm vai, piemēram, to varēs iekļaut savā aparatūrā Apple savās mobilajās mikroshēmās.
