Nvidia a decis să atenueze îngrijorările crescânde legate de inteligența artificială (IA), introducând un nou sistem de securitate IA. Securitatea, la care Nvidia a lucrat cu aproape fiecare companie de tehnologie și inteligență artificială la care vă puteți gândi, va funcționa pentru a împiedica agenții IA să facă ce vor. Platforma combină software, dar și hardware, care poate opri agenții în momentul în care orice securitate software eșuează. Dacă vreun agent IA scapă de sub control, acest sistem îl poate izola și opri în milisecunde. Sistemul, numit Open Agent Safety Platform, este complet open source și este conceput pentru a securiza agenții IA atât în timpul testării, cât și atunci când sunt deja implementați online pentru public.
Te-ar putea interesa
Întregul sistem funcționează destul de simplu, dar, așa cum susține Nvidia, foarte fiabil. Un administrator încarcă un agent în așa-numitul OpenShell, de exemplu o companie OpenAI informații despre ce poate și ce nu poate face agentul. Aceasta înseamnă, de exemplu, că se spune că agentul poate doar citi date și nu poate scrie în ele în nicio circumstanță. În momentul în care agentul nu mai citește doar datele, ci începe și să scrie în ele, se activează a doua parte a sistemului, etichetată Sentry. Mai mult, întregul OpenShell este complet independent de agentul AI și servește la monitorizarea acestuia. În momentul în care OpenShell detectează că agentul a încălcat ceva, de exemplu, în cazul nostru, a început să scrie în date, activează Sentry. Acesta rulează apoi pe procesoare specializate Nvidia BlueFild 4 și, prin urmare, hardware-ul său este complet separat de hardware-ul restului sistemului. Acest lucru va împiedica agentul AI însuși să îl controleze. În momentul în care Sentry detectează că ar trebui să izoleze agentul, așa cum susține Nvidia, îl izolează imediat și îi încheie activitățile în câteva milisecunde. Tocmai din acest motiv, agentul nu va putea să se protejeze singur, dar va avea o supraveghere asupra acestuia care îl poate termina imediat.
Fotogalerie
Nvidia a venit cu o soluție care a dus la solicitări de reglementare din partea celor mai mari companii de inteligență artificială din lume în ultimele săptămâni, deoarece agenții lor depășesc propriile sisteme de securitate ale companiilor și, dacă încep să facă ce vor, există riscul să fie imposibil de oprit. Exact asta ar trebui să rezolve soluția Open Agent Safety Platform. Practic, acest lucru creează o supraveghere a ceea ce fac agenții și, în momentul în care încalcă regulile, vor fi imediat pedepsiți. Nvidia poziționează tehnologia ca... 100% open source, nu doar în ceea ce privește software-ul, ci producători precum Intel, Arm sau, de exemplu, îl vor putea include și în hardware-ul lor Apple în cadrul cipurilor lor mobile.
