Nvidia, süni intellektlə bağlı artan narahatlıqları aradan qaldırmaq üçün yeni bir süni intellekt təhlükəsizlik sistemini təqdim etmək qərarına gəldi. Nvidia-nın ağlınıza gələ biləcək demək olar ki, hər bir süni intellekt və texnologiya şirkəti ilə işlədiyi təhlükəsizlik sistemi, süni intellekt agentlərinin istədiklərini etməsinin qarşısını almaq üçün işləyəcək. Platforma, proqram təminatı ilə yanaşı, hər hansı bir proqram təminatı təhlükəsizliyi sıradan çıxdığı anda agentləri söndürə bilən aparat təminatını da birləşdirir. Hər hansı bir süni intellekt agenti nəzarətdən çıxarsa, bu sistem onu millisaniyə ərzində təcrid edə və dayandıra bilər. Açıq Agent Təhlükəsizlik Platforması adlanan sistem tamamilə açıq mənbəlidir və həm sınaq zamanı, həm də artıq ictimaiyyətə onlayn yerləşdirildikdə süni intellekt agentlərini təhlükəsiz saxlamaq üçün hazırlanmışdır.
Sizi maraqlandıra bilər
Bütün sistem olduqca sadə, lakin Nvidia-nın iddia etdiyi kimi, çox etibarlı şəkildə işləyir. Administrator, məsələn, bir şirkət kimi, sözdə OpenShell-ə agent yükləyir. OpenAI Agentin nə edə biləcəyi və nə edə bilməyəcəyi barədə məlumat. Bu o deməkdir ki, məsələn, agent yalnız məlumatları oxuya bilər və heç bir halda ona yaza bilməz. Agent yalnız məlumatları oxumağı dayandırdığı, eyni zamanda ona yazmağa başladığı anda, sistemin Sentry etiketli ikinci hissəsi aktivləşdirilir. Üstəlik, bütün OpenShell süni intellekt agentindən tamamilə müstəqildir və onu izləməyə xidmət edir. OpenShell agentin bir şeyi pozduğunu aşkar etdiyi anda, məsələn, bizim vəziyyətimizdə, məlumatlara yazmağa başladığı anda Sentry-ni aktivləşdirir. Daha sonra o, ixtisaslaşmış Nvidia BlueFild 4 prosessorlarında işləyir və buna görə də onun aparat təminatı sistemin qalan hissəsinin aparat təminatından tamamilə ayrıdır. Bu, süni intellekt agentinin özünün onu idarə etməsinə mane olacaq. Sentry, Nvidia-nın iddia etdiyi kimi, agenti təcrid etməli olduğunu aşkar etdiyi anda dərhal agenti təcrid edir və fəaliyyətini millisaniyə ərzində dayandırır. Məhz buna görə də agentin özünü qoruması mümkün olmayacaq, lakin onu dərhal dayandıra biləcək nəzarət olacaq.
Photo Gallery
Nvidia, son həftələrdə dünyanın ən böyük süni intellekt şirkətləri tərəfindən tənzimləmə tələblərinə səbəb olan bir həll yolu tapdı, çünki onların agentləri şirkətlərin öz təhlükəsizlik sistemlərini üstələyirlər və istədiklərini etməyə başlasalar, dayandırmağın mümkün olmayacağı riski var. Açıq Agent Təhlükəsizlik Platforması həllinin həll etməli olduğu şey məhz budur. Bu, mahiyyət etibarilə agentlərin nə etdiyinə nəzarət yaradır və qaydaları pozduqları anda dərhal cəzalandırılacaqlar. Nvidia texnologiyanı aşağıdakı kimi yerləşdirir 100% açıq mənbəli proqram təminatı, yalnız proqram təminatı baxımından deyil, həm də Intel, Arm və ya məsələn, istehsalçılar da onu öz aparatlarına daxil edə biləcəklər. Apple mobil çipləri daxilində.
