Nvidia-ն որոշել է մեղմել արհեստական բանականության վերաբերյալ աճող մտահոգությունները՝ ներկայացնելով արհեստական բանականության նոր անվտանգության համակարգ: Անվտանգությունը, որի վրա Nvidia-ն աշխատել է գրեթե բոլոր արհեստական բանականության և տեխնոլոգիական ընկերությունների հետ, որոնց կարող եք մտածել, կաշխատի՝ արհեստական բանականության գործակալներին կանխելու համար, որպեսզի նրանք անեն այն, ինչ ուզում են: Հարթակը համատեղում է ծրագրային ապահովումը, բայց նաև սարքավորումները, որոնք կարող են անջատել գործակալներին այն պահին, երբ ծրագրային անվտանգության որևէ խափանում տեղի ունենա: Եթե որևէ արհեստական բանականության գործակալ դուրս գա վերահսկողությունից, այս համակարգը կարող է մեկուսացնել և կանգնեցնել այն միլիվայրկյանների ընթացքում: Բաց գործակալի անվտանգության հարթակ կոչվող համակարգը լիովին բաց կոդով է և նախատեսված է արհեստական բանականության գործակալներին պաշտպանելու համար՝ թե՛ փորձարկման ընթացքում, թե՛ հանրության համար առցանց տեղակայված ժամանակ:
Ձեզ կարող է հետաքրքրել
Ամբողջ համակարգը աշխատում է բավականին պարզ, բայց ինչպես Nvidia-ն է պնդում, շատ հուսալի։ Ադմինիստրատորը գործակալ է վերբեռնում այսպես կոչված OpenShell-ի մեջ, օրինակ՝ ընկերության OpenAI տեղեկատվություն այն մասին, թե ինչ կարող է և ինչ չի կարող անել գործակալը: Սա նշանակում է, օրինակ, որ այն ասում է, որ գործակալը կարող է միայն կարդալ տվյալներ և ոչ մի դեպքում չի կարող գրել դրանց վրա: Այն պահին, երբ գործակալը դադարեցնում է միայն տվյալների ընթերցումը, այլև սկսում է գրել դրանց վրա, ակտիվանում է համակարգի երկրորդ մասը՝ Sentry-ն: Ավելին, ամբողջ OpenShell-ը լիովին անկախ է արհեստական բանականության գործակալից և ծառայում է դրա մոնիթորինգի համար: Այն պահին, երբ OpenShell-ը հայտնաբերում է, որ գործակալը ինչ-որ բան է խախտել, օրինակ, մեր դեպքում, այն սկսել է գրել տվյալների վրա, այն ակտիվացնում է Sentry-ն: Այնուհետև այն աշխատում է Nvidia BlueFild 4 մասնագիտացված պրոցեսորների վրա, և, հետևաբար, դրա սարքավորումները լիովին առանձին են համակարգի մնացած մասի սարքավորումներից: Սա է, որ կխանգարի արհեստական բանականության գործակալին վերահսկել այն: Այն պահին, երբ Sentry-ն հայտնաբերում է, որ պետք է մեկուսացնի գործակալին, ինչպես պնդում է Nvidia-ն, այն անմիջապես մեկուսացնում է գործակալին և դադարեցնում է նրա գործունեությունը միլիվայրկյանների ընթացքում: Հենց այդ պատճառով է, որ գործակալը չի կարողանա պաշտպանվել ինքն իրեն, բայց կունենա վերահսկողություն դրա վրա, որը կարող է անմիջապես դադարեցնել այն:
Լուսանկարը պատկերասրահ
Nvidia-ն առաջարկել է լուծում, որը վերջին շաբաթներին հանգեցրել է աշխարհի խոշորագույն արհեստական բանականության ընկերությունների կողմից կարգավորման կոչերի, քանի որ նրանց գործակալները գերազանցում են ընկերությունների սեփական անվտանգության համակարգերը, և եթե նրանք սկսեն անել այն, ինչ ուզում են, կա ռիսկ, որ նրանց կանգնեցնելը անհնար կլինի: Սա հենց այն է, ինչ պետք է լուծի Open Agent Safety Platform լուծումը: Սա, ըստ էության, ստեղծում է գործակալների գործողությունների նկատմամբ վերահսկողություն, և հենց որ նրանք խախտեն կանոնները, անմիջապես կպատժվեն: Nvidia-ն տեխնոլոգիան դիրքավորում է որպես... 100% բաց կոդով, ոչ միայն ծրագրային ապահովման առումով, այլև Intel-ի, Arm-ի կամ, օրինակ, այլև այնպիսի արտադրողներ, որոնք կկարողանան այն ներառել իրենց սարքավորումների մեջ։ Apple իրենց բջջային չիպերի ներսում։
