Քանի որ արհեստական բանականությունը դառնում է ավելի ու ավելի կարողունակ, այն հարցը, թե արդյոք մենք կարող ենք վերահսկել, թե ինչպես են ստացվում մեր արդյունքները, դառնում է ավելի ու ավելի կարևոր։ Սա այն թեման է, որը բավականին հետաքրքիր բանավեճ է առաջացրել, որը, անկեղծ ասած, կարող է մի փոքր վախեցնող լինել։ OpenAI փորձարկումներ է անում այնպիսի տեխնոլոգիաներով, որոնք կարող են հիմնարար կերպով փոխել արհեստական բանականության «մտածողության» ձևը, և որոշ անվտանգության մասնագետներ զգուշացնում են, որ դա կարող է զգալիորեն դժվարացնել դրա մտածողության մոնիթորինգը։
Ձեզ կարող է հետաքրքրել
Այսօրվա մոդելները, բարդ խնդիրներ լուծելիս, ստեղծում են միջանկյալ քայլերի շղթա, որի միջոցով նրանք աստիճանաբար հասնում են արդյունքի, ինչը չափազանց օգտակար է հետազոտողների համար։ Նրանք պարտավոր չեն տրամաբանորեն ստուգել միայնoneարհեստական բանականության արձագանքը, բայց նրանք կարող են նաև վերլուծել դրա առաջընթացը և փնտրել վտանգավոր կամ անցանկալի վարքագծի նշաններ: Ի վերջո, արհեստական բանականությունն ինքնին OpenAI ինքնին այս շղթան անվանում է իր անվտանգության համակարգի շերտերից մեկը։
ProԽնդիրը կարող է առաջանալ նոր ճարտարապետությունների հետ
Ըստ The Independent-ի, հետազոտողները այժմ կենտրոնանում են այն մոտեցումների վրա, որոնց դեպքում մոդելը բազմիցս մշակում է տվյալները «ներսում», ինչը նշանակում է, որ «մտածողության» մի մասը կարող է տեղի չունենալ հեշտությամբ ընթեռնելի տեքստի տողի տեսքով, այլ հենց մոդելի ներսում։ Եվ սա է, որ անհանգստացնում է որոշ մասնագետների։ Եթե ապագայի արհեստական բանականությունը կարողանա կատարել ավելի ու ավելի շատ բարդ մտորումներ այնպես, որ անվտանգության համակարգերը հեշտությամբ չհետևեն, այսօր օգտագործվող վերահսկողության մեթոդներից մեկը կարող է աստիճանաբար կորցնել իր արդյունավետությունը։
Ձեզ կարող է հետաքրքրել
Հետաքրքիր է, որ ներկայիս հետազոտությունները OpenAI ցույց է տալիս բավականին դրական ուղերձ։ Ընկերությունը փորձարկել է 13 մոդել և պարզել, թե որքան լավ են նրանք կարողանում գիտակցաբար վերահսկել կամ թաքցնել իրենց շղթան։ Սակայն նույնիսկ լավագույն ներկայիս մոդելները չեն գերազանցել 15,4%-ի հաջողության մակարդակը։ Այլ կերպ ասած, այսօրվա արհեստական բանականությունը համեմատաբար մեծ խնդիր ունի իր մտածողությունը միտումնավոր քողարկելու հարցում, որը OpenAI համարում է այն լավ հատկանիշ անվտանգության տեսանկյունից։ Այնուամենայնիվ, ընկերությունը նաև նշում է, որ բացարձակապես վստահ չէ, թե արդյոք սա կմնա այդպես ապագա և ավելի հզոր մոդելների համար։ Հետևաբար, այն ցանկանում է շարունակել պարբերաբար գնահատել մտքի շղթայի վերահսկելիությունը։ Բայց թե ինչ կբերի ապագան, իհարկե, հարց է, հաշվի առնելով, որ մենք արդեն ականատես ենք եղել մի քանի միջադեպերի, երբ արհեստական բանականությունը դուրս է եկել վերահսկողությունից և հարձակվել է կայքի կամ մրցակից գործակալի վրա։
