Anthropic-ը, իր IPO-ին նախապատրաստվելիս, հրապարակել է փաստաթղթեր, որոնցում, ի թիվս այլ բաների, զգուշացնում է, որ արհեստական բանականությունը կարող է աղետալի կամ գոյաբանական վտանգ ներկայացնել մարդկության համար: Anthropic-ը, որի ամենահայտնի արտադրանքն է chatբոտ Կլոդը իր ապագա ներդրողներին ուղղված տեղեկատվության մեջ բացահայտորեն հայտարարել է, որ առաջադեմ արհեստական բանականությունը կարող է հիմնարար կերպով փոխել աշխարհը կամ նաև հիմնարար կերպով սպառնալ դրան: Anthropic-ը պատրաստվում է հրապարակային դառնալ և, հետևաբար, ցանկանում է հանրությանը ներկայանալ լավագույն լույսի ներքո, ի վերջո, ընկերությունը ցանկանում է ներգրավել անհավանական 2 տրիլիոն դոլար, ինչը, ի դեպ, իսկապես ծայրահեղ արժեք է, քանի որ, օրինակ, արժեքը Apple Շուկայական կապիտալիզացիայով այն կազմում է 4,86 տրիլիոն դոլար։ Հաշվի առնելով, թե որքան կարճ է Anthropic-ը շուկայում և այն փաստը, որ այն իրականում ոչ մի շահույթ չի ստանում, դա բավականին մեծ պահանջարկ է։
Ձեզ կարող է հետաքրքրել
Այս ամենից անկախ, Anthropic-ի կողմից պոտենցիալ ներդրողների համար հրապարակված տեղեկատվության համաձայն, նշվում է, որ իր կողմից մշակվող արհեստական բանականությունը կարող է վտանգել ամբողջ մոլորակը: Anthropic-ը նշել է, որ արհեստական բանականությունը կարող է դրսևորել այսպես կոչված ինքնապահպանման վարքագիծ, որի դեպքում այն կանտեսի իր գոյությունը պահպանելու համար այն փակելու ցանկացած փորձ: Այն նաև կարող է թաքցնել տեղեկատվությունը կամ մանիպուլյացիայի ենթարկել այն իր օգտին: Փաստաթղթում բառացիորեն նշվում է հետևյալը. Բարձրակարգ արհեստական բանականության մոդելների, հարթակների կամ կիրառությունների մշակումը և դրանց օգտագործման ոլորտների ընդլայնումը կարող են մեծացնել մեր իրավունքի կառավարման մոդելների զգալի վնաս հասցնելու ռիսկը: Մեկ այլ խնդիր է այն, որ մոդելը վերահսկելու պահին այն կհարմարվի դրան և կսկսի այնպես վարվել, որ վերահսկող համակարգը կամ վերահսկող մարմինները չնկատեն, որ այն խախտում է կանոնները: Դա էապես նույնն է, ինչ երբ ուսուցիչը նայում է դասարանին, որպեսզի ուսանողները չկրկնօրինակեն միմյանց, այն պահին, երբ նա մեջք է շրջում, դասարանը սկսում է պատճենել:
Ձեզ կարող է հետաքրքրել
Չնայած 2 տրիլիոն դոլար արժեքին, Anthropic-ը իր ներդրողական փաստաթղթում 80 էջ է հատկացրել ռիսկերին և միայն 48 էջ՝ այն մասին, թե ինչպես է ընկերությունը իրականում ցանկանում գումար վաստակել։ Եվ սա այն դեպքում, երբ Anthropic-ը անցյալ տարի իր արհեստական ինտելեկտի մոդելների տարբեր բաժանորդագրություններից և բիզնես մակարդակներից վաստակել է 4,6 միլիարդ դոլար, բայց հայտնել է 42 միլիարդ դոլարի վնասի մասին։ Հետևաբար, հրապարակված փաստաթուղթը լավ չի արտացոլում ընկերության շահերը, և ամեն ինչ ցույց է տալիս, որ ռիսկն ավելի մեծ է, քան նախկինում կարծում էին։
