Anthropic, IPO-ya hazırlıq məqsədilə, digər məsələlərlə yanaşı, süni intellektin bəşəriyyət üçün fəlakətli və ya mövcudluq riski yarada biləcəyi barədə xəbərdarlıq etdiyi sənədlər dərc edib. Ən məşhur məhsulu Anthropic chatBot Klod gələcək investorlarına verdiyi məlumatda açıq şəkildə bildirib ki, inkişaf etmiş süni intellekt dünyanı kökündən dəyişdirə və ya onu kökündən təhdid edə bilər. Anthropic şirkəti ictimaiyyətə açıqlanmağa hazırlaşır və buna görə də özünü ictimaiyyətə mümkün olan ən yaxşı şəkildə təqdim etmək istəyir, axı şirkət inanılmaz 2 trilyon dollar toplamaq istəyir ki, bu da, yeri gəlmişkən, həqiqətən də həddindən artıq dəyərdir, çünki, məsələn, dəyəri Apple Bazar kapitallaşması ilə bu, 4,86 trilyon dollardır. Anthropic-in bazarda nə qədər qısa müddətdə olduğunu və əslində heç bir gəlir gətirmədiyini nəzərə alsaq, bu, çox şey tələb edir.
Sizi maraqlandıra bilər
Bütün bunlara baxmayaraq, Anthropic-in potensial investorlar üçün dərc etdiyi məlumata görə, inkişaf etdirdiyi süni intellekt bütün planeti təhlükə altına ala bilər. Anthropic bildirib ki, süni intellekt özünüqoruma davranışı nümayiş etdirə bilər və mövcudluğunu qorumaq üçün onu bağlamaq cəhdlərini görməzdən gələ bilər. Həmçinin, məlumatı gizlədə və ya öz xeyrinə manipulyasiya edə bilər. Sənəddə sözün əsl mənasında aşağıdakılar bildirilir: Yüksək inkişaf etmiş süni intellekt modellərinin, platformalarının və ya tətbiqlərinin inkişafı və onların istifadə olunduğu sahələrin genişləndirilməsi LLM modellərimizin ciddi ziyana səbəb olma riskini artıra bilər. Digər bir problem isə modelin izlənildiyi anda ona uyğunlaşacaq və monitorinq sisteminin və ya nəzarət orqanlarının onun qaydaları pozduğunu aşkar etməməsi üçün davranmağa başlamasıdır. Bu, mahiyyət etibarilə müəllimin şagirdlərin bir-birini kopyalamasın deyə sinfə baxması ilə eynidir, o, arxasını çevirdiyi anda sinif kopyalamağa başlayır.
Sizi maraqlandıra bilər
2 trilyon dollar dəyərində olmasına baxmayaraq, Anthropic investor sənədində risklərə 80 səhifə, şirkətin əslində necə pul qazanmaq istədiyinə isə cəmi 48 səhifə həsr edib. Və bu, Anthropic-in ötən il müxtəlif abunəliklərdən və süni intellekt modellərinin biznes səviyyələrindən 4,6 milyard dollar qazanmasına, lakin 42 milyard dollar zərər etdiyinə baxmayaraq baş verib. Buna görə də dərc olunmuş sənəd şirkət üçün yaxşı nəticə vermir və hər şey riskin əvvəllər düşünüləndən daha böyük olduğunu göstərir.
