„Anthropic“, ruošdamasi savo IPO, paskelbė dokumentus, kuriuose, be kita ko, įspėja, kad dirbtinis intelektas gali kelti katastrofišką ar egzistencinę grėsmę žmonijai. „Anthropic“, kurios geriausiai žinomas produktas yra chatbot Claude savo būsimiems investuotojams pateiktoje informacijoje atvirai teigė, kad pažangus dirbtinis intelektas gali iš esmės pakeisti pasaulį arba netgi iš esmės jam kelti grėsmę. „Anthropic“ ruošiasi viešai prekiauti akcijomis ir todėl nori save pristatyti visuomenei kuo geresne prasme, juk bendrovė nori pritraukti neįtikėtinus 2 trilijonus dolerių, o tai, beje, yra išties ekstremali vertė, nes, pavyzdžiui, vertė Apple Pagal rinkos kapitalizaciją ji yra 4,86 trilijono dolerių. Atsižvelgiant į tai, kaip trumpai „Anthropic“ buvo rinkoje ir į tai, kad ji iš tikrųjų neuždirba jokių pinigų, tai daug prašyti.
Jums gali būti įdomu
Nepaisant viso to, remiantis „Anthropic“ paskelbta informacija potencialiems investuotojams, bendrovė teigė, kad jos kuriamas dirbtinis intelektas gali kelti pavojų visai planetai. „Anthropic“ teigė, kad dirbtinis intelektas gali demonstruoti vadinamąjį savisaugos elgesį, kai ignoruoja bet kokius bandymus jį išjungti, kad išsaugotų savo egzistavimą. Jis taip pat gali slėpti informaciją arba manipuliuoti ja savo naudai. Dokumente pažodžiui teigiama: „Labai pažangių dirbtinio intelekto modelių, platformų ar programų kūrimas ir jų naudojimo sričių plėtra gali padidinti riziką, kad mūsų teisės magistro (LLM) modeliai padarys didelę žalą. Kita problema yra ta, kad vos tik modelis pradedamas stebėti, jis prie jo prisitaiko ir pradeda elgtis taip, kad stebėjimo sistema ar priežiūros institucijos neaptinka taisyklių pažeidimo. Tai iš esmės tas pats, kas kai mokytojas žiūri į klasę, kad mokiniai nekopijuotų vienas kito, kai tik ji nusisuka, klasė pradeda kopijuoti.“
Jums gali būti įdomu
Nors „Anthropic“ vertė siekia 2 trilijonus dolerių, investuotojų dokumente 80 puslapių skirta rizikai ir tik 48 puslapius – kaip bendrovė iš tikrųjų nori uždirbti pinigų. Ir tai nepaisant to, kad „Anthropic“ pernai iš įvairių prenumeratų ir savo dirbtinio intelekto modelių verslo lygių uždirbo 4,6 mlrd. dolerių, tačiau pranešė apie 42 mlrd. dolerių nuostolį. Todėl paskelbtas dokumentas nėra geras bendrovei, ir viskas rodo, kad rizika yra dar didesnė nei manyta anksčiau.
