Oma börsileminekuks valmistudes avaldas Anthropic dokumente, milles hoiatab muuhulgas, et tehisintellekt võib inimkonnale katastroofilist või eksistentsiaalset ohtu kujutada. Anthropic, kelle tuntuim toode on chatbot Claude teatas oma tulevastele investoritele saadetud infos avalikult, et arenenud tehisintellekt võib maailma põhjalikult muuta või seda ka põhjalikult ohustada. Anthropic valmistub börsile minema ja seetõttu soovib end avalikkusele parimas võimalikus valguses esitleda, lõppude lõpuks soovib ettevõte kaasata uskumatuid 2 triljonit dollarit, mis on muide tõeliselt äärmuslik väärtus, sest näiteks ... Apple Turukapitalisatsiooni järgi on see 4,86 triljonit dollarit. Arvestades, kui lühikest aega Anthropic turul on olnud ja et see tegelikult raha ei teeni, on see palju küsida.
Teid võiks huvitada
Vaatamata kõigele sellele väitis Anthropic potentsiaalsetele investoritele avaldatud teabe kohaselt, et arendatav tehisintellekt võib ohustada kogu planeeti. Anthropic väitis, et tehisintellektil võib olla niinimetatud enesesäilituskäitumine, kus see ignoreerib kõiki katseid seda sulgeda, et säilitada oma olemasolu. Samuti võib see varjata teavet või manipuleerida sellega enda kasuks. Dokumendis on sõna-sõnalt öeldud järgmist: "Kõrgelt arenenud tehisintellekti mudelite, platvormide või rakenduste väljatöötamine ja nende kasutusalade laienemine võib suurendada riski, et meie õigusteaduse mudelid põhjustavad olulist kahju." Teine probleem on see, et hetkel, kui mudelit jälgitakse, kohandub see sellega ja hakkab käituma nii, et jälgimissüsteem või järelevalveasutused ei tuvasta reeglite rikkumist. See on sisuliselt sama, mis siis, kui õpetaja vaatab klassi, et õpilased üksteist ei kopeeriks, hetkel, kui ta selja pöörab, hakkab klass kopeerima.
Teid võiks huvitada
Vaatamata 2 triljoni dollari suurusele väärtusele pühendas Anthropic oma investoritele mõeldud dokumendis riskidele 80 lehekülge ja ainult 48 lehekülge sellele, kuidas ettevõte tegelikult raha teenida soovib. Ja seda hoolimata asjaolust, et Anthropic teenis eelmisel aastal oma tehisintellekti mudelite erinevate tellimuste ja äritasemete kaudu 4,6 miljardit dollarit, kuid teatas 42 miljardi dollari suurusest kahjumist. Seega ei ole avaldatud dokument ettevõtte jaoks hea ja kõik viitab sellele, et risk on isegi suurem kui varem arvati.
