Gatavojoties savam sākotnējam publiskajam piedāvājumam (IPO), uzņēmums “Anthropic” ir publicējis dokumentus, kuros cita starpā brīdina, ka mākslīgais intelekts var radīt katastrofālus vai eksistenciālus riskus cilvēcei. “Anthropic”, kura pazīstamākais produkts ir chatBots Klods informācijā saviem nākamajiem investoriem atklāti norādīja, ka progresīvā mākslīgā intelekta tehnoloģija var fundamentāli mainīt pasauli vai arī fundamentāli to apdraudēt. Uzņēmums Anthropic gatavojas iziet publiskajā aktā un tāpēc vēlas sevi parādīt sabiedrībai vislabākajā iespējamajā gaismā, galu galā uzņēmums vēlas piesaistīt neticamus 2 triljonus dolāru, kas, starp citu, ir patiesi ārkārtēja vērtība, jo, piemēram, vērtība Apple Pēc tirgus kapitalizācijas tas ir 4,86 triljoni ASV dolāru. Ņemot vērā, cik īsu laiku Anthropic ir bijis tirgū un to, ka tas faktiski nepelna nekādu peļņu, tas ir daudz prasīts.
Jūs varētu interesēt
Neskatoties uz visu iepriekšminēto, saskaņā ar informāciju, ko Anthropic publicēja potenciālajiem investoriem, tā norādīja, ka tās izstrādātais mākslīgais intelekts varētu apdraudēt visu planētu. Anthropic norādīja, ka mākslīgais intelekts var izrādīt tā saukto pašsaglabāšanās uzvedību, ignorējot jebkādus mēģinājumus to apturēt, lai saglabātu tās eksistenci. Tas var arī slēpt informāciju vai manipulēt ar to savā labā. Dokumentā burtiski teikts: "Augsti attīstītu mākslīgā intelekta modeļu, platformu vai lietojumprogrammu izstrāde un to izmantošanas jomu paplašināšana var palielināt risku, ka mūsu tiesību zinātņu (LLM) modeļi nodarīs ievērojamu kaitējumu." Vēl viena problēma ir tā, ka brīdī, kad modelis tiek uzraudzīts, tas pielāgojas un sāk uzvesties tā, ka uzraudzības sistēma vai uzraudzības iestādes nekonstatē noteikumu pārkāpumus. Tas būtībā ir tas pats, kas tad, kad skolotājs skatās uz klasi, lai skolēni nekopētu viens otru, brīdī, kad viņa pagriež muguru, klase sāk kopēt.
Jūs varētu interesēt
Neskatoties uz to, ka uzņēmuma Anthropic vērtība ir 2 triljoni dolāru, investoru dokumentā tas 80 lappuses veltīja risku aprakstīšanai un tikai 48 lappuses tam, kā uzņēmums patiesībā vēlas nopelnīt. Un tas neskatoties uz to, ka Anthropic pagājušajā gadā no dažādiem abonementiem un mākslīgā intelekta modeļu biznesa līmeņiem nopelnīja 4,6 miljardus dolāru, bet ziņoja par 42 miljardu dolāru zaudējumiem. Tāpēc publicētais dokuments uzņēmumam nenāk par labu, un viss liecina, ka risks ir vēl lielāks, nekā tika uzskatīts iepriekš.
