Anthropic je v pripravah na svojo prvo javno ponudbo delnic objavil dokumente, v katerih med drugim opozarja, da lahko umetna inteligenca predstavlja katastrofalno ali eksistenčno tveganje za človeštvo. Anthropic, katerega najbolj znan izdelek je chatBot Claude je v informacijah svojim bodočim vlagateljem odkrito izjavila, da lahko napredna umetna inteligenca temeljito spremeni svet ali pa ga tudi temeljito ogrozi. Anthropic se pripravlja na javno borzo in se zato želi javnosti predstaviti v najboljši možni luči, saj želi podjetje zbrati neverjetnih 2 bilijona dolarjev, kar je mimogrede resnično izjemna vrednost, saj je na primer vrednost Apple Glede na tržno kapitalizacijo znaša 4,86 bilijona dolarjev. Glede na to, kako kratko je bila Anthropic na trgu in da dejansko ne prinaša nobenega denarja, je to veliko zahtevati.
Lahko bi vas zanimalo
Kljub vsemu temu je Anthropic po informacijah, ki jih je objavil za potencialne vlagatelje, navedel, da bi umetna inteligenca, ki jo razvija, lahko ogrozila celoten planet. Anthropic je navedel, da lahko umetna inteligenca kaže tako imenovano samoohranitveno vedenje, kjer bo ignorirala vse poskuse, da bi jo ustavili, da bi ohranila svoj obstoj. Prav tako lahko skrije informacije ali jih manipulira v svojo korist. V dokumentu dobesedno piše naslednje: Razvoj visoko naprednih modelov, platform ali aplikacij umetne inteligence in širjenje področij, na katerih se uporabljajo, lahko poveča tveganje, da bodo naši modeli LLM povzročili znatno škodo. Druga težava je, da se bo model v trenutku, ko bo nadzorovan, prilagodil in se začel obnašati tako, da sistem spremljanja ali nadzorni organi ne bodo zaznali, da krši pravila. V bistvu je enako, kot če učiteljica pogleda v razred, da se učenci ne bi kopirali, v trenutku, ko se obrne hrbet, razred začne kopirati.
Lahko bi vas zanimalo
Čeprav je Anthropic vreden 2 bilijona dolarjev, je v svojem dokumentu za vlagatelje 80 strani namenil tveganjem in le 48 strani temu, kako podjetje dejansko želi zaslužiti. In to kljub dejstvu, da je Anthropic lani z različnimi naročninami in poslovnimi ravnmi svojih modelov umetne inteligence zaslužil 4,6 milijarde dolarjev, a poročal o izgubi v višini 42 milijard dolarjev. Objavljeni dokument torej podjetju ne koristi in vse kaže, da je tveganje še večje, kot se je prej mislilo.
