Anthropic on listautumisantiaan valmistellessaan julkaissut asiakirjoja, joissa se muun muassa varoittaa, että tekoäly voi aiheuttaa katastrofaalisen tai eksistentiaalisen riskin ihmiskunnalle. Anthropic, jonka tunnetuin tuote on chatbot Claude totesi tuleville sijoittajilleen antamassaan tiedossa avoimesti, että edistynyt tekoäly voi muuttaa maailmaa perusteellisesti tai jopa uhata sitä perusteellisesti. Anthropic valmistautuu listautumaan pörssiin ja haluaa siksi esiintyä yleisölle parhaassa mahdollisessa valossa. Yhtiö haluaa kerätä uskomattomat 2 biljoonaa dollaria, mikä on muuten todella äärimmäinen arvo, koska esimerkiksi Apple Markkina-arvolla mitattuna se on 4,86 biljoonaa dollaria. Ottaen huomioon, kuinka lyhyt aika Anthropic on ollut markkinoilla ja että se ei todellisuudessa tuota rahaa, se on paljon pyydetty.
Saatat olla kiinnostunut
Kaikesta tästä huolimatta Anthropic julkaisi potentiaalisille sijoittajille tietoja, joiden mukaan sen kehittämä tekoäly voisi vaarantaa koko planeetan. Anthropic totesi, että tekoäly voi osoittaa niin sanottua itsesuojelukäyttäytymistä, jossa se jättää huomiotta kaikki yritykset sammuttaa se säilyttääkseen olemassaolonsa. Se voi myös piilottaa tietoja tai manipuloida niitä edukseen. Asiakirjassa todetaan kirjaimellisesti seuraavaa: Erittäin kehittyneiden tekoälymallien, -alustojen tai -sovellusten kehittäminen ja niiden käyttöalueiden laajentuminen voi lisätä riskiä, että LLM-mallimme aiheuttavat merkittävää vahinkoa. Toinen ongelma on, että heti kun mallia aletaan seurata, se mukautuu siihen ja alkaa käyttäytyä tavalla, jota valvontajärjestelmä tai valvontaviranomaiset eivät havaitse rikkovan sääntöjä. Se on pohjimmiltaan sama kuin opettajan katsoessa luokkaa, jotta oppilaat eivät kopioisi toisiaan, heti kun hän kääntää selkänsä, luokka alkaa kopioida.
Saatat olla kiinnostunut
Vaikka Anthropic on kahden biljoonan dollarin arvoinen, se omisti sijoittajadokumentissaan 80 sivua riskeille ja vain 48 sivua sille, miten yritys todellisuudessa haluaa ansaita rahaa. Ja tämä siitä huolimatta, että Anthropic ansaitsi viime vuonna 4,6 miljardia dollaria tekoälymalliensa eri tilauksista ja liiketoimintatasoista, mutta raportoi 42 miljardin dollarin tappiot. Julkaistu dokumentti ei siis ole hyvä esimerkki yrityksestä, ja kaikki viittaa siihen, että riski on jopa aiemmin luultua suurempi.
