Anthropic har, som förberedelse inför sin börsintroduktion, publicerat dokument där de bland annat varnar för att AI kan utgöra en katastrofal eller existentiell risk för mänskligheten. Anthropic, vars mest kända produkt är chatBot Claude uppgav öppet i informationen till sina framtida investerare att avancerad AI fundamentalt kan förändra världen eller också fundamentalt hota den. Anthropic förbereder sig för att börsnoteras och vill därför presentera sig för allmänheten i bästa möjliga ljus, trots allt vill företaget samla in otroliga 2 biljoner dollar, vilket förresten är ett verkligt extremt värde, eftersom till exempel värdet av Apple mätt i börsvärde är det 4,86 biljoner dollar. Med tanke på hur kort tid Anthropic har funnits på marknaden och det faktum att det faktiskt inte genererar några pengar, är det mycket begärt.
Du kan vara intresserad av
Trots allt detta, enligt information som Anthropic publicerat för potentiella investerare, uppgav de att den AI som de utvecklar skulle kunna äventyra hela planeten. Anthropic uppgav att AI kan uppvisa så kallat självbevarelsedriftsbeteende, där de ignorerar alla försök att stänga ner dem för att bevara sin existens. De kan också dölja information eller manipulera dem till sin fördel. Dokumentet anger bokstavligen följande: Utvecklingen av mycket avancerade AI-modeller, plattformar eller applikationer och expansionen av de områden där de används kan öka risken för att våra LLM-modeller orsakar betydande skada. Ett annat problem är att i det ögonblick modellen övervakas kommer den att anpassa sig till den och börja bete sig på ett sätt som gör att övervakningssystemet eller tillsynsmyndigheterna inte upptäcker att de bryter mot reglerna. Det är i huvudsak samma sak som när en lärare tittar på klassen så att eleverna inte kopierar varandra, i det ögonblick hon vänder ryggen till börjar klassen kopiera.
Du kan vara intresserad av
Trots att företaget är värt 2 biljoner dollar ägnade Anthropic 80 sidor åt risker i sitt investerardokument och bara 48 sidor åt hur företaget faktiskt vill tjäna pengar. Och detta trots att Anthropic tjänade 4,6 miljarder dollar förra året från olika prenumerationer och affärsnivåer i sina AI-modeller, men rapporterade en förlust på 42 miljarder dollar. Det publicerade dokumentet spelar därför inte väl för företaget, och allt tyder på att risken är ännu större än man tidigare trott.
