Anthropic har som forberedelse til sin børsnotering offentliggjort dokumenter, hvori de blandt andet advarer om, at AI kan udgøre en katastrofal eller eksistentiel risiko for menneskeheden. Anthropic, hvis mest kendte produkt er chatBot Claude udtalte åbent i informationen til sine fremtidige investorer, at avanceret AI fundamentalt kan ændre verden eller også fundamentalt true den. Anthropic forbereder sig på at gå på børsen og ønsker derfor at præsentere sig selv for offentligheden i det bedst mulige lys. Virksomheden ønsker trods alt at rejse utrolige 2 billioner dollars, hvilket i øvrigt er en virkelig ekstrem værdi, fordi for eksempel værdien af Apple Målt efter markedsværdi er det 4,86 billioner dollars. I betragtning af hvor kort tid Anthropic har været på markedet, og det faktum, at det faktisk ikke tjener nogen penge, er det meget at forlange.
Du kunne være interesseret i
Trods alt dette, ifølge oplysninger som Anthropic offentliggjorde til potentielle investorer, oplyste de, at den AI, de udvikler, kan bringe hele planeten i fare. Anthropic oplyste, at AI kan udvise såkaldt selvopholdelsesadfærd, hvor den vil ignorere ethvert forsøg på at lukke den ned for at bevare sin eksistens. Den kan også skjule information eller manipulere den til sin fordel. Dokumentet angiver ordret følgende: Udviklingen af højt avancerede AI-modeller, -platforme eller -applikationer og udvidelsen af de områder, hvor de anvendes, kan øge risikoen for, at vores LLM-modeller forårsager betydelig skade. Et andet problem er, at i det øjeblik modellen overvåges, vil den tilpasse sig den og begynde at opføre sig på en måde, så overvågningssystemet eller tilsynsmyndighederne ikke opdager, at den bryder reglerne. Det er stort set det samme, som når en lærer ser på klassen, så eleverne ikke kopierer hinanden, i det øjeblik hun vender ryggen til, begynder klassen at kopiere.
Du kunne være interesseret i
Selvom Anthropic er 2 billioner dollars værd, dedikerede virksomheden 80 sider til risici i sit investordokument og kun 48 sider til, hvordan virksomheden rent faktisk ønsker at tjene penge. Og dette på trods af, at Anthropic tjente 4,6 milliarder dollars sidste år fra forskellige abonnementer og forretningsniveauer af sine AI-modeller, men rapporterede et tab på 42 milliarder dollars. Det offentliggjorte dokument taler derfor ikke godt for virksomheden, og alt tyder på, at risikoen er endnu større end tidligere antaget.
