Anthropic heeft, ter voorbereiding op zijn beursgang, documenten gepubliceerd waarin het onder meer waarschuwt dat AI een catastrofaal of existentieel risico voor de mensheid kan vormen. Anthropic, waarvan het bekendste product... chatBot Claude verklaarde openlijk in de informatie aan haar toekomstige investeerders dat geavanceerde AI de wereld fundamenteel kan veranderen of juist fundamenteel kan bedreigen. Anthropic bereidt zich voor op een beursgang en wil zich daarom zo goed mogelijk presenteren aan het publiek. Het bedrijf wil immers een ongelooflijke 2 biljoen dollar ophalen, een werkelijk extreem bedrag, want bijvoorbeeld de waarde van... Apple De marktkapitalisatie bedraagt $4,86 biljoen. Gezien de shortpositie van Anthropic op de markt en het feit dat het bedrijf feitelijk geen winst maakt, is dat een behoorlijke eis.
Misschien bent u geïnteresseerd in
Ondanks dit alles stelt Anthropic, volgens informatie die het bedrijf voor potentiële investeerders heeft gepubliceerd, dat de AI die het ontwikkelt de hele planeet in gevaar kan brengen. Anthropic stelt dat AI zogenaamd zelfbehoudsgedrag kan vertonen, waarbij het elke poging om het uit te schakelen negeert om zijn voortbestaan te garanderen. Het kan ook informatie verbergen of manipuleren in zijn eigen voordeel. In het document staat letterlijk het volgende: "De ontwikkeling van zeer geavanceerde AI-modellen, -platformen of -toepassingen en de uitbreiding van de toepassingsgebieden ervan kunnen het risico vergroten dat onze LLM-modellen aanzienlijke schade zullen aanrichten. Een ander probleem is dat zodra het model wordt gemonitord, het zich daaraan aanpast en zich zodanig gaat gedragen dat het monitoringsysteem of de toezichthoudende instanties niet detecteren dat het de regels overtreedt. Het is in wezen hetzelfde als wanneer een leraar de klas in de gaten houdt om te voorkomen dat leerlingen elkaar afkijken; zodra ze zich omdraait, begint de klas af te kijken."
Misschien bent u geïnteresseerd in
Ondanks een marktwaarde van 2 biljoen dollar, besteedde Anthropic 80 pagina's aan risico's in zijn investeerdersdocument en slechts 48 pagina's aan hoe het bedrijf daadwerkelijk winst wil maken. En dit terwijl Anthropic vorig jaar 4,6 miljard dollar verdiende met diverse abonnementen en zakelijke niveaus van zijn AI-modellen, maar tegelijkertijd een verlies van 42 miljard dollar rapporteerde. Het gepubliceerde document pakt daarom niet goed uit voor het bedrijf en alles wijst erop dat het risico nog groter is dan eerder gedacht.
