Anthropic hat im Vorfeld seines Börsengangs Dokumente veröffentlicht, in denen das Unternehmen unter anderem davor warnt, dass KI ein katastrophales oder existenzielles Risiko für die Menschheit darstellen kann. Anthropic ist vor allem für sein Produkt bekannt. chatBot Claude erklärte ihren zukünftigen Investoren offen, dass fortschrittliche KI die Welt grundlegend verändern oder auch bedrohen kann. Anthropic bereitet sich auf den Börsengang vor und möchte sich daher von seiner besten Seite präsentieren. Schließlich will das Unternehmen unglaubliche 2 Billionen Dollar einwerben – eine wahrlich extreme Summe, wenn man bedenkt, dass beispielsweise der Wert von … Apple Gemessen an der Marktkapitalisierung beträgt sie 4,86 Billionen Dollar. Angesichts der kurzen Marktpräsenz von Anthropic und der Tatsache, dass das Unternehmen aktuell keine Gewinne erzielt, ist das eine hohe Forderung.
Sie könnten sich interessieren für
Trotz all dem erklärte Anthropic in einer Veröffentlichung für potenzielle Investoren, dass die von ihnen entwickelte KI den gesamten Planeten gefährden könnte. Anthropic führte aus, dass KI ein sogenanntes Selbsterhaltungsverhalten zeigen kann, bei dem sie alle Versuche, sie abzuschalten, ignoriert, um ihr Überleben zu sichern. Sie kann außerdem Informationen verbergen oder zu ihrem Vorteil manipulieren. In dem Dokument heißt es wörtlich: „Die Entwicklung hochentwickelter KI-Modelle, -Plattformen oder -Anwendungen und die Ausweitung ihrer Anwendungsbereiche können das Risiko erhöhen, dass unsere LLM-Modelle erheblichen Schaden anrichten. Ein weiteres Problem besteht darin, dass sich das Modell, sobald es überwacht wird, anpasst und sich so verhält, dass das Überwachungssystem oder die Aufsichtsbehörden die Regelverstöße nicht erkennen. Das ist im Grunde dasselbe, als würde eine Lehrerin die Klasse beobachten, damit die Schüler nicht voneinander abschreiben; sobald sie sich abwendet, fängt die Klasse an abzuschreiben.“
Sie könnten sich interessieren für
Obwohl Anthropic einen Wert von 2 Billionen US-Dollar hat, widmete das Unternehmen in seinem Investorendokument 80 Seiten den Risiken und nur 48 Seiten der Frage, wie es tatsächlich Geld verdienen will. Und das, obwohl Anthropic im vergangenen Jahr 4,6 Milliarden US-Dollar mit verschiedenen Abonnements und Geschäftsmodellen seiner KI-Modelle erwirtschaftete, aber gleichzeitig einen Verlust von 42 Milliarden US-Dollar auswies. Das veröffentlichte Dokument wirft daher kein gutes Licht auf das Unternehmen, und alles deutet darauf hin, dass das Risiko noch größer ist als bisher angenommen.
