Firma Anthropic, przygotowując się do debiutu giełdowego, opublikowała dokumenty, w których ostrzega między innymi, że sztuczna inteligencja może stanowić katastrofalne lub egzystencjalne zagrożenie dla ludzkości. Anthropic, którego najbardziej znanym produktem jest chatBot Claude otwarcie oświadczył w informacji dla swoich przyszłych inwestorów, że zaawansowana sztuczna inteligencja może fundamentalnie zmienić świat, a nawet mu fundamentalnie zagrozić. Anthropic przygotowuje się do wejścia na giełdę i dlatego chce zaprezentować się opinii publicznej w jak najlepszym świetle. W końcu firma chce pozyskać niesamowite 2 biliony dolarów, co jest naprawdę ekstremalną kwotą, nawiasem mówiąc, ponieważ na przykład wartość Apple Według kapitalizacji rynkowej wynosi ona 4,86 biliona dolarów. Biorąc pod uwagę, jak krótko Anthropic jest obecny na rynku i fakt, że tak naprawdę nie zarabia, to dużo.
Może cię zainteresować
Pomimo tego wszystkiego, zgodnie z informacjami, które Anthropic opublikował dla potencjalnych inwestorów, stwierdził, że rozwijana przez niego sztuczna inteligencja może zagrozić całej planecie. Anthropic stwierdził, że sztuczna inteligencja może wykazywać tak zwane zachowania samozachowawcze, ignorując wszelkie próby jej wyłączenia w celu przetrwania. Może również ukrywać informacje lub manipulować nimi dla własnej korzyści. Dokument dosłownie stwierdza: Rozwój wysoce zaawansowanych modeli, platform lub aplikacji sztucznej inteligencji oraz rozszerzenie obszarów, w których są one wykorzystywane, może zwiększyć ryzyko, że nasze modele LLM spowodują znaczne szkody. Innym problemem jest to, że w momencie monitorowania modelu, dostosuje się on do niego i zacznie zachowywać się w sposób, który uniemożliwi systemowi monitorowania lub organom nadzoru wykrycie łamania zasad. Zasadniczo jest to tak samo, jak wtedy, gdy nauczyciel patrzy na klasę, aby uczniowie nie naśladowali się nawzajem, w momencie, gdy się odwróci, klasa zaczyna naśladować.
Może cię zainteresować
Mimo że Anthropic jest wart 2 biliony dolarów, poświęcił 80 stron ryzyku w swoim dokumencie dla inwestorów i tylko 48 stron na to, jak firma faktycznie chce zarabiać. I to pomimo faktu, że Anthropic zarobił w zeszłym roku 4,6 miliarda dolarów z różnych subskrypcji i poziomów biznesowych swoich modeli AI, ale odnotował stratę w wysokości 42 miliardów dolarów. Opublikowany dokument nie wróży zatem firmie dobrze, a wszystko wskazuje na to, że ryzyko jest jeszcze większe, niż wcześniej sądzono.
