Společnost Anthropic v rámci přípravy vstupu na burzu zveřejnila dokumenty, ve kterých mimo jiné upozorňuje na to, že pokrčila AI může představovat katastrofické nebo existenční riziko pro lidstvo. Společnost Anthropic, jejímž nejznámějším produktem je chatbot Claude otevřeně uvedla v informacích svým budoucím investorům, že pokročilá AI může zásadně změnit svět nebo jej také zásadním způsobem ohrozit. Anthropic připravuje vstup na burzu a chce se tedy před veřejností prezentovat v co nejlepším světle, přece jen chce společnost získat neuvěřitelné 2 biliony dolarů, což je mimochodem opravdu extrémní hodnota, protože například hodnota Apple podle tržní kapitalizace je 4,86 bilionu dolarů. Když vezmeme v potaz, jak krátce Anthropic působí na trhu a také to, že vlastně nevydělává, tak je to částka, o kterou se nežádá snadno.
Mohlo by vás zajímat
I přes to všechno dle informací, které Anthropic zveřejnil pro potenciální zájemce o investice, uvedl že AI které vyvíjí může ohrozit celou planetu. Anthropic uvedl, že AI může vykazovat takzvané chování sebezáchovy, kdy bude ignorovat jakékoli způsoby snahy o její vypnutí, aby zachovala svoji existenci. Může také zatajovat informace nebo s nimi manipulovat ve svůj prospěch. V dokumentu doslova stojí následující: Vývoj vysoce pokročilých AI modelů, platforem nebo aplikací a rozšiřování oblastí ve kterých se používají může zvýšit riziko, že naše LLM modely způsobí zásadní škody. Dalším problémem je fakt, že v momentě, kdy je model monitorován, přizpůsobí se tomu a začne se chovat tak, aby monitorovací systém nebo dozorní orgány nezjistili, že porušuje pravidla. Je to v podstatě stejné, jako když se učitelka dívá na třídu tak žáci navzájem neopisují, v momentě, kdy se otočí zády, začne třída opisovat.
Mohlo by vás zajímat
Antrhropic navzdory tomu, že mu jde o 2 biliony amerických dolarů, v dokumentu pro investory věnoval 80 stran rizikům a pouze 48 stran tomu, na čem chce společnost vlastně vydělávat peníze. A to navíc navzdory tomu, že Anthropic v loňském roce získal za různá předplatná a business tiery svých AI modelů 4,6 miliardy dolarů, ovšem vykázal ztrátu 42 miliard dolarů. Zveřejněný dokument tedy společnosti příliš do karet nehraje, a tak vše nasvědčuje tomu, že riziko je ještě mnohem větší, než se předpokládalo.
