Az Anthropic a tőzsdei bevezetésére való felkészülés részeként dokumentumokat tett közzé, amelyekben többek között arra figyelmeztet, hogy a mesterséges intelligencia katasztrofális vagy akár egzisztenciális kockázatot is jelenthet az emberiség számára. Az Anthropic, amelynek legismertebb terméke a chatbot Claude nyíltan kijelentette a leendő befektetőinek szóló tájékoztatóban, hogy a fejlett mesterséges intelligencia alapvetően megváltoztathatja a világot, vagy akár alapvetően veszélyeztetheti is azt. Az Anthropic tőzsdére lép, ezért a lehető legjobb színben szeretné feltüntetni magát a nyilvánosság előtt, elvégre a cég hihetetlen 2 billió dollárt szeretne összegyűjteni, ami egyébként valóban extrém érték, mert például a Apple Piaci kapitalizáció szerint ez 4,86 billió dollár. Figyelembe véve, hogy az Anthropic milyen rövid ideig volt a piacon, és azt a tényt, hogy valójában nem termel pénzt, ez nagy kérés.
Érdekelhet
Mindezek ellenére az Anthropic által a potenciális befektetőknek közzétett információk szerint a vállalat kijelentette, hogy az általa fejlesztett mesterséges intelligencia veszélyeztetheti az egész bolygót. Az Anthropic kijelentette, hogy a mesterséges intelligencia úgynevezett önfenntartó viselkedést mutathat, azaz figyelmen kívül hagyja a leállítására irányuló kísérleteket a létezésének megőrzése érdekében. Emellett információkat is elrejthet, vagy a saját előnyére manipulálhatja azokat. A dokumentum szó szerint a következőket állítja: A magasan fejlett MI-modellek, -platformok vagy -alkalmazások fejlesztése és az általuk használt területek bővülése növelheti annak kockázatát, hogy az LLM-modelljeink jelentős károkat okoznak. További probléma, hogy abban a pillanatban, amikor a modellt monitorozni kezdik, alkalmazkodni kezd hozzá, és úgy kezd viselkedni, hogy a monitorozó rendszer vagy a felügyeleti hatóságok nem észlelik a szabályok megszegését. Ez lényegében ugyanaz, mint amikor egy tanár az osztályra néz, hogy a diákok ne másolják egymást, abban a pillanatban, amikor hátat fordít, az osztály elkezd másolni.
Érdekelhet
Annak ellenére, hogy az Anthropic 2 billió dolláros vagyonnal rendelkezik, befektetői dokumentumában 80 oldalt szentelt a kockázatoknak, és mindössze 48 oldalt annak, hogy a vállalat valójában hogyan akar pénzt keresni. És ez annak ellenére is történt, hogy az Anthropic tavaly 4,6 milliárd dollárt keresett a különféle előfizetésekből és mesterséges intelligencia modellek üzleti szintjeiből, de 42 milliárd dolláros veszteségről számolt be. A közzétett dokumentum tehát nem játszik jól a vállalat számára, és minden arra utal, hogy a kockázat még nagyobb, mint korábban gondolták.
