Umělá inteligence se v posledních letech posouvá kupředu neuvěřitelným tempem a zatímco většina z nás s úžasem sleduje především stále schopnější ChatGPT, Claude a další nástroje, někteří lidé přímo z jejich vývoje začínají stále hlasitěji varovat před tím, kam celý závod směřuje. Mimořádnou pozornost nyní vyvolalo například veřejné vystoupení výzkumníka Jacoba Coxona, který během posledních tří let pracoval na předtrénování AI modelů v OpenAI i Anthropic. Ve středu oznámil svůj odchod z Anthropic a zároveň na X obě společnosti obvinil z nezodpovědného závodu k superinteligenci. Asi vás proto nepřekvapí, že se jeho příspěvek stal virálním a prakticky okamžitě se dostal až do amerického Kongresu.
Coxon v něm tvrdí, že ani OpenAI, ani Anthropic se podle něj nechovají zodpovědně a míří přímo k vytvoření sebezdokonalující se superinteligence. Právě takový systém by pak podle něj mohl během několika let získat schopnosti výrazně přesahující člověka, pronikat do počítačových systémů, extrémně rychle posouvat vědecký výzkum a v konečném důsledku získávat skutečné zdroje a moc. Největší pozornost pak vzbudilo jeho tvrzení, že lidé, kteří současnou AI vytvářejí, podle něj skutečně připouštějí možnost, že by tato technologie mohla do konce desetiletí ohrozit celé lidstvo.
Mohlo by vás zajímat
Uvnitř AI společností mají mít obavy také
Coxon dále tvrdí, že někteří vedoucí pracovníci a výzkumníci sice na veřejnosti volí podstatně opatrnější formulace, v soukromí však podobná rizika berou vážně. Situace se má navíc v jednotlivých společnostech lišit. V OpenAI podle jeho zkušenosti řada zaměstnanců plně nevnímá možné civilizační důsledky vyvíjených technologií, zatímco lidé v Anthropic si mají být rizik vědomi výrazně více.
Problém je podle Coxona v tom, že Anthropic přesto pokračuje v závodu, protože jeho zaměstnanci věří, že superinteligenci musí jako první vytvořit právě jejich společnost. Ostatním laboratořím totiž podle něj nevěří, že by s podobnou technologií dokázaly zacházet dostatečně zodpovědně. Coxon tento přístup označuje za nebezpečný hazard a argumentuje tím, že o něčem s potenciálně globálními následky by neměli rozhodovat zaměstnanci soukromých společností mezi sebou.
Jeho slova veřejně podpořil také vývojář Evan Hubinger, který se v Anthropic zabývá bezpečností a sladěním chování AI s lidskými hodnotami. Hubinger podle zdrojového článku osobně odhaduje pravděpodobnost, že AI během příštího desetiletí zabije všechny lidi, na více než 10 %. Současně uvedl, že Anthropic sice na bezpečnosti pracuje, stále ale nemá plán, který by dokázal bezpečnost případné superinteligence skutečně zajistit.
Mohlo by vás zajímat
Kongres chce začít jednat
Coxonův příspěvek mezitím na síti X zaznamenal přes 80,5 milionu zobrazení, více než 120 tisíc repostů a přes půl milionu lajků. Jeho slova následně začali komentovat američtí zákonodárci napříč politickým spektrem. Demokrat Ted Lieu je označil za další argument pro rychlé přijetí připravovaného zákona přezdívaného AI Kill Switch Bill, zatímco republikánská kongresmanka Anna Paulina Lunaová vyzvala dokonce ke svolání zvláštního zasedání Kongresu věnovaného AI.
Ještě dál chce zajít nezávislý senátor Bernie Sanders. Ten Coxonovi veřejně vyjádřil podporu a oznámil, že hodlá představit legislativu, která by zakázala superinteligenci a pozastavila další vývoj AI. Shoda na konkrétním řešení však v Kongresu zatím neexistuje a američtí zákonodárci jsou podle zdrojového článku rozděleni i u podstatně mírnějších návrhů regulace.
Coxon sám navrhuje především koordinaci mezi americkými AI laboratořemi a připouští i možnost dočasného zákazu dalšího zvyšování schopností modelů, pokud by to bylo nutné k zastavení globálního závodu. Výzkumníky pracující přímo na nejpokročilejších systémech pak vyzval, aby si položili otázku, zda skutečně chtějí spouštět trénování superinteligentní AI v situaci, kdy stále dostatečně nerozumíme tomu, jak by takový systém fungoval.
Samozřejmě je důležité zdůraznit, že jde o názory a odhady Coxona, Hubingera a dalších lidí, nikoliv o důkaz, že superinteligentní AI skutečně vznikne nebo že lidstvo čeká katastrofa. Přesto je celé vystoupení pozoruhodné právě tím, odkud varování přichází. Coxon totiž poslední tři roky nepozoroval vývoj AI zvenčí – pracoval přímo na předtrénování modelů dvou společností, které dnes patří mezi absolutní špičku celého odvětví. A jeho veřejné vystoupení nyní ukazuje, že debata o bezpečnosti AI už dávno není pouze akademickou otázkou. Dostala se přímo do americké politiky.
