V sobotu obletěla svět výzva šéfa společnosti Anthropic Daria Amodeie ke zpomalení vývoje nejpokročilejších verzí umělé inteligence. Tyto verze se liší od základních tím, že mohou sami sebe dále vyvíjet a zdokonalovat. Pokud vám název Anthropic nic neříká, pak většině lidem bude říkat název jejich hlavního produktu, a to je Claude. Během několika hodin se ozvali další největší hráči na poli AI a to včele se šéfem OpenAI, kterým je Sam Altman a svoje řekl také Elon Musk stojící v čele xAI.
Pojďme však pěkně popořadě. V sobotu vyzval Dario Amodei celý AI obor ke zpomalení tempa vývoje s ohledem na bezpečnost lidstva. Amodei apeloval především na to, aby byl dostatek času zavést bezpečnostní opatření předtím, než jej překonají modely AI. Tedy aby se nestalo to, že bude AI rychlejší a vyspělejší než bezpečností opatření a pravidla. Sam Altman i Elon Musk se k výzvě okamžitě připojili. Zvláště od Muska se jednalo o očekávaný krok, vzhledem k tomu, že dlouhodobě před nebezpečností AI varuje. Později se připojil také Demis Hassabis, který je šéfem Google DeepMind a uvedl, že to, co Amodei navrhuje je rozumné a správné. Zdůraznil pak také to, že je nutné doladit konkrétní opatření.
Mohlo by vás zajímat
Problém spočívá především v tom, že AI začala pomáhat s vývojem další AI, což extrémním způsobem zrychluje celý vývoj. Navíc když AI vytváří další dokonalejší AI, je velmi těžké tento proces uhlídat. Problémy jsou pak v podstatě ve dvou rovinách. Nové AI modely vyvinuté AI modely předchozích generací nemusí obsahovat bezpečnostní opatření, které například zabraňují tomu, aby bylo možné pomocí AI vyvíjet zbraně, nebezpečné látky a mnoho dalšího. Druhá rovina pak spočívá v tom, že je možné, že AI agenti brzy ovládnou celý internet, a to již během 6-12 měsíců. Krajní scénář mluví o tom, že by to, co se před pár týdny stalo OpenAI, kdy jejich boti napadli platformu Hugging Face, mohlo stát celému internetu a udělat škody za stovky miliard dolarů prakticky během jedné noci.
Mohlo by vás zajímat
Šéf Anthropic Daria Amodeie proto navrhl opatření, které mají těmto situacím předcházet. Antthropic chce umožnit nezávislým hodnotitelům dlouhodobý přístup k interním systémům společnosti a jejich nejnovějším modelům, které jsou ve vývoji. Ti budou sledovat, zda dodržují bezpečnostní pravidla, vyhodnocovat incidenty a kontrolovat bezpečnost nových modelů. Dalším krokem je větší spolupráce mezi AI společnostmi. Ty by měli nastavit souhrnné bezpečnostní standardy a hledat způsoby, jak zabránit tomu, aby se společnosit přeháněli ve vývoji na úkor bezpečnosti. Třetím krokem je pak mezinárodní dohoda o bezpečnostních standardech se všemi státy světa, včetně autoritářských režimů jako je Čína.
Minimálně Musk chce naoko zpomalit doufaje, že konkurence to udělá, aby je dohnal. Altmanovi věřím asi tak o 0,01% víc.