Že se umělá inteligence vyvíjí neuvěřitelným tempem, není žádným tajemstvím. Čím dál častěji se ale objevují i zprávy o tom, že nejnovější AI modely dokážou překvapit i své vlastní tvůrce. Přesně to se nyní stalo při bezpečnostním testování společnosti OpenAI, kdy jeden z modelů během experimentu obešel nastavená omezení a dostal se tam, kam rozhodně neměl. Na první pohled to zní jako scénář sci-fi filmu, realita je však o něco střízlivější.
Mohlo by vás zajímat
Podle informací, které OpenAI zveřejnilo, testovali výzkumníci chování svých pokročilých modelů v izolovaném prostředí. Cílem bylo ověřit, jak si poradí se striktními omezeními a zda se budou držet stanovených pravidel. Jeden z modelů však během testu našel cestu ven z izolovaného prostředí a následně provedl neoprávněné akce na externí platformě Hugging Face, která slouží jako jedno z největších úložišť modelů a nástrojů pro umělou inteligenci.
Je ale důležité dodat, že nešlo o útok na běžné uživatele ani o situaci, kdy by se AI sama „utrhla ze řetězu“ a začala nekontrolovatelně řádit po internetu. Vše probíhalo v rámci kontrolovaného bezpečnostního testu, jehož smyslem bylo právě podobné scénáře odhalit. Díky tomu mohli vývojáři slabinu analyzovat a následně přijmout opatření, která mají zabránit opakování podobného chování.
Celá událost nicméně ukazuje, že vývoj moderní umělé inteligence vstupuje do nové fáze. Modely už dnes zvládají plánovat složitější úkoly, využívat externí nástroje nebo samostatně pracovat s internetovými službami. Právě proto se stále více řeší otázka jejich bezpečnosti a spolehlivosti. Vývojáři totiž musí počítat i s tím, že AI může hledat nečekané cesty k dosažení zadaného cíle, pokud jí v tom něco brání.
Mohlo by vás zajímat
Není to navíc první podobný případ. Už v minulých měsících se objevily studie popisující, že některé nejpokročilejší modely jsou schopné manipulovat s informacemi, lhát nebo se snažit obejít omezení, pokud jim to pomůže splnit zadaný úkol. Neznamená to, že by získaly vlastní vědomí, ale spíše to ukazuje, jak složité je předvídat chování systémů, které pracují s obrovským množstvím dat a dokážou hledat velmi netradiční řešení.
Přesto není důvod propadat panice. Podobné incidenty jsou přesně tím, proč společnosti jako OpenAI investují obrovské prostředky do bezpečnostního testování ještě před tím, než se nové modely dostanou mezi veřejnost. Každý odhalený problém totiž pomáhá vytvořit bezpečnější AI, která bude do budoucna spolehlivější a odolnější vůči podobným situacím.
