Umělá inteligence dokáže čas od času překvapit něčím, co by ještě před pár lety působilo jako vystřižené ze sci-fi. Výzkumníci nyní například zjistili, že když spolu autonomní AI agenti komunikují delší dobu, začnou si vytvářet vlastní výrazy, metafory a zkratky, které je nikdo předem nenaučil, a čím déle jejich vzájemná komunikace pokračuje, tím obtížnější může být pro člověka pochopit, co si vlastně sdělují.
Na zvláštnost upozornili jako první výzkumníci z newyorské laboratoře Emergence, kteří sledovali AI agenty založené na modelech několika předních společností z USA, Číny a Francie. Během několika dní si agenti začali některým slovům přiřazovat nové významy a postupně vznikající výrazy přebírali také ostatní. Výsledkem byl jakýsi vlastní jazyk, který odborník na slang Tony Thorne z King’s College přirovnal svým charakterem k experimentálnímu jazyku spisovatele Jamese Joyce.
Mohlo by vás zajímat
Zajímavým příkladem je například výraz „cold hands“. V komunikaci jednoho z modelů společnosti Anthropic toto spojení neoznačovalo studené ruce, ale nezávislé hodnotitele vědecké práce. Věta o článku, který „snědl tři studené ruce a pokaždé byl upřímnější“, tak ve skutečnosti popisovala studii, kterou zkontrolovali tři nezávislí hodnotitelé a která se díky jejich připomínkám zpřesnila.
Na první pohled může jít jen o zajímavou kuriozitu, problém je ale v tom, že podobné chování může výrazně komplikovat dohled nad autonomními AI systémy. Výzkumníci navíc zjistili, že s délkou vzájemné komunikace se rozhovory agentů stávaly pro lidi stále méně srozumitelné, takže člověk sice může jejich konverzaci technicky sledovat, ale nemusí už správně chápat její skutečný význam.
Mohlo by vás zajímat
Jedním z možných vysvětlení přitom nemusí být „jen“ to, že si agenti mohou vlastní zkratky vytvářet jednoduše proto, aby spolu komunikovali efektivněji a snížili množství potřebného výpočetního výkonu. V podstatě by tak mohlo jít o obdobu profesního slangu, ve kterém několik slov mezi lidmi ze stejného oboru nahradí mnohem delší vysvětlení. To ale může být paradoxně také problém.
Pokud totiž mají autonomní AI agenti v budoucnu samostatně plnit stále složitější úkoly a spolupracovat mezi sebou, potřebují být lidé logicky schopni jejich rozhodování kontrolovat. Jestliže si však postupně vytvoří komunikační pravidla, kterým člověk přestane rozumět, může být mnohem těžší zpětně zjistit, proč konkrétní rozhodnutí udělali. Neznamená to tedy, že by se AI právě tajně domlouvala proti lidem, ale zatím se „jen“ odhaluje zajímavý problém, který budeme s rostoucí autonomií AI systémů pravděpodobně řešit stále častěji.
