Americká vláda podnikla bezprecedentní krok, který otřásl světem umělé inteligence. Společnosti Anthropic nařídila omezit přístup k jejím nejvyspělejším modelům Claude Fable 5 a Claude Mythos 5 všem lidem, kteří nejsou občany Spojených států. Výsledkem je situace, kterou ještě před několika měsíci považovala většina expertů za nepředstavitelnou, oba modely byly nakonec vypnuty úplně. Anthropic totiž nedokázal zajistit stoprocentní kontrolu nad tím, kdo by k modelům mohl přistupovat. Aby se vyhnul porušení vládního nařízení, rozhodl se proto oba systémy stáhnout z provozu i pro americké uživatele.
Podle vyjádření Anthropicu se celý spor rozhořel kvůli informacím o možném jailbreaku, tedy metodě, která by mohla obejít některé bezpečnostní mechanismy modelu Fable 5. Americké úřady údajně získaly informace o technice, jež by mohla umožnit provádění operací, které měly být původně blokovány. Anthropic však tvrdí, že prezentované důkazy nebyly nijak mimořádné. Podle společnosti šlo pouze o několik známých slabin, které se objevují prakticky u všech současných jazykových modelů. Firma navíc uvádí, že nedostala žádné informace o tom, že by byly tyto nedostatky skutečně zneužity k nebezpečným aktivitám.
Přestože Anthropic rozhodnutí respektuje, otevřeně dává najevo, že s ním nesouhlasí. Podle vedení společnosti není správné odstavit celý model jen kvůli existenci omezené zranitelnosti, zvlášť když podobné problémy řeší prakticky všechny moderní AI systémy. Firma upozorňuje, že pokud by se podobný přístup stal standardem, mohlo by to výrazně zpomalit inovace v oblasti umělé inteligence a komplikovat vývoj nových generací modelů.
Fable 5 patřil mezi absolutní špičku
Model Claude Fable 5 byl považován za jednu z nejpokročilejších AI současnosti. Výborných výsledků dosahoval zejména při programování, práci s rozsáhlými dokumenty, analýze dat a řešení složitých logických úloh. Řada odborníků jej označovala za jednoho z nejschopnějších konkurentů modelů od OpenAI, Googlu či společnosti xAI. Právě proto vyvolalo jeho náhlé zmizení tak silnou reakci mezi vývojáři i technologickou komunitou. Celá kauza zároveň naznačuje, že nejvýkonnější modely umělé inteligence začínají být vnímány podobně jako strategické technologie nebo pokročilé polovodiče. To znamená, že jejich vývoj a distribuce mohou stále více podléhat státní regulaci. Zatím není jasné, zda se podobná opatření v budoucnu dotknou také dalších společností vyvíjejících umělou inteligenci. Pokud by k tomu došlo, mohl by současný zásah proti Anthropicu představovat první významný precedens pro celý obor. Jisté však je, že svět AI se během jediného dne výrazně změnil. Modely, které ještě nedávno patřily k technologické špičce dostupné veřejnosti, jsou nyní mimo provoz a jejich budoucnost zůstává nejistá.
