Rozpoznat skutečnou fotografii od obrázku vytvořeného umělou inteligencí je stále složitější. Meta proto představila nový webový nástroj, který dokáže zjistit, zda byl obrázek vytvořen nebo upraven pomocí jejích nejnovějších AI technologií. Systém využívá neviditelný digitální vodoznak, který má podle společnosti přežít dokonce oříznutí, kompresi, změnu velikosti nebo vytvoření screenshotu.
Neviditelný vodoznak má odhalit původ obrázku
Nová technologie nese označení Content Seal a Meta ji používá u obsahu vytvořeného prostřednictvím nového generativního modelu Muse Image. Na rozdíl od některých starších verzí nástrojů Meta AI se na výsledném obrázku neobjevuje žádné viditelné logo ani jiná značka upozorňující na jeho umělý původ.
Informace o vytvoření pomocí AI je místo toho ukryta přímo v obrázku prostřednictvím neviditelného digitálního vodoznaku. Uživatel může soubor nahrát do nového webového nástroje společnosti a zjistit, zda systém Content Seal dokáže značku rozpoznat.
Meta tvrdí, že technologie byla navržena tak, aby vodoznak zůstal zachován i po běžných úpravách obrázku. Detekce by proto měla fungovat také v případě, že někdo původní soubor ořízne, zkomprimuje, změní jeho rozlišení nebo z něj vytvoří screenshot.
Nástroj pozná vytvoření i úpravu pomocí Meta AI
Pozitivní výsledek kontroly podle společnosti znamená, že obrázek byl vytvořen nebo upraven prostřednictvím aplikace Meta AI nebo webové služby meta.ai. Negativní výsledek naopak znamená, že soubor pravděpodobně nebyl zpracován pomocí těchto služeb.
První praktické testy ukazují, že systém dokáže rozpoznat kompletně vygenerované obrázky i fotografie pouze upravené pomocí AI. Detekce fungovala dokonce u screenshotů původně vytvořeného obsahu, což může být důležité především v případě dalšího sdílení obrázků na sociálních sítích.
Novinka má ale poměrně zásadní omezení. Detekční nástroj v současnosti nedokáže obecně určit, zda byl libovolný obrázek vytvořen umělou inteligencí. Rozpoznává pouze Content Seal používaný novým modelem Muse Image.
Pokud tedy uživatel nahraje obrázek vytvořený pomocí jiného generátoru nebo dokonce starší verze Meta AI, nástroj jeho původ nemusí odhalit. Při testování nebylo možné identifikovat ani některé obrázky vytvořené ve starších konverzacích s Meta AI. Nejde tedy o univerzální detektor umělé inteligence, ale především o způsob, jak ověřit, zda konkrétní obsah pochází z nejnovějších nástrojů společnosti Meta.
Společnost v současnosti pracuje také na novém generativním modelu Muse Video. Ten bude sloužit k vytváření a úpravám videí pomocí umělé inteligence a podle Mety se objeví v budoucnosti. Content Seal má být postupně rozšířen také na tento typ obsahu. Nový detekční nástroj by tak v budoucnu mohl ověřovat nejen původ obrázků, ale také videí vytvořených nebo upravených pomocí AI systémů společnosti.
Technologie není kompatibilní s konkurenčními standardy
Dalším omezením je skutečnost, že Content Seal není kompatibilní s některými dalšími technologiemi používanými k označování AI obsahu. Mezi ně patří například SynthID nebo standard C2PA Content Credentials.
Meta tak v současnosti používá vlastní řešení, které funguje především v rámci jejího ekosystému. To může komplikovat vznik univerzálního systému, pomocí kterého by bylo možné jednoduše ověřovat původ obsahu bez ohledu na to, která společnost nebo AI model jej vytvořily.
Překvapivé je, že nová funkce zatím není přímo součástí aplikace Meta AI. Pokud se uživatel pokusí asistenta zeptat, zda konkrétní obrázek vytvořila umělá inteligence, aplikace nemusí být schopna poskytnout jednoznačnou odpověď. Detekce je v současnosti dostupná prostřednictvím samostatného webového nástroje. Meta zatím neoznámila, zda a kdy se možnost kontroly obrázků objeví přímo v jejích aplikacích.
Nový nástroj má ještě jednu poměrně nečekanou vlastnost. Meta omezuje počet kontrol, které může uživatel během jednoho dne provést. Po nahrání několika obrázků se tak může objevit upozornění na dosažení denního limitu.
Není jasné, proč společnost počet ověření omezuje ani jak vysoký je přesný limit pro jednotlivé uživatele. Vzhledem k tomu, že jde o nástroj určený k ověřování důvěryhodnosti obsahu, může být právě toto omezení při častějším používání poměrně nepříjemné.
Meta reaguje na kritiku označování AI obsahu
Společnost v minulosti čelila kritice kvůli způsobu, jakým na svých platformách označuje obsah vytvořený umělou inteligencí. Dozorčí rada Mety letos upozornila, že firma podle jejího názoru digitální vodoznaky u vlastního AI obsahu nepoužívala dostatečně konzistentně.
Content Seal a nový detekční nástroj mohou být jednou z reakcí na rostoucí množství realistického obsahu vytvářeného pomocí umělé inteligence. S dalším zlepšováním generativních modelů totiž bude pro běžné uživatele stále obtížnější poznat, zda sledují skutečnou fotografii nebo počítačem vytvořený obraz.
Novinka zatím rozhodně není univerzálním řešením tohoto problému. Ukazuje ale směr, kterým se mohou technologické společnosti v následujících letech vydat. Místo snahy rozpoznat AI obsah pouze podle jeho vzhledu mohou do vytvořených souborů ukládat neviditelné informace o jejich původu, které bude možné později ověřit.
