Rozpoznat skutečnou fotografii od obrázku vytvořeného umělou inteligencí je v posledních měsících stále složitější. AI generátory se totiž zdokonalují takovým tempem, že i zkušenější uživatelé mají mnohdy problém poznat, zda se dívají na reálný snímek, nebo na výtvor některého z generativních modelů. Google se proto rozhodl zpřístupnit široké veřejnosti nástroj, který může s odhalováním podobného obsahu výrazně pomoci. Jmenuje se SynthID Detector a jeho největší výhodou je, že dokáže rozpoznávat nejen obsah vytvořený umělou inteligencí Googlu, ale také některými konkurenčními nástroji. A co je pro fanoušky Applu obzvlášť zajímavé, brzy by se mezi podporované společnosti měl zařadit také kalifornský gigant.
Mohlo by vás zajímat
Stačí nahrát obrázek, video nebo zvuk
Princip fungování SynthID Detectoru je poměrně jednoduchý. Uživatel navštíví webovou stránku SynthID.com, přihlásí se a nahraje obrázek, video nebo zvukový soubor, u kterého chce zjistit, zda vznikl pomocí umělé inteligence. Nástroj následně zkontroluje přítomnost speciálního digitálního vodoznaku, který se do obsahu vkládá již při jeho vytváření. Na rozdíl od klasických vodoznaků přitom není viditelný lidským okem, takže nijak nenarušuje výslednou fotografii či video. Pro ověřovací systém je však rozpoznatelný.
Google technologii SynthID představil již v roce 2023, přičemž samotný detektor začal loni zpřístupňovat vybraným novinářům a dalším profesionálům. Nyní jej ale otevírá všem uživatelům po celém světě, byť zatím pouze v angličtině. Kromě obsahu vytvořeného nástroji Googlu dokáže rozpoznat také příslušné vodoznaky v médiích pocházejících od OpenAI, Nvidie nebo společnosti Kakao. V dohledné době se navíc počítá také s podporou obsahu vytvářeného pomocí AI nástrojů Applu.
Dokonalý detektor AI to ale není
Přestože novinka působí na první pohled velmi zajímavě, má také poměrně zásadní omezení. SynthID Detector totiž nedokáže automaticky rozpoznat jakýkoliv obrázek vytvořený umělou inteligencí. Funguje pouze v případě, že daný soubor obsahuje kompatibilní digitální vodoznak. Pokud tedy někdo vytvoří falešnou fotografii pomocí nástroje, který technologii SynthID nepodporuje, detektor ji nemusí odhalit. Negativní výsledek proto rozhodně neznamená, že jde o autentický snímek.
Dalším omezením je skutečnost, že nástroj nedokáže rozlišit, zda byl obsah kompletně vytvořen umělou inteligencí, nebo pomocí ní pouze upraven. Pokud tedy například někdo pořídí skutečnou fotografii a následně na ní prostřednictvím podporovaného AI nástroje změní určité detaily, může detektor rovněž upozornit na použití umělé inteligence. Výsledek je proto potřeba správně interpretovat. Google navíc vyžaduje přihlášení a podle informací serveru Ars Technica počítá s přibližně deseti kontrolami denně na jednoho uživatele.
Zajímavá jsou každopádně čísla, která Google při oznámení zveřejnil. Od spuštění technologie SynthID totiž podle svých slov opatřil neviditelnými vodoznaky již více než 180 miliard obrázků a videí a také zvukové záznamy o souhrnné délce 240 tisíc let. Ověřování obsahu navíc již nyní funguje také prostřednictvím Vyhledávání Google, Gemini nebo Chromu, kde se denně uskuteční více než milion kontrol.
Mohlo by vás zajímat
Z mého pohledu jde každopádně o krok správným směrem. Internet je totiž AI obsahem doslova zaplavován a možnost jednoduše si ověřit původ podezřelé fotografie či videa se může hodit prakticky komukoliv. Je však důležité mít na paměti, že SynthID Detector není žádným univerzálním detektorem pravdy, ale pouze nástrojem pro rozpoznávání konkrétního typu digitálního označení. I tak ale může být velmi užitečným pomocníkem, zejména pokud se k jeho podpoře postupně přidají další velcí technologičtí hráči.
