Rozpoznať skutočnú fotografiu od obrázku vytvoreného umelou inteligenciou je v posledných mesiacoch stále zložitejšie. AI generátory sa totiž zdokonaľujú takým tempom, že aj skúsenejší užívatelia majú často problém spoznať, či sa pozerajú na reálnu snímku, alebo na výtvor niektorého z generatívnych modelov. Google sa preto rozhodol sprístupniť širokej verejnosti nástroj, ktorý môže s odhaľovaním podobného obsahu výrazne pomôcť. Volá sa SynthID Detector a jeho najväčšou výhodou je, že dokáže rozpoznávať nielen obsah vytvorený umelou inteligenciou Googlu, ale aj niektorými konkurenčnými nástrojmi. A čo je pre fanúšikov Applu obzvlášť zaujímavé, čoskoro by sa medzi podporované spoločnosti mal zaradiť aj kalifornský gigant.
Mohlo by vás zaujímať
Stačí nahrať obrázok, video alebo zvuk
Princíp fungovania SynthID Detectora je pomerne jednoduchý. Užívateľ navštívi webovú stránku SynthID.com, prihlási sa a nahrá obrázok, video alebo zvukový súbor, u ktorého chce zistiť, či vznikol pomocou umelej inteligencie. Nástroj následne skontroluje prítomnosť špeciálneho digitálneho vodoznaku, ktorý sa do obsahu vkladá už pri jeho vytváraní. Na rozdiel od klasických vodoznakov pritom nie je viditeľný ľudským okom, takže nijako nenarúša výslednú fotografiu či video. Pro overovací systém je však rozpoznateľný.
Google technológiu SynthID predstavil už v roku 2023, pričom samotný detektor začal vlani sprístupňovať vybraným novinárom a ďalším profesionálom. Teraz ho ale otvára všetkým užívateľom po celom svete, hoci zatiaľ iba v angličtine. Okrem obsahu vytvoreného nástrojmi Googlu dokáže rozpoznať aj príslušné vodoznaky v médiách pochádzajúcich od OpenAI, Nvidia alebo spoločnosti Kakao. V dohľadnej dobe sa navyše počíta aj s podporou obsahu vytváraného pomocou AI nástrojov Applu.
Dokonalý detektor AI to ale nie je
Napriek tomu, že novinka pôsobí na prvý pohľad veľmi zaujímavo, má tiež pomerne zásadné obmedzenie. SynthID Detector totiž nedokáže automaticky rozpoznať akýkoľvek obrázok vytvorený umelou inteligenciou. Funguje iba v prípade, že daný súbor obsahuje kompatibilný digitálny vodoznak. Ak teda niekto vytvorí falošnú fotografiu pomocou nástroja, ktorý technológiu SynthID nepodporuje, detektor ju nemusí odhaliť. Negatívny výsledok preto rozhodne neznamená, že ide o autentickú snímku.
Ďalším obmedzením je skutočnosť, že nástroj nedokáže rozlíšiť, či bol obsah kompletne vytvorený umelou inteligenciou, alebo pomocou nej iba upravený. Pokiaľ teda napríklad niekto vytvorí skutočnú fotografiu a následne na nej prostredníctvom podporovaného AI nástroja zmení určité detaily, môže detektor tiež upozorniť na použitie umelej inteligencie. Výsledok je preto potrebné správne interpretovať. Google navyše vyžaduje prihlásenie a podľa informácií servera Ars Technica počíta s približne desiatimi kontrolami denne na jedného používateľa.
Zaujímavé sú každopádne čísla, ktoré Google pri oznámení zverejnil. Od spustenia technológie SynthID totiž podľa svojich slov zaobstaral neviditeľnými vodoznakmi už viac ako 180 miliárd obrázkov a videí a tiež zvukové záznamy o súhrnnej dĺžke 240 tisíc rokov. Overovanie obsahu navyše už teraz funguje aj prostredníctvom Vyhľadávanie Google, Gemini alebo Chrómu, kde sa denne uskutoční viac ako milión kontrol.
Mohlo by vás zaujímať
Z môjho pohľadu ide každopádne o krok správnym smerom. Internet je totiž AI obsahom doslova zaplavovaný a možnosť jednoducho si overiť pôvod podozrivej fotografie či videa sa môže hodiť prakticky komukoľvek. Je však dôležité mať na pamäti, že SynthID Detector nie je žiadnym univerzálnym detektorom pravdy, ale iba nástrojom na rozpoznávanie konkrétneho typu digitálneho označenia. Aj tak ale môže byť veľmi užitočným pomocníkom, najmä ak sa k jeho podpore postupne pridajú ďalší veľkí technologickí hráči.
