Prepoznavanje prave fotografije od slike, ki jo je ustvarila umetna inteligenca, je v zadnjih mesecih postalo vse težje. Generatorji umetne inteligence se izboljšujejo s tako hitrostjo, da imajo tudi bolj izkušeni uporabniki pogosto težave z ugotavljanjem, ali gledajo pravo sliko ali stvaritev enega od generativnih modelov. Google se je zato odločil, da bo širši javnosti dal na voljo orodje, ki lahko znatno pomaga pri odkrivanju podobnih vsebin. Imenuje se SynthID Detector, njegova največja prednost pa je, da lahko prepozna ne le vsebino, ki jo je ustvarila Googlova umetna inteligenca, temveč tudi nekatera konkurenčna orodja. In kaj je s tem za oboževalce? AppŠe posebej zanimivo je, da naj bi se kalifornijski velikan kmalu znašel med podprtimi podjetji.
Lahko bi vas zanimalo
Samo naložite sliko, video ali zvok
Načelo delovanja detektorja SynthID je precej preprosto. Uporabnik obišče spletno mesto SynthID.com, se prijavi in naloži sliko, video ali zvočno datoteko, za katero želi preveriti, ali je bila ustvarjena z umetno inteligenco. Orodje nato preveri prisotnost posebnega digitalnega vodnega žiga, ki je vdelan v vsebino, ko je ta ustvarjena. Za razliko od klasičnih vodnih žigov ni viden človeškemu očesu, zato nikakor ne popači nastale fotografije ali videoposnetka. Pro vendar je sistem preverjanja prepoznaven.
Google je tehnologijo SynthID predstavil leta 2023, detektor pa je bil lani na voljo izbranim novinarjem in drugim strokovnjakom. Zdaj pa ga odpira vsem uporabnikom po vsem svetu, čeprav zaenkrat le v angleščini. Poleg vsebine, ustvarjene z Googlovimi orodji, lahko prepozna tudi ustrezne vodne žige v medijih, ki izvirajo iz OpenAI, Nvidia ali Kakao. V bližnji prihodnosti se pričakuje tudi podpora za vsebine, ustvarjene z orodji umetne inteligence. Applu.
Vendar to ni popoln detektor umetne inteligence
Čeprav je nova funkcija na prvi pogled videti zelo zanimiva, ima tudi precejšnjo omejitev. Detektor SynthID ne more samodejno prepoznati nobene slike, ki jo je ustvarila umetna inteligenca. Deluje le, če datoteka vsebuje združljiv digitalni vodni žig. Če torej nekdo ustvari ponarejeno fotografijo z orodjem, ki ne podpira tehnologije SynthID, je detektor morda ne bo zaznal. Zato negativni rezultat zagotovo ne pomeni, da gre za pristno sliko.
Druga omejitev je, da orodje ne more razločiti, ali je bila vsebina v celoti ustvarjena z umetno inteligenco ali le urejena z njeno pomočjo. Če na primer nekdo posname resnično fotografijo in nato z orodjem, ki ga podpira umetna inteligenca, spremeni določene podrobnosti na njej, lahko detektor opozori tudi na uporabo umetne inteligence. Zato je treba rezultat pravilno interpretirati. Google zahteva tudi prijavo in po podatkih strežnika Ars Technica pričakuje približno deset preverjanj na uporabnika na dan.
Številke, ki jih je Google objavil ob objavi, so zanimive. Od uvedbe SynthID-a naj bi z nevidnim vodnim žigom označil več kot 180 milijard slik in videoposnetkov ter 240 let zvočnih posnetkov. Preverjanje vsebine je zdaj na voljo tudi prek iskanja Google. Gemini ali Chrome, kjer se dnevno izvede več kot milijon preverjanj.
Lahko bi vas zanimalo
Po mojem mnenju je to korak v pravo smer. Internet je dobesedno preplavljen z vsebinami, povezanimi z umetno inteligenco, in možnost enostavnega preverjanja izvora sumljive fotografije ali videoposnetka je lahko koristna za skoraj vsakogar. Vendar je pomembno vedeti, da detektor SynthID ni univerzalni detektor resnice, temveč le orodje za prepoznavanje določene vrste digitalnega podpisa. Kljub temu je lahko zelo uporaben pomočnik, še posebej, če se mu bodo postopoma pridružili tudi drugi večji tehnološki akterji.
