Det er blevet stadig vanskeligere at genkende et rigtigt foto fra et billede skabt af kunstig intelligens i de seneste måneder. AI-generatorer forbedres i et sådant tempo, at selv mere erfarne brugere ofte har svært ved at se, om de ser på et rigtigt billede eller skabelsen af en af de generative modeller. Google har derfor besluttet at gøre et værktøj tilgængeligt for offentligheden, der kan hjælpe betydeligt med at opdage lignende indhold. Det kaldes SynthID Detector, og dets største fordel er, at det ikke kun kan genkende indhold skabt af Googles kunstige intelligens, men også af nogle konkurrerende værktøjer. Og hvad får fans ud af det? AppDet er særligt interessant, at den californiske gigant snart skulle være blandt de støttede virksomheder.
Du kunne være interesseret i
Upload blot et billede, en video eller en lydfil
Princippet for SynthID Detectors funktion er ret simpelt. Brugeren besøger hjemmesiden SynthID.com, logger ind og uploader et billede, en video eller en lydfil, som de vil kontrollere, om den er oprettet ved hjælp af kunstig intelligens. Værktøjet kontrollerer derefter for tilstedeværelsen af et særligt digitalt vandmærke, der er indlejret i indholdet, når det oprettes. I modsætning til klassiske vandmærker er det ikke synligt for det menneskelige øje, så det forvrænger ikke det resulterende foto eller den resulterende video på nogen måde. Pro verifikationssystemet er dog genkendeligt.
Google introducerede SynthID-teknologi i 2023, og selve detektoren begyndte at blive tilgængelig for udvalgte journalister og andre fagfolk sidste år. Men nu åbner den op for alle brugere over hele verden, dog kun på engelsk for nu. Ud over indhold skabt af Google-værktøjer kan den også genkende relevante vandmærker i medier, der stammer fra OpenAI, Nvidia eller Kakao. Derudover forventes understøttelse af indhold skabt ved hjælp af AI-værktøjer også i den nærmeste fremtid. Applu.
Men det er ikke en perfekt AI-detektor
Selvom den nye funktion ser meget interessant ud ved første øjekast, har den også en ret betydelig begrænsning. SynthID Detector kan ikke automatisk genkende billeder, der er skabt af kunstig intelligens. Det virker kun, hvis filen indeholder et kompatibelt digitalt vandmærke. Så hvis nogen opretter et falsk foto ved hjælp af et værktøj, der ikke understøtter SynthID-teknologi, kan detektoren muligvis ikke registrere det. Derfor betyder et negativt resultat bestemt ikke, at det er et autentisk billede.
En anden begrænsning er, at værktøjet ikke kan skelne mellem indholdets fulde potentiale og redigering ved hjælp af AI. Hvis nogen for eksempel tager et rigtigt billede og derefter ændrer visse detaljer i det ved hjælp af et AI-understøttet værktøj, kan detektoren også advare om brugen af AI. Derfor skal resultatet fortolkes korrekt. Google kræver også login og forventer ifølge oplysninger fra Ars Technica-serveren cirka ti kontroller pr. bruger pr. dag.
De tal, som Google offentliggjorde på tidspunktet for annonceringen, er dog interessante. Siden lanceringen af SynthID har de angiveligt usynligt vandmærket mere end 180 milliarder billeder og videoer samt 240 års lydoptagelser. Indholdsverifikation er nu også tilgængelig via Google Søgning. Gemini eller Chrome, hvor der udføres mere end en million kontroller dagligt.
Du kunne være interesseret i
Efter min mening er det et skridt i den rigtige retning. Internettet er bogstaveligt talt oversvømmet med AI-indhold, og muligheden for nemt at verificere oprindelsen af et mistænkeligt foto eller en video kan være nyttig for næsten alle. Det er dog vigtigt at huske, at SynthID Detector ikke er en universel sandhedsdetektor, men kun et værktøj til at genkende en bestemt type digital signatur. Alligevel kan det være en meget nyttig assistent, især hvis andre store teknologiaktører gradvist slutter sig til dets støtte.
