Det har blitt stadig vanskeligere å gjenkjenne et ekte bilde fra et bilde laget av kunstig intelligens de siste månedene. AI-generatorer forbedres i et slikt tempo at selv mer erfarne brukere ofte har problemer med å si om de ser på et ekte bilde eller om de ser på en av de generative modellene. Google har derfor besluttet å gjøre et verktøy tilgjengelig for allmennheten som kan hjelpe betydelig med å oppdage lignende innhold. Det kalles SynthID Detector, og den største fordelen er at det ikke bare kan gjenkjenne innhold laget av Googles kunstige intelligens, men også av noen konkurrerende verktøy. Og hva får fansen ut av det? AppDet som er spesielt interessant er at den californiske giganten snart skal være blant de støttede selskapene.
Du kan være interessert i
Bare last opp et bilde, en video eller en lydfil
Prinsippet for virkemåten til SynthID Detector er ganske enkelt. Brukeren besøker nettstedet SynthID.com, logger inn og laster opp et bilde, en video eller en lydfil som de vil sjekke om den ble laget med kunstig intelligens. Verktøyet sjekker deretter om det finnes et spesielt digitalt vannmerke som er innebygd i innholdet når det opprettes. I motsetning til klassiske vannmerker er det ikke synlig for det menneskelige øyet, så det forvrenger ikke det resulterende bildet eller videoen på noen måte. Pro verifiseringssystemet er imidlertid gjenkjennelig.
Google introduserte SynthID-teknologi i 2023, og selve detektoren begynte å bli tilgjengelig for utvalgte journalister og andre fagfolk i fjor. Men nå åpner de den for alle brukere over hele verden, men bare på engelsk foreløpig. I tillegg til innhold laget av Google-verktøy, kan den også gjenkjenne relevante vannmerker i medier som stammer fra OpenAI, Nvidia eller Kakao. I tillegg forventes det også støtte for innhold laget med AI-verktøy i nær fremtid. Applu.
Men det er ikke en perfekt AI-detektor
Selv om den nye funksjonen ser veldig interessant ut ved første øyekast, har den også en ganske betydelig begrensning. SynthID Detector kan ikke automatisk gjenkjenne bilder laget av kunstig intelligens. Den fungerer bare hvis filen inneholder et kompatibelt digitalt vannmerke. Så hvis noen lager et falskt bilde ved hjelp av et verktøy som ikke støtter SynthID-teknologi, kan det hende at detektoren ikke oppdager det. Derfor betyr et negativt resultat definitivt ikke at det er et autentisk bilde.
En annen begrensning er at verktøyet ikke kan skille mellom om innholdet er fullstendig laget av AI eller bare redigert ved hjelp av den. Hvis noen for eksempel tar et ekte bilde og deretter endrer visse detaljer i det ved hjelp av et AI-støttet verktøy, kan detektoren også advare om bruk av AI. Derfor må resultatet tolkes riktig. Google krever også innlogging, og ifølge informasjon fra Ars Technica-serveren forventer de omtrent ti kontroller per bruker per dag.
Tallene Google offentliggjorde da de ble annonsert er imidlertid interessante. Siden lanseringen av SynthID sier de at de har usynlig vannmerket mer enn 180 milliarder bilder og videoer, samt 240 000 år med lydopptak. Innholdsverifisering er nå også tilgjengelig via Google Søk. Gemini eller Chrome, hvor det utføres mer enn en million kontroller daglig.
Du kan være interessert i
Etter min mening er det et skritt i riktig retning. Internett er bokstavelig talt oversvømmet av AI-innhold, og muligheten til enkelt å bekrefte opprinnelsen til et mistenkelig bilde eller en video kan være nyttig for nesten alle. Det er imidlertid viktig å huske at SynthID Detector ikke er en universell sannhetsdetektor, men bare et verktøy for å gjenkjenne en bestemt type digital signatur. Likevel kan det være en veldig nyttig assistent, spesielt hvis andre store teknologiaktører gradvis slutter seg til støtten.
