Att känna igen ett riktigt foto från en bild skapad av artificiell intelligens har blivit allt svårare de senaste månaderna. AI-generatorer förbättras i en sådan takt att även mer erfarna användare ofta har svårt att avgöra om de tittar på en riktig bild eller om de tittar på en av de generativa modellerna. Google har därför beslutat att göra ett verktyg tillgängligt för allmänheten som avsevärt kan hjälpa till med att upptäcka liknande innehåll. Det kallas SynthID Detector och dess största fördel är att det inte bara kan känna igen innehåll skapat av Googles artificiella intelligens, utan även av vissa konkurrerande verktyg. Och vad finns det i det för fansen? AppDet som är särskilt intressant är att den kaliforniska jätten snart borde finnas bland de företag som får stöd.
Du kan vara intresserad av
Ladda bara upp en bild, video eller ljud
Principen för hur SynthID Detector fungerar är ganska enkel. Användaren besöker webbplatsen SynthID.com, loggar in och laddar upp en bild-, video- eller ljudfil som de vill kontrollera om den skapades med artificiell intelligens. Verktyget kontrollerar sedan om det finns ett speciellt digitalt vattenmärke som är inbäddat i innehållet när det skapas. Till skillnad från klassiska vattenmärken är det inte synligt för det mänskliga ögat, så det förvränger inte det resulterande fotot eller videon på något sätt. Pro verifieringssystemet är dock igenkännbart.
Google introducerade SynthID-tekniken 2023, och själva detektorn började göras tillgänglig för utvalda journalister och andra yrkesverksamma förra året. Men nu öppnar de den för alla användare runt om i världen, dock endast på engelska för tillfället. Förutom innehåll som skapats av Googles verktyg kan den också känna igen relevanta vattenstämplar i media som kommer från OpenAI, Nvidia eller Kakao. Dessutom förväntas stöd för innehåll skapat med AI-verktyg inom en snar framtid. Applu.
Men det är inte en perfekt AI-detektor
Även om den nya funktionen ser väldigt intressant ut vid första anblicken, har den också en ganska betydande begränsning. SynthID Detector kan inte automatiskt känna igen någon bild som skapats av artificiell intelligens. Den fungerar bara om filen innehåller en kompatibel digital vattenstämpel. Så om någon skapar ett falskt foto med ett verktyg som inte stöder SynthID-teknik, kanske detektorn inte upptäcker det. Därför betyder ett negativt resultat definitivt inte att det är en autentisk bild.
En annan begränsning är att verktyget inte kan skilja på om innehållet helt och hållet skapats av AI eller bara redigerats med hjälp av den. Om någon till exempel tar ett riktigt foto och sedan ändrar vissa detaljer i det med ett AI-stödt verktyg, kan detektorn också varna för användningen av AI. Därför måste resultatet tolkas korrekt. Google kräver också inloggning och förväntar sig, enligt information från Ars Technica-servern, cirka tio kontroller per användare och dag.
Siffrorna som Google släppte vid tidpunkten för tillkännagivandet är dock intressanta. Sedan lanseringen av SynthID säger de att de har osynligt vattenmärkt mer än 180 miljarder bilder och videor, samt 240 000 år av ljudinspelningar. Innehållsverifiering är nu också tillgänglig via Google Sök, Gemini eller Chrome, där mer än en miljon kontroller utförs dagligen.
Du kan vara intresserad av
Enligt min mening är det ett steg i rätt riktning. Internet är bokstavligen översvämmat av AI-innehåll, och möjligheten att enkelt verifiera ursprunget till ett misstänkt foto eller en misstänkt video kan vara användbar för nästan vem som helst. Det är dock viktigt att komma ihåg att SynthID Detector inte är en universell sanningsdetektor, utan bara ett verktyg för att känna igen en specifik typ av digital signatur. Ändå kan det vara en mycket användbar assistent, särskilt om andra stora teknikaktörer gradvis ansluter sig till dess stöd.
