Rozpoznawanie prawdziwego zdjęcia na podstawie obrazu stworzonego przez sztuczną inteligencję stało się w ostatnich miesiącach coraz trudniejsze. Generatory AI rozwijają się w tak szybkim tempie, że nawet bardziej doświadczeni użytkownicy często mają problem z odróżnieniem, czy patrzą na prawdziwy obraz, czy na dzieło jednego z modeli generatywnych. W związku z tym Google zdecydowało się udostępnić szerokiej publiczności narzędzie, które może znacząco pomóc w wykrywaniu podobnych treści. Nazywa się ono SynthID Detector, a jego największą zaletą jest to, że potrafi rozpoznawać nie tylko treści stworzone przez sztuczną inteligencję Google, ale także przez niektóre konkurencyjne narzędzia. A co z tego mają fani? AppSzczególnie interesujący jest fakt, że kalifornijski gigant powinien wkrótce znaleźć się wśród wspieranych firm.
Może cię zainteresować
Wystarczy przesłać zdjęcie, wideo lub plik audio
Zasada działania SynthID Detector jest dość prosta. Użytkownik odwiedza stronę internetową SynthID.comUżytkownik loguje się i przesyła plik obrazu, wideo lub audio, który chce sprawdzić, czy został stworzony przy użyciu sztucznej inteligencji. Narzędzie sprawdza następnie obecność specjalnego cyfrowego znaku wodnego osadzonego w treści podczas jej tworzenia. W przeciwieństwie do klasycznych znaków wodnych, nie jest on widoczny dla ludzkiego oka, więc nie zniekształca w żaden sposób powstałego zdjęcia lub filmu. Pro Jednakże system weryfikacji jest rozpoznawalny.
Google wprowadził technologię SynthID w 2023 roku, a sam detektor został udostępniony wybranym dziennikarzom i innym specjalistom w zeszłym roku. Teraz jednak udostępnia go wszystkim użytkownikom na całym świecie, choć na razie tylko w języku angielskim. Oprócz treści tworzonych przez narzędzia Google, potrafi on również rozpoznawać istotne znaki wodne w mediach pochodzących z… OpenAI, Nvidia lub Kakao. Ponadto w niedalekiej przyszłości spodziewane jest również wsparcie dla treści tworzonych przy użyciu narzędzi AI. Applu.
Ale to nie jest idealny detektor sztucznej inteligencji
Choć na pierwszy rzut oka nowa funkcja wydaje się bardzo interesująca, ma ona również dość istotne ograniczenie. SynthID Detector nie potrafi automatycznie rozpoznać żadnego obrazu stworzonego przez sztuczną inteligencję. Działa tylko wtedy, gdy plik zawiera kompatybilny cyfrowy znak wodny. Jeśli więc ktoś stworzy fałszywe zdjęcie za pomocą narzędzia, które nie obsługuje technologii SynthID, detektor może go nie wykryć. Dlatego negatywny wynik zdecydowanie nie oznacza, że jest to autentyczny obraz.
Kolejnym ograniczeniem jest to, że narzędzie nie potrafi odróżnić, czy treść została w całości stworzona przez sztuczną inteligencję, czy jedynie edytowana za jej pomocą. Na przykład, jeśli ktoś zrobi prawdziwe zdjęcie, a następnie zmieni w nim pewne szczegóły za pomocą narzędzia wspieranego przez sztuczną inteligencję, detektor może również ostrzec o użyciu sztucznej inteligencji. Dlatego wynik musi zostać poprawnie zinterpretowany. Google wymaga również zalogowania i, według informacji z serwera Ars Technica, oczekuje około dziesięciu kontroli na użytkownika dziennie.
Liczby podane przez Google w momencie ogłoszenia są jednak interesujące. Od czasu uruchomienia SynthID firma twierdzi, że oznaczyła niewidocznym znakiem wodnym ponad 180 miliardów zdjęć i filmów, a także 240 000 lat nagrań audio. Weryfikacja treści jest teraz dostępna również za pośrednictwem wyszukiwarki Google. Gemini lub Chrome, gdzie codziennie przeprowadza się ponad milion sprawdzeń.
Może cię zainteresować
Moim zdaniem to krok w dobrym kierunku. Internet jest dosłownie zalewany treściami opartymi na sztucznej inteligencji, a możliwość łatwej weryfikacji pochodzenia podejrzanego zdjęcia lub filmu może być przydatna niemal każdemu. Należy jednak pamiętać, że SynthID Detector nie jest uniwersalnym wykrywaczem prawdy, a jedynie narzędziem do rozpoznawania określonego rodzaju podpisu cyfrowego. Mimo to może być bardzo przydatnym asystentem, zwłaszcza jeśli inni czołowi gracze technologiczni stopniowo dołączą do jego grona.
