Negli ultimi mesi, distinguere una foto reale da un'immagine creata dall'intelligenza artificiale è diventato sempre più difficile. I generatori di IA migliorano a un ritmo tale che persino gli utenti più esperti spesso faticano a capire se stanno guardando un'immagine reale o la creazione di uno dei modelli generativi. Google ha quindi deciso di rendere disponibile al pubblico uno strumento che può aiutare significativamente a individuare contenuti simili. Si chiama SynthID Detector e il suo vantaggio principale è che può riconoscere non solo i contenuti creati dall'intelligenza artificiale di Google, ma anche da alcuni strumenti concorrenti. E cosa c'è di interessante per i fan? AppCiò che è particolarmente interessante è che il gigante californiano dovrebbe presto essere tra le aziende supportate.
Potrebbe interessarti
Carica semplicemente un'immagine, un video o un audio.
Il principio di funzionamento di SynthID Detector è piuttosto semplice. L'utente visita il sito web SynthID.comL'utente effettua l'accesso e carica un'immagine, un video o un file audio per verificare se è stato creato utilizzando l'intelligenza artificiale. Lo strumento controlla quindi la presenza di una speciale filigrana digitale incorporata nel contenuto al momento della sua creazione. A differenza delle filigrane tradizionali, questa non è visibile all'occhio umano e quindi non distorce in alcun modo la foto o il video risultante. Pro Tuttavia, il sistema di verifica è riconoscibile.
Google ha introdotto la tecnologia SynthID nel 2023 e il rilevatore stesso ha iniziato a essere reso disponibile a giornalisti selezionati e altri professionisti lo scorso anno. Ma ora lo sta aprendo a tutti gli utenti in tutto il mondo, anche se per ora solo in inglese. Oltre ai contenuti creati dagli strumenti di Google, può anche riconoscere filigrane rilevanti nei media provenienti da OpenAI, Nvidia o Kakao. In un prossimo futuro, è previsto anche il supporto per i contenuti creati utilizzando strumenti di intelligenza artificiale. Applun.
Ma non è un rilevatore di intelligenza artificiale perfetto
Sebbene la nuova funzionalità sembri molto interessante a prima vista, presenta anche una limitazione piuttosto significativa. SynthID Detector non è in grado di riconoscere automaticamente le immagini create dall'intelligenza artificiale. Funziona solo se il file contiene una filigrana digitale compatibile. Pertanto, se qualcuno crea una foto falsa utilizzando uno strumento che non supporta la tecnologia SynthID, il rilevatore potrebbe non individuarla. Di conseguenza, un risultato negativo non significa necessariamente che si tratti di un'immagine autentica.
Un'altra limitazione è che lo strumento non è in grado di distinguere se il contenuto sia stato creato interamente dall'IA o solo modificato utilizzandola. Ad esempio, se qualcuno scatta una foto reale e poi ne modifica alcuni dettagli utilizzando uno strumento basato sull'IA, il rilevatore può comunque segnalare l'utilizzo dell'IA. Pertanto, il risultato deve essere interpretato correttamente. Google richiede inoltre l'accesso e, secondo le informazioni del server di Ars Technica, prevede circa dieci controlli al giorno per utente.
I numeri che Google ha rilasciato al momento dell'annuncio sono interessanti, tuttavia. Dal lancio di SynthID, afferma di aver applicato una filigrana invisibile a più di 180 miliardi di immagini e video, nonché a 240 anni di registrazioni audio. La verifica dei contenuti è ora disponibile anche tramite Ricerca Google, Gemini o Chrome, dove vengono effettuati oltre un milione di controlli al giorno.
Potrebbe interessarti
A mio parere, si tratta di un passo nella giusta direzione. Internet è letteralmente inondato di contenuti basati sull'intelligenza artificiale e la possibilità di verificare facilmente l'origine di una foto o di un video sospetto può essere utile praticamente a chiunque. Tuttavia, è importante ricordare che SynthID Detector non è un rilevatore di verità universale, ma solo uno strumento per riconoscere uno specifico tipo di firma digitale. Ciononostante, può rivelarsi un assistente molto utile, soprattutto se altri importanti attori del settore tecnologico decideranno gradualmente di supportarlo.
