Distinguer une photo réelle d'une image générée par intelligence artificielle est devenu de plus en plus difficile ces derniers mois. Les générateurs d'IA progressent si rapidement que même les utilisateurs les plus expérimentés ont souvent du mal à faire la différence entre une image authentique et une création d'un modèle génératif. Google a donc décidé de mettre à la disposition du grand public un outil capable d'aider considérablement à la détection de contenus similaires. Baptisé SynthID Detector, son principal atout est de pouvoir reconnaître non seulement les contenus créés par l'intelligence artificielle de Google, mais aussi ceux générés par certains outils concurrents. Et qu'y gagnent les fans ? AppCe qui est particulièrement intéressant, c'est que le géant californien devrait bientôt figurer parmi les entreprises bénéficiant de ce soutien.
Cela pourrait vous intéresser
Il suffit de télécharger une photo, une vidéo ou un enregistrement audio.
Le principe de fonctionnement de SynthID Detector est assez simple. L'utilisateur se rend sur le site web. SynthID.comL'utilisateur se connecte et télécharge une image, une vidéo ou un fichier audio dont il souhaite vérifier s'il a été créé par intelligence artificielle. L'outil recherche alors la présence d'un filigrane numérique spécifique, intégré au contenu lors de sa création. Contrairement aux filigranes classiques, ce filigrane est invisible à l'œil nu et ne déforme donc en rien la photo ou la vidéo finale. Pro Le système de vérification est toutefois reconnaissable.
Google a lancé la technologie SynthID en 2023, et le détecteur lui-même a commencé à être mis à la disposition d'une sélection de journalistes et autres professionnels l'année dernière. Il est désormais accessible à tous les utilisateurs du monde entier, mais uniquement en anglais pour le moment. Outre le contenu créé par les outils Google, il peut également reconnaître les filigranes pertinents dans les médias provenant de Google. OpenAINvidia ou Kakao. De plus, la prise en charge des contenus créés à l'aide d'outils d'IA est également prévue prochainement. Applun.
Mais ce n'est pas un détecteur d'IA parfait
Bien que cette nouvelle fonctionnalité paraisse très intéressante au premier abord, elle présente une limitation importante. SynthID Detector ne peut pas reconnaître automatiquement les images créées par intelligence artificielle. Il ne fonctionne que si le fichier contient un filigrane numérique compatible. Ainsi, si une photo truquée est créée à l'aide d'un outil ne prenant pas en charge la technologie SynthID, le détecteur risque de ne pas la détecter. Par conséquent, un résultat négatif ne signifie absolument pas qu'il s'agit d'une image authentique.
Une autre limite est que l'outil ne peut pas distinguer si le contenu a été entièrement créé par l'IA ou seulement modifié à son aide. Par exemple, si quelqu'un prend une photo réelle puis en modifie certains détails à l'aide d'un outil d'IA, le détecteur peut également signaler l'utilisation de l'IA. Il est donc essentiel d'interpréter le résultat avec précaution. Google exige également une connexion et, selon les informations du serveur d'Ars Technica, prévoit environ dix vérifications par utilisateur et par jour.
Les chiffres publiés par Google lors de l'annonce sont toutefois intéressants. Depuis le lancement de SynthID, l'entreprise affirme avoir apposé un filigrane invisible sur plus de 180 milliards d'images et de vidéos, ainsi que sur 240 000 ans d'enregistrements audio. La vérification du contenu est désormais également disponible via la recherche Google. Gemini ou Chrome, où plus d'un million de vérifications sont effectuées quotidiennement.
Cela pourrait vous intéresser
À mon avis, c'est un pas dans la bonne direction. Internet regorge de contenus liés à l'IA, et la possibilité de vérifier facilement l'origine d'une photo ou d'une vidéo suspecte peut s'avérer utile à presque tout le monde. Toutefois, il est important de rappeler que SynthID Detector n'est pas un détecteur de vérité universel, mais seulement un outil de reconnaissance d'un type spécifique de signature numérique. Malgré cela, il peut constituer une aide précieuse, surtout si d'autres acteurs majeurs du secteur technologique rejoignent progressivement son soutien.
