تشخیص یک عکس واقعی از تصویری که توسط هوش مصنوعی ایجاد شده است، در ماه‌های اخیر به طور فزاینده‌ای دشوار شده است. مولدهای هوش مصنوعی با چنان سرعتی در حال پیشرفت هستند که حتی کاربران باتجربه‌تر نیز اغلب در تشخیص اینکه آیا به یک تصویر واقعی نگاه می‌کنند یا تصویر ساخته شده توسط یکی از مدل‌های مولد، مشکل دارند. بنابراین، گوگل تصمیم گرفته است ابزاری را در دسترس عموم قرار دهد که می‌تواند به طور قابل توجهی در تشخیص محتوای مشابه کمک کند. این ابزار SynthID Detector نام دارد و بزرگترین مزیت آن این است که نه تنها می‌تواند محتوای ایجاد شده توسط هوش مصنوعی گوگل، بلکه محتوای ایجاد شده توسط برخی از ابزارهای رقیب را نیز تشخیص دهد. و این چه فایده‌ای برای طرفداران دارد؟ Appنکته جالب توجه این است که این غول کالیفرنیایی به زودی در میان شرکت‌های تحت حمایت قرار خواهد گرفت.
شما می توانید علاقه مند شوید
فقط کافیست یک عکس، ویدیو یا صدا آپلود کنید
اصل عملکرد SynthID Detector بسیار ساده است. کاربر از وب‌سایت بازدید می‌کند. SynthID.com، وارد سیستم می‌شوند و یک فایل تصویری، ویدیویی یا صوتی را آپلود می‌کنند که می‌خواهند بررسی کنند آیا با استفاده از هوش مصنوعی ایجاد شده است یا خیر. سپس این ابزار وجود یک واترمارک دیجیتالی ویژه را که هنگام ایجاد محتوا در آن تعبیه شده است، بررسی می‌کند. برخلاف واترمارک‌های کلاسیک، این واترمارک برای چشم انسان قابل مشاهده نیست، بنابراین به هیچ وجه عکس یا ویدیوی حاصل را تحریف نمی‌کند. Pro با این حال، سیستم تأیید قابل تشخیص است.
گوگل فناوری SynthID را در سال ۲۰۲۳ معرفی کرد و خودِ این آشکارساز سال گذشته در دسترس روزنامه‌نگاران منتخب و سایر متخصصان قرار گرفت. اما اکنون آن را برای همه کاربران در سراسر جهان، البته فعلاً فقط به زبان انگلیسی، باز می‌کند. علاوه بر محتوای ایجاد شده توسط ابزارهای گوگل، این ابزار می‌تواند واترمارک‌های مربوطه را در رسانه‌هایی که از ... سرچشمه می‌گیرند نیز تشخیص دهد. OpenAI، انویدیا یا کاکائو. در آینده نزدیک، پشتیبانی از محتوای ایجاد شده با استفاده از ابزارهای هوش مصنوعی نیز پیش‌بینی می‌شود. Applu
اما این یک آشکارساز هوش مصنوعی بی‌نقص نیست
اگرچه این ویژگی جدید در نگاه اول بسیار جالب به نظر می‌رسد، اما یک محدودیت نسبتاً قابل توجه نیز دارد. SynthID Detector نمی‌تواند به طور خودکار هیچ تصویری را که توسط هوش مصنوعی ایجاد شده است، تشخیص دهد. این قابلیت فقط در صورتی کار می‌کند که فایل حاوی یک واترمارک دیجیتال سازگار باشد. بنابراین اگر کسی با استفاده از ابزاری که از فناوری SynthID پشتیبانی نمی‌کند، یک عکس جعلی ایجاد کند، ممکن است آشکارساز آن را تشخیص ندهد. بنابراین، یک نتیجه منفی قطعاً به معنای معتبر بودن آن تصویر نیست.
محدودیت دیگر این است که این ابزار نمی‌تواند تشخیص دهد که آیا محتوا کاملاً توسط هوش مصنوعی ایجاد شده یا فقط با استفاده از آن ویرایش شده است. به عنوان مثال، اگر کسی یک عکس واقعی بگیرد و سپس جزئیات خاصی را در آن با استفاده از ابزاری که از هوش مصنوعی پشتیبانی می‌کند تغییر دهد، این آشکارساز می‌تواند در مورد استفاده از هوش مصنوعی نیز هشدار دهد. بنابراین، نتیجه باید به درستی تفسیر شود. گوگل همچنین نیاز به ورود به سیستم دارد و طبق اطلاعات سرور Ars Technica، تقریباً ده بررسی برای هر کاربر در روز انتظار دارد.
با این حال، اعداد و ارقامی که گوگل در زمان اعلام این خبر منتشر کرد جالب است. گوگل می‌گوید از زمان راه‌اندازی SynthID، بیش از ۱۸۰ میلیارد تصویر و ویدیو و همچنین ۲۴۰ هزار سال ضبط صدا را به صورت نامرئی واترمارک کرده است. تأیید محتوا اکنون از طریق جستجوی گوگل نیز در دسترس است. Gemini یا کروم، جایی که روزانه بیش از یک میلیون بررسی انجام می‌شود.
شما می توانید علاقه مند شوید
به نظر من، این گامی در مسیر درست است. اینترنت به معنای واقعی کلمه مملو از محتوای هوش مصنوعی است و امکان تأیید آسان منشأ یک عکس یا ویدیوی مشکوک می‌تواند تقریباً برای هر کسی مفید باشد. با این حال، مهم است به یاد داشته باشید که SynthID Detector یک آشکارساز حقیقت جهانی نیست، بلکه فقط ابزاری برای تشخیص نوع خاصی از امضای دیجیتال است. با این حال، می‌تواند یک دستیار بسیار مفید باشد، به خصوص اگر سایر بازیگران بزرگ فناوری به تدریج به پشتیبانی از آن بپیوندند.
