זיהוי תמונה אמיתית מתמונה שנוצרה על ידי בינה מלאכותית הפך לקשה יותר ויותר בחודשים האחרונים. גנרטורים של בינה מלאכותית משתפרים בקצב כזה שאפילו משתמשים מנוסים יותר מתקשים לעתים קרובות לדעת אם הם מסתכלים על תמונה אמיתית או על יצירת אחד המודלים הגנרטיביים. לכן, גוגל החליטה להנגיש לציבור הרחב כלי שיכול לסייע משמעותית בזיהוי תוכן דומה. הוא נקרא SynthID Detector והיתרון הגדול ביותר שלו הוא שהוא יכול לזהות לא רק תוכן שנוצר על ידי הבינה המלאכותית של גוגל, אלא גם על ידי כמה כלים מתחרים. ומה יש בזה עבור המעריצים? Appמה שמעניין במיוחד הוא שהענקית הקליפורנית צפויה בקרוב להיות בין החברות הנתמכות.
אתה יכול להתעניין
פשוט העלה תמונה, סרטון או אודיו
עקרון הפעולה של גלאי SynthID הוא די פשוט. המשתמש מבקר באתר האינטרנט SynthID.com, מתחבר ומעלה תמונה, סרטון או קובץ שמע שברצונו לבדוק אם נוצר באמצעות בינה מלאכותית. לאחר מכן הכלי בודק את נוכחותו של סימן מים דיגיטלי מיוחד המוטמע בתוכן בעת יצירתו. בניגוד לסימני מים קלאסיים, הם אינם גלויים לעין האנושית, ולכן אינם מעוותים את התמונה או הסרטון המתקבלים בשום צורה. Pro עם זאת, מערכת האימות ניתנת לזיהוי.
גוגל הציגה את טכנולוגיית SynthID בשנת 2023, והגלאי עצמו החל להיות זמין לעיתונאים נבחרים ולאנשי מקצוע אחרים בשנה שעברה. אך כעת היא פותחת אותו לכל המשתמשים ברחבי העולם, אם כי באנגלית בלבד לעת עתה. בנוסף לתוכן שנוצר על ידי כלי גוגל, היא יכולה גם לזהות סימני מים רלוונטיים במדיה שמקורה ב... OpenAI, Nvidia או Kakao. בנוסף, צפויה בעתיד הקרוב גם תמיכה בתוכן שנוצר באמצעות כלי בינה מלאכותית. Appלו.
אבל זה לא גלאי בינה מלאכותית מושלם
למרות שהתכונה החדשה נראית מעניינת מאוד במבט ראשון, יש לה גם מגבלה משמעותית למדי. גלאי SynthID אינו יכול לזהות באופן אוטומטי כל תמונה שנוצרה על ידי בינה מלאכותית. הוא פועל רק אם הקובץ מכיל סימן מים דיגיטלי תואם. לכן, אם מישהו יוצר תמונה מזויפת באמצעות כלי שאינו תומך בטכנולוגיית SynthID, ייתכן שהגלאי לא יזהה אותה. לכן, תוצאה שלילית בהחלט לא אומרת שמדובר בתמונה אותנטית.
מגבלה נוספת היא שהכלי אינו יכול להבחין האם התוכן נוצר כולו על ידי בינה מלאכותית או רק נערך באמצעותה. לדוגמה, אם מישהו מצלם תמונה אמיתית ואז משנה בה פרטים מסוימים באמצעות כלי הנתמך על ידי בינה מלאכותית, הגלאי יכול גם להתריע מפני שימוש בבינה מלאכותית. לכן, יש לפרש את התוצאה בצורה נכונה. גוגל דורשת גם כניסה, ולפי מידע משרת Ars Technica, מצפה לכעשרה בדיקות למשתמש ביום.
המספרים שגוגל פרסמה בזמן ההכרזה מעניינים, עם זאת. מאז השקת SynthID, היא טוענת שהיא הוסיפה סימן מים בלתי נראה ליותר מ-180 מיליארד תמונות וסרטונים, כמו גם 240 שנים של הקלטות אודיו. אימות תוכן זמין כעת גם דרך חיפוש גוגל. Gemini או כרום, שם מתבצעות יותר ממיליון בדיקות מדי יום.
אתה יכול להתעניין
לדעתי, זהו צעד בכיוון הנכון. האינטרנט מוצף פשוטו כמשמעו בתכנים מבוססי בינה מלאכותית, והיכולת לאמת בקלות את מקורם של תמונות או סרטונים חשודים יכולה להיות שימושית כמעט לכל אחד. עם זאת, חשוב לזכור ש-SynthID Detector אינו גלאי אמת אוניברסלי, אלא רק כלי לזיהוי סוג מסוים של חתימה דיגיטלית. למרות זאת, הוא יכול להיות עוזר שימושי מאוד, במיוחד אם שחקני טכנולוגיה גדולים אחרים יצטרפו בהדרגה לתמיכתו.
