גוגל פותחת לכולם את SynthID Detector: כך תזהו תמונות AI
גוגל פתחה ב-7 באוקטובר לכל העולם את SynthID Detector, כלי חינמי שבודק אם תמונה, סרטון או קובץ שמע נוצרו בבינה מלאכותית. עד עכשיו הכלי היה זמין רק לעיתונאים וחוקרים שנרשמו לרשימת המתנה. מהיום כל אחד יכול להעלות קובץ ולקבל תשובה. החדשה הגדולה יותר: הכלי מזהה לא רק תוכן של גוגל, אלא גם תוכן מכלים של OpenAI, אנבידיה ו-Kakao, ובקרוב גם של אפל.
מי שגולל בפיד בשנה האחרונה מכיר את התחושה: תמונה של אירוע דרמטי, סרטון של פוליטיקאי שאומר משהו מזעזע, הקלטה של קול מוכר. האם זה אמיתי? העין האנושית כבר לא יודעת. גוגל מנסה לתת לנו כלי בדיקה.
איך עובד SynthID Detector
הטכנולוגיה עצמה פותחה ב-Google DeepMind והושקה ב-2023. הרעיון פשוט: ברגע שכלי AI מייצר תמונה, סרטון או אודיו, הוא מטמיע בתוכם סימן מים דיגיטלי שהעין והאוזן לא קולטות. הסימן לא נראה כמו לוגו בפינה, הוא חבוי בתוך הפיקסלים עצמם. כשמעלים את הקובץ לגלאי, הוא מחפש את הסימן ומדווח אם מצא אותו.
לפי פוסט רשמי בבלוג של גוגל, שנכתב על ידי פושמיט קוהלי, סגן נשיא ב-Google DeepMind, החברה כבר הטמיעה סימני מים ביותר מ-180 מיליארד תמונות וסרטונים, ובכמות שמע שמצטברת ל-240 אלף שנות האזנה. הכלי זמין באתר synthid.com, כרגע בממשק באנגלית בלבד.
למה ההצטרפות של OpenAI ואפל משנה את התמונה
עד היום, הבעיה הגדולה של SynthID הייתה שהוא זיהה בעיקר תוכן שנוצר בכלים של גוגל עצמה, כמו Gemini. תמונה מ-ChatGPT? הגלאי לא היה יכול לעזור. ההכרזה הנוכחית מרחיבה את הכיסוי לחברות מתחרות. לפי האתר 9to5Google, תמונות שנוצרו ב-Apple Intelligence יישאו את סימן המים "בקרוב", בלי תאריך מדויק.
גוגל מוסיפה שכלי האימות המובנים שלה בחיפוש, באפליקציית Gemini ובכרום מטפלים כבר ביותר ממיליון בקשות ביום, נתון שמראה כמה אנשים כבר שואלים את עצמם "זה אמיתי?".
מה SynthID Detector לא יודע לעשות
כאן חשוב לקרוא את האותיות הקטנות. הגלאי לא מזהה AI באופן כללי, הוא מזהה רק את סימן המים של SynthID. כלומר, הוא עובד רק כשהכלי שיצר את התוכן הטמיע את הסימן מלכתחילה. תמונה שנוצרה בכלי שלא משתתף בתוכנית לא תסומן, ותשובה של "לא נמצא סימן מים" לא אומרת שהתמונה אמיתית.
במילים אחרות, זה כלי חשוב, אבל לא מכונת אמת. מי שרוצה להבין את התמונה הרחבה של זיופים מבוססי AI, ואת הסימנים שאפשר לזהות גם בלי כלים, יכול לקרוא את המדריך שלנו מה זה דיפ פייק ואיך מזהים אותו.
מה זה אומר לישראלים
בישראל, שבה סרטונים ותמונות מזויפים מופצים במהירות בקבוצות וואטסאפ ובטלגרם, בעיקר בזמני מתיחות ביטחונית, לכלי כזה יש ערך מעשי. העובדה שהממשק באנגלית בלבד היא מכשול קטן: העלאת קובץ לא דורשת הבנה מעמיקה של השפה.
השאלה הגדולה היא כמה חברות AI נוספות יצטרפו. ככל שיותר כלים יטמיעו את הסימן, כך תשובה שלילית של הגלאי תהפוך למשמעותית יותר. כרגע, SynthID Detector הוא עוד שכבת בדיקה, לא המילה האחרונה. את ההודעה המלאה אפשר לקרוא בבלוג הרשמי של גוגל.
