לכאורה, אחת הדרכים לדעת מהר מאוד אם תמונה כלשהי היא אמיתית או ג'ונרטה על ידי AI היא "סימן המים" שהוסיפה גוגל בתחתית התמונה מצד ימין. אבל מצד שני, אותו אייקון של נצנוץ, גם עצבן מאוד משתמשים, שלא באמת התקשו להעלים אותו עם מחיקה בפוטושופ או פשוט Crop זריז, אבל בזבזו על זה זמן. עכשיו גוגל משנה כיוון ומאפשרת למשתמשים להעלים את הסימון הזה מראש.

לא באמת היה אפקטיבי
גוגל הודיעה שבימים הקרובים תתווסף הגדרה חדשה בשם Media watermark באפליקציית Gemini וכן במחולל הווידאו שלה Flow. ברגע שתכבו את המתג תחת תפריט ההגדרות, סימן המים של הנצנץ יפסיק להופיע, ולפחות ממבט ראשון לא יהיה ניתן לזהות שהתמונה ג'ונרטה על ידי AI. ההגדרה החדשה תופיע במודלים של החברה כמו Nano Banana, שמשמש ליצירת תמונות; Omni ליצירת וידאו; ו-Lyria שמיועד ליצירת קטעי מוזיקה בעזרת AI.

כמובן שהעובדה שלא יהיה סימן מים בפינה של התמונה, לא אומרת שלא תוכלו לזהות תמונה שנוצרה בעזרת AI. למעשה, כבר עכשיו, הזיהוי של תוכן שנוצר בעזרת AI לא התבסס באמת על הסימן הגלוי אלא על מידע שהוטמע בקובץ התמונה.
ואכן, גוגל הדגישה כי מנגנוני הזיהוי הסמויים, שקיימים כבר היום, ימשיכו לפעול כרגיל. כך למשל טכנולוגיית SynthID, שמטמיעה חותמת דיגיטלית בלתי נראית בתמונה; יחד עם C2PA תקן פתוח שמטמיע מטא דאטה בקובץ עצמו – אלו יישארו חלק בלתי נפרד מהקבצים המג'ונרטים.

כך שאם תרצו לברר אם תמונה כלשהי נוצרה בעזרת AI, תוכלו פשוט לגרור אותה ל-Gemini ולבקש בדיקה. ג'וש וודוורד, סגן נשיא ל-Gemini בגוגל, הסביר את המהלך בפוסט ב-X וציין שהחברה מנסה למצוא את האיזון בין "שליטה יצירתית" לבין בטיחות. לדבריו, סימני המים הגלויים אמנם הופכים לאופציונליים, אבל הטכנולוגיות הסמויות ימשיכו לעזור לשמור על שקיפות.

במקביל להסרה של הסימנים הגלויים, גוגל משחררת למפתחים ספריה חדשה בקוד פתוח בשם Credentio, שתאפשר להם לשלב מנגנון אימות מקומי של התקן ישירות בתוך האפליקציות או האתרים שלהם.

גוגל מיישרת קו
עם הצעד הזה מצטרפת למעשה גוגל למתחרות כמו OpenAI ו-Meta, שמראש לא הטמיעו סימני מים גלויים בתוכן המג'ונרט שלהן. כמו גוגל, OpenAI למשל מסתמכת כבר שנים על SynthID ותקן C2PA, כש-Meta משתמשת בתקן משלה. עם זאת, מוקדם יותר השבוע, דווקא Anthropic הודיעה כי תתחיל להטמיע "סימני מים" בטקסטים ובקבצים שמייצר קלוד, כדי לעמוד בדרישות הרגולציה המחמירות של האיחוד האירופי.

האפשרות להסיר את "סימן המים" החלה להגיע למשתמשים, ומבדיקה שלנו, כבר גילינו אצלנו את ההגדרה החדשה. עם זאת, יש מדינות שדורשות הצגה ברורה וגלויה של סימני מים על גבי תוכן שנוצר על ידי AI, ושם ההגדרה לא תופיע.