דיפפייק והתחזות קולית או בווידאו: אימות, ראיות וחקירה

קיבלתם שיחת וידאו או הודעה קולית מאדם מוכר שמבקש כסף, סודיות או פעולה דחופה? אל תנסו להכריע לפי הקול או הפנים בלבד. עוצרים את הפעולה, מנתקים ומאמתים מול האדם בערוץ עצמאי שכבר היה מוכר לפני האירוע. Deepfake יכול להיראות אמין, אבל גם שיחה אמיתית יכולה להגיע מחשבון שנפרץ.

מהו Deepfake ומה אינו מוכיח?

Deepfake הוא תוכן קולי, חזותי או משולב שנוצר או שונה באמצעות כלים חישוביים כדי להציג אדם כאילו אמר או עשה דבר שלא התרחש כך. לצד תוכן סינתטי מלא קיימים חיקוי קול, סנכרון שפתיים, החלפת פנים, עריכה סלקטיבית, הוצאת קטע מהקשר ושימוש בחשבון אמיתי שנפרץ.

מראה משונה, מצמוץ, השהיה או קול מתכתי הם לכל היותר סימנים. איכות רשת ירודה, דחיסה, תאורה, פילטר, מצלמה חלשה או מוגבלות יכולים ליצור אותם גם בתוכן אמיתי. באותה מידה, תוכן מזויף איכותי עשוי שלא להציג סימן חזותי ברור.

התרחישים המרכזיים

פרוטוקול 90 השניות לשיחה חשודה

1. לא מבצעים את הבקשה. קול ופנים אינם אישור פעולה.
2. לא מוסרים מידע לאתגר שהמתקשר מציע. הוא עשוי להשתמש בתשובה להמשך התחזות.
3. מסיימים את השיחה. אומרים שהנוהל מחייב אימות נפרד.
4. חוזרים בערוץ ותיק. מספר ששמור מלפני האירוע, אפליקציה ארגונית או אדם נוסף.
5. משתמשים בפרט שאינו פומבי. מילת קוד או שאלה שתוכננו מראש, לא מידע שקל למצוא ברשת.
6. מפעילים מאשר שני. במיוחד בתשלום, שינוי בנק או מסירת מידע.
7. שומרים פרטים. שעה, מספר, קישור, משתתפים, בקשה ומה נאמר.

אם כבר הועבר כסף או מידע

1. מתקשרים מיד למוקד ההונאות של הבנק או חברת האשראי.
2. מבקשים עצירה, Recall או טיפול מתאים ומספר פנייה.
3. מחליפים סיסמאות ומבטלים סשנים ממכשיר בטוח אם נמסרה גישה.
4. שומרים את קובץ השיחה, ההזמנה, הצ׳אט והוראת התשלום.
5. מגישים תלונה למשטרה עם פרטי התשלום והחשבונות.
6. מדווחים למוקד 119 אם היה דיוג, השתלטות או רכיב סייבר.
7. בודקים פעולות נוספות שנעשו באותו חשבון או בשם אותו אדם.

למקרה של התחזות למנכ״ל או לספק ראו מדריך הונאת BEC.

שבע שכבות אימות

1. הטענה: מה בדיוק מבקשים או טוענים שהאדם אמר?
2. אימות האדם: האם האדם אישר זאת בערוץ עצמאי?
3. מקור הקובץ: מאיפה הגיע הקובץ ומי החזיק בו?
4. Provenance: האם קיימים Content Credentials או נתוני מקור ניתנים לאימות?
5. בדיקה טכנית: מטא-נתונים, קידוד, חיתוכים, רציפות קול ותמונה.
6. הקשר: האם מקום, זמן, עדים, יומן ואירועים אחרים תומכים בתוכן?
7. הפצה וייחוס: איזה חשבון פרסם ומי ניתן לקשור אליו מעבר לשם התצוגה?

תיק חזק אינו נשען על שכבה אחת. גם אם כלי זיהוי מסמן סבירות גבוהה לתוכן סינתטי, עדיין צריך לשמור מקור, לבדוק הקשר ולברר מי השתמש בתוכן ולשם מה.

שימור שיחת טלפון או הודעה קולית

• שומרים את הקובץ המקורי בתוך האפליקציה ומייצאים בלי עריכה כשניתן.
• שומרים מספר, שם תצוגה, פרופיל, תאריך, שעה ומשך.
• מצלמים את יומן השיחות וההקשר המלא.
• שומרים הודעות לפני ואחרי הקובץ, לא רק את הקטע החשוד.
• מתעדים אם ההודעה הועברה, הורדה או הוקלטה ממכשיר אחר.
• לא ממירים שוב ושוב בין פורמטים ולא מסירים מטא-נתונים מהעותק היחיד.
• שומרים דוגמאות קול אמיתיות רק בהסכמה ובדרך מתועדת.

שימור שיחת וידאו

• הזמנת הפגישה והכתובת המלאה.
• שם הפלטפורמה, מזהה הפגישה והמארח.
• רשימת משתתפים, שמות תצוגה וזמני כניסה ויציאה.
• צ׳אט, קבצים, הקלטה ותמלול מקוריים, אם נשמרו כדין.
• לוגי חשבון, מכשיר ו-IP שבידי הארגון או הפלטפורמה לפי סמכות.
• צילום מסך מלא כתיעוד משלים, לא במקום ההקלטה המקורית.
• תיאור מי ראה את השיחה בזמן אמת ומה נעשה בעקבותיה.

שימור סרטון או פוסט שפורסמו ברשת

1. שומרים URL מלא, מזהה פרסום, חשבון ופלטפורמה.
2. מצלמים עמוד מלא עם תאריך, שעה, תגובות ומספר צפיות.
3. מורידים את הקובץ המקורי דרך מסלול חוקי, אם אפשר.
4. שומרים עותק כפי שהתקבל וקובץ עבודה נפרד.
5. מתעדים פרסומים חוזרים, אך לא מניחים שהראשון שמצאתם הוא המקור.
6. שומרים תגובת הפלטפורמה ומספר דיווח.

לפרוטוקול מפורט של קבצי מקור, גיבוב ושרשרת תיעוד ראו שמירת ראיות דיגיטליות.

מדוע קובץ המקור חשוב?

רשתות חברתיות ואפליקציות משנות גודל, קצב, קידוד ומטא-נתונים. צילום מסך או הקלטת מסך יכולים לתעד מה הוצג, אך אינם שומרים בהכרח את מבנה הקובץ. מומחה זקוק לגרסה הקרובה ביותר למקור ולתיאור כל ההמרות שעבר התוכן.

מה בודקים באודיו?

• רציפות זמן, חיתוכים, שכבות ורעש רקע.
• קידוד, קצב דגימה, ערוצים והמרות.
• קצב דיבור, אינטונציה, נשימה והגייה, בזהירות ובהשוואה מתאימה.
• פער בין קול לסביבה או בין מקטעים.
• התאמה לדוגמאות אמיתיות, סמוכות ורלוונטיות שהתקבלו כדין.
• סימנים של שיבוט או סינתזה לפי כלי מומחה, עם שיעורי טעות ומגבלות.

דמיון קולי אינו זיהוי אדם. מחלה, לחץ, מיקרופון, שפה, חיקוי ודחיסה משנים קול. גם מודל יכול לייצר קול דומה בלי להיות זהה ביומטרית, ולכן אין להציג השוואה חובבנית כמסקנה.

מה בודקים בווידאו?

• רציפות פריימים, חיתוכים, שינויי קצב ו-GOP.
• סנכרון קול ושפתיים לאורך זמן, לא בפריים בודד.
• גבולות פנים, תאורה, השתקפות, צל ותנועה.
• התאמה בין ראש, גוף, רקע ומצלמה.
• מטא-נתונים, תוכנת יצירה והיסטוריית קידוד.
• קשר למקום, זמן, מזג אוויר, עדים ומקורות נוספים.

פגם חזותי יכול להיגרם מתקשורת וידאו או פילטר לגיטימי. מומחה צריך להעריך את הקובץ ואת תהליך יצירתו, לא רק להצביע על תמונה שנראית מוזרה.

כלי זיהוי Deepfake: אינדיקציה, לא פסק דין

מחקרי NIST מצביעים על פער בין ביצועים בתנאי מחקר לבין מדיה מהעולם האמיתי, ועל קושי של מערכות לזהות שיטות יצירה שלא הכירו ובתוכן שעבר דחיסה או עיבוד. לכן שומרים:

• שם הכלי והגרסה.
• הקובץ המדויק שנבדק וערך הגיבוב שלו.
• הגדרות, פלט מלא וציון הסתברות.
• הסבר מה הכלי טוען לזהות.
• שיעורי שגיאה ומגבלות ידועות.
• בדיקה נוספת בשיטה בלתי תלויה לפי הצורך.

אין להעלות מדיה אינטימית, סודית או עסקית לכלי חינמי בלי לבדוק תנאי שימוש, שמירה, אימון מודלים ומיקום המידע.

Content Credentials ו-C2PA

Content Credentials יכולים לספק מידע חתום וניתן לאימות על מקור והיסטוריית עריכה של קובץ, כאשר שרשרת כזו נוצרה ונשמרה. הם מספקים אותות Provenance, לא קביעה שהתוכן ״אמת״.

• נוכחות אישור תקף יכולה לסייע לזהות מקור ושינויים שתועדו.
• בודקים מי חתם על הטענות ובאיזה מודל אמון.
• היעדר אישור אינו מוכיח שהתוכן מזויף.
• נתוני מקור יכולים להימחק או לא להיכלל מלכתחילה.
• אישור תקף אינו מוכיח שהאירוע המצולם אמיתי או שהטענה בהקשר נכונה.

Deepfake, עריכה מטעה או הקשר כוזב?

ייחוס: מי יצר, מי פרסם ומי הרוויח?

אלה שלוש שאלות שונות. מי שפרסם יכול להיות מפיץ, קורבן לחשבון פרוץ או גורם אחר ממי שיצר את הקובץ. החקירה בונה שרשרת.

1. הקובץ המוקדם ביותר שניתן לאתר.
2. החשבון או הערוץ הראשון הידוע.
3. דומיינים, מספרים, דוא״ל וחשבונות קשורים.
4. תשלומים, מוטבים, ארנקים או קישורי הפניה.
5. גישה לחומרי המקור הדרושים לשיבוט.
6. מניע, תועלת, תזמון וידע ייחודי.
7. נתוני פלטפורמה וספק שמתקבלים במסלול מוסמך.

IP, סגנון כתיבה או תמונת פרופיל אינם מספיקים לבדם. משתמשים ברמת ודאות ומציגים גם הסברים חלופיים.

הסרה מהירה מול שימור ראיות

תוכן מזיק מצדיק פעולה מהירה, אך הסרה לפני שימור עלולה למחוק URL, חשבון, תגובות ונתוני זמן. שומרים תחילה, אם הדבר בטוח, ואז מדווחים לפלטפורמה במסלול המתאים. בתוכן אינטימי, איום או קטינים הבטיחות והפסקת ההפצה קודמות לאיסוף מושלם.

• שומרים עמוד, קובץ והקשר.
• מתעדים מספר דיווח ותשובת פלטפורמה.
• לא משתפים את התוכן בקבוצות כדי ״להזהיר״.
• מבקשים מאחרים לשלוח קישור ולא להוריד ולהפיץ.
• מתייעצים עם עורך דין על הודעה, הסרה ושימור.

תוכן אינטימי מזויף וסחיטה

לא משלמים ולא שולחים תוכן נוסף. שומרים את האיום, החשבון, פרטי התשלום והקובץ בלי להפיצו. פונים למשטרה; אם קטין מעורב פונים גם למוקד 105, ובסכנה מיידית ל-100. למדריך המלא ראו סחיטה באיומים וסחיטה ברשת.

תוכנית תגובה לארגון

1. עוצרים פעולה עסקית. תשלום, מסירת מידע, שינוי ספק או גישה.
2. מאמתים בערוץ נפרד. מול האדם והגורם השני בתהליך.
3. משמרים. הזמנה, הקלטה, צ׳אט, לוגים, דוא״ל ועסקה.
4. מגנים על חשבונות. אם יש חשד להשתלטות, שומרים סשנים ואז מבטלים גישה.
5. ממפים חשיפה. מי קיבל את התוכן ומה נעשה בעקבותיו.
6. מדווחים. בנק, משטרה, 119, מבטח או רגולטור לפי האירוע.
7. מתקשרים בזהירות. הודעה קצרה לעובדים או לקוחות בלי להפיץ את הקובץ.
8. חוקרים. מקור, הפצה, תשלום, חשבונות וכשלי בקרה.

נוהל אימות לשיחות רגישות

• אין אישור תשלום על בסיס קול או וידאו בלבד.
• Callback למספר שנמצא במערכת לפני האירוע.
• מאשר שני שאינו משתתף באותה שיחה.
• מילת קוד מתחלפת לאירועי משפחה או צוות הנהלה.
• Challenge בזמן אמת שנבחר בידי המאמת ולא בידי המתקשר.
• איסור על עקיפת נוהל בגלל דחיפות או סודיות.
• תיעוד מי אימת, באיזה ערוץ ומתי.

שאלה המבוססת על שם ילד, מקום עבודה או מידע ברשת אינה Challenge חזק. גם תמונה של תעודה יכולה להיות מזויפת או גנובה.

מה חוקר פרטי יכול לעשות?

• לבנות ציר זמן של יצירה, שליחה, הפצה ופעולה.
• לשמר חשבונות, דומיינים, פרסומים ותכתובות ממקורות חוקיים.
• לבדוק קשרים בין חשבונות, מספרים, חברות ותשלומים.
• לאתר עדים ומקורות מוקדמים של הפרסום.
• לתאם מומחה מדיה פורנזית ולשלב את ממצאיו.
• להפיק דוח שמפריד בין קובץ, חשבון, מפרסם ויוצר.

מה אינו בסמכות או אינו ניתן להבטחה?

• חוקר אינו פורץ לחשבון או למכשיר כדי לזהות מפיץ.
• אינו מחייב פלטפורמה למסור IP או נתוני מנוי.
• אינו קובע אותנטיות ודאית באמצעות צפייה בלבד.
• אינו יכול להבטיח הסרה מלאה מכל העותקים.
• אינו מחליף מומחה מדיה, משטרה או בית משפט.
• אינו צריך לקבל מדיה אינטימית מעבר לנדרש ולמסלול מאובטח.

מבנה דוח מקצועי

1. הטענה והנזק שנגרם או נמנע.
2. ציר זמן ומפת ערוצים.
3. קובצי מקור, עותקים ושרשרת קבלה.
4. מטא-נתונים, קידוד, גיבוב ו-Provenance.
5. כלי בדיקה, גרסאות, ציונים ושיעורי טעות.
6. דוגמאות השוואה ומקורן.
7. הקשר חיצוני: מקום, זמן, עדים ואירועים.
8. מפת הפצה וחשבונות.
9. ממצאים שמחזקים ומחלישים כל השערה.
10. הפרדה בין יצירה, הפצה, שימוש ותועלת.
11. מגבלות וחומר שלא התקבל.

12 בקרות מניעה

1. Callback לערוץ ותיק לכל פעולה רגישה.
2. אישור כפול לתשלום ולשינוי מוטב.
3. מילות קוד למשפחה ולצוותי חירום.
4. איסור עקיפת נוהל בגלל סודיות.
5. ספר אנשי קשר רשמי ומוגן.
6. MFA לחשבונות וידאו, דוא״ל ורשתות.
7. הגבלת הקלטות ציבוריות מיותרות של בכירים.
8. נוהל דיווח לעובד שקיבל שיחה חשודה בלי אשמה.
9. שמירת לוגי פגישות והעברות לפי סיכון.
10. תרגיל התחזות קולי וחזותי לצוות כספים.
11. Content Credentials בתהליכי פרסום כאשר מתאים.
12. תוכנית תגובה והסרה לתוכן מזויף בשם הארגון.

שאלות נפוצות

הקול נשמע בדיוק כמו האדם. זה יכול להיות מזויף?

כן, אך ייתכן גם שהחשבון או הטלפון האמיתיים נפרצו. לא מכריעים לפי קול; מבצעים Callback ואימות שני.

אפשר לזהות Deepfake לפי העיניים או השפתיים?

לא באופן אמין. פגם חזותי עשוי לנבוע מדחיסה או רשת, ותוכן מזויף איכותי עשוי להיראות תקין. דרושים מקור, הקשר ובדיקה מקצועית.

כלי אונליין נתן ציון 92% מזויף. זה מוכיח?

לא. צריך לדעת מה נבדק, באיזו גרסה, מול אילו שיטות ומה שיעור הטעות. הציון הוא ממצא אחד בלבד.

אין Content Credentials. האם הסרטון מזויף?

לא. ייתכן שהמצלמה או תוכנת העריכה לא יצרו אותם, או שהם הוסרו. היעדר Provenance אינו הוכחה לזיוף.

האם Content Credentials מוכיחים שהסרטון אמת?

הם יכולים לסייע לאמת טענות על מקור והיסטוריה, אך אינם קובעים לבדם שהאירוע או ההקשר אמיתיים.

כדאי להתעמת עם החשבון המפיץ?

בדרך כלל שומרים קודם ומתאמים דיווח או הסרה. עימות עלול להביא למחיקה, הפצה נוספת או איום.

אפשר לזהות מי יצר את הסרטון?

לעיתים ניתן למפות מקור, חשבונות ותשתיות, אך יצירה, פרסום ושימוש עשויים להתבצע בידי גורמים שונים. אין הבטחה לזיהוי.

ילד מופיע בתוכן מזויף. למי פונים?

למוקד 105 ולמשטרה; בסכנה מיידית ל-100. אין להפיץ את הקובץ לצורך התייעצות לא מבוקרת.

מקורות רשמיים ומקצועיים

• מערך הסייבר הלאומי: מניעת התחזות בשיחות וידאו.
• הרשות לאיסור הלבנת הון: ניצול AI ו-Deepfake להונאה.
• מערך הסייבר הלאומי: דיווח על אירוע סייבר ומוקד 119.
• המטה הלאומי להגנה על ילדים ברשת: מוקד 105.
• NIST: אתגרי הכללה ועמידות בזיהוי Deepfake.
• C2PA: מפרט Content Credentials ו-Provenance.