תופעת הדיפ־פייק, סרטוני וידיאו מזויפים שנראים כמו־אמיתיים, עומדת לשנות את העולם. והכוונה לעולם האמיתי, זה שפועלים בו פוליטיקאים, מדינות, ואינטרסים גיאו־פוליטיים.
מדובר בטכנולוגיית בינה מלאכותית (AI), שמאפשרת כיום לייצר סרטי וידיאו שבהם מופיעות דמויות אמיתיות, שאומרות או מבצעות דברים על־פי רצונו של היצרן. סרטוני דיפ־פייק ראשונים, הומוריסטיים, הופיעו ברשת כבר לפני כשנתיים, ביניהם פניו של סטיב בושמי שהושתלו על גופה של ג’ניפר לורנס וסרטון של אילון מאסק כתינוק. אבל הטכנולוגיה כבר מאפשרת סרטוני דיפ־פייק שייראו כל כך אמיתיים, עד שלא ניתן יהיה לזהות בהם את המניפולציה. המסרים שיעברו דרכם עלולים להשפיע בקלות על קהלים עצומים — צרכנים, בוחרים, מקבלי החלטות.
לפי פרופ' האו לי מאוניברסיטת דרום קליפורניה, מהמומחים הגדולים בתחום, בתוך חצי שנה עין אנושית לא תוכל להבדיל בין וידיאו אותנטי לבין וידיאו מזויף. מה שאומר, שסרטונים של מנהיגי העולם מכריזים מלחמה על עניינים של מה בכך ייראו לנו אותנטיים לגמרי. וסרטונים אמיתיים, למשל של הקנצלרית אנגלה מרקל רועדת או של דונלד טראמפ המאשים את הכורדים שלא השתתפו בפלישה לנורמנדי, ייראו לנו מניפולציה זולה. ההבדל בין אמת ושקר מטשטש.
רשע אולטימטיבי
מספר סרטוני הדיפ־פייק ברשת עלה ב־84% בשנה האחרונה. חברת Deep Search מהולנד, הסוקרת את האינטרנט בקביעות בחיפוש אחר סרטונים כאלה, מציינת, שהוא מגיע כיום לכ־15,000 ועולה בהתמדה. הרוב המוחלט הם סרטי פורנו, שבהם מוחלפים פניה של השחקנית המקורית בפנים של כוכבת ידועה. חביבות זייפני הפורנו הן סקרלט ג'והנסון וגל גדות. סרטוני דיפ־פייק אחרים נוצרו לשם שעשוע או סאטירה. הקומיקאי ג'ים מסקימן, למשל, העלה לרשת סרטון חיקויים של ידוענים, כשפניו משתנים לפי הדמות שהוא מחקה.
הסרטון הראשון ששינה את הלך הרוח המשועשע סביב הטכנולוגיה נוצר על ידי הקומיקאי ג'ורדן פיל, ובו נראה הנשיא לשעבר אובמה מנבל את פיו על הנשיא טראמפ. המניפולציה הייתה ברורה, אבל המסר מפחיד: סרטון הדיפ־פייק הבא יכול להיות זדוני באמת. זה רק עניין של זמן.
המחוקקים בארה"ב מנסים להתמודד עם הנושא באמצעות חקיקה, שמטילה עונשים על פרסום דיפ־פייק פוליטי בזמן מערכת בחירות, ועל דיפ־פייק בתחום הפורנו. הבעיה היא, שכדי להפוך חוק כזה לאפקטיבי נדרשת יכולת לזהות בוודאות סרטון דיפ־פייק. זו הסיבה, שמאמצים רבים מושקעים בניסיונות לפתח כלים אמינים, שיידעו לזהות דיפ־פייק במהירות. מי שנזקקות לכך במיוחד הן בראש ובראשונה הפלטפורמות החברתיות הגדולות — גוגל, פייסבוק, יוטיוב, אינסטגרם ואחרות. כשיגיע צונאמי הדיפ־פייק, יודעים שם, הן שוב ייגררו לדוכן הנאשמים, וכנראה גם ייפגעו כלכלית; הן יחזרו להיות הרשע האולטימטיבי, שמספק במה למניפולציות שקריות.
שחקנים מדברים
בבחירות 2016 בארה"ב שימשה פייסבוק במה לאלפי ידיעות פייק ניוז שהופנו למצביעים ספציפיים. מאז גדל ב־10% היקף המידע החדשותי שהציבור האמריקאי צורך מהפלטפורמות החברתיות. המשמעות: בבחירות 2020 ההשפעה של הדיפ־פייק עלולה להיות קטלנית. פייסבוק וגוגל משקיעות מאמצים רבים בעידוד התעשייה והאקדמיה לפיתוח טכנולוגיות הזיהוי.
בחודש שעבר יצאה גוגל, שעומדת גם מאחורי יוטיוב, בהכרזה על הפקת "מערך נתונים" (Data set) של 3,000 סרטוני וידיאו, שנראים אותנטיים לחלוטין, אלא שרק חלקם אותנטי וחלקם נוצר בטכנולוגיית דיפ־פייק. המטרה — לאמן את תוכנות הבינה המלאכותית להבדיל בין וידיאו אותנטי לסינתטי. להפקת הסרטונים גייסה גוגל שחקנים מקצועיים. המאגר שולב במערך ייעודי לצורך מחקר, בשם FaceForensics, שגוגל תומכת בו בשותפות עם אוניברסיטאות מינכן ונאפולי.
בסרטון ההדגמה שפירסמה החברה נראים שחקנים המדברים אל המצלמה בחלקה העליון של התמונה, כשבחלקה התחתון מוצגת גרסת הדיפ־פייק שלהם — עם ראשים של שחקנים אחרים.
פייסבוק יצאה ביוזמה מרחיקת לכת אף יותר: במאי השנה הכריזה החברה על "אתגר זיהוי דיפ־פייק" (DFDC), שנועד לתמרץ חברות וחוקרים באקדמיה לפתח טכנולוגיות זיהוי. לפחות 10 מיליון דולר יוענקו לזוכים. פייסבוק גייסה למיזם גם את מיקרוסופט, וכן את האוניברסיטאות MIT, אוקספורד, קורנל, ברקלי ועוד.
גם פייסבוק יצרה לעצמה מאגר סרטוני דיפ־פייק באמצעות שחקנים. מייק שרופפר, מנהל הטכנולוגיה הראשי של החברה, אמר בשיחה עם כתבים: "אני מנסה להתקדם מהר לפני שהבעיה מגיעה, כי הולכת להיות בעיה גדולה". אגב, פייסבוק גם בוחנת את מדיניותה העקרונית לגבי סרטוני דיפ־פייק: האם הם פסולים על הסף, או שיש להסיר רק את אלה הפוגעים בפוליטיקאים.
70 טכניקות
חברה אחת שכבר הודיעה על הצטרפותה לאתגר של פייסבוק היא AdVerif.ai של הישראלי אור לוי. בימים כתיקונם היא עוסקת בזיהוי פייק ניוז אבל לצורך האתגר של גוגל היא גייסה באחרונה צוות של חמישה אנשי פיתוח חדשים. "בינתיים פיתחנו אב־טיפוס ראשוני עם תוצאות לא רעות, ונעלה הילוך עם קבלת מאגר הנתונים", אומר לוי. לדבריו, הסרטונים החדשים שיצרו החברות לצורך המחקר הכרחיים: "עד עכשיו היו לנו רק כמה עשרות, אולי מאות, של דוגמאות".
לוי אומר, כי רק מספר קטן של חברות סטארט־אפ מתמחות כיום בדיפ־פייק: "מדובר בעיקר בחוקרים באקדמיה שמוצאים בזה אתגר, או סוכנויות ממשלתיות כמו DARPA. לפי מיטב ידיעתי, אין כיום אף חברה שמציעה פתרון מסחרי שלם ואמין לזיהוי דיפ־פייק. אני מקווה שהאתגר של פייסבוק יצעיד קדימה את התחום. הם יביאו לשוק הרבה כסף והרבה יחסי ציבור".
באקדמיה, כמו באקדמיה, פחות מתעניינים בחששות העסקיים של פייסבוק ויותר באתגר הטכנולוגי. לטענת פרופ' האני פריד מ־UC ברקלי, "בעידן המידע הנוכחי אנחנו חייבים להשתפר בהבחנה בין אמת לשקר, לגמול לתוכן אמין, וכך לחנך את הדור הבא להיות אזרחים דיגיטליים טובים יותר".
בלי קשר לפייסבוק, הצוות של פריד כבר אוסף מזה חודשים מידע ויזואלי על כל המועמדים במערכת הפוליטית האמריקאית, ובונה מאגר של המראה המקורי שלהם. המטרה היא — במקרה של חשש לדיפ־פייק על מועמד — לאפשר לבינה המלאכותית להשוות את הסרטון החשוד לאלה שבמאגר ולקבוע אם הוא מזויף.
גם במשרד ההגנה האמריקאי חוששים מאוד משיטפון הדיפ־פייק. מארק טורק, מנהל פרויקט המחקר הפורנזי של המדיה בסוכנות DARPA, מדבר על 70 טכניקות שונות שנבחנות לצורך ההתמודדות; למשל — תוכנה שמשווה את תנועות השפתיים לפס הקול של הסרטון וקובעת אם יש תאימות מלאה ביניהם, או תוכנה שמחפשת הבדלי תאורה בין שתי דמויות בסרטון.
פרסום או אמנות
בניגוד לטכנולוגיות הפריצה הוותיקות שבהן מתמחים רבים, טכנולוגיות הדיפ־פייק הן חדשניות, מסובכות ומבוססות בינה מלאכותית. אף שאין להשיג עדיין תוכנות ליצירה קלה ומהירה של דיפ־פייק רציני, כבר עתה קיימות חברות שמציעות ברשת יצירה של סרטונים כאלה בהזמנה, בתוך יומיים, על בסיס תמונות או סרטונים קיימים, בעלויות של דולרים בודדים לסרט. במגרש הזה, אגב, פועלות גם חברות ישראליות, שמדגישות כי מדובר בסרטונים למטרות פרסום או אמנות, וכל שימוש אחר נפסל על ידיהן.
מדובר כרגע בסרטונים ברמה בסיסית, ואין סיבה לפקפק בכוונתם הטובה של היוצרים. אבל ברור שתמורת סכומי הכסף הנכונים, יהיו בעולם מי שיהיו מוכנים לעשות עבודה ברמה אחרת לגמרי, עם מטרות מפוקפקות.
tal-sh@ynet.co.il
