לא תאמינו

על מי ועל מה אפשר עוד לסמוך באינטרנט מבלי ליפול בפח?

התשובה לשאלה הזו היא לא רק מסובכת, היא משתנה מיום ליום: כלים טכנולוגיים חדשים שנכנסים לחיינו, יחד עם נורמות חברתיות שמשתנות, מחייבים לרענן מדי פעם את רשימת המקורות האמינים ברשת. וזו ממשיכה להצטמצם בקצב מסחרר.

היום מיילים מסוג "העוקץ הניגרי", שהפילו בפח בעבר רבים וטובים, כבר נראים מגוחכים להחריד. ובכל זאת, מדי יום ממשיכים לנחות בתיבות הדואר שלנו עשרות מכתבי הונאה, שבהם הכותבים מזדהים כעורכי דין, כחיילים אמריקאים, כאלמנות עשירות וכדיילי קרקע בשדה תעופה. יש להם מיליוני דולרים עבורנו, אם רק נספק להם כמה פרטים על כרטיסי האשראי שלנו.

איך זה שהמיילים הללו ממשיכים להגיע בהמוניהם, אחרי כל האזהרות ותוכנות האנטי־ספאם והמסננות המובנות? כי מתברר שעדיין יש אנשים רבים מאוד, שפשוט מאמינים למה שהם קוראים, שנתקלים בתופעה שאין להם כלים לבקר אותה. הם לא יודעים על מנועים שסורקים את הרשת כדי למצוא אקראית כתובות מייל, ועל מאגרי ענק שנפרצים מדי יום. מבחינתם, מייל שהגיע אליהם נשלח ישירות אליהם.

סקרלט ג'והנסון | צילום: שאטרסטוק

זה נשמע נאיבי, אבל לא צריך לחפש בעולם כדי למצוא הונאות רשת בסיסיות, שעדיין עובדות על ישראלים. רק לפני כמה חודשים הוציאה משטרת ישראל הודעה, שלפיה זיהתה "ניסיונות סחיטה מגולשים הצופים באתרים המכילים תכנים מיניים", וביקשה מכל מי שמקבל הודעות מעין אלה לפנות לתחנת משטרה ולהגיש תלונה. רק שאיש לא ניסה לסחוט אף אחד באתרי פורנו: נכון שהודעות מייל שנחתו אצל אלפי משתמשים טענו כי הותקנה רוגלה על מחשביהם וכי הם נתפסו בשעת עינוג עצמי. זה היה שקר. הוא הצליח להפחיד, כי אל כל מייל כזה צורפה סיסמה של בעליו, כהוכחה לכך שהמייל שלו נפרץ. הסיסמאות הללו הושגו ממאגרי סיסמאות שדלפו — לא ממחשבים אישיים פרוצים. אבל רבים מהקורבנות לא ידעו זאת, ולא היו להם הכלים להבין איך סיסמה שלהם הגיעה לשולח המייל.

הבעיה היא שכל זה משחק ילדים בהשוואה לסכנות הצפויות לנו בשנים הקרובות.

"תולעת של אופל"

אחת מתופעות הרשת המזעזעות ביותר של השנה האחרונה זכתה בשבוע שעבר לפרסום בזכות כתבה של "וושינגטון פוסט", שבה רואיינה השחקנית סקרלט ג'והנסון. נושא הכתבה היה Deepfakes — מושג שהשתרש בשנה האחרונה לתיאור השימוש בטכנולוגיה המאפשרת "להלביש" פנים של אדם על גוף של אדם אחר בסרטון וידיאו.

אם עד לפני שנה בערך הטכנולוגיה שנדרשה לבצע משימה כזו הייתה זמינה בעיקר לאולפני סרטים ולמומחים בעלי ציוד יקר, כיום מספיק סרטון וידיאו או אוסף של תמונות פנים כדי לבצע את המשימה: הכלים זמינים לכל אדם באינטרנט. זה לא דורש הרבה כישרון, רק מחשב מספיק חזק, ידע טכני, ומאגר גדול מספיק של תמונות וסרטונים, שמהם "מייצרים" את תמונת הפנים המזויפת.

כמו רבות מהטכנולוגיות החדשות — גם זו הפכה במהירות לכלי יעיל להפעלת אלימות מינית — בעיקר כלפי נשים. השם Deepfakes הוא שם המשתמש באתר Reddit של מומחה שיצר כמה מהכלים הפופולריים ביותר כיום להחלפת פנים — והשתמש בהם כדי לייצר סרטוני סקס מזויפים של מפורסמים. כך, תווי הפנים של גל גדות, של סקרלט ג'והנסון ושל שחקניות פופולריות אחרות "הולבשו" על גופן של נשים בסרטים פורנוגרפיים.

ג'והנסון, שתמונות עירום שלה נגנבו והופצו ברשת כבר לפני שנים, ופניה שימשו להכנת תמונות מזויפות מאז נערותה, נשמעה פסימית מאוד בראיון ל"פוסט". מבחינתה, "אינטרנט הוא חור תולעת של אופל, שאוכל את עצמו". אך היא גם מכירה בכך שבזכות היותה דמות פופולרית כל כך, התופעה משפיעה עליה פחות, כי אנשים כבר מבינים, שהדמות בסרט הפורנוגרפי אינה היא.

ובאמת, הבעיה היותר־גדולה היא לא הפגיעה במפורסמים; הנזק הנורא ביותר נגרם לנשים שאינן מפורסמות, בשל תופעה הולכת וגדלה של יצירת סרטים פורנוגרפיים עם "השתלת פנים" של נשים על פי דרישה. מתברר שיש טיפוסים הנכנסים לפורומים אינטרנטיים, משלמים כמה עשרות דולרים, מספקים עשרות או מאות תמונות של אישה (פעמים רבות כאלה שנלקחו מפייסבוק או מרשת חברתית אחרת), ומקבלים בתמורה בתוך זמן קצר סרטון פורנוגרפי "בכיכובה".

פרופיל קולי

המשמעות המיידית היא שאנחנו נכנסים לעידן חדש: תקופה שבה משתמשי האינטרנט — כלומר רוב האנושות — לומדים בהדרגה, כי אסור לסמוך לא רק על טקסטים משכנעים ועל תמונות שנראות מציאותיות, אלא גם על מה שרואים בסרטוני וידיאו. מדובר בתהליך שייקח זמן רב, כשבינתיים חייהם של נשים וגברים רבים עשויים להיהרס.

אז למי ולמה כן אפשר להאמין בעידן הטכנולוגי החדש? אולי לקולם הטבעי של אנשים? ממש לא: גם כאן ניכרת התקדמות טכנולוגית, שעשויה להפוך את קולנו לבר־זיוף בלחיצת כפתור. חברת אדובי הידועה, היצרנית של פוטושופ, עובדת כבר שנים על מוצר בשם Voco, שיודע לעשות לקול מה שעושה פוטושופ לתמונה. על פי התכנון המקורי של התוכנה הזו, נדרשות הקלטות של כ־20 דקות דיבור של אדם כדי לייצר "פרופיל קולי" שלו. לאחר שזה נוצר — היישום יאפשר להקליד מילים לפי החשק — ואלה יושמעו בקולו של האדם שהוקלט, גם מילים שבהן כלל לא השתמש במאגרים המוקלטים.

ואם Voco עדיין לא בשוק — אפליקציה אחרת, בשם Lyrebird, כבר נמצאת בשלבי הבטא שלה. היא מבקשת מכם לומר 30 משפטים, ואז מאפשרת לייצר מהם קול דיגיטלי — כלומר להשמיע כל משפט שיעלה על דעתכם. למזלנו, התוכנה מותאמת בינתיים רק לשפה האנגלית ומתקשה עם מבטאים שאינם אמריקאיים.

באפריל האחרון ניסה האתר Buzzfeed להעלות מודעות לכך שאפשר לזייף כיום קול ותמונה בקלות יחסית. יחד עם הקומיקאי ג'ורדן פיל, שאחד החיקויים המפורסמים ביותר שלו הוא ברק אובמה, יצרו באתר סרטון וידיאו עם גרסה דיגיטלית מזויפת של הנשיא לשעבר. הכלים שבהם השתמשו הם אותם הכלים שמשמשים ליצירת סרטוני הפורנו המזויפים, והתוצאה הייתה ריאליסטית למדי.

בדרך לקמפיינים

אז למה כן אפשר להאמין בתקופה שבה סרטונים יכולים לכלול דמויות מזויפות, הן במראה והן בקול? התשובה העצובה היא שאין ברירה אלא לפקפק בהכל: בווידיאו, בתמונות, וכמובן בטקסטים. מדינת ישראל נכנסת עכשיו למערכת בחירות, וניסיונות מניפולציה ברשת עלולים להפוך לחלק אינטגרלי מהקמפיינים של המפלגות השונות. לא יהיה צריך בשביל זה זיופי וידיאו או הקלטות קוליות מזויפות — די יהיה בהפצת מידע שקרי באמצעות המוני חשבונות מזויפים, ולהדהד ברשתות החברתיות מסרי תעמולה. זה הרבה יותר קל, ובינתיים נראה שגם אפקטיבי למדי.

הדרך היחידה להתגונן היא לגלות אחריות ולקבל שליטה על הסביבה הדיגיטלית שלנו. בדקתם למי בדיוק נגישות תמונות הפייסבוק שלכם? מי נמצא בקבוצות הווטסאפ שלכם? את המסרים של מי אתם משתפים בטוויטר? מחירו של היעדר שליטה כזו גבוה מאוד כבר היום, והוא רק ימשיך לעלות.

denis@vitchevsky.net