yed300250
הכי מטוקבקות
    באדיבות פייסבוק
    24 שעות • 21.05.2019
    בית המשפט העליון של פייסבוק
    אי שם בברלין יושבים כמה עשרות ישראלים במשרדים אפורים, ונחשפים 24 שעות ביממה לפורנוגרפיה, אלימות וטקסטים מסיתים וגזעניים — כדי שאתם לא תצטרכו. לצד אינטליגנציה מלאכותית ואלגוריתמים, מעסיקה פייסבוק מערך עצום מכל העולם, שמנקה את הרשת החברתית בהתאם למדיניות שנתונה לביקורת מימין ומשמאל. איתי אילנאי זכה בהצצה בלעדית לאחורי הקלעים, ושמע ממסנני התוכן הישראלים על הסרטונים שהם לא מצליחים לשכוח, על הטינופת המילולית שגורמת להם לא להתגעגע לארץ, ועל ניסיונות ההתערבות בבחירות האחרונות
    איתי אילנאי, ברלין

    בערך לפני שבוע ראיתי אישה ששורפים אותה בעודה בחיים", אומר רונן (שם בדוי), ונועץ מבט בתקרה. "באותו רגע לא התרגשתי. לחצתי על הכפתורים הנכונים והמשכתי הלאה. הכל היה מאוד טכני, בלי רגש. רק אחרי חצי שעה זה צף ועלה לי בראש, פתאום הבנתי מה ראיתי".

     

    אנחנו יושבים בבניין משרדים חסר אופי, בשכונה פרברית של ברלין. שטיחים מקיר לקיר מכסים את החדר ועל השולחן מונחת קערת פירות טריים. דבר בתפאורה הסתמית, בשמיים האפורים הנשקפים מבעד לחלונות הגדולים, אינו מעיד על האימה ששוררת כאן בפנים, 24 שעות ביממה, שבעה ימים בשבוע.

     

    ברוכים הבאים למרכז סינון התוכן של פייסבוק בגרמניה, אחד מעשרים מרכזים כאלה הפרושים ברחבי הגלובוס. לכאן זורמים בהמוניהם שלל הפוסטים הבעייתיים המועלים בידי גולשים לרשת החברתית הגדולה בעולם: אלימות, עירום, הסתה, גזענות, פגיעה עצמית, איומים ועוד.

     

    רונן הוא אחד מבין 30 אלף מסנני תוכן, העובדים מסביב לשעון כדי ליישם את המדיניות של פייסבוק, בכל הנוגע לַמותר ולאסור. הוא החומה שעליה מתרסקים השוליים האלימים והסהרוריים של ישראל, ולפעמים גם סתם אנשים מן השורה שחצו את הגבול באמצעות המקלדת. "אנחנו פועלי הזבל של פייסבוק", מנסח זאת רונן.

     

    כוח חסר תקדים. מארק צוקרברג | צילום: אי.אף.פי
    כוח חסר תקדים. מארק צוקרברג | צילום: אי.אף.פי

     

    תעשו לנו לייק

    זו הפעם הראשונה שבה פייסבוק מאפשרת לעיתונאים ישראלים לחדור לקרביים שלה, ולהציץ לתוך אחד ממרכזי סינון התוכן שלה. עד כה, פעילותו של תאגיד האינטרנט בתחום זה נעשתה בצללים, אלא שבזמן האחרון משהו בביטחון העצמי של פייסבוק נסדק.

     

    ברקע הדברים עומדת פרשת "קיימברידג' אנליטיקה", שצצה במסגרת הבחירות לנשיאות ארצות־הברית ב־2016, וחשפה את ערוותה של פייסבוק בכל הנוגע לפרטיות לקוחותיה. הפרשה עוררה דיון ציבורי הקורא להגביר את הרגולציה על החברה, מעצמה גלובלית בעלת כוח בלתי מרוסן, השולטת גם באפליקציות הפופולריות ווטסאפ ואינסטגרם.

     

    רק כמה ימים לפני ביקורנו בברלין פירסם כריס יוז, אחד ממייסדי החברה שכבר עזב אותה, מאמר מהדהד ב"ניו יורק טיימס" ובו קרא לפרק את מונופול התוכן של פייסבוק ולהחיל עליה חקיקה שתגביל את עוצמתה. "כוחו של מארק צוקרברג הוא חסר תקדים ובלתי אמריקאי", כתב יוז.

     

    צילום: באדיבות פייסבוק
    צילום: באדיבות פייסבוק

     

     

    בשנים האחרונות, ובמיוחד במהלך הבחירות האחרונות לכנסת, הפכה גם בישראל הרשת החברתית ממרחב אישי חביב שבו גולשים משתפים בחופשיות מחוויות היומיום, לזירה מסחרית ופוליטית שוצפת, עמוסת אינטרסים חבויים ומניפולציות מתוחכמות. לא משהו שמתחשק לעשות לו לייק.

     

    כדי לנסות להסביר לגולש הישראלי את הכוונות הטובות של פייסבוק בכל הנוגע לניטור וסינון תוכן, נפגשנו בברלין עם מנהלים בדרגים שונים בחברה (גילוי נאות: הגר בוחבוט מ־ynet ואנוכי טסנו לברלין על חשבון פייסבוק). לאחר פגישה ארוכה איתם, ישבנו לשיחה גם עם מסנני התוכן עצמם.

     

    אמנם בפייסבוק נמנעו מלספק לנו נתונים רבים, ובכל זאת, התחושה הייתה שענקית האינטרנט מעוניינת לפתוח עבורנו צוהר אל אחורי הקלעים של עבודתה המלוכלכת. אגב, במסגרת הכתבה נתבקשנו שלא לפרסם את שמות מסנני התוכן ואת כתובת המשרדים שבהם הם עובדים. "אנחנו לא רוצים שמישהו יבוא לחפש את ה'מניאקים מפייסבוק' שהורידו לו את הפוסט", הסביר לנו אחד ממסנני התוכן.

     

    הישראלים אוהבים לשנוא

     

    אמנם מדובר בעבודה בחו"ל, בתחום ההיי־טק, ועוד עבור אחד התאגידים החזקים בעולם; אבל שגרת המשרד של מסנני התוכן רחוקה מלהיות זוהרת: מסרטוני ניצול מיני של ילדים ועד התאבדויות בשידור חי, הם עובדים בפח האשפה של הרשת החברתית, בתור אלו שאחראיים על הניקיון.

     

    סרטון האישה הנשרפת, לדוגמה, הוא של רעייה נואפת שהועלתה על המוקד באחת ממדינות ערב. הסרטון התגלגל ככל הנראה לידי פעילים אנטי־מוסלמיים, המפעילים דף פייסבוק שבו הם מבקשים לחשוף את אכזריותם של מוסלמים באשר הם. "הם מעלים לאתרים האלה את כל התוכן הכי זוועתי שאתה יכול לדמיין", אומר מסנן התוכן רונן. "הפעם, הסרטון מצא את דרכו דווקא למחשב שלי". הוא הסיר, כמובן, את הסרטון מהרשת, בהתאם למדיניות פייסבוק האוסרת פרסום אלימות גרפית.

     

    רועי (גם שמו בדוי, כל כמו שאר מסנני התוכן המרואיינים בכתבה), עובד במקצוע זה ארבע שנים. "זה הרבה זמן", הוא אומר, "קשה לזעזע אותי". ובכל זאת, בזיכרונו צרובים שני סרטונים של פורנוגרפיית ילדים, שבהם נאלץ לצפות במסגרת תפקידו. "אחרי דבר כזה אתה מגיע לעבודה, פותח מחשב ואומר לעצמך, 'עכשיו אני אשתה קפה ויכול להיות שסרטון כזה שוב יקפוץ לי מול העיניים'", הוא מושך בכתפיו.

     

    ניתן לומר כי למזלם של מסנני התוכן הישראלים, הפייסבוק בעברית הוא מקום נעים יחסית. באזורים אחרים בעולם, תוכן גרפי קיצוני נפוץ הרבה יותר. "במדינות מרכז אמריקה, למשל, שם פועלים קרטלים של פשע מאורגן, העבריינים מעלים לפייסבוק הרבה סרטונים של רצח ועינויים שנעשים בצורה המזעזעת ביותר, במטרה להרתיע את האויבים שלהם", מגלה יאיר, מסנן תוכן נוסף. "במדינות אחרות יש הרבה מאוד פורנו. אצלנו, בישראל, זה בעיקר פקה־פקה, דיבורים".

     

    מאחורי הקלעים של משרדי פייסבוק
    מאחורי הקלעים של משרדי פייסבוק

     

     

    אז עם מה אתם מתעסקים בדרך כלל?

     

    "כושר ההמצאה הישראלי לא מאוד מתוחכם בהיבט הזה, אלה כל הדברים שאתה יכול לדמיין לעצמך", מצטרפת רינת. "הרבה שיח אלים, גזעני, מה שבפייסבוק נקרא Hate speech. אתה יודע, 'מוות לערבים' וכאלה".

     

    מכל המרכזים של פייסבוק בעולם, זה שבברלין הוא היחיד שבו נמצאים מסנני תוכן דוברי עברית. יש צדק פואטי בכך שדווקא בעיר שהייתה לערש הנאציזם יושבים האנשים שאחראיים על המאבק בפוסטים גזעניים, אבל הבחירה בברלין נבעה ממניעים פרקטיים לחלוטין: בעיר קוסמופוליטית שכזו, קל מאוד למצוא דוברי שפות רבות שמחפשים פרנסה.

     

    "אף אחד לא בא לפה במיוחד כדי לעבוד כמסנן תוכן, באנו לגור בברלין בלי קשר", מספרת רינת, אחת משבעה מסנני התוכן שעימם נפגשנו, כולם בגילאי 25־40, חלקם בעלי משפחות, שבחרו להעתיק את חייהם מישראל לגרמניה. "הגעתי לברלין עם אשתי במטרה לחיות כאן", אומר עומר בן ה־40. "אחרי שחיפשתי עבודה בתחום שלי ולא מצאתי, פשוט כתבתי בגוגל 'עבודה בעברית בברלין' וככה הגעתי".

     

     

    מאחורי הקלעים של משרדי פייסבוק
    מאחורי הקלעים של משרדי פייסבוק

     

     

    אמנם הם לא עובדים ישירות בפייסבוק אלא מועסקים על ידי קבלן משנה, אבל מרוויחים שכר מעל הממוצע ונהנים מתנאי העסקה מצוינים (שאליהם נגיע בהמשך). "זו משרה מסודרת שמספקת ויזת עבודה, ההנהלה גרמנית, התנאים טובים והצוות ישראלי", אומרת נועה. "שילוב מצוין".

     

    מלבד השכר, מרוויחים מסנני התוכן גם הצצה בלתי מסוננת אל החברה הישראלית. על צג המחשב שלהם מופיעים מבוקר עד ערב, ולעיתים גם באישון ליל, שלל פוסטים בעלי תוכן מפוקפק, רווי שנאה ואלימות. "אותי הפתיעה השנאה בין אשכנזים למזרחים. לפני שהתחלתי לעבוד פה לא חשבתי שאלה הממדים שלה", מספר יאיר. "אנשים מקללים אחד את השני רק בגלל שהצד השני מזרחי או אשכנזי. זיעזע אותי שבכל פעם שמתקרב יום השואה, אנחנו רואים פוסטים כמו 'היטלר היה בן אדם טוב, חבל שהוא לא הרג את כל האשכנזים'".

     

    הגעתם כל הדרך לברלין, רק כדי לחוות יום אחר יום את הישראלי המכוער.

     

    רינת: "זה רק מחזק את הבחירה שלי שלא לגור בישראל, כי אלה בדיוק הדברים שבגללם עזבתי. אבל אין ספק שהרבה מהפוסטים שבהם אנחנו נתקלים הם הקצה של השיח בישראל. זו לא תמונה מייצגת".

     

    עומר: "זו זווית מאוד צרה על ישראל, אלה השוליים. בן אדם רגיל שיש לו פייסבוק לא בהכרח ייתקל בתכנים האלה, אלא אם כן הוא מחפש מאבקים".

     

    רונן: "אבל התכנים האלה הרבה פעמים כן מייצגים את הרחוב הישראלי, שם אין מסננים כמונו. לפעמים אני מגיע לביקור בישראל ומרגיש כאילו צללתי לפיד של המחשב שלי בעבודה. מה שנחמד בברלין זה שאתה מסיים לעבוד, יוצא החוצה ולא מתעסק בזה יותר".

     

    בין חיזבאללה לכהנא

    בשבועות האחרונים הוגבר הווליום של השיח האלים ברשת, על רקע הבחירות לכנסת. מסנני התוכן הופתעו משתי תופעות שחזרו על עצמן בתקופה זו: תקיפה של דתיים, בעיקר חרדים; והתבטאויות רבות מהצד הימני קיצוני של המפה הפוליטית, בסגנון "כהנא צדק".

     

    "אסור לכתוב בפייסבוק 'כהנא צדק'", מגלה נועה. "כשהתחלתי לעבוד פה, מאוד הופתעתי מזה. פייסבוק זו חברה אמריקאית והיא עוקבת אחר רשימת ארגוני הטרור של הממשל האמריקאי. כשאמרו לנו שאסור להביע בפייסבוק תמיכה בחמאס או בחיזבאללה, זה נראה לי הגיוני. אבל אז אמרו לנו, 'אה, יש גם כמה ארגונים יהודיים ברשימה'". מכיוון שארגון "כך" של הרב מאיר כהנא הוגדר כארגון טרור, אסור להביע תמיכה בו בפייסבוק ואסור להעלות לרשת תמונות של כהנא, "אלא אם כן אתה מגנה את כהנא באופן ברור", מבהירה נועה.

     

    גוף נוסף שלא תמצאו לו זכר הוא להב"ה, המגדיר את עצמו כארגון הנאבק בהתבוללות. בפייסבוק, לעומת זאת, מגדירים את להב"ה כארגון שנאה וב־2014, לאחר דיווחים רבים מגולשים, הוסר העמוד שלו מהרשת. ב־2017 נעלם גם העמוד האישי של ראש הארגון, בנצי גופשטיין. פייסבוק לא מסתפקת בכך ואוסרת היום אפילו על פרסום תמונות של גופשטיין. כך למשל, מסננת התוכן רינת מספרת שטיפלה בתמונה שהעלה פעיל הימין עו"ד איתמר בן גביר לפייסבוק, שבה הוא מצולם לצד גופשטיין. "התמונה הוסרה כי הופיעה בה דמות שמזוהה על ידי פייסבוק כמנהיג ארגון שנאה", מסבירה רינת.

     

    "אין גבול לשליטה של פייסבוק", אומר בתגובה גופשטיין, שבימים אלה מנהל הליך משפטי מול החברה בנושא. "אני מבין את הצורך להוריד פוסטים עם ביטויי שנאה, אבל למה התמונה שלי מעוררת שנאה? יכול להיות שמגדירים את להב"ה כארגון שנאה, רק כי צוקרברג הוא בעצמו מתבולל".

     

    התמונה עם גופשטיין היא לא הפעם היחידה שבה צונזר בן גביר לאחרונה. במהלך ריצתו לכנסת מטעם מפלגת "עוצמה יהודית", נחסם חשבונו של בן גביר לכמה ימים בשל פוסט שבו נכתב "ימותו אלף מחבלים ולא תיפול שערה מראשו של חייל צה"ל". בן גביר התקומם כנגד ההחלטה, שפגעה בקמפיין שלו, וטען כי נעשתה "על רקע היותי איש ימין אידאולוגי, ועל רקע היותה של פייסבוק רשת חברתית בעלת אג'נדה שמאלנית קיצונית... לא ייתכן כי בפייסבוק יסתמו את הפה לאנשי ימין, ואילו בנוגע לטרוריסטים פייסבוק לא עושים מאומה".

     

    בן גביר אינו הראשון לטעון שפייסבוק מונעת מאג'נדה שמאלנית. בישראל שבה ועולה הטענה כי החברה מאפשרת לארגוני שמאל ופעילי זכויות אדם להביע את דעתם בחופשיות, גם אם היא קיצונית, בעוד שמהצד השני של הזירה הפוליטית סובלים מצנזורה נוקשה. אפילו נשיא ארצות־הברית, דונלד טראמפ, תקף לאחרונה את החברה לאחר שחסמה חשבונות של פעילים ימניים בארצות־הברית. "כאן ארצות־הברית של אמריקה. יש לנו מה שנקרא חופש הביטוי", צייץ הנשיא ברשת המתחרה, טוויטר.

     

    בפייסבוק הודפים לחלוטין את הטענות הללו, אם כי גורמים שעימם שוחחנו מודים שמעצם טבעה של החברה, רבים מעובדיה הם בעלי דעות ליברליות, מה שעשוי להשפיע על קביעת המדיניות שלה. מסנני התוכן הישראלים, בכל אופן, טוענים בתוקף כי חסימות אינן נובעות מטעמים פוליטיים. "זה לא עניין של ימין או שמאל", אומרת רינת, "אלא של תכנים שיוצאים נגד גזע מסוים או עם מסוים".

     

    נועה: "גם הצד השמאלי של המפה תוקף קבוצות, בעיקר דתיים וחרדים, וגם דברים כאלה אנחנו מורידים".

     

    אחד הנחסמים המפורסמים ביותר של פייסבוק בישראל הוא בנו של ראש הממשלה, יאיר נתניהו. לפני כחצי שנה, בעקבות הפיגוע בגבעת אסף שבו נהרגו שני חיילי צה"ל, פירסם נתניהו פוסט ובו כתב בין היתר "יהיה זכרם של הנרצחים ברוך, מקווה שנזכה לנקום את מותם". פייסבוק הסירה את הפוסט מהרשת בטענה כי הוא מפר את כללי הקהילה שלה, ונתניהו הגיב בכך שהעלה לרשת צילום מסך של הפוסט המקורי, והתלונן: "אלפי פוסטים אלימים וקיצוניים של אנשי שמאל כלפיי וכלפי משפחתי, כולל איומים באלימות פיזית ואיומי רצח לא מוסרים, כל אלה לא עוברים על כללי הקהילה של פייסבוק, הם במסגרת חופש הביטוי". בפייסבוק לא התרגשו — גם הפוסט הזה הוסר וחשבונו של נתניהו נחסם לחלוטין ל־24 שעות.

     

    אגב, על פי העמדה הרשמית של פייסבוק, הטיפול בתכנים בעייתיים נעשה תוך התעלמות מוחלטת מזהותו של בעל החשבון, ואין זה משנה אם הוא פוליטיקאי, דמות ציבורית או בנו של ראש ממשלה. ואולם מסנני התוכן שעימם שוחחנו מאשרים שבמקרים של חשבונות בעלי פרופיל ציבורי גבוה, ההחלטה בנוגע לחסימת תוכן או חשבון מתקבלת בדרגים גבוהים בלבד.

     

    בעיית הביקיני

    מעל המרכז לסינון תוכן שבו ביקרנו בשבוע שעבר מרחפת כל העת מילה אחת, אשר נהגת בפי אנשי פייסבוק ומסנני התוכן ביראת כבוד: "המדיניות". המדיניות היא קובץ "כללי הקהילה" אשר מגדירים את גבולות השיח המותר ברשת החברתית. פייסבוק מנסחת את הכללים הללו בעצמה, ובהתאם להם מסירה מהרשת חשבונות מזויפים, פרסומות זבל (ספאם), ניסיונות הונאה כספית וכו'. במקרים הללו, כמעט אין טענות כלפי התנהלותה של החברה.

     

    ואולם הקטגוריה המרתקת, הדינמית ומעוררת המחלוקת ביותר במסמך המדיניות של פייסבוק, נוגעת לסוגיות של תוכן בעייתי כמו גזענות, מין, אלימות, מידע מוטעה וכדומה. כיצד קובעת הרשת החברתית, למשל, מה מוגדר כגזענות? איך היא מאפיינת תוכן מיני אסור? והאם היא מגנה על גולשיה מפני פייק ניוז? ובמילים אחרות: כיצד, ובאיזו זכות, מרשה לעצמה פייסבוק להגביל את ערך היסוד של הדמוקרטיה, חופש הביטוי?

     

    הסוגיה מסתבכת עוד יותר כאשר מביאים בחשבון את העובדה שפייסבוק היא רשת גלובלית, מרחב שבו שוהים בכפיפה אחת גולשים מרקעים תרבותיים שונים לחלוטין. מכיוון שהמדיניות של פייסבוק אחידה, זהה עבור כל מדינה וחברה בעולם, בפועל מייצרת החברה סט ערכים אחיד וכלל עולמי.

     

    הנה בעיה פשוטה לכאורה, שממחישה את העניין: האם אפשר להעלות לפייסבוק תמונה של אישה בביקיני? כדי לענות על השאלה הזו יש להביא בחשבון שבמדינות כמו ערב־הסעודית או איראן אישה חשופה היא טאבו, בעוד שבמדינות כמו צרפת או ארצות־הברית מדובר בעניין מקובל. "לכל תרבות יש ערכים אחרים, אבל לנו יש מדיניות אחידה", מבהיר אריק שאדואינס, מנהל בכיר בצוות המדיניות של פייסבוק ומי שהגיע לפגישה איתנו כל הדרך מהמטה האירופי של פייסבוק בדבלין, אירלנד. "לכן ישנם מקומות שבהם החלטנו להציב את הערכים שלנו. אם למשל במדינות מסוימות הומוסקסואליות היא בלתי חוקית, אבל אנחנו קבענו שתקיפת להט"בים על בסיס זהותם המינית היא עבירה על חוקי המדיניות שלנו, אנחנו לא נאפשר שיח נגד להט"ב גם באותה מדינה".

     

    כך, הופכת הרשת החברתית הפופולרית בעולם גם לרשות מחוקקת, מבצעת ושופטת. היא שקובעת עבור מיליארדי משתמשיה, ולמעשה עבור האנושות, מה מותר ומה אסור, מה צודק ומה לא. כפי שראינו, פייסבוק יכולה לקבוע שלהב"ה הוא ארגון שנאה שיודר מהרשת החברתית, בעוד שארגונים קיצוניים אחרים לגיטימיים בעיני תאגיד התוכן ורשאים לקצור אלפי לייקים.

     

    בפייסבוק רומזים שלא לציטוט, שהחברה לא נלהבת לקבל על עצמה את תפקיד השוטר של העולם, וכי היא עושה זאת בלית ברירה. מנגד, טוענים המתנגדים כי פייסבוק עושה שימוש באכיפת המדיניות שלה כדי להשריש ערכים המשרתים אותה.

     

    בכל מקרה, מרגע שפייסבוק לקחה על עצמה את קביעת המדיניות, ובהתאם להיותה תאגיד אמריקאי מסודר, היא עשתה זאת ברצינות. מדי שבועיים נערכים בפייסבוק מפגשים לפיתוח מדיניות, שבהם משתתפים עובדי החברה מכל רחבי העולם בשלל תפקידים, מיועצים משפטיים ומומחי בטיחות ועד למהנדסים. מטרת המפגשים היא להעלות סוגיות תוכן ולדון בהן, על מנת לקבוע מדיניות אחידה. בשלב הבא נעזרים אנשי החברה בגורמים חיצוניים, כמו עובדים סוציאליים, פעילי זכויות אדם, אנשי אכיפת החוק ועוד. בסופו של כל דיון, שיכול להימשך גם חודשים, מוגדרת המדיניות הרלוונטית ומנוסחת בשפה משפטית. "אנחנו חייבים לכסות כל נושא שעלול לבוא לידי ביטוי בפייסבוק, שזה בעצם כל נושא בעולם", אומר שאדואינס.

     

    יש להדגיש כי המדיניות היא עניין גמיש. כך למשל, עד לפני כמה שנים אסור היה להעלות לפייסבוק תמונה של אישה מיניקה, בגלל סוגיות של עירום. בשלב מסוים החליטו בפייסבוק לשנות את המדיניות, וכרגע הנקה היא עניין "חוקי".

     

    מה המדיניות שלכם כלפי ארגוני BDS שקוראים לחרם על ישראל?

     

    שאדואינס: "המדיניות שלנו מותחת קו בין תקיפת אנשים לבין תקיפת מדינות או ממשלות. אם אתה ביקורתי כלפי ממשלה או מדינה, כל עוד זה בתנאי המדיניות שלנו, זה מותר. אבל ברגע שאתה חוצה את הקו ומתחיל לתקוף קבוצה מסוימת של אנשים, זו הפרה".

     

    סוגיה מעניינת נוספת נוגעת למידע מוטעה, "פייק ניוז". במערכות בחירות שנערכו לאחרונה ברחבי העולם, מהנשיאות בארצות־הברית ועד למשאל העם על ה"ברקזיט", הובהר עד כמה למידע מוטעה יש השפעה אמיתית על השדה הפוליטי, בעיקר כאשר הוא מופץ ברשתות החברתיות בצורה מאורגנת. בפייסבוק מחלקים את הטיפול בבעיה לשניים: כאשר מזהים פעילות מאורגנת של הפצת מידע מוטעה באמצעות חשבונות מזויפים, החשבונות הללו נחסמים; ואולם כאשר מדובר בחשבונות אותנטיים, פייסבוק לא מסירה את הפוסטים, גם אם הם שגויים לחלוטין. במקום זאת החברה מעסיקה "בודקי עובדות", שמנסים לאמת את המידע ובמידה שהוא מתגלה כמוטעה, מצמצמים את מידת החשיפה שהאלגוריתם מעניק לו.

     

    במהלך מערכות בחירות מתגברת פייסבוק את הצוותים הללו. במערכת הבחירות האחרונה בישראל הסירה הרשת מאות עמודים ופרופילים מזויפים שהיו חלק ממאמץ מתואם להפצת פייק ניוז על ידי גורמים באיראן. "אבל למעט ההתערבות החיצונית הזו, לא הייתה פעילות יוצאת דופן במהלך הבחירות בישראל, לפחות לא ביחס למה שקורה בפייסבוק במערכות בחירות אחרות ברחבי העולם", אומר שאדואינס. "עם זאת בהחלט יש בישראל קהילה מעורבת, שמשתתפת הרבה מאוד בשיח הפוליטי באמצעות פייסבוק, ובזמן בחירות השיח הופך לעיתים קרובות למתלהם".

     

    עובדים בפוסט־טראומה

    המדיניות של פייסבוק אינה שווה הרבה אם אין יכולת לאכוף אותה, וכאן מתגלים הממדים האדירים של מערכת סינון התוכן. מדי יום מפרסמים כ־1.5 מיליארד משתמשים תכנים בפייסבוק, ובכל יממה עולות לרשת החברתית לא פחות ממיליארד תמונות. מדובר בכמות עצומה של תוכן, שאותו יש לבדוק ולסנן.

     

    בפייסבוק משתמשים, כמובן, בכלים ממוחשבים, המבוססים בין היתר על אינטליגנציה מלאכותית, כדי לאתר ולסנן חלק נכבד מהתוכן הבעייתי. הכלים הללו יכולים למשל לזהות במהירות תמונות עירום, ולהסיר אותן מהרשת בשבריר שנייה. גם מרבית פרסומות הספאם והחשבונות המזויפים מנוטרים בצורה ממוחשבת. אבל הכלים הממוחשבים מתקשים להתמודד עם דברים כמו שיח גזעני, ביטויי שנאה, תעמולה המופצת בידי ארגוני טרור וכדומה. בשביל זה, צריך בני אנוש. "יש דברים שמכונות עושות טוב, ויש דברים שבני אדם עושים טוב יותר", מסביר סיימון קרוס, מנהל מוצר בחברה, המצטרף אלינו בשיחת וידיאו מלונדון.

     

    לשם כך מפעילה כיום פייסבוק 15 אלף מסנני תוכן המדברים חמישים שפות שונות, ומועסקים בידי חברות קבלן במקומות שונים בעולם. בבניין שבו ביקרנו בברלין, למשל, עובדים כאלף איש המגיעים מ־75 לאומים שונים, מעין מגדל בבל מודרני בן חמש קומות.

     

    חלק מהתכנים המגיעים למסנני התוכן מופנים אליהם מהכלים הממוחשבים, המכירים במגבלות שלהם ומעדיפים שעין אנושית תבחן אותם בטרם יוסרו מהרשת. אך מקורם של מרבית התכנים שזורמים אל המסננים מגיעים מדיווחים של גולשים. התכנים המדווחים, אגב, עוברים תהליך של תעדוף, כך שהמקרים הדחופים ביותר (אלימות, למשל) יטופלו בהקדם האפשרי.

     

    בפייסבוק לא חושפים את היקף התלונות מגולשים, אך הרושם הוא שמדובר במספרים גדולים מאוד.

     

    המרכז בברלין הוא, אם כן, מפעל של ממש לסינון תוכן. למרות כל ההיי־טק מסביב, למרות האינטליגנציה המלאכותית והאלגורתמים, בסופו של דבר נעשית פה עבודת נמלים אנושית. מסנני התוכן עוברים הכשרה בת 80 שעות ואחריה עובדים במשמרות של שמונה שעות מסביב לשעון, כאשר במהלך כל משמרת הם נחשפים ל־300־500 פיסות תוכן שונות.

     

    בכל תחילת משמרת נכנס מסנן התוכן לתוכנה בשם SRT single review tool - - שדרכה הוא נחשף לתכנים הבעייתיים בזה אחר זה. על המסנן לבחון את התוכן ולהחליט אם הוא עומד במדיניות שקבעה פייסבוק. במידה שהתוכן אסור, המסנן חייב לציין את הסיבה שבגינה הסיר אותו מהרשת. המסננים עוברים תהליך מורכב של בקרה, ונדרשת מהם רמת דיוק של 95 אחוזים לפחות.

     

    התוכן שאליו נחשפים המסננים הוא לעיתים קרובות מזעזע, שלא לומר מחריד. תארו לעצמם משרה שבה אתם נדרשים לצפות בסרטונים של עריפת ראשים מבוקר עד ערב. "העבודה הזו היא לא בשביל כל אחד", מודים בפנינו אנשי פייסבוק.

     

    בתחקירים שפורסמו לאחרונה בכלי תקשורת ברחבי העולם, נחשפו ההשפעות הנפשיות השליליות על מסנני התוכן וכן נמתחה ביקורת על תנאי העסקתם. בין היתר דווח על מקרים של התקפי חרדה, יחס משפיל, שימוש בסמים במהלך העבודה ותסמינים המזכירים פוסט־טראומה.

     

    בפייסבוק לקחו את הביקורת לתשומת ליבם, ובמהלך ביקורנו יצאו מגדרם כדי להמחיש בפנינו את דאגתם לרווחתם האישית והנפשית של מסנני התוכן. כך למשל, סביבת העבודה משתדלת להיות נעימה עד כמה שניתן, ולעובדים מסופקים מטבחון מאובזר ואזורי מנוחה. "האווירה הנעימה מחפה על העבודה הקשה", מסביר מארק דוידסון, מנהל בפייסבוק שהגיע לפגוש אותנו כל הדרך מלונדון. לדבריו באחד המרכזים בארצות־הברית אף החליטו המנהלים להביא למקום העבודה חיות מחמד, שישפרו את הרגשתם של העובדים.

     

    בכניסה לכל אחת מהקומות בבניין שבו ביקרנו בברלין תלוי לוח שנה ובו רשומות הפעילויות השונות המוצעות לעובדים, משיעורי יוגה ומדיטציה ועד אימוני כדורגל, הכל בחינם ועל חשבון זמן העבודה. בקומה התחתונה נמצאים עובדים סוציאליים ומדריכי רווחה אישית (well being), שאליהם יכולים מסנני התוכן לפנות לקבלת סיוע ללא הגבלה. "בכל נקודת זמן, אם הם מרגישים שהם צריכים הפסקה, הם יכולים לעזוב את המחשב ולדבר עם אחד המטפלים בבניין", אומר דוידסון.

     

    במהלך השבוע שבו היינו בברלין אף דיווחה פייסבוק כי היא מתכוונת להעלות את שכר מסנני התוכן ולספק להם כלים שיאפשרו להם לטשטש תכנים גרפים מסוימים כדי להגן על עצמם. מהפגישה עם מסנני התוכן הישראלים מתקבל הרושם שבפייסבוק אכן עושים כמיטב יכולתם כדי לאפשר להם להתמודד עם הקשיים שבעבודה.

     

    אין ספק שאופרציית סינון התוכן של פייסבוק היא עניין מורכב, שמושקעים בו משאבים רבים. יש שיאמרו שההשקעה האדירה חוזרת לפייסבוק בדמות שליטה אבסולוטית בתוכן, שמבססת את מעמדה כמונופול אגרסיבי. מעין "אח גדול", גרסת פוסט מהפכת המידע.

     

    בתאגיד העולמי, לעומת זאת, משוכנעים בצדקת דרכם ומדגישים את הכוונות הטהורות שלהם. "אנחנו מכירים בכך שיש לנו אחריות כלפי חברי הקהילה שלנו", מתעקש אריק שאדואינס מצוות המדיניות של החברה. "חשוב לנו לדאוג לכך שמשתמשי פייסבוק יהיו בטוחים. אנחנו רוצים שאנשים ישתמשו בפלטפורמה שלנו כדי להכיר ולהתבטא, וחלק גדול מזה הוא לקבוע את 'כללי הדרך', להציב גבולות כדי שהשיח יהיה ראוי. וכן, זה דורש מאיתנו השקעה רבה". •

     


    פרסום ראשון: 21.05.19 , 19:55
    yed660100