בחודש ספטמבר 2022 פרסמה חברת מטא דו"ח ביקורת חיצוני הבוחן האם ניהול התוכן של החברה בערבית ובעברית יושם ללא משוא פנים ואפליה בתקופת מבצע "שומר חומות", שהתקיים בחודש מאי 2021. בדיקה זו נערכה בעקבות המלצת ה- Oversight Board של החברה, לפיה מטא צריכה למנות גוף עצמאי שאינו קשור לאף צד של הסכסוך הישראלי-פלסטיני לבחינת הנושא. לפי הדו"ח, כל הצדדים של הסכסוך סבלו ורואים את עצמם כקורבנות של אירועים היסטוריים שונים. על כן, מטרת דו"ח הביקורת אינה לקבוע מי צודק , אלא ליצור ולאכוף מדיניות אשר תפחית את הסיכונים מצד פלטפורמות מטא להחמרת הסכסוך כתוצאה מהשתקת קולות, חיזוק אסימטריות כוח או מתן אפשרות להפצת תוכן המסית לאלימות.
עיקרי הממצאים והמסקנות
במהלך המשבר במאי 2021, נקטה מטא פעולות מתאימות רבות, כולל הקמת צוות מיוחד להתמודדות עם המשבר, תיעדוף מקרים הכוללים סיכונים של פגיעה לא מקוונת מיידית, ועיצוב מסגרת להסרת תוכן אשר מתבססת על הגבלות הכרחיות ומידתיות בהתאם למשפט הבינלאומי לזכויות אדם.
- לפי המסמך, לפעולות של מטא בתקופה זו הייתה השפעה שלילית על הזכויות של המשתמשים הפלסטינים לחופש ביטוי, חופש התאספות, השתתפות פוליטית ואי אפליה, ופגעה ביכולת של פלסטינים לחלוק מידע ותובנות לגבי חוויותיהם בזמן שהתרחשו. בכלל זה, בתקופת המבצע, מטא ביצעה גם אכיפת-יתר של כללי התוכן שקבעה (תוכן שהוסר בטעות) וגם אכיפת חסר (אי הסרת תוכן מפר ואי הפעלת עונשים על חשבונות פוגעניים) של מדיניות התוכן שלה. המידע שנאסף הראה כי בוצעה יותר אכיפת יתר לתוכן בשפה הערבית שסומן כ-"מפר" בכמויות גדולות יותר מתוכן מקביל בעברית. החומרים שנבדקו הצביעו על כך שהתוכן בעברית חווה יותר תת אכיפה, בעיקר בגלל היעדר מסווגי תוכן בעברית ואובדן מנהלי תוכן דוברי עברית שקדם למאי 2021. עם זאת, בדיקה של מקרים יחידים הראתה כי גם עבור תוכן בעברית התרחשה אכיפת יתר, כאשר חשבונות ישראלים הוסרו בטעות.
- המסמך מציג גם כי בתקופה זו, הייתה כמות גדולה יותר של תוכן מהכמות הרגילה, ולחברת מטא לא היו מספיק בוחנים דוברי עברית וערבית.
- על אף גל האנטישמיות אשר שטף את הרשתות החברתיות בתקופה זו, המסמך מבהיר שלמרות שתוכן כזה מפר את המדיניות של Meta, כמויות רבות שלו לא זוהו והוסרו. כותבי המסמך מצביעים על כך לא שהייתה מיומנות תרבותית מספקת מצד מנהלי תוכן וכי היה לא היו מספיק מנהלי תוכן דוברי שפות בכדי לטפל כראוי בבעיה זו.
- כותבי המסמך לא זיהו הטיות מכוונות כנגד צד אחד, אבל כן זיהו שדוברי ערבית עלולים להיות מושפעים מהטיות נסתרות. הדו"ח מצביע על חוקים אמריקאים אשר קובעים כי חמאס הינו ארגון טרור, באופן שמאפשר להגביל את חופש הביטוי של משתמשים פלסטינים. בנוסף, המסמך מצביע על כך שבעוד מנהלי תוכן בעברית כנראה גרים בישראל ומכירים את התרבות המקומית, מנהלי תוכן בערבית אינם בהכרח חיים באזור ולעתים אינם מבינים את הקונטקסט או הניב המקומי. כמו כן, בזמן תקופה זו, היה קיים מסווג תוכן אוטומטי בערבית אשר נשען על סיווגים (כנראה מוטעים) של מנהלי תוכן אנושיים, בעוד בעברית לא היה מסווג תוכן אוטומטי, מה שכנראה הוביל להסרה רבה יותר של תוכן בערבית.
עיקרי ההמלצות
- על מטא להרחיב את מערך מסווגי התוכן שלה בעברית.
- על מטא לבדוק האם יש צורך בקביעת מדיניות ברורה עבור תוכן המשבח או מהלל אלימות (כולל התקפות חסרות הבחנה, וכגון אלימות שאינה מכוונת לאף אדם או קבוצה מסוימת).
- על מטא לקבוע מדינות ברורה יותר הנוגעת לשליחת התראות למשתמשים על פעולות הסרת תוכן או השעיית חשבון. על ההתראות לכלול את הקטגוריה של ההפרה וכיצד הפוסט מפר.
- על מטא להוסיף ולשכלל את מנגנוני השקיפות שלה על אודות מספר הבקשות הרשמיות שהתקבלו מגופים ממשלתיים (כולל בישראל) להסרת תוכן שאינו בלתי חוקי, אך עלול להפר את מדיניות התוכן של Meta. על פי ההמלצות, פרסום נתונים אלו צריך להתקיים מדי רבעון (כחלק מדוח אכיפת חוקי הקהילה) או כל שישה חודשים (כחלק מדוח הגבלות התוכן).
- על מטא להוסיף ולפתח מנגנוני סיווג תוכן לאיתור ביטויי שנאה נגד קבוצות מסוימות, כגון אנטישמיות ואיסלמופוביה.
