חזרה לעמוד הקודם

לקראת ה־Metaverse: סכנות חדשות לפגיעה והטרדה

Dr. Sameer Hinduja | 01.06.2022

כולנו שמענו על ה־metaverse בתדירות הולכת וגדלה בשנים האחרונות, והדיון סביב ההבטחות והסכנות הטמונות בו גבר במיוחד בחודשים האחרונים. מאמר זה סוקר את עולם ה- Metaverse והסכנות הרבות אשר טמונות בו. המאמר מצביע על כך שרוב הסכנות אינן ייחודיות למרחב זה, אך הן עלולות להיות בעלות השפעה גדולה יותר ולגרום לנזק רב יותר עקב המאפיינים המיוחדים של תחום ה-Metaverse. 

מאמר זה תורגם באישור מיוחד עבור איגוד האינטרנט הישראלי. המחבר הוא חבר סגל בבית הספר לקרימינולוגיה וצדק באוניברסיטת פלורידה אטלנטיק ומנהל שותף של המרכז לחקר בריונות רשת (CyberBullying Research Center). הוא זכה להכרה בין־לאומית על עבודתו פורצת הדרך בנושאי בריונות רשת ושימוש בטוח ברשתות החברתיות.


את ה־metaverse מתכננות כמה וכמה חברות, והוא נועד לחבר אותנו יותר אלה לאלה ולחוויות האהובות עלינו – באמצעות יצירת מרחבים ייחודיים ואינטראקטיביים המבוססים על מציאות מדומה (VR) ומציאות רבודה (AR), שבהם אנו יכולים לסייר בתור אווטרים או התגלמויות אחרות של הזהות שלנו ברשת ולבצע פעילויות תקשורת, משחקים, מסחר ועוד.

חלק מאיתנו כבר התנסו בכמה מרחבים המועמדים ל־metaverse – בילוי במשחקים או בעולמות של Meep City או Nikeland ב־Roblox, בהופעה של טראוויס סקוט או אריאנה גראנדה ב־Fortnite, צפייה בסרט עם ידידים ב־Bigscreen, שיטוט באולמות הווירטואליים של מוזיאון NFT, או ריצה דרך מסלול פארקור עם חברים טובים. כפי שאמר מארק צוקרברג, "אתה בתוך החוויה, לא רק מסתכל עליה".

קטלוג החוויות האימרסיביות הזמינות למשתמשים גדל מדי יום, במיוחד עם שחקנים מרובים (לדוגמה Hololens2 של Microsoft, Quest ו־Rift של Meta [לשעבר Facebook], Index של Valve, PlayStation VR של Sony, ו־Daydream View של Google), שפות תכנות וכלי פיתוח שונים של Unity ו־Unreal, צובר תנופה ומעורר התרגשות רבה בתעשייה ובחברה כאחד. אישית, אני מקווה שה־metaverse יוכל לתרום לאיזון חוסר השוויון באמצעות יצירת הזדמנויות לחינוך, יזמות, הגשמה עצמית, תגליות ותהייה עבור ילדים ומבוגרים ברחבי העולם. כמו שאומרים, הטוב ביותר עוד לפנינו, ואנחנו כאן בשביל זה.

עם כל זאת, חשוב לדון בסיכונים הפוטנציאליים שעלולים להתלוות לאימוץ הנרחב של ה־metaverse (בכל צורה שהיא). רובם אינם מפתיעים, שכן הם קיימים בדרכים שונות הקשורות לכך כבר שנים. כמו תמיד, אין לנו שום רצון לעורר פחד או פניקה לגבי הטכנולוגיות החדשות. למעשה, אנחנו עדיין לא יודעים הרבה על הסיכונים האפשריים ועד כמה הם עשויים להיות נפוצים. יש לממן מחקר כדי להבין את ההיקף והתדירות האמיתיים של סיכונים אלה בסביבות הקשורות ל־metaverse. מטרתנו כאן היא להעלות מודעות לאפשרויות הללו ולהעריך אותן, ולעודד יישום של מאפיינים ופונקציות שיצמצמו את הנזק וימנעו אותו מראש (#safetybydesign).

בואו נתחיל.

בריונות רשת (CyberBullying)

עד כה לא ראינו אף מחקר שפורסם על בריונות רשת ב־metaverse. מה שראינו הוא דיווחים אנקדוטיים ששותפו ב־Reddit וכן סיפורים ששיתפו מטרות ועדים בראיונות לכתבות חדשותיות בנושא. עדויות אלה מתארות ספיגת עלבונות והכפשות, השמצות גזעניות וצורות אחרות של רעילות. עד כה, אין כאן שום דבר שמפתיע אותי, או יוצא דופן – לא משנה אם הפגיעה נעשית בדיבור (כלומר צ'אט קולי), בטקסט (צ'אט קבוצתי או הודעה פרטית) או בהתנהגות (פעולות מסוימות או הימנעות מפעולות). על פי הדיווחים, הנזק טיפוסי למה שאנו רואים בדרך כלל במקומות אחרים: במשחקים מרובי משתתפים, באפליקציות חברתיות, בסביבות אחרות של האינטרנט מסוג Web 2.0 הקשורות לכך, ואפילו בבתי ספר. עם זאת, הפגיעה עלולה להיות חמקמקה ורבת השפעה יותר, שכן הריאליזם המלווה חוויות VR מיתרגם בקלות לפחד, הזהה מבחינה רגשית, פסיכולוגית וגופנית לחוויה של אנשים שמשמשים מטרה או סופגים איומים (Petkova et al., 2011).

הפגיעה עלולה להיות חמקמקה ורבת השפעה יותר, שכן הריאליזם המלווה חוויות VR מיתרגם בקלות לפחד, הזהה מבחינה רגשית, פסיכולוגית וגופנית לחוויה של אנשים שמשמשים מטרה או סופגים איומים.

 הטרדות מיניות

שמעתם פעם על אפקט פרוטאוס? מחקר שהתפרסם לפני למעלה מעשור הראה שאנשים מתנהגים מבחינה חברתית בהתאם למאפיינים של האווטרים שלהם, והדבר גם זולג במידת מה להתנהגויות לא מקוונות. למשל, אנשים שקיבלו אווטרים גבוהים היו תוקפניים יותר מאלה שקיבלו אווטרים נמוכים, וההבדל הזה בהתנהגות חלחל גם לאינטראקציות פנים אל פנים. תיאוריה זו חלה על התנהגויות אנטי־חברתיות (Peña et al., 2009; Yoon & Vargas, 2014) של משתמשים שבוחרים בעצמם אווטרים מסוימים, ומסבירה את הגידול בתוקפנות מינית ובהטרדות מיניות – בעיקר כלפי אווטרים נשיים – בסביבות מקוונות שונות. לאחרונה, אישה דיווחה שחוותה הטרדה מינית ב־Horizon Venues של Meta. מקרה אחר כלל "התחככות" ושפיכה מדומה על האווטר של המטרה במשחק Population One. אולי המקרים החמורים הללו נדירים, אבל על פי דיווחים אנקדוטיים, פגיעות קלות יותר מתרחשות באופן קבוע (זוהי קריאה נוספת למחקר שיספק שיעורי שכיחות עדכניים ומפורטים!). לדוגמה, מחקר של המרכז למלחמה בשנאה דיגיטלית זיהה 100 מקרים של הפרות מדיניות פוטנציאליות בטווח של 11.5 שעות – חלקם כללו בריונות, איומים והתנהגויות פוגעניות אחרות. אך, ברור שאיננו יודעים מה הפירוש של המספרים הללו, כי למיטב ידיעתנו לא נערך כל מחקר בר־השוואה בפלטפורמות אחרות. אם חלק מההתנהגויות – יהיה מספרן מה שיהיה – כוללות אמירות, הצעות ובקשות מיניות ישירות, רמיזות לחוסר מוסריות מינית בהתבסס על הבגדים שהמטרה לובשת, שידולים או הצעות לשלוח תמונות עירום או התנסויות מיניות, מעקבים או דוקסינג (חשיפת פרטים אישיים של המטרה), או מגע מיני ללא הסכמה וכתוצאה מלחץ – לאירועים אלו עלולות להיות השלכות רגשיות ופסיכולוגיות קשות. הם עשויים גם לפגוע ברצון ובנכונות של הנפגעים לקיים אינטראקציות ברשת.

קטפישינג (catfishing)

אם אינכם מכירים את המושג "קטפישינג", הכוונה לתופעות של "יצירת והצגת זהויות בדיוניות מורכבות באמצעות פרופילים מקוונים" (Nolan, 2015:54). הדבר כולל לעיתים קרובות יצירת פרופיל מקוון או אישיות פיקטיבית כדי לפתות מישהו למערכת יחסים רומנטית מזויפת, אבל המטרה עשויה להיות אחרת, למשל ניצול כספי אחרי רכישת אמון במרמה (Lauckner et al., 2019; Simmons & Lee, 2020). מאז 2016, קיבלנו במרכז המחקר לבריונות רשת מדי שבוע כמה בקשות עזרה מקורבנות שנפלו טרף לתופעה הקשורה אליה, סחיטה מינית ברשת (sextortion), שלרוב כוללת יצירת אמון באמצעות קטפישינג לפני ניצול הקורבן. כאשר חקרנו את התופעה ברחבי ארצות הברית, גילינו ש־5% מבני הנוער היו קורבן לסחיטה. אך ממצא זה מתייחס לתקריות ברשתות החברתיות ואפליקציות המסרים המיידיים הפופולריות – ואינו מתרכז בסביבות של metaverse או בוחן אותן בנפרד. לנוכח הריאליזם המוגבר של אינטראקציות חברתיות מבוססות אווטרים, ההקשר הייחודי של מרחבי metaverse והאימרסיביות של טכנולוגיות VR, ייתכן שמשתמשים רבים ייפלו קורבן למניפולציות או מעשי מרמה. כאשר אנו נותנים אמון באדם אחר מבלי לוודא את זהותו, פגיעות מסוגים שונים עלולות לקרות בקלות – כפי שהיה תמיד.

שנאה ב־Metaverse

שנאה מקוונת מוגדרת כ"השפלה או ביזוי של קבוצות ושל המשתייכים אליהן על סמך גזע/אתניות, מוצא לאומי, נטייה מינית, מגדר, זהות מגדרית, דת או מוגבלות" (Reichelmann et al., 2020). מחקרים מראים חד־משמעית שדברי שטנה פוגעים בכבודם של הנפגעים (Seglow, 2016; Ștefăniță & Buf, 2021), מערערים את בריאותם הרגשית והפסיכולוגית (Brown, 2015, 2018; Lee-Won et al., 2020; Maitra & McGowan, 2012), ואף עשויים להוביל לאלימות כלפי קבוצות שוליים (Fyfe, 2017; Müller & Schwarz, 2021). בעולמות ה־metaverse, שנאה והשמצות עשויות להתבטא בדיבור או בטקסט, בתקשורת פרטית בין שני אווטרים או אחד מול כמה, בתגובה למראה, לפעולות או לצורת הדיבור של אווטר מסוים. לעיתים אספסוף של אווטרים (כולל בוטים!) מתכנס בחדרים פרטיים או ציבוריים, שבהם תעמולה קיצונית מתפשטת ללא הפרעה, לפני שמשסים אותו במשתמשים תמימים ופגיעים. גילויי שנאה מתוחכמים יותר עשויים לכלול: שינוי צבע העור (למשל "בלקפייס") במטרה להשפיל מישהו אחר (Sommier, 2020); בחירת עור או בגדים וירטואליים עם סיסמאות או דימויים פוגעניים, שעלולים להזכיר טראומה (למשל סמלים נאציים או סמלים של קבוצות שנאה) (Ozalp et al., 2020); או הטרלה חוזרת ונשנית של אנשים באמצעות קיצוניות של הימין האלטרנטיבי (Alt-right) והכחשה חסרת רגישות של אירועים ואמיתות מתועדים (Rieger et al., 2021). באווירה של קיטוב פוליטי וחברתי הולך וגדל, שבו תיבות התהודה ברשת מחזקות ומנרמלות אמונות מלאות שנאה (Lee, 2021; Pérez-Escolar & Noguera-Vivo, 2022), ההשלכות על חברי מיעוטים וקבוצות פגיעות הן חמורות ומאיימות.

מניעה ותגובה לצמצום נזקי ה־Metaverse

חברות מפתחות ומשחררות פיצ'רים חדשים למניעת בריונות רשת, הטרדות מיניות, קטפישינג וביטויי שנאה במרחבי ה־metaverse בתדירות גוברת, וככל הנראה רבים נוספים נמצאים בפיתוח. בשנת 2016, Microsoft הציגה את "בועת החלל" בפלטפורמת ה־VR החברתית AltspaceVR, שבה ידיהם וגופם של משתמשים המגיעים למרחק של כ־30 ס"מ מאווטר אחר,  נעלמים מהתצוגה שלו. בשנת 2022, Meta הוציאה פיצ'ר בשם "גבול אישי", שבו תנועתו של משתמש המתקדם לכיוונך נעצרת במרחק של 1.2 מטרים ממך. Meta יצרה גם כלי בשם "אזור בטוח", שאותו המשתמשים יכולים להפעיל בכל עת, וכאשר הוא מופעל אף אחד לא יכול "לגעת בהם, לדבר איתם או ליצור איתם שום אינטראקציה, עד שהם מאותתים שהם רוצים ש'האזור הבטוח' יוסר".

אף שעדיין יש למדוד אמפירית את התועלת של פיצ'רים אלה, אנו מעודדים את כל המשתמשים – ב־metaverse ובכל פלטפורמה אחרת – להיעזר בהם, וגם לחסום או להשתיק כל תקשורת או איש קשר לא רצויים, ולדווח על אותו משתמש דרך האפליקציה (אמצעי בקרה שצריך להפוך לידידותי יותר למשתמש בפלטפורמות מסוימות). יתרה מכך, לא משנה מי קהל היעד של מרחבי ה-Metaverse, חובה לכלול בו סוג כלשהו של הגבלת גיל (לדוגמה, ישנם מרחבים למבוגרים בלבד שבהם מאמתים תעודות זהות בערוץ Discord פרטי), כמו גם כמות מספקת של בקרות הורים מועילות, המאפשרות חסימת צ'אטים (או יצירת בועת צ'אט קולי ספציפית עם חברים או משתמשים בגיל מסוים).

עיתונאית אחת סיפרה לאחרונה שהאינטראקציות שלה ב־metaverse היו "לא נוחות", עקב היעדר כללי התנהגות במרחבים אלה, ואחרת השתמשה במונח "מטריד" לגבי אופיים הבלתי צפוי והמסוכן של חדרים מסוימים. המשפטן והאקטיביסט לארי לסיג (Lessig, 2009) התייחס לכך שקוד של תוכנת מחשב עשוי לעזור במניעת האקינג ומניפולציות, אך הדבר עדיין עלול לקרות, ולכן יש צורך בחוקים ותקנות נגד עבירות כאלה. בדומה לכך, את ה־metaverse מתכננות חברות שונות עם מנגנונים שונים למניעת קורבנוּת בין־אישית, אך דרושים סטנדרטים וכללים – שייאכפו בתוקף – כל עוד הפגיעה במשתמשים היא בלתי נמנעת. כלומר, בכל מרחב וירטואלי צריכים להיות כללי קהילה מקיפים וחזקים (המתעדכנים לעיתים קרובות) שיגדירו ציפיות התנהגותיות, וגם יצהירו על קיומה של מדיניות משמעת נגד הפרות כללים. כמובן, על החברות להמשיך ולהרחיב את המדיניות שלהן, תוך כדי אכיפה יעילה והתאמת המדיניות להתפתחויות חדשות שמתפתחות במרחב המקוון. ואכן, לחברות המקימות מרחבי Metaverse צריכה להיות מחויבות תאגידית לטיפוח זהות מותגית ככאלה המציבות את הביטחון הגופני, הרגשי והפסיכולוגי של בסיס המשתמשים שלהן גבוה בסדר העדיפויות.

בעיות אמון וביטחון ב־Metaverse הדורשות טיפול

לסיום, בעודנו מנסים להניח יסודות לחוויה בטוחה ב־metaverse, נותרתי עם כמה שאלות דוחקות. האם משתמשים צעירים חשופים במידה לא פרופורציונלית לאפשרות להפוך לקורבנות – או שהסיכון זהה בכל קבוצות הגיל? האם אנשים מקבוצות מודרות או מקופחות חשופים לסכנות אלה אפילו יותר, ואולי האווטר שהם בוחרים והתנהגותם במרחבים אלה יכולים להגן עליהם? מהו הפרופיל הדמוגרפי של אלה שמטרידים או פוגעים, ומהם ההיקף והטווח של פגיעות אלה במונחים של בריאות ורווחה? איך נוכחותם של מנהלי המרחבים האלה (moderators) יכולה להועיל – למנוע התנהגות מזיקה, ולהטיל סנקציות על משתמשים שמפרים את הנורמות החברתיות וכללי הקהילה? אילו אמצעים עשויים למנוע התנהגות שלילית ולעודד אינטראקציות חיוביות? איך אפשר לגרום למשתמשים להרגיש מושקעים בביטחון במרחבי ה־VR שבהם הם נמצאים, וכתוצאה מכך לקחת חלק בהגנה עליהם ובשמירה מפני פוגעים? כיצד יכולות קהילות לבנות יעילות שיתופית למען מטרה זו?

מבחינת פיצ'רים, האם אי פעם נוכל לאמת את גיל המשתמשים באופן אמין, כך שמרחבים מסוימים בmetaverse יהיו באמת למבוגרים בלבד? האם הורים או אפוטרופוסים שקונים אוזניות VR לילדיהם יכולים להגדיר פרופילים או חשבונות ייעודיים לילדים (בדומה למה שאנו רואים ב־YouTube Kids או Messenger Kids), אשר כוללים הגבלות ואמצעי הגנה ייחודיים נוספים – כמו רשימת "חברים קרובים", שמאפשרת רק אינטראקציות עם חברים שקיבלו אישור? האם אפשר להחיל הגדרות כאלה על כל משחק או חוויית VR שהילדים רוצים להצטרף אליהם? האם אפשר להקל על משתמשים להחליף שרת או לחלץ בדרך אחרת את האווטר שלהם ממצב שבו הם מרגישים מאוימים? אילו פונקציות אחרות אפשר ליישם כדי להעצים את המשתמשים ולהעניק להם דרכים להגן על עצמם? כפי שאמר ויליאם גיבסון, "העתיד כבר כאן". הגיע הזמן להתייחס לשאלות האלו, לא רק כדי לצמצם את אפשרויות הפגיעה ב־metaverse, אלא כדי שחוויותיהם של היוצרים והמשתתפים יהיו הרבה יותר בטוחות ומהנות.

 

מקורות

.Brown, A. (2015). Hate speech law: A philosophical examination. Routledge

.Brown, A. (2018). What is so special about online (as compared to offline) hate speech? Ethnicities, 18(3), 297-326

Fyfe, S. (2017). Tracking hate speech acts as incitement to genocide in international criminal law. Leiden Journal of International Law, 30(2), 523-548.

Lauckner, C., Truszczynski, N., Lambert, D., Kottamasu, V., Meherally, S., Schipani-McLaughlin, A. M., Taylor, E., & Hansen, N. (2019). “Catfishing,” cyberbullying, and coercion: An exploration of the risks associated with dating app use among rural sexual minority males. Journal of Gay & Lesbian Mental Health, 23(3), 289-306.

Lee-Won, R. J., White, T. N., Song, H., Lee, J. Y., & Smith, M. R. (2020). Source magnification of cyberhate: Affective and cognitive effects of multiple-source hate messages on target group members. Media Psychology, 23(5), 603-624.

Lee, J. (2021). The effects of racial hate tweets on perceived political polarization and the roles of negative emotions and individuation. Asian Communication Research, 18(2), 51-68.

Lessig, L. (2009). Code: And other laws of cyberspace. Basic Books.

Maitra, I., & McGowan, M. K. (2012). Speech and harm: Controversies over free speech. Oxford University Press.

Müller, K., & Schwarz, C. (2021). Fanning the flames of hate: Social media and hate crime. Journal of the European Economic Association, 19(4), 2131-2167.

Nolan, M. P. (2015). Learning to circumvent the limitations of the written-self: The rhetorical benefits of poetic fragmentation and internet "catfishing". Persona Studies, 1(1), 53-64.

Ozalp, S., Williams, M. L., Burnap, P., Liu, H., & Mostafa, M. (2020). Antisemitism on Twitter: Collective efficacy and the role of community organisations in challenging online hate speech. Social Media + Society, 6(2). https://doi.org/10.1177/2056305120916850

Peña, J., Hancock, J. T., & Merola, N. A. (2009). The priming effects of avatars in virtual settings. Communication Research, 36(6), 838-856.

Pérez-Escolar, M., & Noguera-Vivo, J. M. (2022). Hate speech and polarization in participatory society. Taylor & Francis.

Petkova, V. I., Khoshnevis, M., & Ehrsson, H. H. (2011). The perspective matters! Multisensory integration in ego-centric reference frames determines full-body ownership. Frontiers in Psychology, 2, 35.

Reichelmann, A., Hawdon, J., Costello, M., Ryan, J., Blaya, C., Llorent, V., Oksanen, A., Räsänen, P., & Zych, I. (2020). Hate knows no boundaries: Online hate in six nations. Deviant Behavior, 42(9), 1100-1111.

Rieger, D., Kümpel, A. S., Wich, M., Kiening, T., & Groh, G. (2021). Assessing the extent and types of hate speech in fringe communities: A case study of alt-right communities on 8chan, 4chan, and Reddit. Social Media + Society, 7(4). https://doi.org/10.1177/20563051211052906

Seglow, J. (2016). Hate speech, dignity and self-respect. Ethical Theory and Moral Practice, 19(5), 1103-1116.

Simmons, M., & Lee, J. S. (2020). Catfishing: A look into online dating and impersonation. International Conference on Human-Computer Interaction, Copenhagen, Denmark, July 19–24, Proceedings, Part I (pp. 349-358).

Sommier, M. (2020). “How ELSE are you supposed to dress up like a Black Guy??”: negotiating accusations of Blackface in online newspaper comments. Ethnic and Racial Studies, 43(16), 57-75.

Ștefăniță, O., & Buf, D. M. (2021). Hate speech in social media and its effects on the LGBT community: A review of the current research. Romanian Journal of Communication and Public Relations, 23(1), 47-55.

Yoon, G., & Vargas, P. T. (2014). Know thy avatar: The unintended effect of virtual-self representation on behavior. Psychological Science, 25(4), 1043-1045.

אודות Dr. Sameer Hinduja

המחבר הוא חבר סגל בבית הספר לקרימינולוגיה וצדק באוניברסיטת פלורידה אטלנטיק ומנהל שותף של המרכז לחקר בריונות רשת (CyberBullying Research Center). הוא זכה להכרה בין־לאומית על עבודתו פורצת הדרך בנושאי בריונות רשת ושימוש בטוח ברשתות החברתיות. מרכז המחקר לבריונות רשת מוקדש למתן מידע עדכני על המהות, ההיקף, הגורמים וההשלכות של בריונות רשת בקרב מתבגרים.

מאמר זה פורסם במקור ביום 11.5.2022. זמין בקישור: https://cyberbullying.org/metaverse

התרגום לעברית נעשה מטעם איגוד האינטרנט הישראלי, ברישיון מיוחד מטעם המחבר.