מדריך:

לחשוב פעמיים: דיסאינפורמציה בעידן הבינה המלאכותית

מדריך זה נועד לתת לציבור הרחב ובייחוד לחוקרים, מחנכים ותלמידים, מידע חיוני להבנת השימוש המזיק בבינה מלאכותית לצורכי יצירה והפצה של מידע מטעה או שקרי, סוגים ואמצעים שונים של מידע שגוי מבוסס בינה מלאכותית וההשלכות שיכולות להיות לכך על העולם האמיתי. 

המדריך הזה אינו מיועד לסייע בזיהוי או הפרכה של מידע או תוכן שזויף או נוצר עם בינה מלאכותית. לצורך כך יצרנו מדריך נפרד שניתן לקרוא בלינק המצורף.

טקסט מבוסס בינה מלאכותית: זיוף של סמכות וסגנון

טכנולוגיות של מודלים של בינה מלאכותית יוצרת (GenAI) מסוגלות לחולל טקסט דמיוני לחלוטין, המנוסח בשפה, נימה וטון האופייניים לדמות מסוימת אליה מכוון כותב הפרומפט, היכולת לחקות שפה, תרבות וסגנון כתיבה היא כלי רב עוצמה ליצירת והפצת דיסאינפורמציה.

דוגמאות לטקסט מבוסס בינה מלאכותית: 

משתמש יכול לבקש מהמודל לכתוב  "תקציר מחקר של פרופסור לבריאות הציבור מאוניברסיטה מובילה, הקובע כי חיסון חדש עלול לגרום לתופעות לוואי נדירות בילדים". המודל עשוי לשלב מונחים מדעיים, מבנה אקדמי (כגון רקע, שיטה ומסקנות), ואף הפניות למחקרים שלא קיימים. השימוש בשפה פורמלית ובפורמט מוכר של מאמר מדעי עשוי ליצור רושם של ידע מבוסס ומומחיות, גם כאשר מדובר בטקסט מומצא לחלוטין.

משתמש יכול לבקש "הודעה רשמית ממשרד הבריאות הממליצה להורים להימנע משימוש במוצר מסוים עד להודעה חדשה". המודל עשוי להשתמש בניסוחים בירוקרטיים, שפה רגולטורית, ואפילו מבנה של הנחיות ציבוריות. עצם הסגנון הרשמי עשוי לגרום לקוראים לייחס למידע סמכות מוסדית, גם אם לא פורסם על ידי שום גוף רשמי.

דיפ־פייק (Deepfake) הוא סוג של מדיה סינתטית הנוצרת באמצעות בינה מלאכותית יוצרת, המאפשרת לייצר או לשנות קול, תמונה או וידאו כך שייראה כאילו אדם אמיתי אמר או עשה דבר-מה שלא התרחש במציאות. מערכות אלו מבוססות על מודלים מתקדמים הלומדים מדוגמאות רבות וכך מסוגלות ליצור תוכן חדש שנראה או נשמע אמיתי מאוד בעיני הצופה או המאזין. לעתים קרובות הן משתמשות בתוכן ויזואלי אמיתי קיים – למשל תמונה, סרטון או קובץ אודיו – ומפיקים באמצעותו תוכן חדש ואחר לחלוטין שנראה אותנטי.

דוגמאות לדיפ-פייק מבוסס אודיו:

דוגמאות לדיפ-פייק מבוסס תמונה:

דוגמאות לדיפ-פייק מבוסס סרטון:

עד כה עסקנו במימד הטכני של התוכן – כלומר, באיזה פורמט הוא נוצר: טקסט, תמונה, קול או סרטון. אולם כדי להבין טוב יותר את תופעת הדיסאינפורמציה בעידן הבינה המלאכותית, חשוב להתייחס גם למימד נוסף: הכוונה שמאחורי יצירת התוכן.

בעידן הבינה המלאכותית ניתן ליצור בקלות תמונות, סרטונים וטקסטים שנראים אמיתיים, אך אינם מתעדים בהכרח אירועים שהתרחשו במציאות. עם זאת, לא כל התכנים הללו נוצרו מאותה הסיבה. לעיתים מדובר ביצירה בידורית או סאטירית, ולעיתים בתוכן שנועד להטעות או להשפיע על תפיסת המציאות.

התרשים הבא מציג חלוקה עקרונית (על פי מחקר של Walker et al, 2025) לסוגים שונים של תוכן סינתטי שנוצר באמצעות בינה מלאכותית לפי המטרה שלשמה הוא נוצר ולפי האופן שבו הוא מוצג – כיצירה בדיונית או כתיעוד שנראה אמיתי. חלוקה זו מסייעת להבין טוב יותר את סוגי התוכן השונים ולבחון כיצד הם עלולים להשפיע על הדרך שבה אנו מפרשים מידע ברשת.

חשוב להדגיש כי עצם השימוש בבינה מלאכותית ליצירת תוכן אינו בהכרח שלילי או מזיק. אותן טכנולוגיות המשמשות ליצירת דיסאינפורמציה יכולות לשמש גם למטרות חיוביות, כגון יצירה אמנותית, בידור או סאטירה, חינוך, המחשה של רעיונות מורכבים או שיח ציבורי. לדוגמה, יוצרים עשויים להשתמש בכלי בינה מלאכותית כדי ליצור סרטונים סאטיריים, להמחיש תרחישים היסטוריים לצורכי הוראה, להעניק קול או נראות לאנשים בעלי מוגבלות או קושי שפתי, או להפיק תוכן יצירתי שלא נועד להטעות אלא לבדר או לעורר מחשבה.

עם זאת, כאשר תוכן כזה מוצג באופן שמטשטש את הגבול בין יצירה בדיונית לבין תיעוד של מציאות, הוא עלול ליצור בלבול ואף לשמש להפצת מידע מטעה. לכן, הבנת הכוונה שמאחורי יצירת התוכן והאופן שבו הוא מוצג לקהל היא מרכיב מרכזי בהערכת אמינות המידע בעידן הבינה המלאכותית.

לא כל התוכן שנוצר בבינה מלאכותית נועד בהכרח להטעות בצורה ישירה. לעיתים המטרה כלל אינה לשכנע או להציג מציאות חלופית, אלא פשוט לייצר כמויות גדולות של תוכן במהירות כדי למשוך תשומת לב, מעורבות, צפיות או רווחים. תופעה זו מכונה "זבל AI" או באנגלית AI Slop (מלשון רישול).

"זבל AI" הוא כינוי לתוכן דיגיטלי שנוצר באמצעות בינה מלאכותית יוצרת, כגון טקסטים, תמונות, סרטונים או מוזיקה, לרוב במהירות רבה ובאמצעות כלים אוטומטיים. במקרים רבים התוכן מופק ללא בדיקה, עריכה או אחריות אנושית משמעותית. במבט ראשון הוא עשוי להיראות משכנע או איכותי, אך בפועל הוא לעיתים קרובות שטחי, ממוחזר או מטעה.

תוכן כזה מיוצר לעיתים בכמויות גדולות במטרה להשיג רווחים כלכליים או יתרון ב-"כלכלת הקשב", כלומר למשוך צפיות, לייקים ושיתופים ברשתות החברתיות. למרות שלעיתים הדימויים נראים מלאכותיים או מוזרים, משתמשים רבים תופסים אותם כאמיתיים ומשתפים אותם בהיקפים גדולים.

• ערעור האמון בראיות דיגיטליות – בעידן הבינה המלאכותית תמונה כבר אינה בהכרח תיעוד של המציאות, הקלטה אינה בהכרח עדות, וסרטון אינו בהכרח הוכחה לכך שאירוע מסוים אכן התרחש. לכן האתגר אינו רק לזהות מידע שגוי, אלא גם להעריך עד כמה ניתן לסמוך על מה שאנו רואים ושומעים.
• השפעה על אירועים בעולם האמיתי – הפצה לא זהירה של תמונות או סרטונים שנוצרו בבינה מלאכותית עלולה לגרום לבלבול ולהשלכות ממשיות. כך למשל, בבריטניה נעצרה תנועת רכבות לאחר שתמונה שנוצרה באמצעות בינה מלאכותית הציגה כביכול נזק חמור לגשר בעקבות רעידת אדמה, אף שהאירוע כלל לא התרחש. 

• פגיעה באמון בין אנשים ובתהליכים דמוקרטיים – שימוש בדיפ-פייקים עלול לערער אמון בין חברים, משפחה וציבור רחב יותר, משום שקשה לדעת האם תוכן מסוים אמיתי או מזויף. הפצה של תוכן סינתטי שמטעה את הציבור בבוקר מערכת בחירות למשל עשוי לגרום לשיבוש אמיתי של תהליכים דמוקרטיים ואזרחיים חשובים.
  
• שימוש לא אחראי בקרב בני נוער – בשנים האחרונות יש עלייה בשימוש בכלים ליצירת דיפ-פייק בקרב בני ובנות נוער. לעיתים מדובר בניסיון להצחיק או למשוך תשומת לב, אך גם ללא כוונה לפגוע, הצמדת פנים, קול או דמות לאדם אחר עלולה לגרום מבוכה, השפלה או פגיעה חברתית. הגבול בין בדיחה לפגיעה עשוי להיות דק מאוד. בתוך מגמה רחבה זו, בולט במיוחד השימוש בתוכנות הפשטה (DeepNude), בעיקר בקרב בני נוער. יצירת תמונות בעלות אופי מיני של חברים לכיתה או אנשים אחרים נתפסת לעיתים כמעשה “לא רציני”, אך בפועל מדובר בהמשך ישיר של אותה תופעה: פגיעה חמורה בפרטיות ובכבוד, העלולה לגרום לנזק משמעותי ואף להיחשב עבירה פלילית במקרים מסוימים.