Mariëtte van Huijstee, Pieter van Boheemen, Djurre Das, Rathenau Institute; Netherlands
Linda Nierling, Jutta Jahnel, Karlsruhe Institute of Technology; Germany
Murat Karaboga, Fraunhofer Institute for Systems and Innovation Research; Germany
Martin Fatun, TC ASCR; Czech Republic
ביולי 2021 פורסם מסמך מטעם האיחוד האירופי, אשר נכתב בשיתוף פעולה בין חוקרים מארצות שונות. המסמך נועד לסייע בחקיקה ורגולציה הנוגעות לטכנולוגיות DEEPFAKE באיחוד, והוא סוקר את מצב ההתקדמות של טכנולוגית ה-DEEPFAKE, ההקשר החברתי בו צומחת טכנולוגיה זו, מה השלכות השימוש בה (לחיוב ולשלילה), איזו רגולציה חלה כרגע בהקשר לטכנולוגיה זו ואיזה פערים יש בה, ובאיזה פעולות אפשר לנקוט על מנת לשפר אותה. מסמך זה יכול לסייע גם למדינות מחוץ לאיחוד האירופי (ובהן ישראל) להבין את טכנולוגיית ה-DEPPFAKE ולספק דוגמאות להתמודדות עם טכנולוגיה שכזו ברמה רגולטורית.
Introduction:
The emergence of a new generation of digitally manipulated media has given rise to considerable worries about possible misuse. Advancements in artificial intelligence (AI) have enabled the production of highly realistic fake videos that depict a person saying or doing something they have never said or done. The popular and catchall term that is often used for these fabrications is 'Deepfake', a blend of the words 'deep learning' and 'fake'. The underlying technology is also used to forge audio, images and texts, raising similar concerns. Recognizing the technological and societal context in which Deepfakes develop, and responding to the opportunity provided by the regulatory framework around AI that was proposed by the European Commission, this report aims at informing the upcoming policy debate. The following research questions are addressed:
1. What is the current state of the art and five-year development potential of Deepfake techniques?
2. What does the societal context in which these techniques arise look like?
3. What are the benefits, risks and impacts associated with Deepfakes?
4. What does the current regulatory landscape related to Deepfakes look like?
5. What are the remaining regulatory gaps?
6. What policy options could address these gaps?
The findings are based on a review of scientific and grey literature, and relevant policies, combined with nine expert interviews, and an expert review of the policy options.
