טכנולוגיית דיפ פייק – המאפשרת לזייף תמונות וקולות – שימשה בשנים האחרונות כדי "להראות" שאלון מאסק מקדם הונאת ביטקוין, "להפשיט" 100,000 נשים בטלגרם ולגנוב מיליוני דולרים מחברות על-ידי זיוף קולותיהם של מנהליהן בטלפון. השלטונות ברוב העולם לא יודעים הרבה עליה ורק חוקים מעטים מתמודדים עם התרחבותה, מתריע ניו-יורק טיימס.
סין מקווה להיות יוצאת דופן. החודש היא אישרה חוקים נרחבים המחייבים חתימה דיגיטלית או "סימני מים" על חומר מפוברק, והמטיל על ספקי תוכנות דיפ פייק להציע גם דרכים למניעתן הפצת של "שמועות כזב". אבל סין ניצבת בפני קשיים בסיסיים: המשתמשים הגרועים ביותר בטכנולוגיה זו הם אלו שהכי קשה לתפוס. הם פועלים באנונימיות ויכולים להפיץ את מרכולתם בתוך שניות בפלטפורמות חסרות גבולות. מעבר לכך, כאשר מדובר בסין – תמיד קיים חשש שהמטרה האמיתית היא לפגוע בחופש הביטוי. אבל עצם הצעד הסיני עשוי לעודד ממשלות אחרות ללכת בעקבותיה. עם מעט תקדימים בנושא, מחוקקים ברחבי העולם מחפשים מקרי בוחן.
בענפים רבים נושא עימו הדיפ פייק בשורה. בשנה שעברה פענחה משטרת הולנד תיק משנת 2003 לאחר שיצרה קלסתרון דיגיטלי של קורבן רצח בן 13 והפיצה אותה. הטכנולוגיה משמשת גם לפרודיות וסאטירות, ל"מדידה" מקוונת של בגדים, לסיורים וירטואליים במוזאונים ואפילו לשחקנים המקווים "לדבר" בשפות זרות. אבל יש גם בעיות קשות, כמו למשל האפשרות להשתמש בדיפ פייק כדי לחתור תחת האמון במצלמות אבטחה ולפגוע בראיות משפטיות. המשרד לביטחון פנים בארה"ב מזהיר גם מפני בריונות ברשת, סחטנות, מניפולציות במניות וערעור היציבות הפוליטית. כמה מומחים סבורים, כי תוך שנים אחדות ניתן יהיה לפברק עד 90% מהחומר ברשת.
היורופול (זרוע המשטרה של האיחוד האירופי) הזהיר אשתקד, כי התרחבות הדיפ פייק עלולה להוביל למצב בו "לאזרחים שוב לא תהיה מציאות משותפת, או ליצור בלבול בשאלה אלו מקורות מידע הם אמינים – מצב המכונה לעיתים 'אפוקליפסת מידע' או 'אפטיה למציאות'". פקידים בריטים הצביעו אשתקד על סיכונים כמו אתר ה"מפשיט" נשים ובו היו 38 מיליון ביקורים בינואר-אוגוסט 2021. אבל ההצעות להילחם בתופעה עודן בשלבים מוקדמים, מציין הטיימס.
בארה"ב נתקעו המאמצים להקים כוח משימה לבחינת הטכנולוגיה. חברת הקונגרס איב קלארק הגישה פעמיים הצעות חוק בנושא, אך הן לא עלו להצבעה; היא אומרת שתנסה שוב השנה. הצעתה מדברת על סימנים מזהים בתוצרים של דיפ פייק, ולדבריה הצעד שלה הוא התגוננות בעוד החוק הסיני הוא "מכניזם של שליטה". קלארק אומרת, שארה"ב צריכה ליטול את ההובלה ולא לאפשר לסין לעשות זאת ולהשתלט על נתח מהעולם המקוון.
|
|
|
|
|
גוגל מגבילה, מטא מפתחת [צילום: AP]
|
|
אולם, ברשויות האכיפה אומרים שהן עדיין אינן מסוגלות לזהות תוצרי דיפ פייק ומתקשות להיאבק בשימוש לרעה בטכנולוגיה. החוקים הקיימים בארה"ב מכוונים בעיקר נגד דיפ פייק פוליטי או פורנוגרפי. מארק ברמן, חבר בית המחוקקים של קליפורניה שהיה שותף לחקיקה כזאת, אומר שאינו יודע על נסיונות לאכוף את החוק בתביעות או בקנסות; החוק הוביל לכך שיישומון דיפ פייק חויב להסיר את היכולת לחקות את דונלד טראמפ לפני בחירות 2020. רק קומץ מדינות אחרות, ובהן ניו-יורק, אוסרות דיפ פייק פורנוגרפי.
הטיימס מוסיף, כי גם אלו הקוראים לנקוט פעולה, אומרים שיש לעשות זאת בזהירות. חוקים נגד דיפ פייק עלולים להיות גם מרחיקי לכת מדי וגם חסרי שיניים. חיוב להבהיר שמדובר בדיפ פייק עלול לפגוע באפקטיביות של שימוש בהם לצרכים לגיטימיים בתחומי הפוליטיקה והתרבות. תומכי זכויות דיגיטליות קוראים למחוקקים להשתמש בחוקים קיימים בתחומי ההונאה, זכויות היוצרים ולשון הרע, במקום ליצור חוקים ספציפיים שיובילו להתערבות ממשלתית בתכנים.
כמה מחברות ההיי-טק כבר פועלות בעצמן. לפני מספר חודשים החלה גוגל לאסור להשתמש ב-Colaboratory, כלי לניתוח מידע, לצורך אימון בינה מלאכותית ביצירת דיפ פייק. החברה שמאחורי Stable Diffusion, כלי מחולל תמונות, השיקה בסתיו עידכון החוסם נסיונות להשתמש בה ליצירת תכני עירום ופורנוגרפיה. מטא, טיק-טוק, יוטיוב ו-Reddit חוסמים תכני דיפ פייק שכוונתם להטעות.
אולם, מדגיש הטיימס, כללים עלולים להתקשות להתמודד עם טכנולוגיה שבלב-ליבה עומדת היכולת לשנות ולהשתפר. בשנה שעברה הדגימו חוקרים מקבוצת ראנד עד כמה יהיה קשה לזהות דיפ פייק, כאשר הראו שורה של סרטונים ל-3,000 נסיינים וביקשו מהם לזהות את המפוברקים. הללו טעו ביותר משליש מן המקרים. אפילו תריסר סטודנטים הלומדים הוראה רובוטית באוניברסיטת קרנגי-מלון טעו לגבי למעלה מ-20% מהתכנים.
יוזמות של חברות כמו מטא ואדובי מנסות כעת לאמת תכנים וליצור טכנולוגיות שיזהו את חוסר העקביות המאפיין תוכן מפוברק. אבל הן מצויות במאבק מתמיד לעמוד בקצב של מפתחי הדיפ פייק, שלעיתים קרובות מוצאים דרכים לתקן את הפגמים, להסיר "סימני מים" ולהשתמש במטא-דאטה כדי לטשטש את עקבותיהם. בסופו של דבר, יהיה צורך להמציא דרכים טובות יותר לאתר את הזיופים – ובלעדיהן לא תהיה משמעות של ממש לחקיקה.
|
|
עיתונאי, סופר וחוקר שואה. כתב משפטי באתר ביזפורטל. פרסם 20 ספרים ועשרות מאמרים על השואה.
| תאריך: |
24/01/23
|
|
|
עודכן: |
24/01/23
|
|
|
תפוס כינוי יחודי
