אנשי מודיעין ומומחים אינטליגנציה מלאכותית (AI) ברחבי ארה"ב מנהלים מרוץ לבלום כלי נשק פוליטי יוצא דופן, כדי למנוע ממנו להשפיע על תוצאות הבחירות בשנה הבאה: סרטונים ממוחשבים מזויפים שיעבירו מסרים כוזבים. המסר שלהם, מדווח וושינגטון פוסט, הוא פשוט ביותר: אנחנו לא ערוכים.

החוקרים פיתחו מערכת אוטומטית שיכולה לנתח סרטונים ולמצוא בהם סימני זיוף – תאורה, צללים ואפילו תנועות פנים. אבל, הם אומרים, למרות כל ההתקדמות מצידם – טכנולוגיית הזיוף מתקדמת עוד יותר. כיום קל יותר מאשר אי-פעם ליצור סרטונים בהם נראה כאילו אדם אומר ועושה משהו שלא אמר ולא עשה – וזה כולל מועמדים לנשיאות. שלא לדבר על היכולת לשנות חלקים קטנים בסרטונים קיימים ובכך לגרום נזק אדיר לאותו אדם. לאחרונה הדבר נעשה לנאום של יו"ר בית הנבחרים, ננסי פלוסי.

לתופעה הזאת כבר יש שם: Deepfake, על שם תכונת ה-Deep lerning
של הבינה המלאכותית. כמה מחברי הקונגרס, כולל בכירים, מזהירים שהתופעה עלולה לאיים על הביטחון הלאומי ועל ההצבעה בבחירות. ועדת המודיעין של בית הנבחרים תקיים מחרתיים (18.6.19) שימוע בנושא, והיו"ר שלה, אדם שיף, כבר אמר נחרצות: "אני לא מאמין שאנחנו ערוכים ואני חושב שהציבור לא יודע מה עלול לקרות".

הסכנה גדולה במיוחד, משום שסרטון מזויף יזכה לתהודה רבה ברשת – שם ככל שהמסר מעורר יותר מחלוקת, כך הוא נפוץ יותר. בארה"ב אין כיום שום חוק האוסר על "דיפ-פייק", למרות שכמה משפטנים המליצו להחיל על התחום חוקים קיימים כמו איסור לשון הרע, גניבת זהות או התחזות לעובד ציבור. אלא שקיים קושי להבחין בין דיפ-פייק פסול לבין תעמולה פוליטית לגיטימית (למשל: חיקוי סאטירי). ומן הצד השני, היסטריה מוגזמת עלולה ליצור רתיעה מפני סרטונים לגיטימיים.

קשה לסמוך על ענקי ההיי-טק

ייתכן שהבעיה כבר כאן, מציין הפוסט. סקר שפורסם החודש העלה, כי כשני שלישים מן האמריקנים סבורים שסרטונים ומסרים ערוכים מהווים מכשול ממשי בפני קבלת מידע בסיסי על האירועים. למעלה משליש אמרו, כי "חדשות מומצאות" גרמו להם להפחית את כמות החדשות שהם צורכים.

הדמוקרטים, הרפובליקנים ומטות המועמדים לנשיאות אומרים, כי אינם יכולים לעשות הרבה כדי להתכונן מראש לסכנת הסרטונים המזויפים, וכי הם סומכים על הרשתות החברתיות ועל אתרים כמו יוטיוב שידאגו להסיר את הזיופים כאשר הללו יצוצו. אבל לחברות הטכנולוגיה יש קווים מנחים שונים זו מזו, ורובן אינן אוסרות להעלות סרטונים כוזבים.

כאמור, הטכנולוגיה ממשיכה להתקדם. חוקרים במכון סקולקובו במוסקבה חשפו בחודש שעבר טכנולוגיית AI המאפשרת ליצור זיוף משכנע על-ידי שימוש בתמונות פנים בודדות. חוקרים מאוניברסיטאות סטנפורד ופרינסטון פיתחו מערכת היכולה לשנות את תוכן הדברים על-ידי שינוי של מילים בודדות בסרטון מקורי. ויש עוד חזיתות: מערכת אחרת יכולה לשכפל את הקול וצורת הדיבור, ולהלביש עליהן טקסטים שלא נאמרו – ויש כבר גם מערכת-נגד האמורה לחשוף פיברוק שכזה. סרטונים מזויפים נמצאים באופק, כולל בפיתוח של פייסבוק – מערכת שכבר הצליחה לשכפל את ביל גייטס ואחרים.

הפוסט מדגיש, כי בחוגי ה-AI ניתנו הרבה פחות תשומת לב, מימון וגיבוי מוסדי למערכות לזיהוי הזיופים מאשר ליצירתם. רוב המימון למערכות אלו מגיע מזרוע ההיי-טק של הפנטגון, הסוכנות למחקר ביטחוני מתקדם, אשר מאז 2016 תומכת ביותר מתריסר תוכניות בתחום. ראש הסוכנות, מאט טורק, אומר שמדובר במאמץ המכוון לא רק נגד מדינות זרות, אלא גם נגד גורמים בתוך ארה"ב.

לפעול ב"אווירה חסרת אמת"

המומחים אומרים, כי הדרך לבנות כלי שיזהה דיפ-פייק היא לפעול ב"אווירה חסרת אמת", כפי שהיא מכונה בתחום הסייבר – אווירה בה לא ניתן לגלות את יוצרי הווידאו והמקום ממנו הופץ. המהירות כאן היא קריטית: בכל דקה בה נעשה ניסיון לאתר את הסרטונים המזויפים, עלול אחד נוסף לעלות לרשת. החוקרים איתרו שורה של אינדיקטורים היכולים לשמש כדרך לזהות סרטון מזויף, כגון צורות האור והצל, הזוויות, הבעות הפנים, התסרוקת ואפילו הבגדים. אבל עורך וידאו מיומן בצד המזייף יכול לעלות גם הוא על הטעויות הללו ולתקן אותן.

חוקרים מאוניברסיטאות ברקלי ודרום קליפורניה יצרו מערכת לתוכה הזרימו עשרות שעות נאומים של מנהיגים בכירים, כדי שהיא תזהה את הבעות הפנים שלהם, כולל מצמוצים, תנועות ראש והרמת השפה העליונה. כחלק מהניסוי של המערכת, הם יצרו סרטונים מזויפים בהם החליפו את פניהם דונלד טראמפ, אליזבת וורן והילרי קלינטון עם החקיינים שלהם ב"סאטרדיי נייט לייב". המערכת הצליחה לגלות שמדובר בזיוף.

החוקרים אומרים, כי דווקא ככל שהזיוף נעשה ברמה גבוהה יותר – כך קל יותר לזהות אותו. ככל שיש בסרטון יותר פרטים, כך גדל מספר האפשרויות לעלות על הזיוף. אולם האינטרנט מקל על הזייפנים, משום שרוב אתרי המדיה החברתית והמסרים מכווצים את הסרטונים לפורמטים קטנים יותר, כדי להקל על ההעלאה והשיתוף, וכך מוחקים רמזים חיוניים. האתגר הזה הוביל כמה חוקרים להתמקד במערכות אוטומטיות שיוכלו לזהות "טביעות אצבעות" מיד עם ההעלאה – אך השימוש בה יצריך את הסכמת יצרני הסמארטפונים והמצלמות ושיתוף פעולה של האתרים, וזה תהליך שעלול להימשך שנים.

מנהלי קמפיינים פוליטיים אומרים, שהם יודעים היטב כיצד להגיב על סרטונים מכפישים – אך אין להם מושג כיצד להתגונן מפני סרטונים מזויפים. חלקם משליכים את יהבם על ענקי ההיי-טק, אך המדיניות הנוכחית של חברות אלו אינה מיועדת למאבק נגד דיפ-פייק. כך למשל, יוטיוב הסירה במהירות את הסרטון המזויף של פלוסי; פייסבוק השאירה אותו בנימוק שאינו מפר את כלליה.

לדברי הפוסט, ייתכן שהבעיה הגדולה ביותר איננה סרטונים מזויפים, אלא סרטונים מקוריים העוברים עריכה מגמתית: השתלת מילים בפיו של נואם, או הצגת אירוע אלים כאילו התרחש במקום אחר. סכנה זו זכתה לתשומת לב בשל הבחירות המתקרבות בארה"ב, אך במגזר העסקי מתמודדים עימה מזה זמן מה – למשל אם מישהו ירצה להראות מנכ"ל בכיר "מתבטא" בגזענות או נגד נשים. מה שברור הוא, שבעולם בו סרטונים ממלאים תפקיד מרכזי בעיצוב ההיסטוריה, חייבות להימצא דרכים כדי לאתר את המזויפים שביניהם.