"תמונה" של מעצר טראמפ וסכנות ה-AI

אליוט היגינס, מייסד אתר התחקירים Bellingcat, פנה למחולל בינה מלאכותית (AI) וביקש להכין תמונה של "דונלד טראמפ נופל כאשר הוא נעצר". הוא קיבל תמונה של הנשיא לשעבר מוקף בשוטרים והפיץ אותה כבדיחה בטוויטר; לכל היותר חמישה אנשים יצייצו אותה מחדש, חשב. יומיים מאוחר יותר, היו 5 מיליון צפיות באירוע שלא התרחש – מקרה בוחן מובהק ליכולתה של בינה מלאכותית ליצור ולהפיץ מידע כוזב, כותב וושינגטון פוסט.

"קובעי מדיניות מזהירים מזה שנים מפני האפשרות של שימוש לרעה בתקשורת סינתטית כדי להפיץ מידע כוזב ולגרוע בלבול ומבוכה", אומר יו"ר ועדת המודיעין של הסנאט, מארק וורנר. "נדרשו כמה שנים להגיע ליכולת הזאת, אבל כעת הכלים הללו נפוצים מאוד ובעלי יכולות מעולות". לדעת וורנר, יש להזהיר את המפתחים: אם הכלים שלכם יכולים לגרום נזק שניתן לצפותו מראש, אתם חשופים לתביעות. גם קובעי המדיניות צריכים לפעול, הוא מוסיף, ולגרום לכך שהפלטפורמות יתמודדו עם סכנות הבינה המלאכותית.

לפלטפורמות המקוונות המובילות בהן מתפרסמות תמונות כאלה אין מדיניות מוסדרת. טוויטר לא הגיבה לפניית הפוסט; מטא אמרה שהתמונות שיצר היגינס סומנו כמפוברקות באינסטגרם; יוטיוב וטיק-טוק לא הגיבו גם הן. אולם, בפייסבוק אחת התמונות נותרה כמות שהיא כאשר שותפה בידי משתתף בעל 10,000 עוקבים, ואף צורף אליה כיתוב ממנו השתמע שמדובר בתיעוד אותנטי.

"זהו התיעוד הראשון של טראמפ כשהוא נאסר, גם אם הוא לא נאסר", אומר אנג'לו קארוסון, העומד בראש ארגון הבקרה Media Matters for America הנוטה לשמאל. "זה יהיה הדימוי שרבים יזכרו גם אם טראמפ לא יועמד לדין, שלא לומר אם הוא לא ייעצר".

כאשר היגינס החל להפיץ את התמונות, הוא הבהיר שזהו זיוף. אבל היקף התפוצה מלמד שנרשם זינוק אדיר ביכולת ליצור תהודה עצומה לתמונות מזויפות הנראות אמיתיות, אומר סם גרגורי, מנכ"ל ארגון זכויות האדם Witness. "קל לראות כיצד ניתן לעשות זאת בצורה מתואמת בכוונה להטעות". כשלים בטכנולוגיה היכולים להצביע על הזיוף – למשל אצבע בעלת שש אצבעות – אינם מפחיתים את הסכנה, מדגיש גרגורי. הארגון כינס מומחים מתחומי הטכנולוגיה, המשפט, האמנות והבידור במטרה למצוא דרכים להבטיח שהמדיה הסינתטית לא תזלוג למחוזות ההטעיה המכוונת.

הטכנולוגיה מתקדמת במהירות, מציין הפוסט. היגינס השתמש בגרסה מספר חמש של מחולל האמנות תוצרת Midjourney, תמורתה הוא משלם 30 דולר בחודש. נראה שהגרסה בנויה על לימוד חוזר ונשנה של אותן דמויות; תמונות של ידוענים פחות ידועים הן גם פחות מדויקות, מציין היגינס. גם נושאים מורכבים מציבים בפניה בעיות. הוא הורה לה ליצור תמונה של שתיים מן המטרות החביבות על בעלי תיאוריות קונספירציה מן הימין – מומחה הקורונה אנתוני פאוצ'י והמיליארדר ג'ורג' סורוס; התוצאה הייתה תמונה שמיזגה אותם לדמות אחת.