ארה"ב מזהירה: אירן, סין וחברה מישראל מפעילות "צבאות בוטים" מבוססי AI להטיית בחירות

גורמי מודיעין בארה"ב חשפו "פריצת דרך מדאיגה" בתחום לוחמת התודעה ברשת, המאפשרת הפעלת "צבאות בוטים" מבוססי בינה מלאכותית (AI) הפועלים באופן עצמאי לחלוטין. הדיווח, שפורסם לראשונה בעיתון ניו-יורק טיימס (New York Times), חשף כי אירן, סין וחברות טכנולוגיה פרטיות, בהן חברה מישראל, השתמשו בטכנולוגיה מתקדמת זו כדי לייצר שיח פוליטי מלאכותי ולהשפיע על דעת הקהל.

המערכות האוטונומיות שנחשפו פתחו פרופילים מזויפים בעלי זהויות הנראות אותנטיות, כתבו פוסטים ברשתות החברתיות, ואף ניהלו ויכוחים ודיונים סוערים מול משתמשים אנושיים, ללא כל מגע יד אדם. ההתפתחות הטכנולוגית המהירה והיכולת לייצר תוכן כוזב בהיקפים עצומים, עוררו חשש כבד בוושינגטון מפני ניסיונות זרים, או מקומיים, להטות את תוצאות בחירות האמצע (Midterms) בארה"ב.

יוצאי NSO בחזית הפיתוח הישראלית

על-פי הדיווח, בחזית הפיתוח הישראלית פעלה חברת IntelEye, חברת סטארט-אפ מתל אביב שהוקמה על-ידי יוצאי חברת הסייבר ההתקפי NSO. החברה הפעילה רשת של כ-1,000 חשבונות פיקטיביים שהתערבו באופן פעיל בדיונים הפוליטיים הרגישים ביותר בישראל.

רשת הבוטים האוטונומית של IntelEye הפיצה תכנים מגוונים, הן בעד והן נגד ראש הממשלה בנימין נתניהו, ובכך תרמה להקצנת השיח ולליבוי המחלוקות הפוליטיות. הפעילות התבצעה באופן שוטף, תוך התחזות למשתמשים ישראלים אותנטיים המביעים דעה נחרצת.

ניסוי מחקרי או סכנה לדמוקרטיה

בחברה אישרו את הפעלת המערכת, אולם שללו טענות למניפולציה זדונית או לניסיון ממשי להשפיע על מערכת בחירות. לטענתם, הפעלת הבוטים בוצעה במסגרת ניסוי מחקרי בלבד שנועד לבחון את יכולות המערכת.

עם זאת, גורמי המודיעין האמריקנים הזהירו כי אירוע זה מהווה הוכחה מטרידה ליכולות ההרסניות של הטכנולוגיה. לטענתם, מדובר בסכנה ממשית הנובעת מיכולת ההשפעה של צבאות בוטים על עיצוב דעת קהל ברחבי העולם וערעור היציבות הדמוקרטית.