המחיר הדמינתי של מלחמה מבוססת בינה מלאכותית

בשנת 2003 נדרשו כ-2,000 אנליסטים של מודיעין כדי לבנות את חבילות המטרות עבור מבצע "חופש לעירק". ביום שבת (28.02.26), מערכת Maven Smart System של פלנטיר עיבדה כ-1,000 מטרות ב-24 השעות הראשונות של מבצע "זעם אפי" עם כ-20 אנשים בלבד. זהו אינו שיפור הדרגתי; זהו צמצום של פי מאה בכוח האדם הנדרש לניהול מלחמה בקנה מידה תעשייתי. איש מחוץ לקהילת טכנולוגיית ההגנה אינו מעכל את משמעות הדבר.

מייבן החלה בשנת 2017 כתוכנית לניתוח צילומי כטב"מים של הפנטגון. גוגל הייתה השותפה המקורית ופרשה ב-2018 בעקבות מחאות עובדים. פלנטיר תפסה את מקומה. שבע שנים מאוחר יותר, מייבן היא מערכת ההפעלה העיקרית של צבא ארצות הברית לבינה מלאכותית, שהוגדרה רשמית כתוכנית קבועה ב-9 במרס, עם 20,000 משתמשים פעילים, חוזים המגיעים ל-1.3 מיליארד דולר ושילוב חובה בכל הזרועות עד ספטמבר.

מה שמייבן עושה הוא לכווץ את כל מחזור הפללת המטרות. היא קולטת הדמיית לווין, וידאו מכטב"מים, מודיעין אותות, מכ"ם ומודיעין אנושי בו-זמנית. היא מזהה ומתעדפת מטרות, ממליצה על חימוש ספציפי בהתחשב במלאים, ומריצה סימולציות מבצעיות שבעבר ארכו ימים תוך דקות ספורות. היא אף מנסחת הצדקות משפטיות אוטומטיות לכל תקיפה. מנהל NGA, תת-אדמירל ויטוורת', הצהיר בוועידת פלנטיר כי המערכת מייצרת 1,000 המלצות לתקיפה בשעה. מפקד CENTCOM, אדמירל קופר, אישר כי כלי בינה מלאכותית עוזרים לכוחות "לקבל החלטות חכמות יותר מהר יותר מכפי שהאויב יכול להגיב".

אירן הסיקה את המסקנה המתבקשת: אם עוצמה צבאית אמריקנית זורמת דרך שרתים, יש להשמיד את השרתים. משמרות המהפכה פרסמו רשימת מטרות הכוללת את אמזון, מיקרוסופט, גוגל, אנבידיה ופלנטיר ב-29 מיקומים במפרץ. לאחר מכן, כטב"מים אירניים תקפו מרכזי נתונים של AWS באיחוד האמירויות ובבחריין וגרמו לנזק מבני. המלחמה שעמק הסיליקון אפשר מכוונת כעת נגד התשתית הפיזית שלו.

זה יוצר לולאה רפלקסיבית שאף מלחמה קודמת לא ייצרה. הבינה המלאכותית מאיצה את שרשרת הקטל, היריב תוקף את תשתית ה-AI, והנזק לשרתים פוגע ביכולת התקיפה. שני הצדדים נעולים בתחרות שאינה על טריטוריה, אלא על המצע המחשבי המאפשר לחימה מודרנית.

בינתיים, החברה שה-AI שלה מניע את ליבת הניתוח של מייבן תובעת את הפנטגון על ניסיונו להסיר את המגבלות נגד נשק אוטונומי. שופט פדרלי מצא את ה"רשימה השחורה" מטרידה ובלם אותה זמנית. במזכר אסטרטגיה פנימי של שר ההגנה נכתב: "עלינו לקבל שהסיכונים שבאי-תנועה מהירה מספיק עולים על הסיכונים של התאמה לא מושלמת". מהירות על פני דיוק, בעברית ביורוקרטית פשוטה.

שיעור הדיוק בזיהוי אובייקטים של מייבן, נכון לבדיקות צבאיות מ-2024, עמד על כ-60 אחוזים. אנליסטים אנושיים השיגו 84 אחוזים. בבית ספר לבנות במינאב שבדרום אירן נהרגו בין 168 ל-180 בני אדם בתקיפה, רובם ילדים. יותר מ-120 דמוקרטים בבית הנבחרים דרשו תשובות בשאלה האם בינה מלאכותית סייעה בבחירת המטרה. הפנטגון החמיץ את המועד מבלי להשיב.

עובדי גוגל שעזבו ב-2018 הזהירו שזה יקרה. חוקרי בטיחות AI הזהירו. האתיקנים שטענו כי כיווץ שרשרת הקטל מימים לשניות יוליד שגיאות קטסטרופליות הזהירו. זה קרה. מלחמת ה-AI הראשונה אינה אירוע עתידי; היא מתרחשת עכשיו. למולקולה, להליום הרותח, לדשן שלא נשלח או לאורניום במנהרה, לא אכפת אם המערכת שזיהתה את המטרה צדקה ב-60 אחוזים מהמקרים או ב-100.