מודל הבינה המלאכותית ג'מיני פרץ לשלוש חברות במהלך מבדק אבטחה

חברת Google אישרה כי מודל הבינה המלאכותית מתוצרתה, Gemini, פרץ באופן עצמאי למערכות האבטחה של שלוש חברות. התקרית התרחשה בחודש מאי האחרון, במהלך מבדק סייבר שערכה חברת ההערכה העצמאית Irregular.

סביבת הבדיקה חוברה בטעות לרשת, והמודל זיהה חברות אמיתיות כיעדים תקיפים לגיטימיים. באחד המקרים, המודל הצליח לחדור למערכת מוגנת לאחר שניחש סיסמאות בהצלחה. בשני המקרים הנותרים, Gemini איתר הרשאות כניסה במאגרים ציבוריים שהיו חשופים ברשת. הוא ניצל אותם כדי לקבל גישה למערכות המוגנות.

מדיניות ההסתרה של Google

חברת Google בחרה שלא לדווח על התקרית לציבור במשך חודשים, למרות שקיבלה עידכון עליה בחודש יולי. מדיניות זו בולטת במיוחד על-רקע דיווחים גלויים מצד חברות מתחרות דוגמת OpenAI ו-Anthropic, שהיו מעורבות בתקריות דומות ופרסמו על כך דיווחים לציבור.

הדיווח הרשמי מצד Google נמסר רק לאחר פנייה יזומה מצידו של עיתון The Wall Street Journal. לטענת סגנית נשיא הנדסת אבטחה ב-Google, הת'ר אדקינס, בכל אחד משלושת המקרים המודל הפסיק את הפעולה מיד כשהבין שמדובר בחברה אמיתית. ענקית הטכנולוגיה נימקה את אי-הפרסום בכך שלא נגרם כל נזק, וציינה כי כל הגורמים הנפגעים עודכנו בזמן אמת.