מצא מפתח גישה - והשתמש בו
באירוע אחר התבקש מודל לענות על שאלה שגרתית בנוגע לנתוני הכנסות במחוז בקליפורניה. במהלך החיפוש מצא המודל במאגר תוכנה ציבורי מפתח גישה שהיה חשוף ברשת והשתמש בו ללא אישור. כאשר גם באמצעותו לא הצליח לאתר את הנתונים המבוקשים, הוא המציא נתונים והציג אותם כאילו הגיעו מן המקור שנדרש לבדוק.
מודל אחר, שטרם שוחרר לציבור, פתר משימה באמצעות קוד והגיע לתוצאה הנכונה, אך נדרש גם לצרף אסמכתה ממקור אינטרנטי. במקום להסתפק בתוצאה או להסביר שאין לה מקור מקוון, העלה המודל בעצמו קובץ לאינטרנט כדי שיוכל לצטט אותו - מבלי לבקש את אישור המשתמש.
מודלים מצאו דרכים עצמאיות לתקשר
שני מקרים נוספים עסקו בתקשורת בין מערכות. באחד מהם השתמשו מודלים במאגר קוד פנימי של החברה כמעין לוח הודעות מאולתר, כדי להעביר ביניהם בקשות ותשובות במהלך חיפוש אחר קבצים חסרים.
במקרה אחר, סוכני
בינה מלאכותית שעבדו במשותף על אותה משימה גילו שאינם יכולים לגשת ישירות לקבצים של עמיתיהם. הם עקפו את המגבלה באמצעות אתרי שיתוף קבצים ציבוריים והעבירו דרכם מסמכים. בכך הפכו קבצים שהיו אמורים להישאר מקומיים לזמינים בכתובות אינטרנט ציבוריות.
OpenAI: אי-אפשר להמשיך להאיץ ללא הגבלה
לצד החשיפה פרסמה OpenAI מנגנון קבוע לבדיקת מקרים כאלה. עובדים בחברה יוכלו לדווח על אירוע חריג, והוא יסווג לאחד משלושה מסלולים - מוכן לפרסום, חקירה מצומצמת או חקירה רחבה יותר. מחלוקות בשאלה אם לחשוף מקרה יועברו לוועדת הבטיחות הפנימית של החברה, ובאירועים חמורים מבקשת OpenAI לקדם גם מנגנון דיווח לממשל הפדרלי בארה"ב.
המשמעות הרחבה יותר נמצאת דווקא באזהרה שנלוותה לפרסום. OpenAI הודתה כי לדעתה תעשיית הבינה המלאכותית עדיין לא פתרה במידה מספקת את בעיות ההתאמה והפיקוח, באופן שיאפשר לה להמשיך לאורך זמן בהגדלה מואצת של יכולות המודלים ללא הגבלות נוספות. החברה טוענת כי החלטות על המשך פיתוח המערכות חייבות להתבסס גם על ראיות שיוכלו להיבחן בידי גורמים מחוץ לחברות המפתחות אותן.
החשיפה מגיעה לאחר אירוע חמור יותר שנחשף באוגוסט, שבו מודל מחקר פנימי של OpenAI היה מעורב בחדירה למערכות של חברת Hugging Face. OpenAI מגדירה אותו עד היום כאירוע החמור ביותר מסוג זה שאיתרה במודלים שלה, ומציינת כי בעקבותיו הרחיבה את הבדיקות אחר פעולות לא צפויות שמבצעים מודלים בזמן אימון והערכה.
עם זאת, החברה מזהירה מפני הסקת מסקנה גורפת מששת המקרים החדשים. לדבריה, חלקם התרחשו במודלים ישנים או במערכות מחקר שלא הועמדו לרשות הציבור, והפרסום החדש נועד בראש ובראשונה ליצור סטנדרט של שקיפות שיאפשר לחוקרים, לחברות אחרות ולציבור לעקוב אחר הכשלים ולבחון אם הם חוזרים על עצמם.
; פייסבוק 
תפוס כינוי יחודי
נמנע מהמשך הישענות הגושים הוותיקים על המיעוטים הערבים והחרדים 
