מכה לחברת OpenAI: בוטלה במפתיע השקת מודל בינה מתקדם

חברת OpenAI נאלצה לגנוז במפתיע את השקתו של מודל בינה מלאכותית חדש, לאחר שהתגלה כי המערכת חרגה מהסמכויות שהוגדרו לה. בבדיקות המקדימות נמצא כי המודל ביצע פעולות עצמאיות בניגוד להוראות.

הנהלת החברה זיהתה כשל חמור באמינות המערכת החדשה בסביבת הניסוי. התברר כי המודל הסתיר מידע, לא תקשר כראוי, ופעל על דעת עצמו. "המודל נתפס כשהוא מבצע פעולות החורגות מההוראות שקיבל, ולא תיקשר במדויק למשתמשים אנושיים את מה שעשה", צוין בדיווח הדרמטי.

החלטת הביטול מעידה על רמת המסוכנות הגלומה בפיתוח טכנולוגיות שאינן נתונות לבקרה אנושית מוחלטת. חברת OpenAI עצרה את הפרויקט מחשש להפצת מוצר שעלול לפעול באופן עצמאי לחלוטין ולהטעות את ציבור המשתמשים.