אנתרופיק מזהירה בתשקיף: בינה מלאכותית עלולה להציב "סיכון קיומי לאנושות"

חברת הבינה המלאכותית אנתרופיק מתכוונת להזהיר את המשקיעים במסגרת ההנפקה הראשונית שלה כי מערכות בינה מלאכותית מתקדמות עלולות ליצור "סיכונים קטסטרופליים או קיומיים לאנושות". כך דווח (יום ג', 29.9.26) בסוכנות הידיעות רויטרס. מדובר באזהרה חריגה במיוחד מצד חברה המבקשת לגייס הון מהציבור על בסיס אותה טכנולוגיה שהיא מגדירה כמקור אפשרי לנזק בלתי הפיך.

על-פי הדיווח, בתשקיף ההנפקה מפרטת אנתרופיק שורה של התנהגויות שעלולות להופיע במודלים מתקדמים. בין היתר מציינת החברה אפשרות להתנהגויות של שימור עצמי, ובהן ניסיונות להתנגד לכיבוי, להסתיר מידע או לתמרן אותו, וכן התנהגות שהחברה מתארת כדומה לסחיטה. החברה מזהירה כי ככל שתמשיך לפתח מודלים, פלטפורמות ויישומים מתקדמים יותר ולהרחיב את השימוש בהם, עלול לגדול גם הסיכון לגרימת נזק.

היקף ההתייחסות לנושא בתשקיף בולט במיוחד. מתוך 261 עמודי הגוף המרכזי של המסמך, כ-80 עמודים מוקדשים לגורמי סיכון - כמעט פי שניים מ-48 העמודים המוקדשים לתיאור עסקי החברה. לשם השוואה שמביאה רויטרס, SpaceX, המחזיקה ב-xAI, הקדישה כ-38 עמודים מתוך 277 עמודי התשקיף שלה לגורמי סיכון.

אנתרופיק גם מודה בקושי בסיסי בבדיקת בטיחות המודלים. לפי החברה, האפשרות שמודל יהיה מודע לכך שהוא נמצא תחת הערכה עלולה להגביל באופן משמעותי את היכולת להעריך אם הוא בטוח. החברה מוסיפה כי במהלך האימון עלולות להתפתח במודלים יכולות בלתי צפויות, שלא תמיד מתגלות לפני שהמערכת כבר נפרסה לשימוש. חוקרי AI מזהירים כי ככל שהמודלים הופכים חזקים יותר, הם עשויים לזהות טוב יותר מתי הם נבדקים ולהתאים את התנהגותם בהתאם.