הצוות הבין-משרדי לבחינת שימושי
בינה מלאכותית (AI) במגזר הפיננסי מפרסם (יום ג', 5.11.24) את דוח ביניים הכולל המלצות ראשונות מסוגן ביחס לרגולציה על שימוש בטכנולוגיית AI, אשר יעצבו את עקרונות האסדרה שתחול בנושא זה בסקטור הפיננסי.
דוח הביניים הוא תוצר של צוות משותף של משרד המשפטים (ייעוץ וחקיקה), משרד האוצר, רשות התחרות, רשות ניירות ערך, רשות שוק ההון, ביטוח וחיסכון והפיקוח על הבנקים בבנק ישראל. הצוות הוקם מתוך הבנה שבתחום הפיננסי, כמו בתחומים נוספים, צפוי להיות שימוש נרחב ב-AI, ויש להיערך לכך.
לתפיסתו של הצוות, ככלל, יש לעודד פעילות AI בסקטור הפיננסי, לצד קביעת רגולציה מותאמת מקום בו הדבר נדרש ולרוב באמצעות כלי אסדרה "רכים" וגמישים.
הצוות מדגיש את הצורך באימוץ גישה מבוססת סיכונים, לפיה היקף הרגולציה יותאם למהותיות השירות הפיננסי והשפעתו על הלקוח. לדוגמה, צ'ט-בוט AI המספק שירות לקוחות בסיסי יידרש לעמוד בדרישות רגולטוריות מצומצמות יותר בהשוואה למערכת חיתום אשראי מבוססת AI, שלהחלטותיה השפעה משמעותית על הפרט. גישה זו תאפשר לגופים הפיננסיים למקד משאבים בניהול סיכונים בשירותים המהותיים יותר.
הסברתיות: בעיית "הקופסה השחורה" לפיה לא ניתן להסביר באופן מלא את תוצריהן של מערכות AI היא אחד האתגרים המורכבים ביחס לטכנולוגיה זו. הדוח מבחין בין הסברתיות כללית, בנוגע לאופן פעולת המערכת, ובין הסברתיות פרטנית, בנוגע להחלטות ספציפיות. ההמלצה היא שתחול חובת הסברתיות כללית, בעוד שחובת הסברתיות פרטנית תיקבע בהתאם לנסיבות הנוגעות למהות ההחלטה, לקיומה של מעורבות אנושית, וכדומה.
מעורבות אנושית: אחד הכלים הנפוצים המוצעים על-מנת להתמודד עם האתגרים הגלומים בפעילות של בינה מלאכותית הוא מעורבות ופיקוח אנושי. ישנה גם ביקורת על דרישה זו שעלולה לצמצם את התועלת בשימוש בטכנולוגיה. בדוח עורך הצוות הבחנה בין סוגים שונים של מעורבות אנושית - מעורבות בזמן אמת מול מעורבות בדיעבד, מעורבות בכל החלטה פרטנית מול מעורבות על פעילות המערכת בכללותה. הצוות ממליץ על מודל מדורג של מעורבות אנושית, שיכלול חובת בקרה אנושית כללית, ומעורבות ישירה בהחלטות בשימושים שיסווגו בסיכון בינוני או גבוה (כגון החלטות מהותיות).
חובות יידוע וגילוי: הצוות סבור כי יש ליידע את הציבור על שימוש במערכות AI או אינטראקציה עם מערכות כאלה בנוסף לחובות גילוי בדבר מאפייני הבינה המלאכותית והשלכותיה שישתלבו בדרישות הגילוי הקיימות בתחום הפיננסי. הצוות מדגיש את הצורך כי הגילוי ייעשה תוך מניעת "“AI washing (הצגת שווא או הגזמה ביחס לשימוש ב-AI) וכן הקפדה שהיידוע והגילוי יהיו בשפה פשוטה וניטרלית.
הונאות ודיסאינפורמציה: הדוח מתייחס להשפעת התקדמות ה-AI על סיכוני הונאה ודיסאינפורמציה במערכת הפיננסית, החל מהתחזות ללקוחות ועד להשלכות מערכתיות רחבות, וממליץ לרגולטורים כיצד לעדכן ולהרחיב את מנגנוני ההתמודדות עם סיכונים אלה.
פרטיות והגנה על מידע אישי: הדוח כולל סקירה של האתגרים העומדים בפני ההגנה על הזכות לפרטיות הנובעים ממאפייני מערכות AI ורגישות המידע הפיננסי. הדוח כולל הצעות לכלים ואמצעים להתמודדות עם אתגרים אלה, ובין היתר ממליץ לרגולטורים הפיננסיים להכווין גופים מפוקחים לבצע הערכת סיכונים ביחס לזיהוי חוזר של מידע אישי, וכן לאמץ כלים ארגוניים לניהול וצמצום הסיכונים לפרטיות הכרוכים בפיתוח מערכות בינה מלאכותית כגון: תסקיר השפעה על פרטיות, יישום והטמעת תפיסות של עיצוב לפרטיות, וזאת בנוסף למינוי ממונה על הגנת הפרטיות.
המלצות בתחומים רבים נוספים: כללי ממשל תאגידי שיאפשרו ניהול סיכונים ביחס לשימושי AI במוסד הפיננסי; כללי אחריות ביחס למערכות AI, המבהירים על מי מוטלת האחריות בנוגע לתפקוד המערכות; אמצעים למניעת אפליה; סיכונים והזדמנויות בהיבטי תחרות וכדומה.
