הבנקים מזהירים: סוכני AI שיקנו עבורכם עלולים להגדיל הונאות ולסכן מידע פיננסי

בנקים גדולים ברחבי העולם מזהירים מפני הסיכונים שעלולים להתלוות לדור הבא של הקניות המקוונות - סוכני בינה מלאכותית שלא רק ממליצים לצרכן מה לקנות, אלא עשויים לבחור את המוצר ואף לבצע את הרכישה בשמו. בסוכנות הידיעות רויטרס דווח (יום ג', 22.9.26) כי הבנקים NatWest ובנק אוף אמריקה, יחד עם ING, בנק ASB מניו-זילנד, Capital One האמריקני ו-Commonwealth Bank of Australia, פרסמו מסמך עקרונות שבו התריעו מפני סיכוני הונאה, מרמה ופגיעה בפרטיות הנתונים כתוצאה מהתרחבות השימוש במה שמכונה "מסחר סוכני".

ההתפתחות מגיעה בזמן שחברות הטכנולוגיה הגדולות פועלות להפוך את הצ'אטבוטים שלהן לכלי קניות של ממש. OpenAI, אנתרופיק, גוגל ומטא מקדמות חזון שבו הצרכן יוכל למסור לסוכן AI משימה כמו מציאת מוצר מתאים במסגרת תקציב מסוים, והמערכת תבחר בין האפשרויות ואף תשלים את הרכישה עבורו. במקביל, קמעונאים פועלים כדי להשפיע על המוצרים שעליהם ממליצים סוכני הבינה המלאכותית.

לטענת הבנקים, קיימת התלהבות בקרב הצרכנים מהאפשרויות שמציעה הטכנולוגיה, אך קצב התפתחותה מהיר מזה של התקנים המקצועיים ושל אמצעי ההגנה על הצרכן. אחת הבעיות המרכזיות היא חוסר הבהירות בשאלה האם סוכן ה-AI אכן פועל לטובת המשתמש, ומה יקרה במקרה שבו יקבל החלטה שגויה או יגרום נזק כספי.

ברויטרס דווח כי במסמך מתוארות בין היתר אפשרויות שבהן סוכן AI יבקש מהמשתמש את פרטי כרטיס האשראי שלו ויזין אותם ישירות באתרים שבהם הוא מבצע קנייה. לדברי הבנקים, פעולה כזו עלולה ליצור סיכונים חדשים בנוגע לטיפול במידע פיננסי רגיש. הם מזהירים גם מפני מצב שבו הסוכן ינתב את הצרכן לאמצעי תשלום שמספקים הגנה חלשה יותר במקרה של הונאה או מחלוקת על עסקה.

החשש אינו מסתכם בכך שהמערכת תבחר מוצר שאינו מתאים. לפי הבנקים, צרכנים חוששים גם מכך שסוכנים אוטונומיים יוציאו סכום גבוה מהמתוכנן או יבצעו עסקה שתוביל להונאה ולאובדן כספים. במצב כזה עולה גם שאלה חדשה של אחריות: לא תמיד ברור אם הצרכן יצטרך לפנות לבנק, לבית העסק, לחברת התשלומים או למפעילת מערכת ה-AI כדי לקבל פיצוי או לבטל את העסקה.

הבנקים מתכוונים לדון עם קובעי מדיניות בשורה של כללים אפשריים. בין היתר הם מציעים לחייב גילוי ברור כאשר סוכן AI מעורב בביצוע עסקה, להגביר את השקיפות לגבי הדרך שבה הסוכן בוחר בין מוצרים ושירותים, ולקבוע הגנות מחמירות יותר על מידע אישי ופיננסי של לקוחות.

הם מבקשים גם להבטיח שהצרכנים ובתי העסק לא יהיו כבולים למערכת אחת. לפי המסמך, המשתמשים צריכים להיות חופשיים לבחור באילו שירותי מסחר מבוססי AI להשתמש, ומערכות שונות צריכות להיות מסוגלות לפעול זו עם זו.

הנתונים בענף כבר מצביעים על התרחבות התופעה. הקמעונאית הבריטית John Lewis דיווחה בספטמבר כי שיעור החיפושים שהגיעו מסוכני AI עלה בתוך שנה מ-0.3% ל-2.5%, וכי קצב הגידול ממשיך להאיץ.