אסיסטנט בנקאי מבוסס בינה מלאכותית מפליא לקוח ומקדם אמצעי זהירות מחמירים

Monday 21 September 2026 - 20:15

בנק רומני הציג אמצעי זהירות נוספים לאסיסטנט הבינה המלאכותית שלו לאחר שהמערכת לכאורה העליבה לקוח במהלך שיחה מקוונת, מה שמדגיש את האתגרים שעמם מתמודדות מוסדות פיננסיים כאשר הם משתמשים בבינה מלאכותית גנרטיבית בשירות לקוחות.

בנק ליברה אמר שהאסיסטנט הווירטואלי שלו, הידוע בשם ליאה, השתמש בביטוי לא הולם במהלך אינטראקציה עם לקוח. הצ'אטבוט פותח באמצעות טכנולוגיה מחברת הבינה המלאכותית האמריקאית OpenAI, יוצר ChatGPT.

על פי הלקוח, המקרה התרחש לאחר חילופי דברים ממושכים עם האסיסטנט. המשתמש לכאורה אמר לצ'אטבוט שהשיחה מבזבזת את זמנו, לאחר מכן המערכת הגיבה בהערה פוגענית והצביעה על כך שהשיחה תועבר לעובד אנושי.

הבנק הכיר במקרה ואמר שמערכות בינה מלאכותית יכולות, במקרים נדירים, לשחזר שפה או דפוסי התנהגות שנתקלים במהלך אינטראקציות. עם זאת, הוא הדגיש שהתנהגות כזו אינה עומדת בסטנדרטים המצופים מהאסיסטנט הווירטואלי שלו.

בנק ליברה אמר שליאה לא צריכה לשחזר התנהגות אנושית לא הולמת ללא קשר לטון או לשפה שבהם משתמש הלקוח. המוסד התנצל על המקרה ואמר שהוא יישם מגבלות נוספות שנועדו למנוע חזרות על חילופי דברים דומים בעתיד.

האירוע מדגים אחד מהקושי הקשורים לשימוש בבינה מלאכותית גנרטיבית בשירותים המיועדים ללקוחות. בניגוד למערכות אוטומטיות מסורתיות הפועלות לפי כללים מוגדרים בצמצום, בינה מלאכותית גנרטיבית יכולה לייצר תגובות על סמך דפוסים שנלמדו מכמויות גדולות של נתונים וההקשר המיידי של השיחה. גמישות זו יכולה להפוך אינטראקציות ליותר טבעיות, אך היא יכולה גם ליצור תגובות לא צפויות.

בנקים ומוסדות פיננסיים אחרים חקרו יותר ויותר כלים של בינה מלאכותית לתמיכה בלקוחות, עיבוד מסמכים, גילוי הונאות ושירותים אחרים. באותו הזמן, השימוש במערכות שיחה במגזרי רגישות מעלה שאלות לגבי אמינות, פרטיות, אחריות וצורך בפיקוח אנושי אפקטיבי.

המקרה של בנק ליברה מדגים מדוע חברות המיישמות מערכות כאלה זקוקות לאמצעי זהירות החורגים מתגובות אוטומטיות בסיסיות. פיקוח, בקרות תוכן, העברת מקרים לסוכנים אנושיים ובדיקות סדירות יכולים לעזור להפחית את הסיכון לאינטראקציות לא הולמות או בלתי צפויות.

עבור לקוחות, המקרה מדגיש גם את התפקיד המתמשך של תמיכה אנושית בשירותים פיננסיים, במיוחד כאשר מערכות אוטומטיות נכשלות בהבנת ההקשר או בתגובה בצורה הולמת. ככל שבנקים מרחיבים את השימוש שלהם בבינה מלאכותית, הבטחת שהכלים הללו יישארו אמינים ומכבדים צפויה להיות חלק חשוב יותר ויותר בשירות לקוחות דיגיטלי.