למה אנחנו סומכים על אינטליגנציה מלאכותית מבלי לבדוק את המקורות שלה?

Saturday 05 - 08:15

לבקש מידע מצ'אטבוטים של אינטליגנציה מלאכותית הפך במהרה לחלק מחיי היומיום. משאלות חדשות ובריאות ועד חינוך ועבודה, מיליוני אנשים כיום מסתמכים על אינטליגנציה מלאכותית שיחתית כדי לספק תשובות מהירות ונגישות. עם זאת, חוקרים מזהירים שהנוחות והביטחון של מערכות אלו עשויים לעודד משתמשים לקבל מידע מבלי לבדוק מספיק מאיפה הוא מגיע.

תשובות שנוצרות על ידי אינטליגנציה מלאכותית מוצגות לעיתים קרובות בצורה ברורה, מאורגנת ומשכנעת. הצגת המידע הזו יכולה לגרום לו להיראות מהימן יותר ממה שהוא באמת, אפילו כאשר התשובה הבסיסית מכילה טעויות, חוסר הקשר או עובדות מיושנות. התוצאה יכולה להיות תחושת ידע שגויה שבה משתמשים מרגישים מעודכנים בזמן שהם מסתמכים על מידע לא מדויק.

מספר מנגנונים פסיכולוגיים עשויים להסביר את האמון ההולך וגדל הזה. אחד מהם הוא אפקט הקריאות והשטף: מידע שקל להבין אותו ומוצג בביטחון נתפס לעיתים קרובות כאמין יותר. הטבע המיידי של תשובות הצ'אטבוטים יכול לכן להפחית את הנטייה להפסיק ולשאול שאלה על תשובה.

גורם נוסף הוא הנוחות. השוואת מספר מקורות יכולה לקחת זמן, במיוחד כאשר הם לא מסכימים. צ'אטבוט שמספק הסבר אחד, קוהרנטי עשוי להרגיש מועיל יותר מאשר לניווט במידע סותר. עם זאת, התשובה הפשוטה ביותר אינה בהכרח המדויקת ביותר.

חוקרים זיהו גם מה שמתואר לעיתים כהנחיה מכנית – הנטייה להניח שהטכנולוגיה היא אובייקטיבית, ניטרלית או פחות מושפעת מאינטרסים אישיים מאשר מקורות אנושיים. תפיסה זו יכולה להפוך את המשתמשים לפחות ספקניים לגבי מידע שנוצר על ידי מערכות אוטומטיות.

הסיכונים הופכים להיות משמעותיים במיוחד כאשר משתמשים באינטליגנציה מלאכותית כדי לעקוב אחר אירועים עכשוויים. מחקרים שבחנו את הביצועים של צ'אטבוטים במענה על שאלות הקשורות לחדשות מצאו בעיות שקשורות למקורות לא מדויקים, מידע חסר, פרטים מיושנים ובחלק מהמקרים, טענות מפוברקות. חולשות אלו עשויות להיות קשות במיוחד עבור המשתמשים לזהות כאשר תשובה כתובה בטון סמכותי.

הבעיה אינה בכך שאינטליגנציה מלאכותית היא באופן טבעי לא מהימנה. במקום זאת, יש להתייחס למערכות אינטליגנציה מלאכותית ככלים למציאת ואירגון מידע ולא כמקורות בלתי מעורערים. התשובות שלהן יכולות לספק נקודת התחלה מועילה, אך טענות חשובות יש לבדוק מול מקורות אמינים ועצמאיים.

פיתוח הרגלי אימות טובים יותר הופך לכן לחשוב יותר ויותר. משתמשים יכולים לבקש ממערכת אינטליגנציה מלאכותית לספק את המקורות שלה, לפתוח את החומר המוזכר, להשוות מידע ממקורות שונים ולבדוק אם הראיות עדכניות ורלוונטיות. עבור נושאים שנויים במחלוקת או משתנים במהירות, ייעוץ עם מספר מקורות עצמאיים הוא בעל ערך במיוחד.

כשהאינטליגנציה המלאכותית משתלבת יותר ויותר בדרך שבה אנשים מחפשים ומבזבזים מידע, חשיבה ביקורתית נשארת חיונית. ההבנה המהימנה ביותר rarely comes from a single polished answer. It comes from comparing evidence, questioning assumptions and verifying information before accepting it as fact.