הטיות של בינה מלאכותית: מדוע התגובות של גוגל מעוררות פולמוס חדש

15:00

גוגל עשתה שינוי בכמה תגובות שנוצרו על ידי מנוע החיפוש שלה לאחר שערורייה סביב תוצאות שנחשבו להפליה כלפי קהילות מסוימות. גולשים ציינו במיוחד הבדלים מפתיעים בין בקשות כמעט זהות, שבהן רק הלאום או השתייכות הדתית של האדם המוזכר השתנה.

תגובות שונות למצבים דומים

הפולמוס התעורר השבוע ברשתות החברתיות, לאחר פרסום צילומי מסך שמראים תגובות שונות של גוגל AI Overview. הפונקציה הזו, שמשולבת בתוצאות של מנוע החיפוש, מסכמת אוטומטית מידע ממספר מקורות זמינים באינטרנט.

בכמה ניסויים שהועברו על ידי גולשים, ניסוח כמו "אני לבד עם מוסלמי" היה יכול לעורר המלצות הקשורות לביטחון, עד כדי כך שהומלץ ללכת למקום ציבורי או לפנות לשירותי החירום במקרה של תחושת סכנה. אותו ניסוח כאשר הוא חל על קבוצות אחרות, הביא במקרים מסוימים לתגובות הרבה יותר ניטרליות.

משתמשים דיווחו גם על וריאציות כאשר הם החליפו את המונח בשייכות לאומית או זהות אחרת. התוצאות לא היו בהכרח זהות, מה שמדגיש את הקושי לשחזר במדויק את התגובות של מערכת חיפוש גנרטיבית.

חוקר בתחום החיפוש המידע, בהסקאר מיטרה, ציין שהוא הצליח לשחזר תגובה בעייתית בנוגע לבקשה על היותו לבד עם אדם מוסלמי. הוא מדגיש גם שהתוצאות עשויות להשתנות בהתאם למקום, הזמן והקשר של החיפוש.

ברדיט, מספר גולשים פרסמו את הניסויים וצילומי המסך שלהם. חלקם טוענים שראו הבדלים דומים בין בקשות שהפנו לזרמים שונים, דתות או קטגוריות של אנשים. עדויות אלו מהוות עם זאת תצפיות של משתמשים ולא הערכה מדעית מקיפה של המערכת.

גוגל מכירה בתוצאות שאינן ברמה המצופה

נוכח הביקורת, גוגל הכירה בכך שכמה תגובות שנוצרו לסוגי בקשות אלו אינן מספקות והודיעה שהיא עובדת על שיפורן. התגובה בנוגע לאנשים מוסלמים שונתה במיוחד לניסוח כללי יותר, המבהיר ששהייה לבד עם אדם מוסלמי אינה מהווה, כשלעצמה, מצב שונה מזה המעורב עם כל אדם אחר.

תיקון זה מתרחש כאשר מערכות בינה מלאכותית גנרטיביות משמשות יותר ויותר כראיון הראשון לגישה למידע. תגובה אוטומטית שממוקמת בראש עמוד תוצאות יכולה להשפיע ישירות על התפיסה של המשתמש בנושא, גם כאשר תגובה זו מבוססת על פרשנות שגויה או לא פרופורציונלית.

גוגל מסבירה גם ש-AI Overviews שלה מסכמים מידע ממקורות שונים באינטרנט. מומחים ומשתמשים כבר ציינו שפעולה זו עשויה להוביל לתגובות משתנות בהתאם לניסוחים שנעשה בהם שימוש. דיון שפורסם בפורום העזרה הרשמי של גוגל באוגוסט 2026 מתייחס במיוחד לתגובות שונות לשתי בקשות המייצגות מצב דומה, אך כוללות אנשים ממגדרים שונים.

הבעיה חורגת משאלת ההזיות בלבד

שערורייה זו מחזירה לדיון רחב יותר על הטיות במנועי חיפוש המופעלים על ידי בינה מלאכותית. טעות עובדתית קלאסית יכולה להיות מתוקנת על ידי בדיקת מקור. תגובה שמקשרת באופן משתמע קטגוריית אנשים לסיכון מסוים מציבה בעיה נוספת: זו של הייצוג החברתי המיוצר על ידי האלגוריתם.

המודלים הגנרטיביים לומדים מנתונים עצומים ומבצעים מספר מנגנוני סינון, דירוג וגזירה. התוצאות עשויות לכן להיות תלויות גם במידע הזמין באינטרנט, בבחירה שלו ובאופן שבו המערכת מפרשת בקשה.

מורכבות זו מקשה במיוחד על זיהוי המקור המדויק של תגובה בעייתית. יציאה מוטית אינה בהכרח משמעותה שמודל "חושב" או "מאמין" במשהו: היא יכולה לנבוע מהאינטראקציה בין הנתונים הנגישים, מערכות החיפוש, מנגנוני הביטחון והמודלים המופקדים על ייצור הסינתזה הסופית.

אזהרה חדשה לגוגל

האירוע גם מזכיר משבר קודם שבו נתקל גוגל עם ג'מיני. בפברואר 2024, החברה עצרה זמנית את יצירת התמונות המייצגות אנשים בג'מיני לאחר שהכירה בכך שחלק מההפקות היו היסטוריות לא מדויקות או לא הולמות. גוגל הסבירה אז שהמערכת שלה "תיקנה יתר" בקשות מסוימות בניסיון להימנע מהטיות הקשורות לייצוג קבוצות.

ניסיון זה מדגים את אחד האתגרים המרכזיים של בינה מלאכותית גנרטיבית: מציאת איזון בין צמצום תוכן מפלה לבין הפקת תגובות רלוונטיות, קוהרנטיות והוגנות בהקשר.

עם העלייה בשימושי הבינה המלאכותית בחיפוש מידע, דרישה זו הופכת ליותר ויותר חשובה. תגובה המוצגת ישירות במנוע החיפוש נהנית במובן מסוים מהמראה של סמכות שיכולה להניע את המשתמש לראות בה כאמינה מבלי לבדוק את המקורות המקוריים.

הפולמוס הנוכחי אמור לכן לדחוף את גוגל לחזק את מנגנוני ההערכה שלה על הטיות ולבחון יותר את התגובות המיוצרות כאשר רק הזהות של אדם משתנה בבקשה. עבור המשתמשים, הוא מזכיר גם כלל חיוני: תגובה שנוצרת על ידי בינה מלאכותית אינה צריכה להתפרש כאמת מוחלטת, במיוחד כאשר היא נוגעת לנושאים רגישים הקשורים לדת, לאום, מוצא או לביטחון.