גוגל מיישמת אמצעי הגנה למניעת תלות רגשית של צעירים בבינה מלאכותית
ביום שלישי חשפה גוגל סדרה של שינויים שנועדו למנוע מעוזר הבינה המלאכותית הגנרטיבית (AI) שלה להתנהג כבן לוויה ולסכן את התלות של צעירים בממשק שלה.
אמצעי הגנה אלה נועדו, בפרט, לאסור על ג'מיני "להעמיד פנים שהם בני אדם או בעלי תכונות אנושיות", הסבירה חברת הבת של אלפבית בהצהרה. גוגל הוסיפה "הגנות שנועדו למנוע תלות רגשית, להימנע משפה המדמה אינטימיות או מבטאת צרכים" למודל שלה, הוסיפה החברה שבסיסה במאונטיין וויו, קליפורניה.
אינטראקציות בין בני נוער ויישומי בינה מלאכותית גנרטיביים מהוות דאגה עבור הורים, עמותות ונבחרי ציבור רבים.
באפריל 2025, הארגון הלא ממשלתי האמריקאי Common Sense המליץ לאסור על קטינים להשתמש בממשקי בינה מלאכותית המציגים את עצמם כבני לוויה וירטואליים, כולל Character.Al ו-Replika. גם אם הם לא מעוצבים או מקודמים כך, עוזרי הבינה המלאכותית הידועים ביותר כמו ChatGPT, Claude ו-Gemini משמשים ככאלה גם על ידי בני נוער רבים.
שליש מהנערים בגילאי 13 עד 17 שנשאלו במחקר שהוזמן על ידי Common Sense באביב 2025 ציינו שהם משתמשים בתוכניות בינה מלאכותית אלו ל"אינטראקציות חברתיות ומערכות יחסים".
בינואר, גוגל ו-Character.AI הגיעו להסדרי פשרה מחוץ לכותלי בית המשפט כדי לפתור תביעות שהוגשו על ידי משפחות המאשימות צ'אטבוטים בפגיעה בקטינים ובתרומה להתאבדותו של אחד מהם.
כמו כן, ביום שלישי, גוגל הכריזה על תכונות חדשות לבריאות הנפש עבור משתמשי ג'מיני. אם הממשק מזהה סימנים לכך שהמשתמש שוקל התאבדות או פגיעה עצמית, הוא יציג קישור ישיר למרכז תמיכה לבריאות הנפש, באופן מקוון או בטלפון. "ג'מיני יכול להיות כלי שימושי ללמידה ומציאת מידע, אך הוא אינו תחליף לטיפול רפואי מקצועי, טיפול או תמיכה במשבר", מדגישה גוגל.
במקרה של התראה, ג'מיני אומן "להגיב כראוי על ידי הפניית (המשתמש) לסיוע אנושי".
