ChatGPT מציגה הגנות מחמירות יותר עבור משתמשים מתבגרים

09:15

OpenAI משיקה גרסה חדשה של ChatGPT שנועדה במיוחד לספק למתבגרים חוויה מבוקרת וממוקדת בטיחות. החברה אומרת שהיוזמה מכוונת לזהות משתמשים שעשויים להיות מתחת לגיל 18 וליישם אוטומטית הגנות נוספות על החשבונות שלהם.

החוויה החדשה, הידועה כ-ChatGPT עבור מתבגרים, משלבת תכנים חינוכיים עם אמצעי הגנה מחמירים יותר שנועדו להפחית סיכונים פוטנציאליים הקשורים למשתמשים צעירים המתקשרים עם אינטליגנציה מלאכותית.

OpenAI אומרת שמתבגרים לא יצטרכו ליצור חשבונות נפרדים. כאשר המערכת קובעת שמשתמש עשוי להיות מתחת לגיל 18, או כאשר המשתמש מספק מידע המעיד על כך שהוא קטין, החוויה הממוקדת במתבגרים יכולה להפוך להגדרה ברירת מחדל.

חינוך הוא אחד המרכיבים המרכזיים בגישה החדשה. החברה מעודדת משתמשים צעירים לנצל יותר את מצב הלימוד, תכונה שנועדה להנחות תלמידים בפתרון בעיות במקום פשוט לספק להם תשובות מיידיות.

מערכת הלמידה משתמשת בגישה של שלב אחרי שלב שיכולה לעודד משתמשים לחשוב על שאלה ולפתח את ההבנה שלהם. OpenAI גם הרחיבה את החומר הוויזואלי הזמין דרך הכלים החינוכיים שלה, מה שמאפשר הסברים על מושגים באמצעות דיאגרמות ומשאבים אחרים שנוצרו.

תכונה נוספת, שנקראת שעות לימוד, נועדה לעזור למתבגרים להקדיש תקופות ספציפיות ביום לעבודה על שיעורים. המשתמשים יכולים לקבוע את התקופות הללו בעצמם, בעוד שההורים עם חשבונות מקושרים יכולים גם לבחור לוחות זמנים מתאימים.

במהלך תקופות הלימוד המיועדות, מצב הלימוד יכול להיות מופעל אוטומטית. המערכת עשויה גם לעודד משתמשים צעירים להשתמש במצב החינוכי כאשר השיחות שלהם מצביעות על כך שהם מנסים להימנע מהשלמת מטלות בית ספר.

הגנות בטיחות מחוזקות מעבר לחינוך. OpenAI אומרת שהחוויה עבור מתבגרים ת impose גבולות ברורים יותר על אינטראקציות רגשיות בין הצ'אטבוט למשתמשים צעירים.

בהתאם לגישה החדשה, ChatGPT אמור להימנע מלהציג את עצמו כחבר אנושי, להציע שיש לו רגשות אישיים או לטעון שיש לו תודעה. החברה גם מציגה תזכורות תכופות יותר שמעודדות מתבגרים לקחת הפסקות ומזכירות להם שהם מתקשרים עם מערכת אינטליגנציה מלאכותית.

מתבגרים וההורים שלהם יכולים גם לקבוע שעות שקטות במהלךן ChatGPT לא יהיה זמין. OpenAI אומרת שהאפשרויות להתאמה אישית עבור משתמשים צעירים תוכננו לשמור על הבחנה ברורה בין השימוש בכלי AI לפיתוח אינטראקציה הדומה ליחסים אנושיים.

התראות להורים הן חלק נוסף מהאסטרטגיה המורחבת לבטיחות. OpenAI אומרת שההורים שלחשבון שלהם מחובר לחשבון של המתבגר עשויים לקבל התראות כאשר השיחות מצביעות על סיכונים חמורים, כולל מצבים מסוימים המעורבים באיומים אלימים או הפרעות אכילה.

על פי החברה, שיחות שמזוהות כחשובות נבדקות על ידי צוות מיומן לפני ששליחה מתבצעת להורים. ההתראות עשויות להישלח באמצעות הודעות טקסט, דוא"ל ואפליקציה, כאשר OpenAI שואפת להודיע להורים בתוך פרק זמן קצר לאחר זיהוי אינטראקציה מדאיגה.

עם זאת, המערכת מתמודדת עם אתגר חשוב: לקבוע בצורה מדויקת את גיל המשתמש. אף טכנולוגיית הערכת גיל אינה אמינה לחלוטין, ומבוגרים עשויים לנסות לעקוף הגבלות על ידי מתן מידע שגוי או מציאת דרכים טכניות לעקוף אמצעי בטיחות.

OpenAI מכירה בכך שהגנה על משתמשים צעירים היא תהליך מתמשך ושהמערכת החדשה תדרוש פיתוח מתמשך. החברה אומרת שהיא רוצה שמתבגרים יהנו מהאינטליגנציה המלאכותית לצורכי חינוך ומטרות לגיטימיות אחרות תוך הפחתת הסיכונים הקשורים לשימוש לא הולם או תלות יתר.

ההשקה של ChatGPT עבור מתבגרים מייצגת צעד נוסף במאמץ הרחב יותר של תעשיית הטכנולוגיה להקים אמצעי הגנה חזקים יותר עבור קטינים המשתמשים באינטליגנציה מלאכותית גנרטיבית. ככל שעוזרי AI משתלבים יותר ויותר בחינוך ובחיים היומיומיים, שאלות הנוגעות לאימות גיל, פיקוח הורים, גבולות רגשיים ובטיחות דיגיטלית צפויות להישאר מרכזיות בדיון.

OpenAI החלה להנגיש את החוויה הממוקדת במתבגרים באופן בינלאומי ומצפה שההשקה תמשך במהלך השבועות הקרובים.