אופנאי מחזקת את אמצעי הבטיחות של צ'אט-ג'יפיטי עבור משתמשים מתבגרים

Yesterday 17:17

אופנאי מרחיבה את אמצעי הבטיחות שלה עבור מתבגרים המשתמשים בצ'אט-ג'יפיטי, במטרה לספק חוויית שימוש המתאימה לגיל, תוך מתן אפשרות למשתמשים צעירים ליהנות מהבינה המלאכותית לצורך למידה, יצירתיות ומשימות יומיומיות.

הגישה של החברה מתבססת יותר ויותר על טכנולוגיית חיזוי גיל שנועדה לקבוע האם חשבון מסוים שייך ככל הנראה למישהו מתחת לגיל 18. כאשר המערכת מזהה משתמש מתבגר פוטנציאלי, צ'אט-ג'יפיטי יכול להחיל אוטומטית אמצעי הגנה נוספים, גם אם המידע לגבי גיל שניתן במהלך ההרשמה מצביע על כך אחרת.

ההגנות המוגברות נועדו להפחית את החשיפה של מתבגרים לחומרים רגישים או פוטנציאלית לא הולמים. אלה כוללים אלימות גרפית, אתגרים מסוכנים באינטרנט, משחקי תפקידים מיניים או אלימים, תוכן הקשור לפגיעה עצמית וחומרים המקדמים סטנדרטים קיצוניים ליופי, דיאטות לא בריאות או השפלה של הגוף.

אופנאי אומרת שהמטרה אינה למנוע מתבגרים משימוש בצ'אט-ג'יפיטי, אלא להתאים את השירות לצרכיהם ההתפתחותיים והגילאיים. החברה הדגישה את תפקיד הבינה המלאכותית בחינוך ובפרודוקטיביות, והצביעה על כך שכבר כיום רבים מהמשתמשים הצעירים מסתמכים על הטכנולוגיה לצורך למידה, מידע ופיתוח מיומנויות.

מערכת זיהוי הגיל מעריכה שילוב של אותות חשבון ושימוש, כולל דפוסי פעילות, כמה זמן חשבון קיים והגיל המוצהר על ידי המשתמש. כאשר המערכת אינה בטוחה, אופנאי אומרת שהיא עשויה להעדיף את החוויה המגוננת יותר מתחת לגיל 18. מבוגרים שמסווגים בטעות יכולים לאמת את גילם כדי להסיר את ההגנות הנוספות עבור מתבגרים.

החברה פיתחה גם אמצעי בקרה להורים המאפשרים להורים או לאפוטרופוסים עם חשבונות מתבגרים מקושרים לנהל היבטים נבחרים של חוויית צ'אט-ג'יפיטי. בקרות אלה יכולות לכלול תכונות כמו שעות שקטות, הגדרות דגם מסוימות והודעות בטיחות.

המהלך של אופנאי משקף דיון רחב יותר על איך יש להשתמש בבינה מלאכותית גנרטיבית על ידי קטינים. ככל שהכלים של הבינה המלאכותית משתלבים יותר בחינוך, תקשורת ובידור, חברות טכנולוגיה מתמודדות עם לחצים גוברים להבחין בין חוויות של מבוגרים ומתבגרים תוך הגנה על משתמשים צעירים מפני אינטראקציות לא הולמות.

החברה קבעה בעבר עקרונות ספציפיים למשתמשים בגיל 13 עד 17, המדגישים מניעה, שקיפות ותמיכה בקשרים בעולם האמיתי. עקרונות אלה נועדו להבטיח שצ'אט-ג'יפיטי מתייחס למתבגרים בצורה שונה מאשר למבוגרים, תוך הימנעות מגישה מתנשאת כלפי משתמשים צעירים.

צ'אט-ג'יפיטי אינו מיועד לילדים מתחת לגיל 13, בעוד שמשתמשים בגיל 13 עד 18 כפופים לדרישות והגנות נוספות. אופנאי ממשיכה לחדד את מערכות חיזוי הגיל שלה ככל שהטכנולוגיה מתפתחת, ומכירה בכך שאין מערכת אוטומטית שיכולה לקבוע גיל בדיוק מוחלט.

האמצעים האחרונים מדגישים את החשיבות הגוברת של בטיחות ועיצוב המתאים לגיל, ככל שהבינה המלאכותית נעשית בשימוש נרחב יותר על ידי דורות צעירים. עבור אופנאי, האתגר יהיה לאזן בין גישה לכלים חינוכיים ויצירתיים של בינה מלאכותית לבין הגנות חזקות יותר עבור משתמשים שיכולים להיות פגיעים יותר לתוכן מזיק או לא הולם.