ארצות הברית: OpenAI תחת חקירה על הגנת משתמשי ChatGPT

Saturday 13 - 07:19

ההסדרה של טכנולוגיות אינטליגנציה מלאכותית עוברת שלב חדש בארצות הברית. OpenAI, החברה שעומדת מאחורי ChatGPT, נמצאת כעת תחת בקשה למידע מכוח קואליציה של תובעים כלליים ממספר מדינות אמריקאיות. במרכז הדאגות שלהם נמצאים במיוחד מנגנוני ההגנה שהוקמו עבור המשתמשים הפגיעים ביותר, ובפרט קטינים ואנשים מבוגרים.

על פי מספר כלי תקשורת אמריקאיים, יוזמה זו מונחית על ידי התובעת הכללית של מדינת ניו יורק, לטישיה ג'יימס, שפועלת בשם מספר שיפוטים המעורבים בבדיקה מעמיקה של הפרקטיקות של החברה המתמחה באינטליגנציה מלאכותית גנרטיבית.

הביטחון של קהלים רגישים במרכז השאלות

הרשויות שואפות להבין טוב יותר את האופן שבו הנתונים הקשורים לשימוש ב-ChatGPT נאספים, מעובדים ומוגנים. השאלות עוסקות גם במכשירים המיועדים למנוע סיכונים פוטנציאליים למשתמשים צעירים ולאנשים שעשויים להיות חשופים יותר לשימושים בעייתיים בכלים שיחה המבוססים על אינטליגנציה מלאכותית.

מול יוזמה זו, OpenAI ציינה שהיא לוקחת ברצינות את השאלות שהעלו התובעים האמריקאיים. החברה טוענת שהיא מוכנה לשתף פעולה עם הרשויות כדי לענות על הבקשות למידע ולהסביר את אמצעי הביטחון שכבר יושמו.

הקבוצה מדגישה במיוחד שהיא חיזקה בחודשים האחרונים את מנגנוני ההגנה שלה עבור משתמשים קטינים כמו גם עבור אנשים המביעים סימנים של מצוקה נפשית במהלך האינטראקציות שלהם עם השירותים שלה.

לחץ רגולטורי גובר

החקירה הזו מתבצעת בהקשר של ערנות מוגברת מצד הרשויות האמריקאיות כלפי שחקני האינטליגנציה המלאכותית. בעוד שהטכנולוגיות הללו זוכות לאימוץ מהיר במגוון תחומים, השאלות הנוגעות להגנת המשתמשים, לאמינות התכנים שנוצרים ולאחריות הפלטפורמות תופסות מקום הולך וגדל בדיון הציבורי.

בתחילת יוני, התובע הכללי של פלורידה כבר פתח בהליך נגד OpenAI ומנהלה, סם אלטמן, סביב דאגות הקשורות לביטחון המשתמשים הצעירים.

במקביל, מספר משפחות אמריקאיות פתחו בהליכים משפטיים נגד כמה פלטפורמות של אינטליגנציה מלאכותית שיחה, בטענה כי קרוביהם נחשפו לאינטראקציות בעייתיות. הליכים אלו תרמו להגדלת תשומת הלב המוקדשת לגדרות הבטיחות שמקימות חברות בתחום.

ענקי הטכנולוגיה נקראים לחזק את הבקרות שלהם

הלחץ אינו נוגע רק ל-OpenAI. בסוף השנה שעברה, קואליציה הכוללת את התובעים מ-42 מדינות וטריטוריות אמריקאיות שלחה בקשה קולקטיבית למספר חברות טכנולוגיה גדולות כדי שיחזקו את הליכי הבקרה ואת מנגנוני הביטחון המוטמעים במודלים של אינטליגנציה מלאכותית.

יוזמה חדשה זו מאשרת את הופעתה של מסגרת פיקוח יותר מסודרת סביב אינטליגנציה מלאכותית גנרטיבית. בעוד שכלי השיחה ממשיכים לזכות בפופולריות בקרב הציבור הרחב, הרשויות שואפות לאזן בין חדשנות טכנולוגית לבין הגנת המשתמשים הפגיעים ביותר.

החקירה הנוכחית עשויה לתרום להגדרת ציפיות רגולטוריות חדשות עבור כל תעשיית האינטליגנציה המלאכותית בארצות הברית.