xAI תובעת על שימוש לרעה ב-Grok ליצירת תוכן פדופילי בלתי חוקי
xAI, חברת הבינה המלאכותית שהוקמה על ידי אלון מאסק, הגישה תביעה פדרלית נגד משתמש שהואשם בניצול צ'אט בוט ה-AI שלה Grok ליצירת חומר פדופילי בלתי חוקי ותוכן דיפפייק מפורש ללא הסכמה.
על פי התלונה המשפטית שהוגשה בבית משפט פדרלי בארה"ב, החברה טוענת כי הנתבע הפר את תנאי השימוש שלה על ידי העלאת תמונות רגילות וניסיון להשתמש ב-Grok כדי ליצור תוכן מיני מפוברק הכולל קטינים ומבוגרים. האדם נעצר בעבר בגין אישומים פליליים נפרדים הקשורים לניצול ילדים.
התביעה נחשבת לאחת התביעות הראשונות שבהן מפתח AI נוקט בפעולה משפטית ישירה נגד משתמש שהואשמה בניצול פלטפורמת AI גנרטיבית ליצירת תוכן בלתי חוקי. xAI טוענת כי פעולות כאלה לא רק מפרות את המדיניות שלה אלא גם גורמות לנזק חמור לקורבנות ומסכנות את החברה לסיכונים משפטיים ותדמיתיים משמעותיים.
החברה הצהירה כי היא עוקבת באופן פעיל אחרי שימוש לרעה בטכנולוגיה שלה ומטילה אכיפה קפדנית. חשבונות המפרים את המדיניות שלה עשויים להיות מושעים או נאסרים לצמיתות, בעוד שחומר החשוד כניצול ילדים מדווח למרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) ולרשויות אכיפת החוק הרלוונטיות בהתאם לחוק האמריקאי.
התביעה דורשת פיצויים כספיים וצווי בית משפט קבועים המונעים מהנתבע גישה או שימוש ב-Grok בעתיד.
המקרה מגיע כאשר חברות AI ברחבי העולם מתמודדות עם לחצים גוברים מהרשויות ומקבלי ההחלטות לחזק את ההגנות נגד שימוש לרעה בכלים גנרטיביים של AI. ההתקדמות בהפקת תמונות ווידאו עוררה חששות לגבי יצירת דיפפייקים, ניצול מקוון, שימוש לרעה בזהות וצורות אחרות של תוכן מזיק.
מפתחים מרכזיים של AI המשיכו להשקיע במערכות לניהול תוכן, אמצעי אימות משתמשים ובקרות בטיחות שנועדו לזהות ולמנוע פעילות בלתי חוקית. מומחי תעשייה טוענים כי אמצעי בטיחות טכנולוגיים, בשילוב עם אכיפה משפטית ושיתוף פעולה בינלאומי, יהיו תפקיד חשוב יותר ויותר ככל שה-AI הגנרטיבי יהפוך לזמין יותר.
התביעה מדגישה את המאמצים הגוברים של חברות AI להחזיק משתמשים אחראים על שימוש לרעה פלילי בפלטפורמות שלהן תוך חיזוק ההתחייבויות לפיתוח אחראי ואתי של טכנולוגיות בינה מלאכותית.
-
11:20
-
11:11
-
11:07
-
10:59
-
10:56
-
10:44
-
10:40
-
10:28
-
10:18
-
10:13
-
10:02
-
09:52
-
09:38
-
09:33
-
09:27
-
08:51
-
08:44
-
08:33
-
08:28
-
08:02
-
16:24
-
16:07
-
15:49
-
15:38
-
15:27
-
15:16
-
15:05
-
14:40
-
14:35
-
14:26
-
14:00
-
13:42
-
13:33
-
13:23
-
13:15
-
13:15
-
13:10
-
13:03
-
13:00
-
12:45
-
12:30
-
12:14
