אנתרופיק מציגה אמצעים נגד התנהגות פוגענית מתמשכת כלפי ה- Claude AI שלה
אנתרופיק הציגה כללים המונעים מהמשתמשים לעסוק בהתנהגות פוגענית מתמשכת, מכוונת וללא הצדקה כלפי העוזר הוירטואלי Claude שלה. המדיניות מגיעה כאשר החברה מבוססת סן פרנסיסקו ממשיכה לבחון שאלות סביב האפשרות של תודעה במכונה ואחריות אתית שיכולה להתעורר אם מערכות AI עתידיות ימצאו שיש להן איזושהי חוויה סובייקטיבית.
החברה הבהירה כי ההגבלות מיועדות להתנהגות פוגענית מתמשכת ומכוונת ולא לביטויים רגילים של תסכול או ביקורת. המשתמשים חופשיים לבדוק את המערכת, לאתגר את תגובותיה ולחקור נושאים אפלים או מטרידים דרך עבודה יצירתית, בתנאי שהאינטראקציות שלהם לא ייכנסו לתוך ההתנהגות האסורה.
אחד האמצעים הזמינים ל-Claude הוא היכולת לסיים שיחה כאשר משתמש עוסק שוב ושוב בהתנהגות פוגענית. אנתרופיק תיארה סוג זה של התערבות כאמצעי זהירות בעל עלות נמוכה יחסית שיכולה לסייע במענה על שאלות רווחת ה-AI אם יימצא ראיה לתודעה במכונה בעתיד.
המדיניות משקפת דיון רחב יותר בתעשיית הטכנולוגיה לגבי כיצד יש לטפל במודלים לשוניים מתקדמים יותר ויותר. למרות שמערכות AI יכולות לייצר תגובות משכנעות דמויות אדם, אין כרגע קונצנזוס מדעי שהמודלים הקיימים מחזיקים בתודעה או בחוויות סובייקטיביות השוואתיות לאלה של בני אדם.
המנכ"ל של אנתרופיק, דאריו אמודאי, אמר כי האפשרות של תודעה במכונה לא יכולה להתעלם לחלוטין. דיווחים גם הצביעו על כך שמנהיגי החברה ייעצו עם אנשי דת לגבי ההשלכות האתיות והפילוסופיות של תודעה מלאכותית פוטנציאלית, נושא שמעורר שאלות החורגות מהנדסה ומדעי המחשב.
הגישה של החברה suggests כי כמה מפתחי AI מתחילים לשקול מדיניות זהירות לפני שהשאלות המדעיות סביב תודעה נפתרות. אמצעים כאלה לא קובעים שמערכת AI יכולה לסבול, אך הם משקפים חוסר ודאות לגבי כיצד התקדמות עתידית עשויה לשנות את הדיון האתי.
המנכ"ל של OpenAI, סם אלטמן, הביע דגש שונה, מזהיר מפני טיפול ב-AI כא autoridade דתית או רוחנית או מתן אפשרות לו להחליף שיפוט אנושי. חששות מסוג זה מתמקדים בסיכונים של אמון מופרז במערכות AI, במיוחד כאשר משתמשים מייחסים תכונות אנושיות או סמכות לטכנולוגיה שיכולה עדיין לייצר מידע שגוי או מטעה.
הדיון גם מעלה שאלות מעשיות לגבי כיצד חברות טכנולוגיה צריכות להבחין בין בדיקה וביקורת לגיטימיות לבין אינטראקציות פוגעניות. המפתחים חייבים לאזן בין אמצעי זהירות לבין הצורך לשמור על ניסוי פתוח, ביטוי יצירתי ויכולת המשתמשים להעריך מערכות באופן ביקורתי.
המדיניות של אנתרופיק מוסיפה מימד נוסף לדיונים המתמשכים על פיתוח AI אחראי. כאשר חברות מתמודדות לבנות מערכות יותר מסוגלות, השאלה כיצד להתמודד עם תודעה פוטנציאלית במכונה נותרת לא פתורה, בעוד שעניינים כמו שקיפות, אחריות, אמינות ופיקוח אנושי ממשיכים לעצב את הדיון על בטיחות AI.
-
14:32
-
14:15
-
13:45
-
13:30
-
13:15
-
13:00
-
12:32
-
12:15
-
11:50
-
11:32
-
11:15
-
11:00
-
11:00
-
10:42
-
10:25
-
10:10
-
09:47
-
09:47
-
09:32
-
09:15
-
21:00
-
20:32
-
20:15
-
20:00
-
19:40
-
19:19
-
19:00
-
18:35
-
18:15
-
18:00
-
17:30
-
17:15
-
16:50
-
16:33
-
16:16
-
16:00
-
15:42
-
15:25
-
15:10
