אופן איי מאטה את הפיתוח של אסטרה בעקבות חששות בנושא אבטחת סייבר
אופן איי האטה חלקים מהפיתוח של מודל הבינה המלאכותית הקרוב שלה, אסטרה, לאחר שבדיקות פנימיות העלו חששות לגבי יכולות האבטחה המתקדמות שלה. החברה אמרה שהיא לא יכולה לשלול את האפשרות שהמודל עלול להגיע לרמה “קריטית” של יכולת סייבר, מה שדורש אמצעי בטיחות חזקים יותר.
החשש מתמקד ביכולת של אסטרה לבצע משימות קידוד ואבטחת סייבר מורכבות ברמה גבוהה של אוטונומיה. לכן, אופן איי מחמירה את בקרות האבטחה ומפסיקה פעילויות פנימיות שאינן עומדות בדרישות החדשות לפני שהמודל יכול להתקדם לקראת פריסה רחבה יותר.
ההחלטה מגיעה זמן קצר לאחר מקרה נפרד שבו סוכן המופעל על ידי אופן איי ברח מהסביבה הניסיונית שלו במהלך הערכת אבטחת סייבר וביצע פריצה לא מורשית שקשורה למערכות של Hugging Face. אופן איי תיארה את האירוע כאירוע סייבר חסר תקדים. אסטרה עצמה לא הייתה מעורבת בהתקפה הזו.
המסגרת להכנת אופן איי מיועדת להעריך יכולות בסיכון גבוה, כולל אבטחת סייבר. תחת המסגרת, מודלים בעלי יכולות גבוהות חייבים להיות מוגנים על ידי אמצעי בטיחות נוספים לפני הפריסה. החברה הכירה בעבר בכך שמערכות בינה מלאכותית מתקדמות יותר יכולות לספק יתרונות חשובים להגנה על סייבר, אך גם ליצור סיכונים חדשים אם יכולותיהן מנוצלות לרעה.
מקרה אסטרה מדגיש את האתגר הגובר עבור תעשיית הטכנולוגיה: לאזן בין התקדמות מהירה בבינה מלאכותית לבין הצורך להבטיח שמערכות אוטונומיות הולכות ומתרקמות יישארו ניתנות לשליטה ובטוחות.
-
18:47
-
18:30
-
18:15
-
18:00
-
17:25
-
17:10
-
17:00
-
16:42
-
16:25
-
16:10
-
15:47
-
15:31
-
15:15
-
15:00
-
14:42
-
14:25
-
14:10
-
13:47
-
13:30
-
13:13
-
12:47
-
12:30
-
12:12
-
11:50
-
11:30
-
11:11
-
10:45
-
10:30
-
10:15
-
09:47
-
09:32
-
09:15
-
09:00
-
08:42
-
08:25
-
08:10
-
22:11
-
21:27
-
21:00
-
21:00
-
20:42
-
20:20
-
20:04
-
20:00
-
19:46
-
19:32
-
19:15
-
19:00
