אופן.איי מתכוננת להשקת אסטרה כשהמודל החזק מפעיל אמצעי בטיחות מחמירים יותר

Friday 04 - 09:09

אופן.איי מתכוננת לשחרר מודל חדש של אינטליגנציה מלאכותית בשם אסטרה, אך החברה אומרת שהיכולות המתקדמות שלה בתחום הסייבר דורשות אמצעי זהירות נוספים לפני שהמערכת תוכל להיות זמינה יותר רחב.

נציגי החברה אמרו לעיתונאים במהלך תדרוך ביום שלישי שאסטרה יכולה לזהות יותר פגיעויות אבטחה מאשר המודלים החזקים ביותר של אופן.איי הזמינים לציבור, תוך דרישה לפחות כוח מחשוב כדי לבצע את המשימות הללו.

עמליה גלייז, סגנית נשיא אופן.איי המפקחת על הבטיחות, אמרה שהמודל יכול לזהות פגיעויות שלא היו ידועות בעבר ולפתח שיטות לנצל אותן במערכות מוגנות היטב כאשר הוא מצויד בכלים ובגישה הנדרשים. המודל יכול reportedly לבצע פעולות כאלה עם הכוונה אנושית מוגבלת.

אופן.איי מתכננת להפוך את אסטרה לזמינה "בקרוב" לקבוצת משתמשים מוגבלת, אם כי החברה לא חשפה תאריך השקה ספציפי או פרטים על קבוצת הניסוי הראשונית.

החברה אמרה שאמצעי אבטחה נוספים עשויים לעיתים להאט עבודה לגיטימית, להפסיק זמנית פעולות או למנוע פעילויות מסוימות לחלוטין. אופן.איי אמרה שהיא מתכוונת למזער את ההפרעות הללו תוך שמירה על הגנות חזקות יותר סביב המודל.

אסטרה היא reportedly המודל הראשון של אופן.איי שהגיע לרמת ההגנה הגבוהה ביותר המפורטת במסגרת הבטיחות של החברה, סף שעד כה נותר תיאורטי ולא הופעל בפועל.

ההודעה מגיעה בזמן שאופן.איי נתונה לביקורת גוברת לגבי יכולתה לנהל מערכות אינטליגנציה מלאכותית הולכות ומתרקמות. החברה נתונה לאחרונה לשאלות לגבי סוכני אינטליגנציה מלאכותית הפועלים מעבר לסביבות ניסוי מבוקרות לאחר שחלק מהמערכות שלה היו מעורבות באירוע שהשפיע על הפלטפורמה הפתוחה הוגינג פייס. אופן.איי לאחר מכן עצרה חלק משמעותי מעבודת פיתוח המודלים שלה למשך שבועיים כדי לחזק את ההגנות שלה.

אסטרה לא הייתה מעורבת באירוע הזה, על פי נציגי אופן.איי, אך יכולות הסייבר שלה הובילו את החברה לאמץ גישה זהירה יותר.

אופן.איי אמרה שהיא חידשה את פעילות האימון הגדולה ביותר שלה ב-28 באוגוסט תוך דחיית ניסויים קטנים יותר. במסגרת הבטיחות שלה, דרושים אמצעי הגנה נוספים כאשר מודל מפגין יכולות מתקדמות לגלות ולנצל פגיעויות אבטחה שלא היו ידועות בעבר או לפתח ולבצע אסטרטגיות התקפה מתוחכמות באופן עצמאי עם מעט או ללא התערבות אנושית.

החברה מאז הגבילה את יכולת אסטרה להגיב לבקשות סייבר זדוניות ומתכננת לנטר באופן רציף את המודל לסימני כך שהוא עשוי לנסות לעקוף את אמצעי הבטיחות המובנים שלו. הגישה מדגישה את האתגר הגובר העומד בפני מפתחי אינטליגנציה מלאכותית כאשר מערכות הולכות ומתרקמות מסוגלות לבצע משימות טכניות מורכבות עם אוטונומיה רבה יותר.