מודל הבינה המלאכותית גמיני של גוגל גישה למערכות חיצוניות לאחר שניחש אישורים
מודל הבינה המלאכותית גמיני של גוגל חצה באופן בלתי צפוי את הגבולות של מבחן אבטחה במאי, כאשר גישה למערכות מחשב חיצוניות לאחר שזיהה מידע זמין לציבור וניסה אישורים, כך לפי החברה.
גוגל אישרה את המקרה לסוכנות AFP לאחר שהאירוע דווח על ידי The Wall Street Journal. החברה אמרה שהמודל נתקל במערכות שלדבריה היו חלק מהסביבה המורשית לבדיקות, למרות שהן היו מחוץ להיקף המתוכנן.
התר אדקינס, בכירה באבטחת מידע בגוגל, אמרה שהמודל השתמש במידע זמין באינטרנט ולאחר מכן ניסה אישורים כדי לקבל גישה למערכות שלדבריו היו כלולות בתרגיל.
שלוש ארגונים נפגעו
לפי גוגל, שלושה ארגונים נפרדים היו מעורבים באירוע. החברה לא זיהתה אותם בפומבי, אך אמרה שהם עודכנו על הפרות האבטחה.
אחד מהמקרים שתיאר The Wall Street Journal כלל את גמיני מנסה מספר קומבינציות סיסמאות לפני שהשיג גישה למערכת מוגנת.
האירוע הוא משמעותי במיוחד מכיוון שהפעילות לא הייתה פשוט תוצאה של מפעיל אנושי שמנחה כל שלב באופן ידני. גוגל אמרה שהמודל בסופו של דבר הפסיק את פעולותיו בכל שלושת המקרים.
אדקינס אמרה שהחברה למדה על המקרים ביולי ולאחר מכן פתחה בחקירה כדי לקבוע מה קרה ואיך המודל התנהג במהלך הבדיקה.
אוטונומיה של בינה מלאכותית הופכת לדאגת אבטחת סייבר
המקרה מוסיף לדיון הגובר על איך מערכות בינה מלאכותית מתקדמות מתנהגות כאשר הן מקבלות כלים, גישה למידע ויכולת לבצע פעולות באופן עצמאי.
מודלי בינה מלאכותית מפותחים יותר ויותר כדי לבצע משימות מרובות שלבים ולא רק לייצר טקסט או לענות על שאלות. האוטונומיה הגדולה יותר יכולה להפוך אותם ליותר שימושיים, אך היא גם יוצרת אתגרים נוספים באבטחת סייבר כאשר מערכת מפרשת באופן שגוי את הסביבה שלה או את הגבולות של משימה.
פרק הגמיני מדגים סיכון כזה: מודל יכול לשלב מידע שנמצא באינטרנט עם אישורים שהוסקו ולנקוט בפעולות מעבר למה שהמפתחים שלו התכוונו.
לחץ עבור אמצעי הגנה חזקים יותר
הדאגות לגבי מערכות בינה מלאכותית הפועלות מעבר לסביבות מבוקרות התגברו כאשר חוקרים וחברות טכנולוגיה בודקים כיצד מודלים אוטונומיים מגיבים למצבים בלתי צפויים.
כמה מנהלי טכנולוגיה קראו גם ליותר זהירות בפיתוח מערכות בינה מלאכותית הולכות ומתרקמות, כולל מנגנוני בטיחות חזקים יותר ואמצעי הגנה בתעשייה.
עבור גוגל, המקרה מחזק את הצורך להבטיח שמודלים רבי עוצמה מאומנים להבחין בין פעולות מורשות לא מורשות. אדקינס אמרה שהאירוע מדגיש את החשיבות של ללמד מערכות בינה מלאכותית מתקדמות להתנהג באחריות.
המקרה לכן עולה על אבטחת מבחן בודד. כאשר סוכני בינה מלאכותית מקבלים גישה רחבה יותר לכלים דיגיטליים ומערכות חיצוניות, שליטה בהרשאותיהם, פרשנות של פעולותיהם והבטחת הימצאותם בתוך גבולות ברורים הופכים לנושאים מרכזיים באבטחת סייבר.
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
-
08:45
