פגם אבטחה מעלה חששות לגבי סוכן ה-AI של מטה, מוזה

Yesterday 09:32

סוכן ה-AI החדש של מטה, מוזה, נתקל בביקורת בשל פגם אבטחה חמור שעשוי לאפשר לתוקפים לשלוט בחשבון על ידי ניצול הרשאות שכבר ניתנו לסוכן.

הבעיה צצה זמן קצר לאחר שמוזה זכתה לפופולריות מהירה בארצות הברית, והגיעה לראש דירוגי חנות האפליקציות החינמיות של אפל. בניגוד לצ'אט-בוטים קונבנציונליים, מוזה מיועדת לבצע משימות בשם המשתמשים, כולל הזמנת פגישות, מילוי טפסים, טיפול בבקשות שירות לקוחות, גלישה באתרים וביצוע רכישות.

חוקר האבטחה פטריק וורדל גילה פגם אבטחה מסוג אפס יום שמשפיע על גרסת המאק של מוזה. לפי ניתוחו, יישומים הפועלים מקומית או פקודות טרמינל עשויים לשנות הגדרות שאינן מתועדות בתוך הסוכן, כולל נקודת הקצה המשמשת לעיבוד תמלולים קוליים.

על ידי הפניית נתוני תמלול לשרת הנשלט על ידי תוקף, הפגם עשוי לחשוף את טוקן האימות הקשור לחשבון מוזה. טוקן זה יכול להעניק לתוקף שליטה נרחבת על החשבון ולאפשר לו לנצל הרשאות שהמשתמש העניק בעבר לסוכן ה-AI.

וורדל הדגים התקפות הוכחת מושג המראות כי ההרשאות הקיימות של מוזה עשויות לשמש לביצוע פעולות כמו כתיבת קבצים למחשב או גישה למצלמה. הוא גם תיאר וריאציה של טכניקת הנדסה חברתית המתרקמת יותר ויותר בשם קליק פיקס, שעשויה לסייע בהפעלה של הפגם על ידי שכנוע המשתמשים להפעיל פקודות זדוניות.

הגילוי מדגיש את האתגר הרחב יותר של אבטחה הקשור ל-AI סוכני. מתן למערכת AI את היכולת לתקשר עם דוא"ל, לוחות שנה, שירותי הודעות, דפדפנים ויישומים אחרים יכול להפוך אותה לשימושית הרבה יותר, אך זה גם אומר כי פשרה מוצלחת עשויה להיות לה השלכות מעבר לאלה הקשורות בדרך כלל לצ'אט-בוט מסורתי.

מטה קידמה את מוזה כסוכן שנועד עם בקרות אבטחה ופרטיות, כולל אמצעי זהירות שנועדו למנוע פעולות בלתי מורשות ומנגנונים הדורשים אישור משתמש לפעולות רגישות. ארס טכניקה דיווחה כי מטה שחררה תיקון חם לפגם האפס יום לאחר שהפגם הפך לגלוי.

חששות האבטחה צמחו לצד סכסוך נפרד הקשור לאמזון. חברת המסחר האלקטרוני חסמה את מוזה מלבצע רכישות באתר Amazon.com, בטענה כי הסוכן גישה לאתר מבלי להזדהות כסוכן AI וללא הסכמת אמזון. אמזון אמרה כי יישומים של צד שלישי המבצעים רכישות בשם לקוחות צריכים לפעול בשקיפות ולכבד את ההחלטות של ספקי השירות.

מטה, מצידה, אמרה כי למוזה אין גישה לסיסמאות או למידע על תשלומים של משתמשים וכי האישורים שמספקים המשתמשים מאוחסנים בצורה מאובטחת. תיאור החברה של מוזה מציין כי הסוכן יכול לתקשר עם אתרים דרך הדפדפן שלו כאשר לא קיימת ממשק API ציבורי.

שני ההתפתחויות נפרדות, אך יחד הן ממחישות כמה מהקשיים שעומדים בפני חברות המפתחות סוכני AI המסוגלים לפעול באופן עצמאי באינטרנט. ככל שהמערכות הללו מקבלות גישה ליותר חשבונות, מכשירים ושירותים, חוקרי אבטחה וחברות טכנולוגיה עומדים בפני לחץ גובר להבטיח שהנוחות לא תבוא על חשבון שליטת המשתמש והגנה על נתונים.

הפופולריות המוקדמת של מוזה מצביעה על כך שהצרכנים מוכנים יותר ויותר להאציל משימות מורכבות באינטרנט למערכות AI. הפגם, עם זאת, מדגים מדוע האדריכלות האבטחתית סביב סוכנים כאלה הופכת לחשובה כמו היכולות עצמן. צ'אט-בוט שנפרץ עשוי לייצר מידע שגוי, אך סוכן שנפרץ עם גישה לחשבונות אמיתיים יכול לבצע פעולות עם השלכות ישירות על המשתמש שלו.