נבידיה חושפת שכבת אבטחה חדשה לחיזוק ההגנות על סוכני בינה מלאכותית

Yesterday 17:17

נבידיה השיקה פלטפורמת אבטחה בקוד פתוח שנועדה לתת למפתחים ולעסקים שליטה רבה יותר על סוכני בינה מלאכותית אוטונומיים, כאשר מערכות אלו הופכות ליותר ויותר מסוגלות לבצע משימות ברחבי תוכנה, רשתות וסביבות עסקיות.

יוזמה זו, הידועה בשם NVIDIA OpenShell, נועדה להניח בקרות אבטחה סביב סוכן בינה מלאכותית ולא להסתמך אך ורק על הגנות שנבנו לתוך המודל עצמו. החברה מתארת את OpenShell כריצה מאובטחת המאפשרת לסוכנים אוטונומיים לפעול בתוך סביבות מבודדות עם מדיניות מפורשת המנחה מה הם יכולים לגשת ולבצע.

הפיתוח מתרחש כאשר סוכני בינה מלאכותית עוברים מעבר ליצירת טקסט ומענה על שאלות. סוכנים מודרניים יכולים לקרוא קבצים, להשתמש בכלים חיצוניים, לבצע קוד, לתקשר עם אפליקציות ולגשת למערכות עסקיות, מה שמייצר אתגרים חדשים באבטחה כאשר הם מקבלים הרשאות מתמשכות או גישה למשאבים רגישים.

OpenShell מתמודד עם הסיכונים הללו באמצעות סנדבוקסינג ובקרות מבוססות מדיניות המכסות מספר חלקים מסביבת ההפעלה של הסוכן. לפי נבידיה, המערכת יכולה להגביל גישה לקבצים, חיבורים לרשת ולתהליכים תוך שמירה על מסלול ביקורת של פעולות מורשות וחסומות.

אחד העקרונות המרכזיים מאחורי הפלטפורמה הוא לשמור על בקרות אבטחה קריטיות מחוץ לסוכן הבינה המלאכותית עצמו. משמעות הדבר היא שגם אם סוכן מתנהג באופן בלתי צפוי או שההגנות הפנימיות שלו עוקפות, המגבלות שהוטלו על ידי הריצה הסובבת יכולות להמשיך להגביל מה הוא יכול לעשות.

הפלטפורמה יכולה גם להסדיר פעילות רשת ולמנוע מסוכנים להגיע ליעדים לא מורשים. בקרות מערכת הקבצים מיועדות להגביל גישה למיקומים שהוכרזו, בעוד שהגנות ברמת התהליך יכולות לחסום ניסי להשיג זכויות נוספות או לבצע פעולות פוטנציאליות מסוכנות.

נבידיה טוענת כי גישה זו רלוונטית במיוחד עבור מערכות אוטונומיות שפועלות במשך זמן ארוך. בניגוד לצ'אטבוטים מסורתיים, סוכנים עשויים לפעול במשך תקופות ממושכות, להשתמש בכלים מרובים ולתקשר עם שירותים חיצוניים, מה שמגביר את ההשלכות הפוטנציאליות של מערכת שנפרצה או הוגדרה לא נכון.

OpenShell הוא חלק מהמאמץ הרחב יותר של נבידיה לבנות תשתית עבור בינה מלאכותית אוטונומית. החברה פיתחה גם את NemoClaw, המשלבת כלים לפריסת סוכנים עם סנדבוקס ובקרות מדיניות של OpenShell. עדכונים אחרונים הרחיבו את ניהול מחזור החיים, מדיניות רשת, הגנות על אישורים ויכולות ניטור.

הופעת תשתית אבטחת סוכנים ייעודית משקפת שינוי רחב יותר בתעשיית הבינה המלאכותית. ככל שהחברות מתנסות במערכות המסוגלות לבצע משימות מרובות שלב עם פיקוח אנושי מוגבל, שליטה על הרשאות, אישורים וגישה לנתוני החברה הופכת לחלק חשוב מאסטרטגיות הפריסה.

לעסקים, האתגר הוא לאפשר לסוכני בינה מלאכותית מספיק גישה כדי לבצע עבודה מועילה מבלי לתת להם שליטה בלתי מוגבלת על מערכות רגישות. הגישה של נבידיה שואפת להתמודד עם האיזון הזה על ידי הפרדת יכולות הסוכן מגבולות האבטחה שהוטלו על ידי הסביבה שבה הוא פועל.

המיקוד ההולך ומתרקם על אבטחת סוכנים מדגיש גם כיצד הסיכונים הקשורים לבינה מלאכותית משתנים. ככל שמערכות הבינה המלאכותית מקבלות את היכולת לנקוט בפעולות במקום פשוט לספק מידע, הגנה על התשתית הסובבת יכולה להפוך לחשובה כמו הערכת המודל עצמו. OpenShell מייצגת ניסיון אחד לבנות שכבת הגנה נוספת בארכיטקטורה המשמשת לפריסת סוכנים אוטונומיים.