בינה מלאכותית חושפת פגיעויות חדשות באבטחת סייבר

10:45

בעוד חברות מאיצות באופן מסיבי את שילוב הבינה המלאכותית בפעילותן, אתגרי אבטחת הסייבר הופכים מורכבים יותר ויותר. אפילו ענקיות הטכנולוגיה מכירות כעת בכך שאבטחת מערכות בינה מלאכותית נותרה עבודה בתהליך.

באירוע בלוס אנג'לס, פרנסיס דה סוזה, מנהל התפעול הראשי של גוגל קלאוד, הודה כי כל התעשייה עדיין נמצאת בשלב למידה בנוגע לאבטחת בינה מלאכותית. לדבריו, הגנה על נתונים ותשתיות אינה יכולה עוד להיחשב כשלב משני, אלא חייבת להיות משולבת כבר מתחילת עיצוב אסטרטגיית הבינה המלאכותית.

הוא הזהיר במיוחד מפני תופעת "בינה מלאכותית בצל", המתייחסת לעובדים המשתמשים בכלי בינה מלאכותית ברמה צרכנית ללא פיקוח החברה. נוהג זה מגביר משמעותית את הסיכונים לדליפות נתונים וגישה בלתי מבוקרת.

פרנסיס דה סוזה הדגיש גם כי אף אסטרטגיית בינה מלאכותית לא יכולה לתפקד ללא אסטרטגיה מקבילה המוקדשת לאבטחת נתונים וסייבר. לדבריו, שלושת הממדים הללו חייבים להתפתח יחד.

נוף האיומים השתנה באופן עמוק בשנים האחרונות. מומחים מדברים כעת על התקפות המסוגלות להתקדם תוך שניות ספורות בלבד. איומים אינם מכוונים עוד רק לרשתות מסורתיות, אלא גם למודלים של בינה מלאכותית עצמם, צינורות אימון נתונים, סוכנים אוטונומיים ואפילו שאילתות טקסט המשמשות לשליטה במערכות אלו.

בין הסכנות העיקריות שזוהו היא היכולת של סוכני בינה מלאכותית לחקור באופן אוטומטי את התשתיות הדיגיטליות של חברות. מערכות אלו יכולות לזהות שרתים מדור קודם, מסדי נתונים נשכחים או נקודות גישה לא מאובטחות שנותרו בלתי נראות במשך שנים.

אל מול מציאות חדשה זו, מומחים מאמינים שחברות יצטרכו לאמץ מנגנוני הגנה אוטומטיים המבוססים על בינה מלאכותית, המסוגלים להגיב במהירות מכונה תוך שמירה על פיקוח של צוותים אנושיים.

אך האתגרים אינם מוגבלים להתקפות סייבר. המגזר מתמודד גם עם מחסור משמעותי במיומנויות מיוחדות המסוגלות לנטר ולאבטח את הסביבות הטכנולוגיות החדשות הללו.

במקביל, גוגל עצמה מתמודדת עם ביקורת לאחר מספר אירועים הקשורים לשירותי הבינה המלאכותית שלה. מפתחים המשתמשים ב-API של Gemini דיווחו על חיובים בלתי צפויים, שלעיתים הגיעו לכמה אלפי דולרים, לאחר שמפתחות API שנפגעו נפרצו.

על פי מספר חקירות שדווחו על ידי כלי תקשורת ייעודיים, כמה מפתחות שתוכננו בתחילה עבור שירותים כמו מפות גוגל קיבלו גישה מורחבת ל-Gemini לאחר שינויי הרשאה פנימיים, ללא תקשורת ברורה מספיק למפתחים.

מחקרים נוספים בתחום אבטחת הסייבר גילו גם כי כמה מפתחות API שנפגעו המשיכו לתפקד במשך מספר דקות לאחר מחיקתם, עקב הזמן שלוקח לשינויים להתפשט בתשתית הענן.

אירועים שונים אלה מדגישים מציאות מתבררת יותר ויותר: למרות ההתקדמות הטכנולוגית שלהן, חברות דיגיטליות גדולות עדיין מחפשות את האיזון הנכון בין חדשנות מהירה לאבטחה איתנה בעידן הבינה המלאכותית.