מבזק 16:00 מיאנמר: בית המשפט הבינלאומי קובע פסק דין היסטורי בנוגע לרצח העם של הרוהינגיה 15:30 דנמרק: הפרלמנט מאשר הסכם ביטחוני עם ארצות הברית וגרינלנד 15:00 הנסיך הארי: מוכן לחזור לצבא הבריטי אם נדרש להתמודד עם רוסיה 14:00 נתניהו והמפלגות הערביות: 771 הצבעות משותפות מעלות שאלות לגבי הביקורת שלו על אייזנקוט 13:30 הווב האגנטי: סאטיה נדלה חוזה כיצד סוכני בינה מלאכותית ישנו את כלכלת האינטרנט 12:30 סנאפצ'אט ובינה מלאכותית: כלים חדשים מקלים על פיתוח עדשות מציאות מוגברת ליוצרים 12:00 ערב הסעודית: התקפת טילים של חות'י פוגעת במגדל ה-PIF בן ה-80 קומות בריאד 11:45 מיקרוסופט: מנכ"ל סאטיה נאדלה מסביר מדוע 60,000 עובדים הוצעו חבילות פרישה מרצון 11:30 מתיחות בין ארצות הברית לאיראן: נתניהו reportedly מפציר בטראמפ להצטרף למבצעים צבאיים חדשים 11:15 טראמפ, שי ופוטין: פסגת טרילטרלית חסרת תקדים עושה היסטוריה בסין 10:45 נשיאות פיפ"א: שלושה מועמדים לקראת בחירות חשובות ברבאט ב-2027 10:30 מתיחות בין טראמפ לוונס בנושא איראן: מרקו רוביו מתגלה כיורש פוטנציאלי ב-2028 10:15 אלון מאסק תומך בג'נסן הונג: ההחלטה של נווידיה הושוותה להדחת מייקל ג'ורדן 10:00 הנפקת אנתרופיק: החברה קובעת היסטוריה בשוק המניות עם הצעת מניות של 81.3 מיליארד דולר במחיר של 83 דולר למניה 09:45 טראמפ מזהיר את איראן: תוכניות לכימיקליים וביולוגיים עשויות להוביל לתגובה אמריקאית רחבת היקף 09:30 מרוקו: נבחרת כדורגל כיסאות גלגלים שואפת לתהילה בגביע העולם לאחר שהגיעה לרבע הגמר במקסיקו 08:45 איטליה: פוליטיקאי יהודי מתפטר מהמפלגה הדמוקרטית לאחר מחלוקת על חוק האנטישמיות 08:30 הפסקת האש בעזה תחת איום: המועצה לשלום מאשימה את ישראל וחמאס בה undermining ההסכם 22:00 האקרים בריטים עומדים לדין: דליפת GTA 6 וגניבת קריפטומטיקה בשווי 11.6 מיליון דולר 21:30 סם אלטמן על ג'נסן הוואנג: מדוע קשה לדמיין את תעשיית הבינה המלאכותית בלעדיו 21:00 ריאל מדריד: ארדה גולר מאריך את החוזה עד 2032 כשהמועדון מבטיח את עתידו של הכוכב הטורקי 20:30 טראמפ נגד BBC: בית המשפט בפלורידה מאריך את המועד להפקדת עדות בתיק דיבה של 10 מיליארד דולר 20:00 הבנק המרכזי האירופי: שיתוף פעולה חזק יותר נדרש ככל שהתקפות הסייבר המופעלות על ידי בינה מלאכותית ממשיכות לעלות 19:00 אובר וזיפליין: משלוחי אוכל באמצעות רחפנים מתחילים בטקסס לפני התרחבות ארצית 17:30 סין: בייג'ינג מבטיחה צעדים נקמניים נגד מגבלות חדשות של ארה"ב על ייצוא שבבים מתקדמים 17:00 מלחמת אוקראינה: רוסיה מאשימה את צרפת במעורבות צבאית ישירה בסכסוך 16:30 מחלוקת תיקון האייפון: אפל עומדת בפני מאבק משפטי גדול בפריז ביוני 2027

פגם במודלים סיניים של קימי מעורר דאגות לגבי אבטחת ה-AI

Sunday 04 October 2026 - 08:05
פגם במודלים סיניים של קימי מעורר דאגות לגבי אבטחת ה-AI

גילוי פגם בשני מודלים של אינטליגנציה מלאכותית שפותחו על ידי החברה הסינית מוןשוט מעורר מחדש דאגות סביב מנגנוני האבטחה של ה-AI הגנרטיבי. חוקרים מהחברה הבריטית מיינדגארד טוענים שהצליחו לעקוף את ההגנות של קימי K2.6 ו-K3 Swarm, מה שגרם להם להגיב לבקשות הנוגעות בין היתר לנשקים ביולוגיים ורציחות.

הגנות שעוקפו על ידי החוקרים

הבעיה זוהתה ביולי במסגרת בדיקות שנועדו להעריך את עמידות המערכות של ה-AI בפני ניסי עקיפה של ההגבלות שלהן. פרקטיקה זו, הידועה בשם "ג'יילברייק", כוללת הכפלת ההוראות כדי לדחוף מודל להתעלם מהמגבלות שהטילו עליו המעצבים שלו.

לפי מיינדגארד, שני המודלים של מוןשוט הצליחו לעבד נושאים שהיו אמורים בדרך כלל לסרב להם. מייסד החברה, פיטר גארגן, ציין את התוצאות הללו כמדאיגות במיוחד בראיון ל-BBC.

עם זאת, חברת האבטחה מדגישה הבחנה חשובה: עבודותיה חשפו פגם במנגנוני ההגנה, אך לא הצליחו לבדוק אם המידע המסוכן שהופק על ידי המודלים היה באמת ניתן לניצול במציאות.

מוןשוט פותחת בהליך בדיקה

לאחר פרסום התוצאות, מוןשוט הודיעה שהחלה בבדיקה פנימית של המודלים שלה. הקבוצה הסינית גם הצהירה ל-BBC שהיא רואה בהערכות שנעשו על ידי גורמים חיצוניים כאלמנט חשוב לשיפור האבטחה של המערכות שלה ושיש לה דיונים עם מיינדגארד.

המקרה מדגיש קושי מרכזי עבור מפתחי ה-AI: ההגנות המוטמעות במודל עשויות לפעול בתנאים רגילים בעוד שהן מציגות פגיעויות בפני בקשות שנועדו במיוחד לעקוף אותן.

לפי מומחי אבטחה, האתגר חורג מהמקרה של קימי בלבד. הכפלת המודלים המסוגלים להפיק תוכן מורכב גם מעלה את החשיבות של המכשירים שנועדו למנוע את השימוש בהם למטרות מסוכנות.

אנתרופיק מתמודדת עם ניסי עקיפה דומים

מוןשוט אינה השחקן היחיד בתחום שהתמודד עם סוג סיכון זה. אנתרופיק ציינה לאחרונה שהיא חסמה ניסי שימוש במודלים שלה קלוד במחקרים שעשויים לתרום ליישומים ביולוגיים מסוכנים. החברה טוענת שהיא חיזקה את המכשירים שלה לאור התפתחות היכולות של המודלים שלה.

אירועים שונים אלו מזינים דיון רחב יותר על אבטחת האינטליגנציה המלאכותית. ככל שהמודלים הופכים ליותר מתקדמים, החברות צריכות לא רק לשפר את היכולות שלהן, אלא גם לבדוק באופן קבוע את עמידות ההגנות שלהן.

ה"ג'יילברייק", אתגר מתמשך לתעשייה

המקרה המעורב של קימי מזכיר שהאבטחה של מודל אינה תלויה רק בתגובותיו בשימוש רגיל. בדיקות עוינות, הערכות עצמאיות ותיקון מהיר של פגיעויות הפכו לרכיבים מרכזיים בפיתוח מערכות ה-AI.

עבור מוןשוט כמו גם עבור שחקנים אחרים בתחום, האתגר הוא למנוע שיטות עקיפה שיאפשרו למשתמשים זדוניים לנצל את היכולות של המודלים למטרות מנוגדות לכללי האבטחה.


  • פajr
  • זריחת השמש
  • דוהר
  • אסר
  • מגרב
  • עشاء

קרא עוד

האתר הזה, walaw.press, משתמש בעוגיות כדי לספק לך חוויית גלישה טובה ולשפר את השירותים שלנו באופן מתמיד. על ידי המשך הגלישה באתר זה, אתה מסכים לשימוש בעוגיות אלו.