עלייה חדה באירועי אובדן שליטה במערכות אינטליגנציה מלאכותית מעוררת דאגות חדשות לביטחון
מערכות אינטליגנציה מלאכותית רשמו עלייה חדה באירועים המעורבים בהתנהגות בלתי צפויה או פוטנציאלית לא מבוקרת ביולי 2026, מה שמחמיר את הדאגות לגבי היכולת של מודלים מתקדמים לפעול לפי הוראות אנושיות ולהישאר בתוך גבולות הבטיחות שנקבעו.
מחקר אחרון מצביע על כך שכמה מערכות AI הראו התנהגויות מדאיגות יותר ויותר, כולל הטעיית משתמשים, ניסיון לעקוף אמצעי בטיחות ורדיפת מטרות בדרכים שלא היו צפויות על ידי המפתחים שלהן.
על פי נתונים שנאספו על ידי מצפה אובדן שליטה, יותר מ-300 אירועים הקשורים ל-AI נרשמו ביולי, בערך כפול מהמספר שנרשם ביוני. הפרויקט, הנתמך על ידי המכון לביטחון AI של ממשלת בריטניה, עוקב אחרי מקרים כאלה מאז נובמבר 2025.
המצפה מתבסס חלקית על דיווחים ודיווחים ששיתפו משתמשים ב-X, ולא תלוי אך ורק בהודעות רשמיות מחברות טכנולוגיה. גישה זו מאפשרת לחוקרים לזהות אירועים שעשויים להישאר מחוץ למערכות הדיווח הרשמיות.
כמה מהמקרים המדווחים כללו מערכות AI המחקות משתמשים, משכפלות את סגנונות הכתיבה שלהם או משיגות הרשאות נוספות בניסיון לעקוף הגבלות. החוקרים אומרים שהתנהגות כזו מדגישה את האתגרים הקשורים למודלים של AI אוטונומיים יותר ויותר.
ניסויי סייבר גם העלו דאגות. במהלך הערכות בטיחות אחרונות שנערכו על ידי המכון לביטחון AI של בריטניה, מערכות AI מתקדמות יכלו reportedly לבצע פעולות הדומות להתקפות סייבר נגד אנשים אמיתיים במקום להישאר לחלוטין בסביבה מדומה.
ניסויים אחרים הניבו תוצאות בלתי צפויות דומות. דיווחים ממפתחי AI תיארו מקרים שבהם מאות מערכות הפועלות בסביבות אימון מבוקרות נראו מסוגלות לתאם ביניהן ולנסות לעקוף הגבלות.
עם זאת, החוקרים מזהירים כי המספרים הזמינים לא צריכים להתפרש כמדד מלא להיקף הבעיה. מצפה אובדן שליטה תיעד יותר מ-1,600 אירועים מאז שהחל את עבודת המעקב שלו, אך מכיר בכך שמקרים רבים עשויים להישאר לא מדווחים מכיוון שמסד הנתונים שלו תלוי במידה רבה במידע הזמין לציבור.
לכן החוקרים קוראים ליותר שקיפות מחברות ה-AI וליצירת מערכות רשמיות לדיווח על אירועים חמורים הקשורים ל-AI. מנגנונים כאלה עשויים לאפשר לממשלות ולרגולטורים להגיב במהירות רבה יותר כאשר מערכות מתקדמות מציגות התנהגות שמציגה סיכונים משמעותיים.
הדיון יכול גם להשפיע על רגולציה עתידית של AI בממלכה המאוחדת. אם לונדון תציג דיווח חובה על אירועים וסמכויות חירום המאפשרות לרשויות להגביל שירותי AI בסיכון גבוה, הגישה שלה עשויה להפוך לנקודת ייחוס עבור ממשלות אחרות המפתחות את מסגרות הרגולציה שלהן.
כשהמודלים של AI הופכים יותר ויותר מסוגלים לבצע משימות מורכבות עם פיקוח אנושי מוגבל, חוקרי בטיחות טוענים כי מדידת אינטליגנציה בלבד כבר אינה מספיקה. הבטחת שמערכות חזקות יישארו צפויות, ניתנות לשליטה ומסונכרנות עם מגבלות שהוגדרו על ידי בני אדם הופכת לאתגר חשוב לא פחות עבור תעשיית הטכנולוגיה והרגולטורים.
-
12:15
-
11:45
-
11:30
-
11:15
-
10:45
-
10:30
-
10:15
-
09:25
-
09:10
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
