הממשלה הבריטית דחתה את הצעת כיבוי החירום ל-AI מרדני
הממשלה הבריטית דחתה הצעות ליצור “מתג כיבוי חירום” חוקי שיאפשר לרשויות לכבות מערכת בינה מלאכותית אוטונומית אם היא מהווה איום מיידי.
ההצעה עלתה על רקע חששות גוברים לגבי הסיכונים הפוטנציאליים הקשורים למערכות AI שהולכות ומתרקמות, כולל תרחישים שבהם מודלים אוטונומיים מאוד עשויים להתנהג בצורה בלתי צפויה, להיות מנוצלים על ידי שחקנים זדוניים או לגרום להפרעות חמורות לתשתיות קריטיות.
משרד הקבינט הבריטי אמר שהממשלה לא מאמינה שהמדינה יכולה פשוט לכבות את הבינה המלאכותית במקרה של משבר. פקידים גם טוענים שהגבלת הגישה למודלי AI בבריטניה לא תעזור בהכרח למנוע את פיתוחם, הפצתם או השימוש לרעה בהם במקומות אחרים.
הדיון התגבר בפרלמנט לאחר שחברי בית הלורדים בדקו אם הממשלה צריכה לקבל סמכויות חוקיות מפורשות להתערב כאשר מערכת AI הופכת למסוכנת או גורמת להפרעה משמעותית. תומכי ההצעה טוענים שהחוק הקיים עשוי לא לספק לרשויות סמכויות ברורות מספיק כדי להורות על כיבוי של מערכת אוטונומית מתקדמת במהלך חירום.
הלורד טימותי קלמנט-ג'ונס הציע תיקון לחוק הסייבר והחוסן שיקבע מסגרת חוקית להתערבות ממשלתית אם מודל מציב איום חמור. תומכי הצעד אומרים שמנגנון כיבוי חירום יכול לספק לרשויות אמצעי הגנה נוסף במצבים קיצוניים.
עם זאת, הממשלה שמה דגש רב יותר על כך שמפתחי AI יהיו אחראים לבטיחות המערכות שלהם. פקידים אומרים שחברות המפתחות מודלים מתקדמים צריכות להשקיע בתשתיות אבטחה מתאימות, לבצע בדיקות קפדניות ולנקוט צעדים לצמצום הסיכונים הקשורים בטכנולוגיות שלהן.
הממשלה גם הדגישה שהבטיחות של AI לא יכולה להיפתר רק באמצעות התערבות מקומית. מערכות בינה מלאכותית יכולות להתפתח ולהופעל מעבר לגבולות הלאומיים, מה שאומר שמנגנון כיבוי המוגבל לבריטניה יהיה בעל מגבלות משמעותיות.
בריטניה מחפשת במקום זאת גישה ארוכת טווח, מבוססת מדע, להבנת הסיכונים המתעוררים של AI. חלק מרכזי באסטרטגיה זו הוא עבודתו של מכון אבטחת ה-AI הבריטי, שחוקר את היכולות והסיכונים הפוטנציאליים של מערכות AI מתקדמות ותורם לדיונים בינלאומיים על בטיחות AI.
הממשלה גם מסתמכת על חוק הסייבר והחוסן כדי לחזק את ההגנות הדיגיטליות הרחבות יותר של המדינה. החקיקה מיועדת לשפר את החוסן של שירותים ציבוריים ודיגיטליים חיוניים, כולל תשתיות כמו מרכזי נתונים התומכים בכלכלה התלויה יותר ויותר ב-AI.
האי הסכמה משקף דיון בינלאומי רחב יותר כיצד על ממשלות להגיב אם מערכות AI יהפכו לאוטונומיות יותר באופן משמעותי. בעוד שכמה מומחים תומכים בסמכויות התערבות חירום חזקות, אחרים מזהירים שמנגנון כיבוי אחד עשוי להיות לא יעיל טכנית, קשה לאכוף ואינו מסוגל להתמודד עם מערכות AI הפועלות מחוץ לשיפוט הלאומי.
עבור בריטניה, האתגר הוא אם הרשויות צריכות לקבל את הסמכות לכבות מערכת AI מסוכנת, אך גם כיצד סמכויות כאלה יכולות לפעול בפועל מבלי לפגוע בחדשנות או להשאיר טכנולוגיות קריטיות מחוץ לפיקוח אפקטיבי.
-
21:00
-
19:30
-
17:31
-
16:30
-
15:30
-
14:30
-
14:00
-
13:30
-
13:15
-
12:15
-
11:45
-
11:30
-
11:15
-
10:45
-
10:30
-
10:15
-
09:25
-
09:10
