האם ניתן באמת לכבות את הבינה המלאכותית בלחיצת כפתור אחת?

09:25

ההתפתחות המהירה של הבינה המלאכותית העמיקה שאלה יסודית לגבי איך החברה יכולה לשלוט במערכות אוטונומיות הולכות ומתרקמות: אם מערכת בינה מלאכותית תהפוך למסוכנת, האם ניתן פשוט לכבות אותה?

הרעיון של “כפתור כיבוי חירום” עבור בינה מלאכותית זכה לתשומת לב מחודשת בארצות הברית כאשר מחוקקים, חוקרים ומנהלי טכנולוגיה דנים כיצד לנהל את הסיכונים הקשורים למערכות בינה מלאכותית מתקדמות יותר. המושג נראה פשוט, אך מומחים אומרים שהיישום שלו על תשתיות דיגיטליות מודרניות יהיה הרבה יותר מסובך מאשר כיבוי מכונה קונבנציונלית.

בניגוד לציוד תעשייתי, מערכות בינה מלאכותית אינן בהכרח מוגבלות למיקום פיזי אחד. מודלים מודרניים יכולים לפעול על פני רשתות מחשוב בענן, מרכזי נתונים ומערכות גיבוי מפוזרות באזורים שונים. חברות טכנולוגיה גדולות השקיעו רבות בתשתיות מחשוב בקנה מידה גדול שנועדו לשמור על השירותים גם כאשר מכונות או מתקנים בודדים אינם זמינים.

היתרון הזה מציג את אחד האתגרים המרכזיים ביצירת מנגנון כיבוי יעיל. כיבוי של שרת אחד או מרכז נתונים לא בהכרח יעצור מערכת בינה מלאכותית אם עותקים של התוכנה שלה, משאבי המחשוב או שירותים נלווים זמינים במקומות אחרים. מערכת חירום יעילה תצטרך לכן לקחת בחשבון את התשתית הראשית כמו גם גיבויים ושירותים מקושרים.

הנושא נכנס גם לדיון המדיני בוושינגטון. הצעות להענקת סמכויות ממשלתיות חזקות יותר על מערכות בינה מלאכותית מתקדמות כללו דיונים על מנגנונים שיכולים לדרוש מהמפתחים להקטין את היכולות של מודל או להפסיק את פעולתו באופן זמני בנסיבות יוצאות דופן. שאלות דומות נבדקו ברמה המדינתית כאשר הרשויות שוקלות מסגרות בטיחות בינה מלאכותית רחבות יותר.

הקשיים המעשיים חורגים מעבר לטכנולוגיה. מנגנון כיבוי יעלה שאלות לגבי מי יש לו את הסמכות להפעיל אותו, באילו נסיבות ולפי אילו תקנים חוקיים. החלטה שמשפיעה על מערכת בינה מלאכותית בשימוש נרחב יכולה להיות בעלת השלכות על עסקים, שירותים ציבוריים ותשתיות התלויים בטכנולוגיה.

מומחים גם מצביעים על השימוש ההולך וגובר בבינה מלאכותית בתחומים רגישים כהסתבכות נוספת. הבינה המלאכותית משתלבת יותר ויותר בשירותים פיננסיים, סייבר, תקשורת, מערכות אנרגיה ופעולות דיגיטליות אחרות. כיבוי כולל יכול לכן ליצור סיכונים משניים אם שירותים חיוניים תלויים במערכות שנלקחות לאוף-לין.

אתגר נוסף נוגע להתנהגותם של סוכני בינה מלאכותית אוטונומיים. בניגוד לתוכנה קונבנציונלית שעוקבת אחרי הוראות מוגדרות בצמצום, מערכות חדשות יותר יכולות להיות מתוכננות לתכנן משימות, לתקשר עם סביבות דיגיטליות ולהשתמש בכלים חיצוניים. חוקרים העלו חששות שסוכנים שאינם מבוקרים היטב עשויים למצוא דרכים בלתי צפויות להשיג מטרות שהוקצו להם, מה שהופך את מנגנוני הבטיחות הקונבנציונליים לקשים יותר לתכנון.

זה עורר דיון האם כפתור כיבוי צריך להתייחס כאל אמצעי הבטחה הראשי או פשוט כאחד מרכיבי ארכיטקטורת בטיחות רחבה יותר. חלק מהחוקרים טוענים שמקבלי ההחלטות צריכים להתמקד בצעדים מונעים, כולל בדיקות קפדניות, ניטור, בקרות גישה, דיווח על תקריות ואחריות ברורה למפתחים ולמפעילים.

אחרים מאמינים שמנגנוני כיבוי חירום יכולים עדיין לשחק תפקיד מועיל אם הם משולבים במערכות בינה מלאכותית מההתחלה. מנגנונים כאלה יכולים להיות מתוכננים ברמות שונות, מה שמאפשר למפעילים להפסיק פונקציות מסוימות, להגביל את הגישה של סוכן למערכות חיצוניות או להשבית משאבי מחשוב מסוימים במקום לכבות כל שירות הקשור לבינה מלאכותית בו זמנית.

הזמן של הרגולציה הוא דאגה נוספת. היכולות של הבינה המלאכותית מתפתחות במהירות, בעוד שחוקים ומסגרות רגולטוריות בדרך כלל לוקחים יותר זמן להתפתח. לכן, מקבלי ההחלטות מתמודדים עם האתגר של יצירת כללים שיישארו רלוונטיים ככל שהמערכות הופכות למתקדמות יותר והיישומים שלהן מתרחבים.

מנגנון חירום מעשי ידרוש לכן תיאום בין מפתחי הבינה המלאכותית, ספקי ענן, מפעילי תשתיות וממשלות. תקנים טכניים משותפים יכולים להקל על התגובה לאירועים חמורים תוך הפחתת הסיכון שהליך הכיבוי של חברה אחת יהפוך לבלתי תואם עם מערכות המופעלות על ידי חברה אחרת.

הדיון לא בהכרח מעיד על כך שמערכת בינה מלאכותית בלתי ניתנת לשליטה היא בלתי נמנעת. אלא, זה משקף תשומת לב הולכת וגוברת לגבי כיצד טכנולוגיות אוטונומיות יותר ויותר צריכות להיות מנוהלות לפני שהן הופכות להיות משולבות עמוק במערכות קריטיות. מנגנון כיבוי עשוי להיות חלק מהמסגרת הזו, אך מומחים בדרך כלל רואים בו רכיב אחד של גישה הרבה יותר רחבה לבטיחות בינה מלאכותית.

לעת עתה, האתגר המרכזי הוא לא פשוט למצוא כפתור שיכול לכבות את הבינה המלאכותית. זהו עיצוב אמצעי הגנה טכניים, משפטיים ומוסדיים שיכולים לזהות סיכונים חמורים, להגביל התנהגות מזיקה ולצורך העניין, לעצור מערכות או יכולות מסוימות בצורה מבוקרת מבלי ליצור סכנות נוספות.