האומות המאוחדות מזהירות על הסיכונים הגוברים ככל שהבינה המלאכותית מתקדמת בנשק אוטונומי

Yesterday 14:40

האינטגרציה המהירה של בינה מלאכותית לפעולות צבאיות מעלה שאלות דחופות לגבי שליטה אנושית על מלחמה, מה שמניע מכון מחקר של האומות המאוחדות לקרוא לשיתוף פעולה בינלאומי חזק יותר ולסוגי רגולציה יעילים יותר.

רובין גייס, מנהל מכון האומות המאוחדות למחקר על פירוק נשק (UNIDIR), הזהיר ביום שני במטה האומות המאוחדות בניו יורק שההתקדמות הטכנולוגית מקרבת את האפשרות של מלחמה אוטונומית יותר. האתגר המרכזי, הוא הדגיש, הוא לקבוע אם יש לאפשר למכונות לבחור מטרות אנושיות ולקבל החלטות שמובילות למוות.

אזהרתו מגיעה כאשר הבינה המלאכותית הופכת להיות משולבת יותר ויותר ביכולות צבאיות, החל מהערכות מודיעיניות וזיהוי מטרות ועד לפעולות רחפנים, מתקפות סייבר ומסעות השפעה.

החלטות צבאיות מהירות מעלות חששות להסלמה

השימוש הגובר בבינה מלאכותית במערכות הגנה משנה את המהירות שבה ניתן לקבל החלטות צבאיות. עם זאת, ההאצה הזו גם יוצרת סיכונים, במיוחד כאשר למפעילים האנושיים יש פחות זמן להעריך מידע, לאתגר המלצות אוטומטיות או להתערב לפני שמבצע מתבצע.

על פי גייס, טעויות ופירושים שגויים עשויים להיות להם תוצאות חמורות, במיוחד כאשר מערכות אוטומטיות פועלות במצבים המעורבים באי ודאות או במתיחות גיאופוליטית מוגברת.

הסיכונים חורגים מעבר לשדות הקרב המסורתיים. בסצנריואים הקשורים לנשק גרעיני, החלטות המתקבלות תחת לחצים זמן חמורים עשויות לתרום לטעויות חישוב ולהסלמה, מה שהופך את הקשר בין אוטומציה לשיפוט אנושי לדאגה מרכזית לביטחון בינלאומי.

הדיון לכן חורג מהחדשנות הטכנולוגית. הוא מעלה שאלות יסודיות לגבי אחריות, גבולות האוטונומיה של מכונות ואחריות המדינות כאשר מערכות צבאיות נתמכות בבינה מלאכותית גורמות נזק.

UNIDIR מרחיבה יוזמות שיתוף פעולה בינלאומיות

בתגובה לאתגרים הללו, UNIDIR הקימה מרכז מצוינות על בינה מלאכותית, שלום וביטחון בג'נבה. היוזמה נועדה לחזק את המומחיות ולתמוך בדיונים בינלאומיים על ההשלכות של בינה מלאכותית על מניעת קונפליקטים, פירוק נשק ויציבות עולמית.

המכון גם מכין מספר יוזמות בניו יורק כדי לעודד דיאלוג בין ממשלות, חברות טכנולוגיה, חוקרים ובעלי עניין אחרים.

בין הצעדים המתוכננים נמצא פורום רב-צדדי, מסגרת וולונטרית המעודדת התנהלות אחראית מצד חברות טכנולוגיה, ומילון משותף שנועד להבהיר את המונחים הקשורים לאוטונומיה צבאית וביטחון.

קביעת הגדרות משותפות היא חלק חשוב מהתהליך, שכן מדינות ומומחים טכניים זקוקים למילון משותף כדי לדון ביכולות, במגבלות ובסיכונים של מערכות צבאיות הולכות ומתקדמות.

שחקנים לא מדינתיים מציבים אתגר ביטחוני נוסף

UNIDIR בוחנת גם את האפשרות של שימוש לרעה בבינה מלאכותית על ידי קבוצות חמושות לא מדינתיות, רשתות פשע וארגוני טרור.

התפשטות טכנולוגיות בינה מלאכותית נגישות עשויה ליצור אתגרים ביטחוניים נוספים אם שחקנים כאלה ינצלו אותן כדי לתמוך בפעילויות מזיקות. התמודדות עם איומים אלה דורשת תיאום בינלאומי לצד מאמצים לפתח פרקטיקות אחראיות עבור טכנולוגיות צבאיות ואזרחיות.

המכון גם מתכנן לתרום להכנות לוועידת בינה מלאכותית בג'נבה שתתקיים ביוני 2027, מה שיספק הזדמנות נוספת לדון בקשר בין טכנולוגיות מתפתחות, שלום וביטחון בינלאומי.

שבוע הפירוק מציב את הבינה המלאכותית הצבאית תחת scrutiny

הערותיו של גייס מגיעות לקראת שבוע הפירוק של האומות המאוחדות, הנחגג בין 24 ל-30 באוקטובר. היוזמה השנתית שהוקמה בשנת 1995 שואפת לשפר את המודעות הציבורית וההבנה של בעיות פירוק נשק ומשמעותן הרחבה.

השימוש הצבאי הגובר בבינה מלאכותית מוסיף דחיפות לדיונים הללו, במיוחד כאשר ההתפתחות הטכנולוגית ממשיכה להקדים את המאמצים הבינלאומיים להקים אמצעי הגנה משותפים.

עבור האומות המאוחדות, האתגר הוא לעודד חדשנות מבלי לאפשר לאוטונומיה הגוברת של מערכות הנשק לפגוע באחריות האנושית, יציבות בינלאומית והגנה על אזרחים.

כשהממשלות וחברות הטכנולוגיה חוקרות יכולות חדשות של בינה מלאכותית, הדיון על כמה סמכות יש למכונות לתפקד במלחמה חמושה הופך לנושא חשוב יותר ויותר לדיפלומטיה עולמית.