מנהיגי העולם קוראים לכללים מחייבים לבטיחות של אינטליגנציה מלאכותית מתקדמת

Yesterday 13:50

יותר מ-20 מדינות קראו להגנות חזקות ומחייבות משפטית עבור מערכות אינטליגנציה מלאכותית מתקדמות, והזהירו כי הקצב המהיר של הפיתוח הטכנולוגי עלול לעקוף את יכולת הממשלות לנהל סיכונים מתעוררים.

בהצהרה משותפת שהונפקה לקראת פתיחת האסיפה הכללית של האומות המאוחדות בניו יורק, מנהיגים לאומיים הדגישו כי מודלים של אינטליגנציה מלאכותית שמסוגלים יותר ויותר עלולים להוות סיכונים חמורים לבטיחות ולביטחון אם הם ינוצלו לרעה או יופעלו ללא פיקוח נאות. הם ציינו תקריות אחרונות שבהן מערכות אינטליגנציה מלאכותית הצליחו לדלג על הגנות הבדיקה ולהשיג גישה לא מורשית לתשתיות בעולם האמיתי, והדגישו חששות הולכים וגוברים לגבי מגבלות אמצעי הבטיחות הקיימים.

ההצהרה נתמכה על ידי מנהיגים ממדינות כמו נורבגיה, פינלנד, אוסטרליה, קנדה, גרמניה, ספרד, אירלנד, הולנד, סינגפור, דרום אפריקה וקניה, כמו גם על ידי נשיאת הנציבות האירופית אורסולה פון דר ליין.

ארצות הברית וסין, שתי מעצמות האינטליגנציה המלאכותית המובילות בעולם, לא חתמו על ההצהרה. בריטניה, צרפת, יפן והודו גם לא היו ברשימת החותמים הראשוניים, אם כי ההצהרה נותרה פתוחה לתומכים נוספים.

המנהיגים קראו לחברות טכנולוגיה להציג פרקטיקות בטיחות יותר שקופות, כולל בדיקות חובה והערכות עצמאיות של מערכות מתקדמות. הם גם הדגישו כי טכנולוגיות אינטליגנציה מלאכותית החזקות יותר צריכות להישאר תחת הכוונה, פיקוח ושליטה משמעותיים של בני אדם.

באותה עת, ההצהרה הדגישה כי הגנות חזקות יותר לא צריכות ליצור פער רחב יותר בין המדינות ביכולתן להפיק תועלת מאינטליגנציה מלאכותית. הגישה להזדמנויות הכלכליות והחברתיות של הטכנולוגיה נותרה סוגיה מרכזית כאשר ממשלות שואפות להקים כללים משותפים מבלי להגביל חדשנות או להחריג כלכלות מתפתחות.

החותמים קראו גם למדינות חברות האומות המאוחדות לשקול הקמת מוסד בינלאומי שיכול לפתח סטנדרטים לבטיחות אינטליגנציה מלאכותית, לפקח על ציות ולהביא ממשלות יחד כאשר מערכות מגיעות לרמות טכניות מוגדרות מראש.

הקריאה מגיעה כאשר צפוי כי אינטליגנציה מלאכותית תתפוס מקום מרכזי בדיונים באסיפה הכללית של האומות המאוחדות. ממשלות בוחנות יותר ויותר את השפעת הטכנולוגיה על תעסוקה, סייבר, ביטחון לאומי ומבנים חברתיים וכלכליים רחבים יותר.

הדיון הבינלאומי מתנהל גם על רקע הבדלים בין מעצמות גדולות לגבי כמה רגולציה יש להטיל על תחום האינטליגנציה המלאכותית המתרחב במהירות. נשיא ארצות הברית דונלד טראמפ התנגד בפומבי למה שהוא רואה כהגבלות בטיחות מופרזות על אינטליגנציה מלאכותית והתחייב לתמוך בצמיחה המתמשכת של התעשייה.

בינתיים, פקידים כלכליים אמריקאיים וסיניים דנים באפשרות להקים ערוץ תקשורת המוקדש לדאגות הקשורות לאינטליגנציה מלאכותית. מנגנון כזה יכול לספק דרך לשתי המדינות להחליף מידע על סיכונים מתעוררים כאשר הן מתכוננות לפגישה ברמה גבוהה מאוחר יותר השבוע.

היוזמה האחרונה משקפת מאמץ בינלאומי רחב יותר לפתח עקרונות משותפים עבור אינטליגנציה מלאכותית מתקדמת בזמן שממשלות נתונות ללחץ לאזן בין חדשנות טכנולוגית לבטיחות, אחריות ופיקוח אנושי.