מיקרוסופט רוצה להבטיח שליטה אנושית על הבינה המלאכותית שלה בעתיד
נוכח החששות הגוברות לגבי יכולותיהם של מערכות הבינה המלאכותית המתקדמות ביותר, מיקרוסופט מכינה כללים פנימיים חדשים שמטרתם לשמור על טכנולוגיות אלו תחת פיקוח אנושי. הקבוצה האמריקאית פרסמה לאחרונה טיוטת קוד התנהגות שמבוססת על מספר עקרונות הנוגעים להתנהגות המודלים העתידיים שלה.
מיקרוסופט מתכוונת להסדיר בצורה מחמירה יותר את הפיתוח של מערכות הבינה המלאכותית שלה. הענקית האמריקאית הציגה ביום שני, ה-14 בספטמבר, טיוטת קוד התנהגות שמטרתה להגדיר את הגבולות שעל המודלים העתידיים שלה לציית להם.
המסמך, שהוכן במשך חמישה עד שישה חודשים, מבוסס על עיקרון מרכזי: בינה מלאכותית לא יכולה להתנגד להתערבות אנושית. לפי הטיוטה, המערכות שיפותחו על ידי מיקרוסופט צריכות לקבל תיקון, שינוי או הפסקה של פעולתה מבלי לנסות להתנגד לכך.
הפסקה ותיקון צריכים להישאר בידיים אנושיות
אחת מהוראות המפתח המוצעות נוגעת בדיוק לאפשרות לתקן או לכבות מערכת בינה מלאכותית. מיקרוסופט רוצה שהמודלים שלה לא יפתחו שום התנהגות שמטרתה למנוע התערבות כזו.
דרישה זו נובעת מחשש המלווה את התקדמות מערכות הבינה המלאכותית היכולת לבצע משימות מורכבות יותר ויותר: מודל יכול, במצבים מסוימים, לנסות להשיג את מטרתו בדרך בלתי צפויה או מסוכנת פוטנציאלית.
לכן, טיוטת הקוד שואפת להפוך כל התנגדות לתיקון או להפסקה להתנהגות שאינה מקובלת.
בינות מלאכותיות שנועדו להישאר מובנות
מיקרוסופט מתכוונת גם לדרוש מהמערכות שלה לתקשר בצורה מובנת עבור בני אדם. המטרה היא להקל על הפיקוח על ההתנהגות שלהן ולאפשר למשתמשים או למנהלים לזהות טוב יותר בעיות פוטנציאליות.
המסמך רואה בכל הפרת עקרונות אלו ככישלון של המערכת. גישה זו מכוונת להקים מגבלות כבר בשלב התכנון של המודלים העתידיים במקום לחכות להתנהגות בעייתית שתופיע לאחר השקתן.
התייעצות לפני השימוש בקוד
עם זאת, הטיוטה עדיין אינה סופית. מיקרוסופט מתכוונת לאסוף במשך שישה שבועות תגובות מהציבור לפני שתשתמש בהן כדי לתרום לאימון מודלים עתידיים של בינה מלאכותית.
שלב ההתייעצות הזה מתרחש כאשר חברות טכנולוגיה נתקלות בלחץ גובר להוכיח שהן יכולות לשלוט במערכות הבינה המלאכותית החזקות ביותר.
מוסטפה סולימאן, מנהל הבינה המלאכותית במיקרוסופט, גם דיבר עם רויטרס על הסיכונים הקשורים לסוכני בינה מלאכותית. הוא ציטט במיוחד אירוע שקשור לסוכנים של OpenAI ופלטפורמת Hugging Face.
שלב חדש בדיון על אבטחת הבינה המלאכותית
עם הפרויקט הזה, מיקרוסופט שואפת לנסח סדרה של עקרונות שנועדו ללוות את התפתחות הטכנולוגיות שלה. החברה מצטרפת בכך לדיון רחב יותר על הדרך לפתח מערכות אוטונומיות יותר ויותר מבלי לאבד את היכולת לפקח עליהן ולהפסיקן.
שאלת השליטה האנושית הופכת לחשובה עוד יותר ככל שהמודלים של הבינה המלאכותית צפויים להתערב במשימות מורכבות ולנקוט יוזמות נוספות. עבור מיקרוסופט, האתגר הוא לשלב את המגבלות הללו בלב הפיתוח הטכנולוגי.
-
08:29
-
08:11
-
08:10
-
07:47
-
07:32
-
07:15
-
19:00
-
18:28
-
18:10
-
17:47
-
17:32
-
17:15
-
17:00
-
16:42
-
16:25
-
16:10
-
15:47
-
15:30
-
15:15
-
14:50
-
14:33
-
14:14
-
14:00
-
13:42
-
13:24
-
13:13
-
13:10
-
12:47
-
12:30
-
12:12
-
11:48
-
11:33
-
11:15
-
11:00
-
10:42
-
10:22
-
10:05
-
09:45
-
09:44
-
09:35
-
09:24
-
09:09
-
08:44
