בינה מלאכותית עלולה להוביל להכחדת האדם
בעוד שבינה מלאכותית מתפשטת במהירות בכל המגזרים, קבוצת חוקרים ומנהלים טכנולוגיים משמיעה אזעקה: אם המסלול הנוכחי יימשך, מערכות בינה מלאכותית עוצמתיות עלולות לגרום להכחדת האדם תוך שנה.
בין החותמים על קריאה זו נמנים ג'פרי הינטון, הנחשב לאחד מ"אבות הבינה המלאכותית", זוכה פרס טיורינג יהושע בנג'יו, ומנהלים מחברות מובילות כמו OpenAI, Anthropic, DeepMind וגוגל. במכתב פתוח הם קוראים להתייחס למניעת סיכונים קיומיים הקשורים לבינה מלאכותית כאל עדיפות עולמית, בדומה למגפות או מלחמות גרעיניות.
תרחישים מפחידים כוללים שימוש בבינה מלאכותית לתכנון ופריסה דיסקרטיים של נשק ביולוגי בערים גדולות, או הופעתן של התנהגויות בלתי צפויות ומניפולטיביות מעבר לשליטת האדם. נייט סוארס, מנהל המכון לחקר בינה מלאכותית, מעריך את ההסתברות להכחדת האדם ב"לא פחות מ-95%" אם לא יופעלו בלמים, ומשווה את המצב ל"מכונית הדוהרת לעבר נקיק במהירות של 160 קמ"ש".
הסכנה תבוא בעיקר מהמעבר מ"בינה מלאכותית צרה", המוגבלת למשימות ספציפיות, לבינה מלאכותית כללית (AGI), המסוגלת להשתוות ליכולות אנושיות ואז לעלות עליהן. התפתחות לעבר "בינה מלאכותית-על" עשויה לפתוח פרספקטיבות מדעיות חסרות תקדים, אך מעלה את הבעיה הבלתי פתירה של התאמתה לאינטרסים אנושיים.
עם זאת, ישנם קולות הממתנים את התחזיות הללו. הולי אלמור, מנהלת הארגון הלא ממשלתי PauseAI, מעריכה את הסיכון להכחדה בין 15% ל-20%, אך מדגישה כי בינה מלאכותית תוביל, לכל הפחות, לאובדן הדרגתי של כוח קבלת ההחלטות האנושי, שיצטמצם לתפקיד משני בעולם אוטומטי. היא דוגלת בהקפאה בינלאומית על פיתוח בינה מלאכותית ובקביעת אמנות מחייבות.
עם זאת, קריאה זו סותרת את המירוץ הקדחתני בין ממשלות ועסקים, במיוחד בארצות הברית תחת ממשל טראמפ, לליברליזציה נוספת של מחקר בינה מלאכותית ולמשוך את הכישרונות הטובים ביותר.
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
-
08:45
