מומחה מוביל לבינה מלאכותית דוחה את לוח הזמנים להרס האנושות האפשרי
מומחה מוביל לבינה מלאכותית החזיר את לוח הזמנים שלו לאבדון הבינה המלאכותית, באומרו שייקח יותר זמן ממה שחזה בתחילה עד שמערכות בינה מלאכותית יוכלו לקודד באופן אוטונומי וכך להאיץ את התפתחותן לעבר אינטליגנציה-על.
דניאל קוקוטג'לו, עובד לשעבר של OpenAI, עורר דיון נמרץ באפריל כשפרסם את AI 2027, תרחיש החוזה פיתוח בלתי מבוקר של בינה מלאכותית המוביל ליצירת אינטליגנציה-על, אשר - לאחר שהערימה על מנהיגי העולם - הורסת את האנושות.
התרחיש זכה במהירות למעריצים ולמתנגדים. סגן נשיא ארה"ב, ג'יי.די. ואנס, נראה שהתייחס לבינה מלאכותית 2027 בראיון במאי האחרון כשדן במרוץ החימוש של ארה"ב לבינה מלאכותית עם סין. גארי מרקוס, פרופסור אמריטוס למדעי המוח באוניברסיטת ניו יורק, כינה את היצירה "יצירת בדיונית" ואת מסקנותיה השונות "מדע בדיוני טהור, ג'מבו ג'מבו".
לוחות זמנים לבינה מלאכותית טרנספורמטיבית - המכונה לעיתים AGI (בינה כללית מלאכותית), או בינה מלאכותית המסוגלת להחליף בני אדם במשימות קוגניטיביות לכל היותר - הפכו לחלק בלתי נפרד מקהילות המוקדשות לבטיחות בינה מלאכותית. שחרור ChatGPT בשנת 2022 האיץ מאוד את לוחות הזמנים הללו, כאשר גורמים רשמיים ומומחים חזו את הגעתה של AGI תוך עשרות שנים או שנים.
קוקוטג'לו וצוותו ציינו את 2027 כשנה שבה בינה מלאכותית תשיג "קידוד אוטונומי לחלוטין", למרות שאמרו שזוהי ניחוש "סביר ביותר" וכי לחלקם יש לוחות זמנים ארוכים יותר. כעת, נראה כי צצים ספקות לגבי קרבתה של AGI, והאם למונח יש משמעות מלכתחילה.
"אנשים רבים אחרים דחפו את לוחות הזמנים שלהם עוד יותר בשנה האחרונה, כשהם מבינים עד כמה ביצועי הבינה המלאכותית משוננים", אמר מלקולם מאריי, מומחה לניהול סיכונים בתחום הבינה המלאכותית ואחד ממחברי דוח הבטיחות הבינלאומי של בינה מלאכותית.
"כדי שתרחיש כמו בינה מלאכותית 2027 יקרה, [בינה מלאכותית] תזדקק להרבה יותר מיומנויות מעשיות שיהיו שימושיות במורכבויות של העולם האמיתי. אני חושב שאנשים מתחילים להבין את האינרציה העצומה בעולם האמיתי שתעכב שינוי חברתי מוחלט."
"המונח AGI היה הגיוני מרחוק, כאשר מערכות בינה מלאכותית היו מאוד צרות - משחק שחמט ומשחק גו", אמר הנרי פאפאדטוס, המנהל בפועל של עמותת הבינה המלאכותית הצרפתית SaferAI. "עכשיו יש לנו מערכות שהן די כלליות כבר והמונח לא אומר כל כך הרבה."
התוכנית של קוקוטג'לו, AI 2027, מסתמכת על הרעיון שסוכני בינה מלאכותית יבצעו אוטומציה מלאה של קידוד ומחקר ופיתוח של בינה מלאכותית עד 2027, מה שיוביל ל"פיצוץ מודיעיני" שבו סוכני בינה מלאכותית יוצרים גרסאות חכמות יותר ויותר של עצמם, ואז - בסוף אפשרי אחד - יהרגו את כל בני האדם עד אמצע 2030 כדי לפנות מקום לעוד פאנלים סולאריים ומרכזי נתונים.
עם זאת, בעדכון שלהם, קוקוטאילו ושותפיו לכתיבה משנים את ציפיותיהם לגבי מועד שבו בינה מלאכותית תוכל לקודד באופן אוטונומי, ומעריכה שזה יקרה כסביר יותר בתחילת שנות ה-2030, לעומת 2027. התחזית החדשה קובעת את 2034 כאופק החדש ל"אינטליגנציה-על" ואינה מכילה ניחוש לגבי מועד שבו בינה מלאכותית עשויה להשמיד את האנושות.
"נראה שהדברים הולכים מעט לאט יותר מתרחיש 2027 של בינה מלאכותית. לוחות הזמנים שלנו היו ארוכים יותר מ-2027 כשפרסמנו ועכשיו הם עוד קצת ארוכים יותר", כתב קוקוטאילו בפוסט ב-X.
יצירת בינה מלאכותית שיכולה לבצע מחקר בינה מלאכותית היא עדיין מטרה קבועה של חברות בינה מלאכותית מובילות. מנכ"ל OpenAI, סם אלטמן, אמר באוקטובר כי חוקר בינה מלאכותית אוטומטי עד מרץ 2028 היה "מטרה פנימית" של החברה שלו, אך הוסיף: "אנחנו עלולים להיכשל לחלוטין במטרה זו".
אנדראה קסטניה, חוקרת מדיניות בינה מלאכותית שבסיסה בבריסל, אמרה שיש מספר מורכבויות שלוחות הזמנים הדרמטיים של AGI אינם מטפלים בהן. "העובדה שיש לכם מחשב סופר-אינטליגנטי המתמקד בפעילות צבאית לא אומרת שאתם יכולים לשלב אותו במסמכים האסטרטגיים שאספנו במשך 20 השנים האחרונות.
"ככל שאנחנו מפתחים יותר בינה מלאכותית, אנחנו רואים יותר שהעולם אינו מדע בדיוני. העולם הרבה יותר מסובך מזה."
-
14:10
-
14:05
-
14:00
-
13:53
-
13:48
-
13:33
-
13:21
-
13:21
-
13:15
-
13:04
-
12:48
-
12:30
-
12:12
-
11:47
-
11:28
-
11:20
-
11:16
-
11:11
-
10:52
-
10:47
-
10:32
-
10:25
-
10:19
-
10:15
-
10:12
-
10:07
-
09:58
-
09:50
-
09:33
-
09:15
-
08:48
-
08:44
-
08:30
-
08:25
-
08:24
-
08:17
-
08:13
-
08:10
-
07:45
-
07:21
-
19:00
-
18:33
-
18:15
-
18:00
-
17:32
-
17:17
-
16:51
-
16:33
-
16:16
-
15:50
-
15:33
-
15:30
-
15:25
-
15:23
-
15:15
-
14:48
-
14:30
-
14:14
