חוקר לשעבר בגוגל דיפמיינד מזהיר שהבינה המלאכותית עשויה להתקרב לסף מסוכן
אזהרות לגבי הסיכונים הפוטנציאליים של בינה מלאכותית מתקדמת הולכות ומתרקמות ככל שהחוקרים ומובילי הטכנולוגיה דנים כמה מהר התעשייה צריכה לפתח מערכות בעלות יכולות הולכות ומתרקמות. בילאל צ'וגטהי, חוקר לשעבר בגוגל דיפמיינד, הביע דאגה שהקצב המהיר של ההתקדמות עלול להשאיר את האנושות עם זמן מועט מדי למנוע תוצאות חמורות.
צ'וגטהי עזב לאחרונה את גוגל דיפמיינד, שם עבד באלפבית על נושאים הקשורים לבטיחות הבינה המלאכותית וליישור מערכות הבינה המלאכותית עם האינטרסים האנושיים. בפוסטים ששיתף בפלטפורמות מדיה חברתית, הוא תיאר את ההתפתחויות האחרונות בתחום כמקור לדאגה משמעותית.
החוקר טוען כי הבינה המלאכותית עשויה בסופו של דבר להגיע לרמה של יכולת שמציבה סיכון קיומי לאנושות. בעוד שסcenario כזה עדיין נושא לדיון בקרב מדענים ומומחי טכנולוגיה, הערותיו משקפות דיון הולך ומתרקם האם אמצעי הבטיחות הנוכחיים מספיקים עבור מערכות הבינה המלאכותית המתקדמות יותר.
הדאגה קשורה להתרחבות המהירה של בינה מלאכותית גנרטיבית ולפיתוח מערכות המסוגלות לבצע משימות הולכות ומתרקמות. מודלים של בינה מלאכותית מופצים ברחבי מחקר, פיתוח תוכנה, עסקים, חינוך ותחומים אחרים, בעוד שחברות טכנולוגיה ממשיכות להשקיע כבד בתשתיות מחשוב ובמחקר שמטרתו ליצור מערכות בעלות יכולות גבוהות יותר.
אחת השאלות המרכזיות היא האם ההתקדמות ביכולות הבינה המלאכותית מתקדמת בקצב עם ההתקדמות באמצעי הבטיחות והשליטה. חוקרים העובדים על יישור בינה מלאכותית שואפים להבטיח שמערכות חזקות יתנהגו בהתאם לכוונות האנושיות ויישארו תחת פיקוח אנושי משמעותי. עם זאת, ככל שהמערכות הופכות לאוטונומיות יותר, שמירה על אותה שליטה עשויה להפוך לאתגר הולך ומתרקם.
אזהרתו של צ'וגטהי מגיעה על רקע דאגות דומות שהביעו דמויות בולטות אחרות בתעשיית הטכנולוגיה. דאריו אמודאי, מנכ"ל אנתרופיק, קרא ליותר זהירות בפיתוח המערכות המתקדמות ביותר של בינה מלאכותית, וטוען כי המפתחים צריכים לקחת ברצינות את האפשרות שמודלים בעלי יכולות גבוהות יפיקו תוצאות מסוכנות.
הדיון משך גם תשומת לב ממובילי טכנולוגיה כולל מנכ"ל OpenAI סם אלטמן והיזם אילון מאסק. הדעות שלהם שונות בנוגע להיבטים שונים של פיתוח ורגולציה של בינה מלאכותית, אך הדיון הרחב משקף הכרה הולכת ומתרקמת שההתקדמות הטכנולוגית צריכה להתלוות לאמצעי בטיחות אפקטיביים.
באותו הזמן, צ'וגטהי לא טוען שיש לנטוש את הבינה המלאכותית לחלוטין. עבודתו המתמשכת בתחום משקפת את העמדה שבינה מלאכותית יכולה להתפתח בצורה בטוחה אם חוקרים, חברות וממשלות ישקיעו מספיק בניהול סיכונים ובפריסה אחראית.
לאחר עזיבתו מגוגל דיפמיינד, צ'וגטהי הצטרף לארגון ללא מטרות רווח BlueDot Impact, שם עבודתו מתמקדת בהכשרת אנשי מקצוע לגבי עקרונות בטיחות הבינה המלאכותית. המטרה היא לעזור לאנשים העובדים בתחומים שונים להבין את הסיכונים המתעוררים ולפתח את הידע הנדרש לניהול אפליקציות בינה מלאכותית הולכות ומתרקמות.
בטיחות הבינה המלאכותית הפכה לבעיה מדינית רחבה יותר ככל שממשלות ברחבי העולם שוקלות כיצד לרגול את המערכות החזקות מבלי למנוע חדשנות מועילה. מחוקקים בודקים תחומים כגון שקיפות, בדיקות, אחריות, אבטחת סייבר ומעקב אחר מודלים מתקדמים.
הדיון גם מסובך על ידי מהירות ההתפתחות הטכנולוגית. יכולות בינה מלאכותית חדשות יכולות לצוץ מהר יותר מאשר מסגרות רגולציה יכולות להתעדכן, בעוד שחברות נתקלות במניעי מסחר חזקים להתחרות בשוק המתרחב במהירות. זה הגביר את הקריאות לשיתוף פעולה בין חוקרים, חברות טכנולוגיה וממשלות.
תומכי אמצעי הבטיחות החזקים יותר טוענים כי המטרה היא לא בהכרח להפסיק את פיתוח הבינה המלאכותית אלא להבטיח שהמחקר על בטיחות יתקדם במקביל ליכולות. הם טוענים כי זיהוי סיכונים פוטנציאליים לפני שהמערכות הופכות חזקות יותר יכול לספק סיכוי טוב יותר למנוע תוצאות מזיקות.
הערותיו של צ'וגטהי מוסיפות לכן לדיון הולך ומתרקם לגבי המסלול הארוך טווח של הבינה המלאכותית. האם התסריטים החמורים ביותר יתממשו נשאר לא ברור, אך הדאגות לגבי שליטה, יישור ואחריות הולכות והופכות לחלק חשוב יותר ויותר בדיונים על עתיד הבינה המלאכותית המתקדמת.
-
09:47
-
09:47
-
09:32
-
09:15
-
21:00
-
20:32
-
20:15
-
20:00
-
19:40
-
19:19
-
19:00
-
18:35
-
18:15
-
18:00
-
17:30
-
17:15
-
16:50
-
16:33
-
16:16
-
16:00
-
15:42
-
15:25
-
15:10
-
14:47
-
14:32
-
14:15
-
14:00
-
13:40
-
13:20
-
13:05
-
12:45
-
12:30
-
12:12
-
11:47
-
11:32
-
11:15
-
11:00
-
10:42
-
10:25
-
10:10
-
10:10
