מרק צוקרברג דוחה קריאות להאט את המרוץ לעבר אינטליגנציה מלאכותית מתקדמת
מרק צוקרברג התנגד לקריאות הגוברות להאט את הפיתוח של אינטליגנציה מלאכותית מתקדמת, וטוען שהתחרות, הציפיות של המשתמשים והאחריות המשפטית כבר מעניקות לחברות הטכנולוגיה תמריצים חזקים לגרום למערכות שלהן להיות בטוחות יותר.
עמדתו של מנהיג מטא מגיעה בזמן שהוויכוח על קצב הפיתוח של אינטליגנציה מלאכותית מתגבר ברחבי סיליקון ואלי. כמה מנהיגי טכנולוגיה וחוקרים בולטים הזהירו לאחרונה שמערכות אוטונומיות יותר ויותר עשויות ליצור סיכונים שקשה לנהל אם היכולות יתקדמו מהר יותר מהמנגנוני בטיחות. מנכ"ל אנתרופיק, דאריו אמודאי, קרא להאטה מכוונת, בעוד שמנכ"ל OpenAI, סם אלטמן, ואלון מאסק הביעו תמיכה זהירה יותר.
עם זאת, צוקרברג טוען שהענף לא בהכרח זקוק להפסקה מתואמת. בהערות שפורסמו ב-X, הוא אמר שלמעבדות אינטליגנציה מלאכותית יש גם את האחריות וגם את היכולת לקבוע כמה מהר הן יכולות לפתח את המודלים שלהן תוך שמירה על סטנדרטים בטיחותיים מתאימים. לדעתו, חברות שלא מצליחות לספק מערכות מהימנות מסתכנות באובדן משתמשים לטובת מתחרים שמספקים מוצרים אמינים יותר.
המייסד של מטא גם ציין את החשיפה המשפטית כתמריץ חשוב נוסף. חברות אינטליגנציה מלאכותית שהמערכות שלהן גורמות נזק משמעותי עשויות להתמודד עם תביעות, הפסדים כספיים ונזק למוניטין, מה שיצור לחץ מסחרי לשיפור אמצעי הבטיחות. צוקרברג ציטט את ההחלטה של מטא לדחות את השקת סוכן ה-Muse AI שלה בזמן שנעשו עבודות אבטחה נוספות כדוגמה לאופן שבו חברה יכולה להתאים את תהליך הפיתוח שלה מבלי לחכות להסכם רחב בתעשייה.
אלמנט מרכזי בעמדתו של צוקרברג הוא מושג ההתאמה של אינטליגנציה מלאכותית, המתייחס במובן הרחב למאמצים להבטיח שמערכות אינטליגנציה מלאכותית יתנהגו בהתאם להוראות, מטרות ודרישות בטיחות של בני אדם. הוא טוען שההתאמה והמהימנות הופכות לגורמים תחרותיים חשובים יותר ויותר ככל שסוכני אינטליגנציה מלאכותית לוקחים על עצמם משימות מורכבות יותר.
הדיון הפך לדחוף יותר ככל שמערכות אינטליגנציה מלאכותית עוברות מעבר לפונקציות צ'אטבוט מסורתיות. סוכנים חדשים יכולים לקיים אינטראקציה עם אתרים, תוכנה ושירותים דיגיטליים, לבצע רצפי פעולות ולפעול עם אוטונומיה רבה יותר. יכולות אלו העלו שאלות האם טכניקות המעקב והשליטה הקיימות יישארו יעילות ככל שהמודלים יהפכו למתקדמים יותר. רויטרס דיווחה כי תקריות אחרונות שקשורות לסוכני אינטליגנציה מלאכותית ודאגות לגבי שיפור עצמי חוזר חיזקו את הקריאות לאמצעי בטיחות חזקים יותר.
הוויכוח בתוך התעשייה אינו פשוט לגבי האם יש לפתח אינטליגנציה מלאכותית בבטחה, אלא כיצד יש להשיג את הבטיחות הזו. גישתו של צוקרברג נשענת במידה רבה על תחרות ואחריות תאגידית אישית, בעוד שאמודאי וביקורת אחרים טוענים שהקצב של שיפורי היכולות עשוי לדרוש אמצעי בטיחות קולקטיביים ותיאום גדול יותר בין מעבדות מובילות.
כמה חברות כבר פועלות לשיתוף פעולה בנושא בטיחות. OpenAI דיווחה שהיא דנה בנושא בטיחות אינטליגנציה מלאכותית עם אנתרופיק ו-Google DeepMind, כאשר החברות חוקרות דרכים לתאם על הפחתת סיכונים מבלי לדרוש בהכרח פטורים מיוחדים לחוקי אנטי-טראסט. הדיונים מדגימים את ההכרה הגוברת כי אתגרים מסוימים בתחום הבטיחות עשויים לחרוג מהיכולות או המשאבים של מעבדה בודדת.
במקביל, הרעיון של פעולה מתואמת עורר שאלות רגולטוריות משלו. יו"ר ועדת הסחר הפדרלית של ארה"ב, אנדרו פרגוסון, הביע סקפטיות לגבי הבקשות מחברות אינטליגנציה מלאכותית לפטורים מחוקי אנטי-טראסט, וטוען ששיתוף פעולה בנושא בטיחות לא צריך להפוך למנגנון עבור חברות מבוססות ליצור מכשולים למתחרים.
לכן, הוויכוח מתפתח במספר חזיתות בו זמנית: תחרות טכנולוגית, אחריות תאגידית, רגולציה, תמריצים שוק וההשלכות הפוטנציאליות של מערכות אינטליגנציה מלאכותית אוטונומיות יותר ויותר. נשיאת ועדת האירופית, אורסולה פון דר ליין, גם הודיעה על תוכניות להביא יחד את המעבדות המובילות בתחום האינטליגנציה המלאכותית כדי לדון בדרכים לניהול הסיכונים הקשורים למודלים החזקים יותר ויותר.
עמדתו של צוקרברג משקפת את האסטרטגיה הרחבה יותר של מטא להמשיך להשקיע רבות באינטליגנציה מלאכותית תוך הדגשת אמצעי הבטיחות בתוך תהליך הפיתוח שלה. מנהיגי טכנולוגיה אחרים, בינתיים, תוהים האם אמצעי בטיחות וולונטריים ולחצי שוק יהיו מספיקים ככל שיכולות האינטליגנציה המלאכותית יואצו.
הוויכוח לא צפוי להיעלם בקרוב. ככל שהחברות ממהרות לבנות מודלים וסוכנים בעלי יכולות גבוהות יותר, האתגר המרכזי עבור התעשייה יהיה למצוא איזון בין חדשנות מהירה לבין מנגנונים שיכולים לשמור על מערכות חזקות יותר ויותר מהימנות, ניתנות לשליטה ומיועדות לאינטרסים של בני אדם.
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
-
08:45
