אלון מאסק קורא לחברות AI מתחרות לבדוק אחת את מודלי השנייה
אלון מאסק הציע גישה חדשה לביטחון של אינטליגנציה מלאכותית, שתדרוש מהמפתחים הגדולים של AI לבדוק את המודלים זה של זה לפני שחרורם לציבור הרחב. הרעיון עולה כאשר הדאגות גוברות לגבי הסיכונים הקשורים למערכות AI מתקדמות יותר ולקושי בזיהוי פגיעויות פוטנציאליות באמצעות בדיקות פנימיות בלבד.
בדבריו בוועידת All-In בלוס אנג'לס, מאסק הציע שחברות AI אמריקאיות וסיניות מובילות יעניקו למתחרים גישה למודלים שלהן לצורך הערכות ביטחוניות עצמאיות. תחת מערכת כזו, מפתחים מתחרים יוכלו לבחון מודלים שפותחו על ידי חברות אחרות, לזהות חולשות ולדווח על סיכונים פוטנציאליים לפני שהטכנולוגיה תגיע לבסיס משתמשים רחב יותר.
החברות המוזכרות בהצעתו של מאסק כוללות את OpenAI, Anthropic, Google, Meta ואת חברת AI שלו, xAI, יחד עם מספר מפתחים סיניים גדולים. היוזמה תכניס למעשה צורת ביקורת עמיתים לבדיקת ביטחון AI, כאשר מעבדות מתמודדות בודקות מערכות שפותחו מחוץ לארגונים שלהן.
מאסק טוען שהסתמכות בלעדית על צוותי הבטיחות הפנימיים של חברה עשויה להשאיר פגיעויות מסוימות לא גלויות. בדיקות חיצוניות על ידי מתחרים, הוא הציע, עשויות לספק פרספקטיבה שונה ולחשוף חולשות שמפתחים עשויים להתעלם מהן במהלך הערכותיהם.
ההצעה משקפת דיון רחב יותר בתעשיית הטכנולוגיה לגבי איך יש להעריך מערכות AI מתקדמות לפני השימוש בהן. ככל שהמודלים הופכים ליותר מתקדמים ומשולבים יותר בעסקים, תוכנה, חינוך ותחומים נוספים, חוקרים ומקבלי החלטות בוחנים דרכים לשפר את בדיקות הבטיחות ולקבוע תקנים ברורים יותר להערכת סיכונים פוטנציאליים.
מפתחי AI כבר משתמשים במגוון טכניקות להעריך את המערכות שלהם, כולל תרגילים של צוותים אדומים, בדיקות עוינות והערכות שנערכות על ידי חוקרים חיצוניים. עם זאת, היקף ומתודולוגיית ההערכות הללו משתנים במידה רבה בין חברות. הצעתו של מאסק תתקדם עוד יותר על ידי הפיכת בדיקות ישירות בין מתחרים גדולים לחלק יותר שיטתי בתהליך הפיתוח.
סידור כזה עשוי לספק שכבת פיקוח נוספת, במיוחד עבור מודלים עם יכולות מתקדמות. למתחרים עשויים להיות תמריצים לחפש באופן אגרסיבי פגמים מכיוון שהם מכירים את האתגרים הטכניים של פיתוח מערכות דומות ויכולים לגשת לבדיקה מפרספקטיבה שונה מהחברה שיצרה את המודל.
באותה עת, יישום הרעיון יציב אתגרים מעשיים משמעותיים. חברות AI מתמודדות בצורה אינטנסיבית על נתח שוק, כישרון ויתרונות טכנולוגיים, מה שהופך אותן להססניות לתת למתחרים גישה למודלים קנייניים. דאגות לגבי קניין רוחני, אבטחת סייבר, שיטות אימון סודיות וחשש מהגילוי של מידע מסחרי רגיש גם ידרשו התייחסות.
אתגר נוסף יהיה לקבוע כללים משותפים לבדיקה כזו. חברות יצטרכו להסכים על מה ניתן לשתף, כיצד נשלטת הגישה, אילו קריטריוני בטיחות מיושמים ואיך מדווחים על פגיעויות. פיקוח עצמאי עשוי גם להיות הכרחי אם בדיקות מתמודדות מיועדות לשחק תפקיד רשמי בהחלטות לגבי האם מודל AI מוכן לפריסה ציבורית.
ההצעה גם מדגישה את החשיבות הגוברת של שיתוף פעולה בין חברות AI למרות התחרות המסחרית העזה שלהן. מפתחים גדולים מתמודדים על בניית מודלים חזקים יותר תוך כדי לחצים מצד ממשלות, חוקרים וחברה אזרחית להראות שהמערכות שלהן יכולות להיות מופעלות באופן אחראי.
בדיקות בין חברות לא יעלימו את הצורך בצוותי בטיחות פנימיים או במחקר עצמאי. במקום זאת, זה עשוי להשלים את שיטות ההערכה הקיימות על ידי הוספת שכבת פיקוח נוספת לפני שהמודלים המתקדמים יהיו זמינים לציבור הרחב.
לכן, הצעתו של מאסק מוסיפה לדיון המתרחב לגבי איך תעשיית ה-AI צריכה לנהל את הסיכונים הקשורים לפיתוח טכנולוגי מהיר. האם חברות אמריקאיות וסיניות גדולות יהיו מוכנות להשתתף במערכת המבוססת על גישה הדדית ובדיקות תחרותיות נשארת שאלה פתוחה, אך הרעיון מדגיש את הדגש הגובר על הערכות בטיחות רחבות ועצמאיות יותר.
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
-
08:45
