האם ניתן באמת להאט את מרוץ הבינה המלאכותית הגלובלי?

09:45

ההתקדמות המהירה של הבינה המלאכותית מעוררת דאגה גוברת בקרב חוקרים, מנהלי טכנולוגיה ומקבלי החלטות, כאשר כמה מהדמויות המשפיעות ביותר בתעשייה קוראות כעת לגישה איטית ומסודרת יותר לפיתוח בינה מלאכותית.

עם זאת, להאט את הטכנולוגיה עשוי להתברר כקשה הרבה יותר מאשר לקרוא להיזהר. תחרות מסחרית עזה, השקעות עצומות, עדיפויות מדיניות אמריקאיות והמתיחות הגוברת בין וושינגטון לפקינג יוצרות תמריצים חזקים להמשיך לדחוף את יכולות הבינה המלאכותית קדימה.

הדיון האחרון הוזן על ידי דאגות שנעות משימוש זדוני בבינה מלאכותית על ידי פושעים ועד האפשרות שמערכות אוטונומיות יותר ויותר עשויות להתנהג בדרכים שהמפתחים שלהן לא ציפו להן. כמה מומחים חוששים שמערכות מתקדמות מספיק עשויות בסופו של דבר להימלט משליטה אנושית משמעותית.

המנכ"ל של אנטרופיק, דאריו אמודאי, הפך לאחד התומכים הבולטים ביותר בהאטה מתואמת. הוא טוען שחברות טכנולוגיה וממשלות זקוקות לזמן נוסף כדי להבין את הסיכונים הקשורים לדגמים המתקדמים יותר ולפתח אמצעי הגנה אפקטיביים.

עמדתו קיבלה תמיכה מהמנכ"ל של OpenAI, סם אלטמן, מייסד xAI, אילון מאסק, וראש Google DeepMind, דמיס חסאביס. אלטמן תיאר את הסיכון הפוטנציאלי של הבינה המלאכותית לתרום להכחדה אנושית כבלתי מתקבל על הדעת.

אמודאי הזהיר שמערכות של סוכני בינה מלאכותית עשויות בסופו של דבר להיות מסוגלות לפעול ברחבי האינטרנט בקנה מידה שיקשה על פיקוח אנושי. לכן הוא קרא לשיתוף פעולה חזק יותר בין חברות לממשלות כדי להבטיח שהמערכות המתקדמות יישארו תואמות להנחיות ולדרישות הבטיחות של בני אדם.

האזהרות המחודשות מגיעות לאחר סדרה של תקריות מדווחות שבהן מערכות בינה מלאכותית אינטראקציה עם סביבות דיגיטליות בדרכים בלתי צפויות. במהלך ניסויים, חוקרים תיעדו מערכות שמנסות לעקוף הגבלות, לגשת למשאבים חיצוניים, לתאם עם דגמים אחרים ולהסתיר אספקטים של פעילותן.

תקריות כאלה החמירו את הדיון האם אמצעי הבטיחות הנוכחיים מצליחים לעמוד בקצב עם יכולות הבינה המלאכותית המודרנית.

אנתרופיק דיווחה גם על ניסיונות מצד שחקנים זדוניים לנצל את דגמיה לפעולות סייבר, ריגול ומחקר שעשויים לתרום לאיומים ביולוגיים. בינתיים, חוקר הבטיחות לשעבר של הבינה המלאכותית, ג'ייקוב קוקסון, מתח ביקורת פומבית על מה שתיאר כסטנדרטים לא מספיקים של אבטחה בתעשייה.

למרות הקריאות להיזהר, חברות הבינה המלאכותית המובילות מתמודדות עם דילמה כלכלית חזקה. מאות מיליארדי דולרים מושקעים בתשתיות מחשוב, מרכזי נתונים, שבבים מתקדמים ומחקר בינה מלאכותית. חברה שמאטה את הפיתוח שלה עלולה לסכן את עצמה בכך שתאפשר למתחרים להשיג יתרון טכנולוגי ומסחרי.

בינתיים, כמה חברות הציגו מנגנוני פיקוח עצמאיים שנועדו להעריך את פרקטיקות הבטיחות שלהן בבינה מלאכותית. אך אמצעים אלה אינם מספיקים כדי להשיג את סוג ההאטה הבינלאומית המתואמת שהתומכים בבטיחות קוראים לה.

מבקרים גם שאלו האם הקריאות לריסון נובעות אך ורק מדאגות לגבי בטיחות הציבור. כמה דמויות טכנולוגיות והשקעה הציעו כי חברות עשויות להרוויח מסחרית מהצגת עצמן כשחקנים האחראיים ביותר בשוק המתרחב במהירות.

אחרים טוענים כי רגולציה חזקה יותר עשויה להגן על חברות הבינה המלאכותית המוכרות על ידי יצירת מחסומים שעם להם מתחרים קטנים יתקשו לעמוד. זה חידד האשמות כי דאגות הבטיחות עשויות לפעמים לחפוף עם אינטרסים מסחריים ורגולטוריים.

שוקי ההון גם עוקבים מקרוב אחרי הדיון. הערכות הבינה המלאכותית והשבבים תלויות במידה רבה בציפיות להמשך התקדמות טכנולוגית ובביקוש חזק לתשתיות מחשוב. האטה משמעותית עשויה להשפיע על חברות שהערכותיהן מניחות התרחבות מהירה.

באופן דומה, משקיעים מתמודדים עם שאלה רחבה יותר: גם אם הבינה המלאכותית משנה את הכלכלה הגלובלית, האם כל חברה ופרויקט תשתית המפיק תועלת מהבום ההשקעות הנוכחי יניבו תשואות אטרקטיביות?

ההיענות הפוליטית להאטת פיתוח הבינה המלאכותית אינה ברורה גם כן. הנשיא האמריקני דונלד טראמפ דחה חלק מהאזהרות של התעשייה כשליליות מדי והדגיש את החשיבות של שמירה על ההובלה האמריקאית בבינה מלאכותית.

למרות שחוקרים משני הצדדים הביעו דאגות לגבי בטיחות הבינה המלאכותית וקראו לכללים נוספים, יש התנגדות משמעותית לרגולציה בקרב כמה רפובליקנים. אחת הטענות היא כי הגבלות מופרזות עשויות להחליש את החדשנות האמריקאית ולתת יתרון לסין בתחרות הגלובלית על הבינה המלאכותית.

זה מקשה במיוחד על תיאום בינלאומי.

אמודאי הציע כי מדינות דמוקרטיות יכולות לשתף פעולה בנושא בטיחות הבינה המלאכותית, תוך כדי exclusion של סין מכמה סוגי תיאום. אך הוא גם הכיר בכך שההתקדמות הטכנולוגית של סין יוצרת אחת מהדילמות המורכבות ביותר העומדות בפני התעשייה: האטה עשויה להפחית סיכונים מסוימים, אך לעשות זאת חד צדדית עשוי לשנות את האיזון של הכוח הטכנולוגי.

פקידים סינים ומדיה הנתמכת על ידי המדינה מתחו ביקורת על הקריאות להגבלות, מתארים אותן כניסיונות להכיל את ההתפתחות הטכנולוגית של סין.

הנושא רגיש במיוחד משום שהארצות הברית וסין רודפות גישות שונות לפיתוח הבינה המלאכותית. סין קידמה את הצמיחה של מערכות בינה מלאכותית פתוחות יותר, שהטכנולוגיה הבסיסית שלהן ניתנת לגישה ולשינוי, בעוד שרבות מהחברות האמריקאיות הגדולות מעדיפות מודלים סגורים.

מערכות פתוחות יכולות לעודד חדשנות ונגישות רחבה יותר, אך ההתאמה שלהן עשויה גם להקשות על הפיקוח לאחר שחרורן. משתמשים עשויים לשנות דגמים בדרכים שהמפתחים המקוריים שלהם לא ציפו להן, מה שיוצר אתגרים נוספים לבטיחות ולפיקוח.

אמודאי טוען לכן כי בקרות ייצוא חזקות יותר על טכנולוגיית השבבים המתקדמת ביותר עשויות להיות חלק מאסטרטגיה רחבה יותר לתת לחברות יותר מקום להעדיף בטיחות. הוא גם קרא לאמצעים למניעת העברת טכנולוגיית בינה מלאכותית מתקדמת ללא רשות.

בסופו של דבר, השאלה אינה פשוטה האם ניתן להאט את פיתוח הבינה המלאכותית, אלא האם ממשלות וחברות מתמודדות יכולות להסכים על היכן צריכים להיות הגבולות.

התמריצים הכלכליים העצומים של תעשיית הטכנולוגיה מעדיפים מהירות, בעוד שדאגות גוברות לגבי אבטחת סייבר, איומים ביולוגיים, מידע שקרי ומערכות אוטונומיות מעדיפים זהירות. ללא תיאום בינלאומי, ריסון וולונטרי על ידי חברות בודדות עשוי להישאר קשה לשמירה.

מרוץ הבינה המלאכותית נכנס לכן לשלב קריטי שבו יכולת טכנולוגית, תחרות מסחרית ובטיחות ציבורית משולבים יותר ויותר. האם ניתן להחיל בלמים משמעותיים עשוי להיות תלוי פחות בחברה בודדת המחליטה להאט ויותר האם ממשלות מרכזיות יכולות להקים כללים שהופכים פיתוח אחראי לדרישה משותפת ולא לחיסרון תחרותי.