אנתרופיק מזהירה מפני הסכנות של בינה מלאכותית וקוראת להאטת פיתוחה
החברה האמריקאית אנתרופיק מתריעה מפני ההתפתחות המואצת של בינה מלאכותית. בניתוח שערך לאחרונה, החברה, המתמחה במודלים מתקדמים של בינה מלאכותית, סבורה כי השימוש הגובר בבינה מלאכותית לתכנון דורות חדשים של מערכות עלול להוביל לשלב חסר תקדים: "שיפור אוטונומי רקורסיבי", תהליך שבאמצעותו בינה מלאכותית תוכל לפתח גרסאות יעילות יותר של המודלים שלה.
לדברי אנתרופיק, בני אדם היו זה מכבר המניע העיקרי של חדשנות בתחום הבינה המלאכותית. עם זאת, חלק הולך וגדל מהמשימות הקשורות לתכנון מערכות מופקד כעת בידי הבינה המלאכותית עצמה. כתיבת קוד, ביצוע ניסויים, ניתוח תוצאות ואפילו הצעת דרכי מחקר חדשות: פונקציות אלה הופכות לאוטומטיות יותר ויותר.
החברה חושפת כי למעלה מ-80% מהקוד המשולב בתשתית שלה נוצר על ידי מודל קלוד שלה במאי 2026, בהשוואה לחלק שולי לפני השקת כלי קלוד קוד בפברואר 2025. במקביל, נפח הקוד שיוצר לכל מהנדס גדל פי שמונה בהשוואה לתקופה שבין 2021 ל-2025, דבר הממחיש את השינוי המהיר בשיטות הפיתוח.
עבור אנתרופיק, האבולוציה הנוכחית משתרעת כעת מעבר לסיוע פשוט בתכנות. מודלים של בינה מלאכותית מעורבים יותר ויותר בניהול מלא של פרויקטים מחקריים, אופטימיזציה של תהליכי הדרכה, זיהוי שגיאות ושיפור מתמיד של מערכות. תפקידם של חוקרים אנושיים עובר בהדרגה לכיוון פיקוח, אימות וקבלת החלטות אסטרטגיות.
עם זאת, דינמיקה זו מעוררת חששות כבדים. החברה מזהירה כי הופעתן של מערכות המסוגלות לתכנן את יורשיהן בעצמן עלולה להפחית את יכולתם של בני האדם להבין, לנטר או לשלוט בהתפתחותן. בהקשר זה, שאלת התאמת הבינה המלאכותית לאינטרסים אנושיים הופכת לסוגיה מרכזית לעתיד המגזר.
לנוכח סיכונים אלה, אנתרופיק קוראת לדיון בינלאומי על האפשרות להאט, או אפילו להשעות באופן זמני, את פיתוחם של מודלי הבינה המלאכותית המתקדמים ביותר אם יזהו איומים משמעותיים. עם זאת, החברה מדגישה כי גישה כזו יכולה להיות יעילה רק באמצעות תיאום עולמי הכולל מעבדות מובילות, כדי למנוע מכל גורם לנצל הקפאה פוטנציאלית כדי להמשיך את מחקרו בסתר.
החברה גם דוגלת בהקמת מנגנוני פיקוח ואימות בינלאומיים המסוגלים לנטר תוכניות פיתוח מתקדמות. היא מאמינה כי ממשלות, חוקרים עצמאיים, החברה האזרחית וחברות טכנולוגיה חייבים להשתתף במשותף בפיתוח הכללים המסדירים בינה מלאכותית.
אנטרופיק משווה אתגר זה לזה של הסכמי הגבלת נשק גרעיני בינלאומיים, תוך הדגשת כי התפתחות הבינה המלאכותית מתקדמת בקצב מהיר הרבה יותר. מסיבה זו, החברה רואה חיוני לפעול כעת לבניית מנגנוני אמון, שקיפות ופיקוח המותאמים לאתגרי המחר.
תוך הכרה בפוטנציאל הניכר של בינה מלאכותית בתחומי הבריאות, המחקר המדעי והפרודוקטיביות הכלכלית, אנתרופיק מאמינה כי אבטחה וממשל חייבים להפוך לעדיפויות מוחלטות לפני שמערכות חוצות סף טכנולוגי שעלול לחמוק משליטת אנוש.
-
09:16
-
09:00
-
08:49
-
08:46
-
08:41
-
08:10
-
08:02
-
07:58
-
07:55
-
07:53
-
07:52
-
07:50
-
07:48
-
07:48
-
15:26
-
14:14
-
13:47
-
13:30
-
13:13
-
12:47
-
12:33
-
12:15
-
11:49
-
11:33
-
11:15
-
10:48
-
10:30
-
10:10
-
09:45
