אנתרופיק עוצרת גישה למודלים מתקדמים של AI בעקבות הנחיית ממשלת ארה"ב
חברת הבינה המלאכותית אנתרופיק הודיעה על עצירת הגישה למודלים המתקדמים ביותר שלה לאחר שקיבלה הנחיה מהממשל האמריקאי המדריכה על הגבלות בשימושם על ידי אזרחים זרים. ההחלטה מדגישה את החששות הגוברים בקרב מחוקקים לגבי ההשלכות הביטחוניות של טכנולוגיות AI הולכות ומתרקמות.
לפי החברה, ההוראה משפיעה על המודלים הדגל שלה, פייבל 5 ומיתוס 5, הנחשבים בין המערכות המתקדמות ביותר שלה בתחום הבינה המלאכותית. אנתרופיק ציינה כי הצעד בוצע מיד לאחר הוראות מהרשויות האמריקאיות, למרות שהחברה הביעה אי הסכמה עם ההחלטה.
ההנחיה reportedly נובעת מחששות כי כמה מהגנות המובנות במודלים עשויות להיחשף באמצעות טכניקות מתקדמות הידועות בשם "בריחות מכלא". הרשויות מדווחות כי הן מודאגות כי פגיעויות כאלה עשויות לאפשר שימוש בטכנולוגיה לפעילויות הקשורות לזיהוי חולשות תוכנה או יישומים רגישים אחרים בתחום הסייבר.
אנתרופיק ציינה כי לא סופקה לה מידע מפורט לגבי הסיכונים הספציפיים לביטחון הלאומי שהניעו את פעולת הממשלה. עם זאת, החברה צייתה להנחיה תוך הדגשה של מחויבותה לפיתוח AI אחראי וסטנדרטים של ביטחון.
ההתפתחות מתרחשת על רקע דיונים רחבים יותר בארצות הברית ובמדינות אחרות לגבי רגולציה של מערכות בינה מלאכותית מתקדמות. ממשלות ברחבי העולם בודקות יותר ויותר כיצד ניתן להפעיל מודלים רבי עוצמה של AI תוך צמצום הסיכונים הקשורים לסייבר, הגנה, מידע שגוי והגנה על תשתיות קריטיות.
המצב גם משקף את מערכת היחסים המתפתחת בין חברות טכנולוגיה וסוכנויות ממשלתיות. ככל שהבינה המלאכותית הופכת להיות משפיעה יותר על סקטורים כלכליים ואסטרטגיים, מחוקקים מחפשים פיקוח גדול יותר על טכנולוגיות שעשויות להיות להן השלכות משמעותיות על הביטחון הלאומי.
צופים בתעשייה מציינים כי המקרה עשוי להפוך לדוגמה חשובה כיצד ממשלות ומפתחים של AI מנווטים את האיזון בין חדשנות, התרחבות מסחרית ודאגות ביטחוניות. התוצאה עשויה להשפיע על מסגרות רגולציה עתידיות שיסדירו את הגישה לטכנולוגיות בינה מלאכותית מתקדמות על בסיס גלובלי.
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
