OpenAI מפריעה לניסיון רחב היקף לשחזר את יכולות ChatGPT

19:10

OpenAI אומרת שהיא הפריעה לפעולה רחבת היקף שנועדה להפיק תוצרים ממודלים של אינטליגנציה מלאכותית שלה במטרה לשחזר חלק מהיכולות שלהם באמצעות טכניקת דיסטילציה של מודלים. החברה אמרה שהפעולה כללה אלפי חשבונות והזוהתה ונעצרה לאחר שחוקרים זיהו דפוסים מתואמים של שימוש.

דיסטילציה של מודלים היא טכניקה לגיטימית בשימוש נרחב במחקר אינטליגנציה מלאכותית. היא מאפשרת למפתחים לאמן מודלים קטנים או יעילים יותר באמצעות מידע שנוצר על ידי מערכות גדולות יותר. עם זאת, OpenAI אומרת שהגישה הזו יכולה לשמש ללא אישור כדי לשחזר יכולות שפותחו באמצעות השקעות משמעותיות במשאבי מחשוב, נתוני אימון ומחקר.

לפי OpenAI, הפעולה החלה בקנה מידה מוגבל ביולי לפני שהתרחבה דרך רשת מתואמת של חשבונות. החברה אמרה שהיא זיהתה יותר מ-15,000 חשבונות הקשורים לפעולה ולאחר מכן השעתה את החשבונות שלדבריה היו מעורבים בניסיונות להפיק ולמחזר יכולות מודלים.

OpenAI קישרה חלק מהפעולה ל-Moonshot AI, המפתחת הסינית מאחורי העוזר Kimi AI, תוך הדגשה שהיא לא קבעה אם החברה הייתה אחראית על כל הפעולה. ההאשמות מגיעות על רקע בדיקה גוברת בארצות הברית לגבי השימוש בדיסטילציה של מודלים על ידי חברות אינטליגנציה מלאכותית סיניות.Officials אמריקאים האשימו בנפרד מספר חברות סיניות, כולל Moonshot AI, בשימוש בדיסטילציה כדי לשחזר יכולות שפותחו על ידי חברות אינטליגנציה מלאכותית אמריקאיות. סין דחתה את ההאשמות הללו וטענה כי דיסטילציה היא טכניקה סטנדרטית בפיתוח אינטליגנציה מלאכותית.

הנושא חורג מתחרות מסחרית. OpenAI טוענת שהפקת יכולות מודלים מתקדמות ללא אישור יכולה גם ליצור בעיות אבטחה אם המערכות משחזרות יכולות חזקות מבלי לשלב את אמצעי ההגנה וההתאמה שפותחו לצד המודלים המקוריים. החברה תיארה בעבר דיסטילציה עוינת כסיכון מסחרי, בטיחותי ואסטרטגי פוטנציאלי.

OpenAI אמרה שהיא הגיבה על ידי סגירת חשבונות חשודים, חיזוק מערכות המעקב שלה וטיפול בחולשות שיכולות היו להקל על הפעולה. החברה גם אמרה שהיא עבדה עם ספקי שירותים חיצוניים כדי להפריע לחשבונות ולתשתיות הקשורות לפעולה ושיתפה ממצאים רלוונטיים עם חברות טכנולוגיה אחרות וממשלות.

המקרה מדגיש את הקושי הגובר בהגנה על מודלים מתקדמים של אינטליגנציה מלאכותית כאשר המפתחים מסתמכים יותר ויותר על מערכות אוטומטיות, גישה ל-API בקנה מידה גדול ונתונים סינתטיים. OpenAI אמרה שהמאמצים שלה לזיהוי כעת משלבים מסווגים אוטומטיים, ניתוח התנהגותי, ניטור טכני וחקר אנושי כדי לזהות ניסיונות לשחזר באופן שיטתי יכולות מודלים.

החברה מצפה שניסיונות כאלה יהפכו למתקדמים יותר ככל שמערכות אינטליגנציה מלאכותית משתפרות. הסכסוך משקף גם אתגר רחב יותר עבור התעשייה: לאזן בין מחקר לגיטימי והפצה רחבה יותר של יכולות אינטליגנציה מלאכותית לבין הגנה על טכנולוגיה קניינית ואמצעי הגנה סביב מודלים הולכים ומתרקבים.

OpenAI אמרה שהיא תמשיך לחזק את אמצעי המעקב והאבטחה שלה תוך עידוד שיתוף מידע גדול יותר בין חברות אינטליגנציה מלאכותית לרשויות ממשלתיות ככל שהטכנולוגיה מתפתחת.