מיקרוסופט משיקה מודל של בינה מלאכותית Phi-4, בחזית הבדיקות המתמטיות

Thursday 19 December 2024 - 17:00

מיקרוסופט הכריזה על השקת דגם ה-AI החדש שלה, Phi-4, הכולל 14 מיליארד פרמטרים ומהווה את התוספת האחרונה לסדרת ה-Phi Small Models (SLM) של החברה.

מיקרוסופט ציינה ש-Phi-4 התעלה על מודל GPT-4 של OpenAI במבחני בינה מלאכותית, במיוחד במבחני מתמטיקה (MATH) ושאלות תשובות כלליות (GPQA).

החברה הוסיפה כי הביצועים המעולים של המודל במתמטיקה נובעים משימוש בנתונים סינתטיים איכותיים, בנוסף לארגון קפדני של הנתונים המקוריים ושיפורים שנעשו לאחר האימון.

מיקרוסופט חשפה כי הנתונים הסינתטיים המשמשים לאימון Phi-4 נוצרו באמצעות טכנולוגיות מתקדמות, המהוות חלק גדול מתהליך האימון. נעשה שימוש גם בשיטות חדשניות לשיפור תוצאות המודל בשלב שלאחר האימון.

נתונים סינתטיים הם אחד הפתרונות שאימצו חברות גדולות לשיפור מודלים של בינה מלאכותית, במיוחד לנוכח היעדר נתונים זמינים להדרכה והימנעות משימוש בנתונים המוגנים בזכויות יוצרים.

לפי מיקרוסופט, תוצאות הבדיקה הראו שה-Phi-4 מתגבר על דגמים קטנים יותר בגודל דומה, ולפעמים אפילו דגמים גדולים יותר כמו Google Gemini 1.5 Pro.

בחברה הדגישו כי הצטיינות במבחן במתמטיקה אינה תוצאה של התאמת יתר לנתוני האימון, אלא יעילות המודל.

עם זאת, ה-Phi-4 מתמודד עם כמה מגבלות הקשורות לגודלו, מכיוון שהוא עלול ליצור מדי פעם מידע עובדתי שגוי או להציג ביצועים פחות מדויקים כאשר מקפידים על הוראות מפורטות.

כדי להבטיח את אבטחת הדגם, צוות Phi-4 שיתף פעולה עם צוות האבטחה העצמאי של מיקרוסופט (Microsoft AI Red Team) כדי לזהות סיכוני אבטחה פוטנציאליים במהלך שימוש רגיל או עוין.

הדגם זמין כעת ב-Microsoft Azure AI Foundry וצפוי להשיק ב-Huging Face בשבוע הבא.