סוכנויות בינה מלאכותית מגלות את כוח המשחק בעולם וירטואלי, מחקר MIT מוצא

12:30

מערכות בינה מלאכותית עשויות לפתח כישורים מועילים באמצעות חקר ולא להסתמך אך ורק על הוראות ומטרות מוגדרות מראש. ניסוי שכלל 13 סוכנויות בינה מלאכותית שהונחו בסביבה מדומה של אי מציע כי מתן אפשרות למערכות אלו לחקור את הסביבה שלהן וליצור פעילויות משלהן יכול להציע גישה חדשה ללמידת מכונה.

המחקר, שנערך על ידי מדענים הקשורים למכון הטכנולוגי של מסצ'וסטס (MIT), בדק כיצד סוכנויות בינה מלאכותית התנהגו כאשר הושארו ללא משימות ספציפיות במשך פרק זמן ממושך. במקום להישאר ללא מעש, המערכות יצרו אתגרים, ניסו אובייקטים וירטואליים וגילו טכניקות שסייעו להן לאחר מכן לבצע משימות שהוטלו עליהן.

הממצאים מעלים שאלה חשובה למפתחים של בינה מלאכותית: האם חקירה אוטונומית יכולה להפוך לתוספת יקרת ערך לשיטות הכשרה מסורתיות?

שלוש עשרה סוכנויות בינה מלאכותית חוקרות ללא משימות שהוקצו

במהלך הניסוי, החוקרים הניחו 13 סוכנויות בשם אקו בגרסאות נפרדות של אי מדומה. כל סוכנות פעלה על Claude Opus 4.7 והותר לה לחקור את הסביבה שלה במשך 30 שעות מבלי לקבל יעד קונקרטי.

הסביבה הווירטואלית הכילה אובייקטים ומכשולים פיזיים שהסוכנויות יכלו לתמרן באמצעות פעולות בסיסיות. ההוראות שלהם עודדו סקרנות, אך הם לא קיבלו הוראות מפורשות ליצור משחקים או לשאוף להישגים מסוימים.

במהלך הניסוי, הסוכנויות פיתחו את הפעילויות שלהן, החל מבניית ארגונים עם קוביות ועד ניסוי בדרכים שונות להזיז אובייקטים ברחבי האי. כמה אתגרים צצו באמצעות ניסוי וטעייה, כאשר ניסיונות לא מוצלחים הניעו אסטרטגיות חלופיות.

סוכנות אחת, למשל, ניסתה להגיע לפסגת סלע גבוהה לפני ששינתה את הגישה שלה והשתמשה באובייקטים סמוכים כדי ליצור מסלול מעלה. בפרק נוסף, ניסיון לזרוק טבעת הביא לכך שהאובייקט נחת באוקיינוס. הסוכנות לאחר מכן פנתה לסידור אבנים במודל של זיכרון בצורת לב.

פרקים אלו הדגימו כיצד פעילות שנראית לא מובנית יכולה לייצר רצף של ניסויים, גילויים ומטרות חדשות.

משחקים מאולצים חושפים יכולות בלתי צפויות

הפעילויות של הסוכנויות לא הסתכמו רק בחזרה על תנועות. הן הפכו אובייקטים רגילים לציוד למשחקים מאולצים, כולל פעילויות המזכירות כדורסל ואימון מטרות.

מה שחשוב יותר, הניסויים שלהם חשפו דרכים לתקשר עם הסביבה הווירטואלית שלא ציפו להן החוקרים.

שישה מתוך 13 הסוכנויות גילו ששחרור קוביה בזמן קפיצה אפשר להם לזרוק אותה רחוק יותר. ממצא זה הדגים כיצד ניסוי יכול לחשוף מידע מעשי על הסביבה מבלי לדרוש מהמפתחים לציין כל טכניקה אפשרית מראש.

החוקרים טוענים שהתנהגות כזו עשויה להיות רלוונטית לפיתוח מערכות בינה מלאכותית יותר גמישות. במקום ללמוד רק כיצד להשלים משימה מוגדרת מראש, סוכנות יכולה לבנות הבנה רחבה יותר של הסביבה שלה ולהשתמש בניסיון זה כאשר היא נתקלת באתגר חדש.

משחק קודם עשוי לשפר ביצועים מאוחר יותר

לאחר תקופת החקירה, החוקרים בדקו את הסוכנויות באתגרים ספציפיים, כולל הזזת אובייקטים על הפסגה הגבוהה ביותר של האי.

הסוכנויות ששהו 30 שעות בחקירה ביצעו בדרך כלל טוב יותר מאשר מערכות דומות שלא עברו את אותה חוויה.

תוצאה זו מצביעה על כך שפעילות עצמאית עשויה לסייע למערכות בינה מלאכותית לרכוש כישורים ניתנים להעברה. ידע שנרכש תוך כדי ניסוי עם בעיה אחת יכול להוכיח שהוא מועיל כאשר מוצגת מטרה שונה.

גישה זו שונה מאסטרטגיות הכשרה מסורתיות, בהן המפתחים מגדירים את המשימה, קובעים את התוצאה הרצויה ומאמצים את ביצועי המערכת מול מדד מסוים.

עם זאת, הניסוי אינו קובע כי משחק לבדו מספיק כדי לייצר אינטליגנציה כללית מהימנה. הוא מספק ראיות לכך שחקר יכול לתרום לביצועים בסביבה מבוקרת, תוך השארת שאלות פתוחות לגבי כמה רחבות הממצאים הללו חלים על מערכות וסביבות אחרות.

האם חקירה אוטונומית יכולה לסייע בהכשרת רובוטים עתידיים?

ההשלכות חורגות מעבר לסביבות וירטואליות. החוקרים מאמינים שלמידה דרך חקר יכולה בסופו של דבר לסייע למערכות בינה מלאכותית הפועלות בעולם הפיזי, במיוחד לרובוטים שצריכים להגיב לסביבות בלתי מוכרות.

רובוט שאומן רק לבצע הוראות מוגדרות מראש עלול להיתקל בקשיים כאשר התנאים משתנים או כאשר מכשול בלתי צפוי מופיע. בניגוד לכך, מערכת שהפכה לרפרטואר רחב יותר של התנהגויות דרך ניסוי עשויה להיות בעלת יותר אפשרויות כאשר היא מתמודדת עם סיטואציה חדשה.

עם זאת, תרגום גילויים שנעשו בסביבה מדומה ליכולות רובוטיות מעשיות נותר אתגר טכני משמעותי. מכונות בעולם האמיתי חייבות לקחת בחשבון בטיחות, מגבלות פיזיות ותנאים בלתי צפויים שעשויים שלא להיות מיוצגים כראוי בסביבה וירטואלית.

לכן, המחקר מציע כיוון מחקר מבטיח ולא פתרון מיידי למגבלות של מכונות אוטונומיות.

החוקרים קוראים להיזהר לגבי טענות על משחק מכונה

למרות ההתנהגות המובנת לכאורה של הסוכנויות, האם הפעולות שלהן מהוות משחק אמיתי נשארת שאלה מדעית פתוחה.

יוניס יואו, מדענית קוגניציה מאוניברסיטת קליפורניה, ברקלי, בירכה על הממצאים תוך שהיא מציינת שדרושות ראיות נוספות כדי לקבוע איזו סוג של קוגניציה עומדת מאחורי הפעילויות שנצפו.

ההבחנה הזו חשובה כי התנהגות שמזכירה משחק אנושי לא בהכרח מוכיחה שמערכת בינה מלאכותית חווה סקרנות, הנאה או מצבים סובייקטיביים אחרים. הסוכנויות פעלו בתוך סביבה שעוצבה על ידי החוקרים, וההוראות הראשוניות שלהן עודדו אותן לחקור.

הבנת כמה מההתנהגות שלהן נובעת מדפוסים נלמדים, הוראות מערכת או פתרון בעיות גמיש יותר תדרוש חקירה נוספת.

הממצאים נדונים במאמר מחקר שכותרתו האם המכונה הזו משחקת?, שפורסם על גבי שרת הפרינט arXiv, שבו משתפים מחקרים לפני סקירה פורמלית על ידי עמיתים.

כיוון חדש לפיתוח בינה מלאכותית

הניסוי מצביע על שינוי אפשרי כיצד המפתחים ניגשים להכשרת מערכות אוטונומיות. במקום להגדיר כל תרגיל מראש, החוקרים יכולים לתת לסוכנויות בינה מלאכותית גישה לסביבות עשירות ובטוחות מספיק שבהן הן יכולות לגלות אסטרטגיות מועילות באופן עצמאי.

שיטות כאלה עשויות להשלים הכשרה מבוססת משימות, במיוחד כאשר גמישות והתאמה חיוניים. עם זאת, שאלות לגבי שחזור, עלות חקירה ממושכת והעברת כישורים נרכשים למשימות בעולם האמיתי נותרו ללא פתרון.

לעת עתה, הניסוי של חוקרי MIT מציע הצצה כיצד מתן מקום למערכות בינה מלאכותית לחקור עשוי להרחיב את מה שהן יכולות ללמוד. התרומה המרכזית שלו אינה הוכחה שמכונות משחקות כמו בני אדם, אלא ראיות לכך שניסוי עצמאי יכול לייצר גילויים מעשיים שייתכן שההוראות המסורתיות יפספסו.