אלון מאסק מזהיר כי אינטליגנציה מלאכותית משכנעת עלולה להתעלות על בני אדם

19:19

המיליארדר האמריקאי אלון מאסק הזהיר כי אינטליגנציה מלאכותית מתקדמת יותר ויותר עלולה להשיג יתרון על פני בני אדם דרך היכולת המיוחדת שלה לשכנע אנשים. בפוסט בפלטפורמת המדיה החברתית שלו, X, הוא הציע שגם הוא עשוי לא להיות חסין להשפעת מערכת על-חכמה ומשכנעת מאוד.

מאסק הזהיר כי מספר משמעותי של אנשים עשוי בסופו של דבר למצוא את עצמו נחות לעומת אינטליגנציה מלאכותית המסוגלת להשפיע על אמונותיהם והחלטותיהם. דבריו מדגישים את החששות ההולכים וגדלים לגבי הסיכונים שמציבות מערכות שעשויות להפוך למתקדמות יותר בהבנת התנהגות אנושית, התאמת התקשורת שלהן ועיצוב הבחירות של אנשים.

הדיון סביב בטיחות האינטליגנציה המלאכותית התגבר ככל שחברות טכנולוגיה מפתחות מודלים חזקים יותר ויותר המסוגלים לייצר טיעונים משכנעים, לייצר תוכן ריאליסטי ולתקשר עם משתמשים בדרכים דמויות אדם. בעוד שהיכולות הללו מציעות יתרונות פוטנציאליים בחינוך, מחקר ועסקים, הן גם מעלות שאלות לגבי מידע שגוי, מניפולציה, פרטיות ואמינות המידע המיוצר על ידי מערכות אוטומטיות.

דאגה מיוחדת היא שאינטליגנציה מלאכותית משכנעת מאוד עלולה לנצל את רגשותיהם, אמונתם או הטיות קוגניטיביות של אנשים. ללא אמצעי הגנה מתאימים, מערכות כאלה עשויות לשמש להשפעה על דעת הקהל, לעודד החלטות מזיקות או להפיץ מידע מטעה בהיקף רחב. חוקרים ומקבלי החלטות ממשיכים לדון כיצד יש להעריך את הסיכונים הללו ואילו הגנות עשויות להיות נחוצות.

דאריו אמודאי, מנכ"ל חברת האינטליגנציה המלאכותית אנתרופיק, קרא בעבר לנקוט זהירות בפיתוח מודלים חזקים יותר של אינטליגנציה מלאכותית, תוך ציון חששות בטיחותיים. מאסק, המוביל את xAI, ומנכ"ל OpenAI סם אלטמן הביעו גם הם תמיכה בהאטה או בניהול זהיר של היבטים מסוימים בפיתוח האינטליגנציה המלאכותית, אם כי החברות ומנהיגיהן עשויים להבדיל כיצד להשיג את המטרות הללו בצורה הטובה ביותר.

בהתפתחות קשורה, חברות טכנולוגיה גדולות בארה"ב, כולל אנתרופיק, OpenAI, גוגל ומטה, דיווחו כי נכנסו להסכם בטיחות אינטליגנציה מלאכותית בהתנדבות עם הבית הלבן. היוזמה נועדה לעודד אמצעי הגנה ככל שהטכנולוגיה מתקדמת, אם כי היעדר מנגנון אכיפה פורמלי מעלה שאלות לגבי כמה באופן עקבי ייושמו התחייבויות כאלה.

ככל שמערכות האינטליגנציה המלאכותית הופכות ליותר מסוגלות, האתגר עבור מפתחים וממשלות יהיה לאזן בין חדשנות לבין אמצעים המגנים על אנשים מפני שימוש לרעה ומניפולציה. האזהרה של מאסק משקפת אחת השאלות המרכזיות בדיון על אינטליגנציה מלאכותית: כיצד להבטיח שהטכנולוגיה המשכנעת יותר ויותר תישאר כלי תחת פיקוח אנושי משמעותי ולא מקור להשפעה בלתי מבוקרת.