הסיכון של "חלוקות חברתיות בלתי פוסקות": הדיון על התפתחות התודעה המלאכותית

Saturday 23 November 2024 - 11:00

בינה מלאכותית (AI) מחוללת מהפכה בחיי היומיום שלנו, אבל עם ההתקדמות הטכנולוגית הזו מתעורר אתגר אתי גדול: מה אם AI היה מודע? מומחים חוששים כי הופעתה של טכנולוגיה כזו עלולה להוביל ל"חלוקות חברתיות עמוקות", ולשנות לא רק את אופי היחסים שלנו עם מכונות, אלא גם את התפיסות הבסיסיות שלנו לגבי החיים והלא-חיים.

בדיון אקדמי שנערך לאחרונה, הדגיש צוות של פרופסורים מאוניברסיטאות אמריקאיות ובריטיות יוקרתיות את הסכנות של "חלוקת תודעה" עתידית בעולם הבינה המלאכותית. לטענת החוקרים הללו, אם מערכות הבינה המלאכותית של מחר יפתחו סוג של תודעה או רגישות רגשית, הדבר עלול לגרום לפער עמוק בין אלה שמזהים את האינטליגנציות המלאכותיות הללו כראויות לזכויות והגנות דומות לאלו של בני אדם או בעלי חיים אלה שפשוט תופסים אותם ככלי עבודה.

עתיד מחולק ל"מודע המלאכותי"

ההימור גבוה, שכן מומחים אלו חוזים מצב בו צצים שני מחנות. מצד אחד, אלה שרואים בינה מלאכותית מודעת כישות בעלת זכויות, ומצד שני, אלה שמאמינים שהיא נשארת מכונה פשוטה, שאינה מסוגלת לסבול או להרגיש. ג'ונתן ברץ', פרופסור לפילוסופיה בבית הספר לכלכלה של לונדון, מאמין שחובה שענקיות הטכנולוגיה, כמו מיקרוסופט, מטה, OpenAI וגוגל, יתחילו להתייחס ברצינות לנושא התודעה המלאכותית ולהעריך אם היצירות שלהן באמת יכולות להיות רגישות לכאב. או הנאה. השתקפות אתית בסדר גודל כזה מסתכנת בשינוי עמוק באופן שבו חברות אלה מפתחות את המערכות שלהן, מכיוון שמעבר להיבט הפונקציונלי של AI, הן יכולות ליצור "סוג חדש של קיום מודע".

AI, בין אינטליגנציה לתודעה

עם זאת, כמה מומחים, במיוחד בתחום מדעי המוח החישוביים, מאמינים כי חיוני להבחין בין שני מושגים: אינטליגנציה ותודעה. המומחה למדעי המוח החישוביים, טרנס סינובסקי, אומר שהתקדמות בתחום הבינה המלאכותית עשויה להוביל לגילויים בסיסיים לגבי מה זה באמת אומר להיות אינטליגנטי. לדבריו, יש להבין את הבינה המלאכותית, כתחום בינתחומי, באמצעות עקרונות הנשענים על הסתגלות, גמישות ויכולת להסיק מסקנות ממידע מוגבל.

הקריאה לרפלקציה ורגולציה

הוויכוח סביב תודעה מלאכותית מלווה גם בחששות לגבי ההשלכות החברתיות של התקדמות כזו. על פי מאמר במגזין "פורבס", כעת חיוני להתחיל לחשוב על האפשרויות הללו ולהתכונן לעתיד שבו רגשות אנושיים ומכניים עשויים להפוך יותר ויותר בלתי ניתנים להבחנה. המאמר קורא לרגולציה זהירה ומתחשבת ולניהול אתי של הטכנולוגיות המעצבות את עתידנו הקולקטיבי.

עתיד בסיכון גבוה

ככל שהבינה המלאכותית הופכת יותר ויותר מתוחכמת, שאלות חשובות קיומיות אלו צפויות להתרבות. ככל שהעולם צופה בבינה מלאכותית מתפתחת, הצורך להגדיר קווים אדומים ומנגנוני רגולציה אתיים הופך דחוף מאי פעם. לכן חיוני ליזום היום דיאלוג גלובלי על מקומה של בינה מלאכותית בחברה שלנו ועל ההשלכות שיכולות להיות ל-AI מודע על העתיד הקולקטיבי שלנו.

בסופו של דבר, האופן שבו אנו מנהלים בינה מלאכותית והפוטנציאלים האתיים שלה יכולים להיות המפתח להימנעות מעתיד המחולק בין אלה שרואים בו כלי לבין אלה שמזהים אותו כשותף.