האם אינטליגנציה מלאכותית יכולה לאיים על האנושות? חוקרים דנים בסיכונים
כשהמערכות של אינטליגנציה מלאכותית הופכות ליותר מתקדמות ומוטמעות יותר ויותר בתחומים קריטיים בחברה, חוקרים דנים האם הטכנולוגיה עשויה בסופו של דבר ליצור סיכונים בקנה מידה עולמי. בעוד שחלק מהמומחים רואים בתרחישים הכוללים הכחדה אנושית ספקולטיביים מאוד, אחרים טוענים שההתקדמות המהירה של אינטליגנציה מלאכותית מצריכה הכנה רצינית והגנות חזקות יותר.
הדיון מתמקד בכמה מסלולים אפשריים לאסון. אלה כוללים את השימוש לרעה באינטליגנציה מלאכותית לפיתוח נשק ביולוגי או סייבר, את השילוב של מערכות מתקדמות בקבלת החלטות צבאיות, ואת האפשרות שאינטליגנציה מלאכותית אוטונומית מאוד עשויה לפעול בדרכים שהאנשים לא יכולים לשלוט בהן ביעילות.
נשק גרעיני הוא אחד התחומים המדאיגים. חוקרי RAND בדקו כיצד אינטליגנציה מלאכותית עשויה להגדיל את הסיכון לעימות גרעיני דרך תאונות, חישובים מוטעים או הסלמה מכוונת. הסכנה הפוטנציאלית לא תבוא בהכרח מאינטליגנציה מלאכותית שמחליטה באופן עצמאי להפעיל התקפה, אלא ממקבלי החלטות אנושיים שמסתמכים על מערכות אינטליגנציה מלאכותית פגומות או פגועות כאשר הם מעריכים איומים צבאיים.
איומים ביולוגיים הפכו גם לחלק חשוב מהדיון. אינטליגנציה מלאכותית יכולה לסייע למדענים במשימות הקשורות לביולוגיה ולגילוי תרופות, אך יכולות דומות עשויות תאורטית לשמש לרעה כדי להקל על פיתוח פתוגנים מסוכנים. RAND זיהתה את הפוטנציאל לכך שמערכות מתקדמות בעתיד יגדילו את היכולת של שחקנים זדוניים לעצב או לתמוך באיומים ביולוגיים וכימיים.
סייבר מציג נתיב פוטנציאלי נוסף להפרעה רחבת היקף. סוכני אינטליגנציה מלאכותית מתקדמים יכולים לאוטומט משימות דיגיטליות מורכבות, לזהות פגיעויות בתוכנה ולפעול עם אוטונומיה רבה יותר. אנתרופיק הכירה בכך שהגברת יכולות הסוכנים גם מגבירה את הפוטנציאל שלהם ל
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
-
08:45
