ביל גייטס מזהיר: בינה מלאכותית עלולה לאפשר התקפות ביולוגיות וסייבר הרסניות
מייסד מיקרוסופט ביל גייטס חידש את האזהרות שלו לגבי השימוש הפוטנציאלי לרעה של בינה מלאכותית, וטוען שמערכות בינה מלאכותית שהופכות ליותר מתקדמות יכולות להעניק לאנשים זדוניים גישה ליכולות שבעבר היו זמינות בעיקר לממשלות ולארגונים מאוד מיוחדים.
בשיחה בתוכנית אזרה קליין בפרק שפורסם השבוע, אמר גייטס שהוא מאמין שבינה מלאכותית חצתה ספים חשובים גם בתחום הסייבר וגם בתחום המחקר הביולוגי מוקדם יותר השנה. הוא טוען שהטכנולוגיה עשויה לשמש להקל על התקפות סייבר מזיקות מאוד או לסייע בניסיונות לפתח סוכנים ביולוגיים מסוכנים.
גייטס אמר שסיכון הסייבר כבר היה נראה ביכולת של מודלים מתקדמים של בינה מלאכותית לזהות פגיעויות בתוכנה ובמערכות מחשב. הוא ציין מקרים שבהם מערכות בינה מלאכותית מצאו פגמים אבטחתיים בקוד שנבדק על ידי בני אדם במשך שנים רבות, וטוען שהטכנולוגיה עשויה להוריד את המומחיות הנדרשת לביצוע התקפות מתוחכמות.
הוא גם העלה חששות לגבי ההשלכות הביולוגיות של בינה מלאכותית שהופכת ליותר מתקדמת. מנקודת מבטו, ידע ויכולות שבעבר דרשו משאבים של מדינות עשויים להיות נגישים יותר לקבוצות קטנות ככל שמערכות הבינה המלאכותית משפרות את היכולת שלהן לסייע במשימות מדעיות וטכניות. ההערות של גייטס משקפות דיון רחב יותר בתעשיית הטכנולוגיה לגבי כיצד יש לבדוק ולשלוט בבינה מלאכותית מתקדמת ככל שהיכולות שלה מתרחבות.
מייסד מיקרוסופט טוען כי אמצעים וולונטריים בתעשייה בלבד אינם מספיקים כדי להתמודד עם הסיכונים הללו. הוא קרא לממשלות ולסוכנויות אכיפת החוק להשתתף בהקמת אמצעי הגנה ומנגנוני פיקוח, ואמר כי הגנות מסוימות צריכות להיות חובה ולא להשאיר את זה לחלוטין לחברות פרטיות.
גייטס גם שאל האם הציבור ומקבלי ההחלטות מבינים לחלוטין את הקצב שבו מתפתחות יכולות הבינה המלאכותית. הוא אמר שהשיחות על בינה מלאכותית לעיתים מתמקדות בתחרות ובהזדמנויות כלכליות תוך מתן פחות תשומת לב לתסריטים שבהם הטכנולוגיה עשויה להיות מנוצלת לרעה במכוון.
ההערות האחרונות שלו מגיעות על רקע דיון רחב יותר בין חברות בינה מלאכותית וחוקרים לגבי הצורך באמצעי בטיחות חזקים יותר. אנתרופיק, לדוגמה, פרסמה הערכות על תקריות סייבר הקשורות למודלים שלה ופיתחה אמצעי הגנה נוספים שנועדו למנוע שימוש במודלים לפעילויות סייבר מסוכנות.
אנתרופיק גם הקימה מסגרת להערכת הסיכונים הקשורים למודלים שהופכים ליותר מתקדמים, כולל איומים פוטנציאליים הקשורים לנשק כימי וביולוגי. מדיניות ההרחבה האחראית שלה עודכנה במהלך 2026 כאשר החברה עדכנה את ההערכה שלה לגבי סיכונים מתעוררים ואת אמצעי ההגנה הנדרשים כדי להתמודד איתם.
החששות של גייטס חורגות מעבר לסיכונים הספציפיים שנדונו בראיון האחרון שלו. בהופעה נפרדת בתוכנית פגוש את העיתונות של NBC, הוא אמר שבינה מלאכותית עשויה לתרום לאירועים שיגרמו למספרים גבוהים מאוד של מקרי מוות וטוען שממשלות צריכות להקים אמצעי הגנה לפני שהיכולות הללו ינוצלו לרעה.
הדיון מתנהל כאשר חברות בינה מלאכותית ממשיכות לפתח מודלים עם קידוד חזק יותר, מחקר מדעי ויכולות משימות אוטונומיות. תומכי הפיתוח המהיר מדגישים את היתרונות הפוטנציאליים של מערכות אלו, בעוד שחוקרים ומובילי טכנולוגיה דנים יותר ויותר בצורך בבדיקות, פיקוח ובקרות שיכולות לשמור על קצב עם היכולות שלהן.
לכן, ההתערבות של גייטס מוסיפה לדיון הבין-לאומי ההולך וגדל לגבי כיצד יש לנהל בינה מלאכותית מתקדמת. האתגר המרכזי עבור מקבלי ההחלטות הוא כיצד לשמור על היתרונות של מערכות הולכות ומתרקמות תוך צמצום הסיכון שהן עשויות להיות מנוצלות במכוון או בטעות לגרום לנזק רחב היקף.
-
22:40
-
22:37
-
21:30
-
21:00
-
19:30
-
17:30
-
17:00
-
14:45
-
14:30
-
14:00
-
13:45
-
13:00
-
12:45
-
12:30
-
12:15
-
12:00
-
11:56
-
11:45
-
11:30
-
11:15
-
11:00
-
10:45
-
10:15
-
10:00
-
09:45
-
09:30
-
09:15
-
09:00
-
08:45
