הננה וירקונן קוראת לחברות בינה מלאכותית לחזק את הבדיקות והפיקוח האנושי

18:15

האיחוד האירופי הזהיר כי התחרות הגלובלית המתרקמת בתחום הבינה המלאכותית עלולה לערער את המאמצים להבטיח את הבטיחות והאמינות של מערכות בינה מלאכותית מתקדמות, וקרא למפתחים לשמור על שליטה אפקטיבית על הטכנולוגיות שלהם ככל שהיכולות שלהן ממשיכות לגדול.

הננה וירקונן, סגנית נשיא האיחוד האירופי לעניינים טכנולוגיים, ביטחון ודמוקרטיה ומובילת המדיניות הדיגיטלית, העלתה את הדאגה ביום רביעי במהלך פסגת בינה מלאכותית בינלאומית בדבלין. היא טענה כי הלחץ להתחרות עלול להשאיר לחברות זמן ומשאבים לא מספיקים לבדוק את המודלים שלהן לפני השימוש.

ההזהרה מגיעה כאשר מערכות בינה מלאכותית מתקדמות יותר מביאות אתגרים חדשים למפתחים ולרגולטורים, במיוחד כאשר סוכנים אוטונומיים יכולים לבצע פעולות שקשה למפעילים שלהם לחזות או לפקח עליהן.

יכולות הולכות וגדלות מעלות חששות בטיחות חדשים

וירקונן אמרה כי דיווחים על תקריות involving סוכני בינה מלאכותית הדגישו מצבים שבהם חברות לא היו מודעות לחלוטין למה שהמערכות שלהן עושות. היא הדגישה כי מפתחים חייבים לשמור על היכולת להבין ולשלוט בהתנהגות של הטכנולוגיות שלהם.

ככל שמודלי הבינה המלאכותית הופכים ליותר מסוגלים, הערכת הביצועים שלהם וזיהוי סיכונים פוטנציאליים הופכים גם הם למורכבים יותר. לפי פקיד האיחוד האירופי, זה הופך את הבדיקות המקיפות וההערכה העצמאית של מומחים לרכיבים חיוניים בפיתוח אחראי.

הערותיה מצביעות על דאגה רגולטורית הולכת וגדלה: הקצב שבו מוצרים של בינה מלאכותית מפותחים ומוצגים עשוי להקדים את הזמן הנדרש לקבוע אם הם פועלים בבטחה בתנאים שונים.

עבור הרגולטורים, האתגר אינו רק לעודד חדשנות אלא גם להבטיח שהחברות יכולות להראות הבנה מספקת של המערכות שלהן לפני שהטכנולוגיות הללו משמשות באופן נרחב.

בריסל מגבירה את הפיקוח על מפתחי בינה מלאכותית

הוועדה האירופית כבר החלה לבקש מידע נוסף מחברות בינה מלאכותית גדולות לגבי אמצעי הבטיחות שהן הציגו. לפי וירקונן, הבקשות כוללות אמצעי אבטחה, הסדרי בטיחות ונהלים להערכות חיצוניות.

היוזמה היא חלק מהמאמצים הרחבים יותר של האיחוד האירופי להפוך את מפתחי הבינה המלאכותית ליותר אחראיים על המערכות שהם בונים ומשתמשים בהן.

בהתאם לחוק הבינה המלאכותית של האיחוד האירופי, הוקם מסגרת רגולטורית שנועדה לטפל בסיכונים הקשורים ליישומי בינה מלאכותית. החקיקה מספקת גם בסיס לפיקוח על סוגיות החורגות מעבר לבטיחות טכנית, כולל עמידה בכללי זכויות יוצרים.

וירקונן הדגישה כי שמירה על שליטה על מערכות בינה מלאכותית היא דרישה מפורשת לפי החקיקה, מחזקת את עמדת הוועדה כי התקדמות טכנולוגית חייבת לבוא עם אמצעי בטיחות אפקטיביים.

איזון בין חדשנות לאחריות

דאגות האיחוד האירופי משקפות איזון קשה העומד בפני מחוקקים ותעשיית הטכנולוגיה. חברות מתמודדות בינלאומית לפתח מודלים הולכים ומתרקמים, בעוד שממשלות מחפשות הבטחות שהמערכות הללו יישארו ניתנות לניהול, אמינות ועומדות בכללים החלים.

בדיקות לא מספיקות עלולות להקשות על זיהוי פגיעויות לפני השימוש, במיוחד במערכות שנועדו לבצע משימות עם התערבות אנושית מוגבלת. הערכות עצמאיות יכולות לעזור לזהות חולשות שעשויות להתפספס בבדיקות פנימיות, אם כי היעילות שלהן תלויה בגישה למערכות ובאיכות תהליך ההערכה.

בקשות הוועדה למידע מסמנות דגש גדול יותר על איך חברות הבינה המלאכותית מעריכות ומנהלות את הסיכונים הללו בפועל, ולא רק מסתמכות על ההתחייבויות המוצהרות שלהן לבטיחות.

ככל שהיכולות של הבינה המלאכותית מתקדמות, השאלה המרכזית עבור הרגולטורים האירופיים היא האם המפתחים יכולים לשמור על פיקוח אנושי משמעותי תוך כדי המשך החדשנות בקצב שדורשת התחרות הגלובלית.

בריסל עושה ברור כי, תחת הגישה הרגולטורית שלה, התחרותיות אינה יכולה להחליף את האחריות להבין, לבדוק ולשלוט במערכות בינה מלאכותית הולכות ומתרקמות.