X

'הזיות' בינה מלאכותית שסומנו על ידי חוקרים בתחום הרפואי

'הזיות' בינה מלאכותית שסומנו על ידי חוקרים בתחום הרפואי
Monday 28 October 2024 - 16:00
Zoom

ענקית הטכנולוגיה OpenAI קידמה את כלי התמלול המונחה בינה מלאכותית שלה, Whisper, כשהיא כמעט משיגה "חוסן ודיוק ברמת האדם".

עם זאת, לוויספר יש חיסרון משמעותי: הוא מייצר לעתים קרובות טקסט שקרי, לפעמים משפטים שלמים, כפי שדווח על ידי ראיונות עם יותר מתריסר מהנדסי תוכנה, מפתחים וחוקרים אקדמיים, לפי AP.

תופעה זו, המכונה בתעשייה "הזיות", יכולה לכלול הערות גזעיות בלתי הולמות, שפה אלימה וטיפולים רפואיים מפוברקים.

מומחים מזהירים כי אי הדיוקים הללו מדאיגים, במיוחד מכיוון ש-Whisper מאומצת בתעשיות שונות ברחבי העולם עבור משימות כמו תרגום ותמלול ראיונות, הפקת טקסט לטכנולוגיות צרכניות פופולריות ויצירת כתוביות וידאו.


מדאיג במיוחד הוא האימוץ המהיר של כלים מבוססי Whisper על ידי מתקנים רפואיים לתמלול התייעצויות עם מטופלים, למרות העצות של OpenAI נגד שימוש בכלי ב"תחומים בסיכון גבוה".


קרא עוד