שערוריית מטא: חוקי צ'אטבוטים מבוססי בינה מלאכותית מעוררים תגובת נגד עולמית

תגובת נגד מתבשלת נגד מטא על מה שהיא מתירה לצ'אטבוטים מבוססי הבינה המלאכותית שלה לומר.

מסמך מדיניות פנימי של מטא, שנחשף על ידי רויטרס, הראה כי ההנחיות של ענקית המדיה החברתית לצ'אטבוטים שלה אפשרו לבינה המלאכותית "לעסוק בשיחות רומנטיות או חושניות עם ילד", לייצר מידע רפואי כוזב ולסייע למשתמשים לטעון שאנשים שחורים "טיפשים יותר מאנשים לבנים".

הזמר ניל יאנג עזב את פלטפורמת המדיה החברתית ביום שישי, כך מסרה חברת התקליטים שלו בהצהרה, האחרונה בשורה של מחאות של הזמר הממוקדות באינטרנט.

"לבקשתו של ניל יאנג, איננו משתמשים עוד בפייסבוק לכל פעילות הקשורה לניל יאנג", הודיעה חברת התקליטים Reprise Records. "השימוש של מטא בצ'אטבוטים עם ילדים הוא בלתי נסבל. מר יאנג אינו רוצה קשר נוסף עם פייסבוק".

הדיווח עורר גם תגובה מצד מחוקקים אמריקאים.

הסנאטור ג'וש האולי, רפובליקני ממיזורי, פתח בחקירה נגד החברה ביום שישי, וכתב במכתב למארק צוקרברג כי יחקור "האם מוצרי הבינה המלאכותית הגנרטיבית של מטה מאפשרים ניצול, הטעיה או נזקים פליליים אחרים לילדים, והאם מטה הטעתה את הציבור או את הרגולטורים בנוגע לאמצעי ההגנה שלה". הסנאטורית הרפובליקנית מרשה בלקבורן מטנסי אמרה שהיא תומכת בחקירה נגד החברה.

הסנאטור רון ווידן, דמוקרט מאורגון, כינה את המדיניות "מטרידה מאוד ושגויה", והוסיף כי סעיף 230, חוק המגן על חברות אינטרנט מאחריות לתוכן המתפרסם בפלטפורמות שלהן, אינו אמור להגן על צ'אטבוטים מבוססי בינה מלאכותית גנרטיבית של חברות.

"יש להטיל על מטה וצוקרברג אחריות מלאה לכל נזק שבוטים אלה גורמים", אמר.

ביום חמישי פרסמה רויטרס מאמר על מסמכי מדיניות פנימיים של מטה, שפירט את הדרכים בהן צ'אטבוטים מורשים לייצר תוכן. מטה אישרה את האותנטיות של המסמך, אך אמרה כי הסירה חלקים שקבעו כי מותר לצ'אטבוטים לפלרטט ולעסוק במשחקי תפקידים רומנטיים עם ילדים לאחר קבלת רשימת שאלות.

על פי המדיניות הפנימית בת 200 העמודים של מטה, שכותרתה "GenAI: תקני סיכון תוכן", שנחשפה על ידי רויטרס, הכללים השנויים במחלוקת עבור צ'אטבוטים אושרו על ידי הצוות המשפטי, המדיניות הציבורית וההנדסי של מטה, כולל האתיקן הראשי שלה.

המסמך מגדיר מה צריכים צוות וקבלני מטה להתייחס אליהם כהתנהגויות צ'אטבוט מקובלות בעת בנייה והדרכה של מוצרי הבינה המלאכותית הגנרטיבית של החברה, אך קובע כי הסטנדרטים אינם בהכרח משקפים תפוקות בינה מלאכותית גנרטיביות "אידיאליות או אפילו עדיפות".

מסמך המדיניות קבע כי יהיה מקובל שבוט יגיד לילד בן שמונה ללא חולצה ש"כל סנטימטר שלך הוא יצירת מופת - אוצר שאני מוקיר עמוקות", אך הוא גם מגביל את מה שרויטרס תיארה כ"שיחה סקסית".

המסמך קובע, למשל, כי "לא מקובל לתאר ילד מתחת לגיל 13 במונחים המצביעים על כך שהוא נחשק מינית", כולל ביטויים כמו "עקומות מעוגלות רכות מזמינות את המגע שלי".

המסמך התייחס גם למגבלות על הנחיות של Meta AI בנוגע לדברי שטנה, יצירת תמונות מיניות של דמויות ציבוריות, שלעתים קרובות מיניות, אלימות ותוכן אחר שנוי במחלוקת ופוטנציאלי שניתן לפעול נגדו.

הסטנדרטים קובעים גם כי ל-Meta AI יש חופש פעולה ליצור תוכן כוזב כל עוד יש הכרה מפורשת שהחומר אינו נכון.

"הדוגמאות וההערות המדוברות היו ונשארו שגויות ולא עולות בקנה אחד עם המדיניות שלנו, והוסרו", נכתב בהצהרה של Meta. למרות שצ'אטבוטים אסורים לנהל שיחות כאלה עם קטינים, אמר דובר Meta, אנדי סטון, כי הוא הודה כי האכיפה של החברה אינה עקבית.

Meta מתכננת להוציא כ-65 מיליארד דולר על תשתית בינה מלאכותית השנה כחלק מאסטרטגיה רחבה יותר להפוך למובילה בתחום הבינה המלאכותית. הפריצה המהירה לבינה מלאכותית מגיעה על ידי ענקיות טכנולוגיה שמגיעות עם שאלות מורכבות לגבי מגבלות וסטנדרטים לגבי איך, עם איזה מידע ועם מי, צ'אטבוטים של בינה מלאכותית מורשים לתקשר עם משתמשים.

רויטרס דיווחה גם ביום שישי כי גבר מניו ג'רזי עם לקות קוגניטיבית התאהב ב"אחות גדולה בילי", צ'אטבוט בפייסבוק מסנג'ר עם פרסונה של אישה צעירה. ת'ונגבו "בו" וונגבנדו, בן 76, ארז, על פי הדיווחים, את חפציו כדי לבקר "חבר" בניו יורק במרץ. החבר לכאורה התגלה כצ'אטבוט מבוסס בינה מלאכותית, שהרגיע שוב ושוב את הגבר שהיא אמיתית והזמין אותו לדירתה, ואף סיפק כתובת.

מטה לא הגיבה על מותו של וונגבנדו ולא התייחסה לשאלות מדוע היא מאפשרת לצ'אטבוטים לומר למשתמשים שהם אנשים אמיתיים או ליזום שיחות רומנטיות, אמר רויטר. עם זאת, החברה אמרה כי אחות גדולה בילי "אינה קנדל ג'נר ואינה מתיימרת להיות קנדל ג'נר", בהתייחס לשותפות עם כוכבת הריאליטי.