שיחות ChatGPT שגוגל מאונדקסת שלא במכוון מעלות חששות חמורים בנוגע לפרטיות

Friday 01 August 2025 - 17:17

גוגל מאנדקסת שיחות באמצעות ChatGPT שמשתמשים שלחו לחברים, משפחות או עמיתים - מה שהופך שיחות פרטיות המיועדות לקבוצות קטנות לתוצאות חיפוש הגלויות למיליונים.

חיפוש בסיסי באתר של גוגל המשתמש בחלק מהקישור שנוצר כאשר מישהו לוחץ באופן יזום על "שתף" ב-ChatGPT יכול לחשוף שיחות בהן אנשים חושפים פרטים אישיים מאוד, כולל מאבקים בהתמכרות, חוויות של התעללות פיזית או בעיות בריאות נפש חמורות - לפעמים אפילו חששות שמודלים של בינה מלאכותית מרגלים אחריהם. בעוד שזהות המשתמשים אינה מוצגת על ידי ChatGPT, חלקם עשויים לזהות את עצמם על ידי שיתוף מידע אישי ספציפי מאוד במהלך הצ'אטים.

משתמש עשוי ללחוץ על "שתף" כדי לשלוח את השיחה שלו לחבר קרוב ב-WhatsApp או כדי לשמור את כתובת האתר לעיון עתידי. לא סביר שהם יצפו שפעולה זו תגרום לה להופיע בתוצאות החיפוש של גוגל, נגישה לכולם. לא ברור אם אלו שנפגעו מבינים שהשיחות שלהם עם הבוט נגישות כעת לציבור לאחר שהם לוחצים על כפתור השיתוף, ככל הנראה במחשבה שהם עושים זאת לקהל קטן.

כמעט 4,500 שיחות מופיעות בתוצאות חיפוש האתרים של גוגל, אם כי רבות מהן אינן כוללות פרטים אישיים או מידע מזהה. סביר להניח שזה לא הספירה המלאה, מכיוון שייתכן שגוגל לא תאנדקס את כל השיחות. (בשל האופי האישי של השיחות, שחלקן חושפות מידע אישי ביותר, כולל שמות משתמשים, מיקומם ונסיבותיהם האישיות, חברת Fast Company בוחרת לא לקשר לשיחות עם הצ'אטבוט, או לתאר אותן בפירוט רב).

הממצא מדאיג במיוחד בהתחשב בכך שכמעט מחצית מהאמריקאים בסקר אומרים שהם השתמשו במודלים של שפה גדולה לתמיכה פסיכולוגית בשנה האחרונה. שלושה רבעים מהנשאלים ביקשו עזרה עם חרדה, שניים מתוך שלושה חיפשו ייעוץ בנושאים אישיים, וכמעט שישה מתוך עשרה רצו עזרה עם דיכאון. אבל בניגוד לשיחות בינך לבין המטפל שלך בחיים האמיתיים, תמלילים של שיחות עם גורמים כמו ChatGPT יכולים להופיע בחיפוש פשוט בגוגל.

גוגל אינדקס כל תוכן הזמין באינטרנט הפתוח ובעלי אתרים יכולים להסיר דפים מתוצאות החיפוש. הקישורים המשותפים של ChatGPT אינם מיועדים להופיע בחיפוש כברירת מחדל, וחייבים להיות ניתנים לגילוי ידנית על ידי משתמשים, אשר מוזהרים גם לא לשתף מידע רגיש ויכולים למחוק קישורים משותפים בכל עת. (גם גוגל וגם OpenAI סירבו לבקשות התגובה של Fast Company.)

משתמש אחד תיאר בפירוט את חיי המין שלו ואת אומללותו במדינה זרה, וטען שהוא סובל מהפרעת דחק פוסט-טראומטית (PTSD) ומחפש תמיכה. הוא פירט פרטים מדויקים על ההיסטוריה המשפחתית שלו ועל קשריו הבין-אישיים עם חברים ובני משפחה.

"אני פשוט המומה", אומרת קריסה וליז, אתיקנית בינה מלאכותית באוניברסיטת אוקספורד. "כחוקרת פרטיות, אני מודעת מאוד לכך שהנתונים הללו אינם פרטיים, אבל כמובן, 'לא פרטי' יכול להיות הרבה דברים, וגוגל רושמת את השיחות הרגישות ביותר הללו זה פשוט מדהים."

חששות דומים הועלו עם צ'אטבוטים מתחרים, כולל אלה המנוהלים על ידי Meta, שהחלה לשתף שאילתות משתמשים עם מערכות הבינה המלאכותית שלה בפיד ציבורי הנראה בתוך אפליקציות הבינה המלאכותית שלה. מבקרים אמרו אז כי אוריינות המשתמשים אינה גבוהה מספיק כדי לזהות את הסכנות שבשיתוף מידע פרטי בפומבי - דבר שהתברר מאוחר יותר כנכון כאשר פרטים אישיים צפו בפיד החברתי. באותה תקופה, מומחי בטיחות מקוונת הדגישו חששות לגבי הפער בין האופן שבו משתמשים חושבים שפונקציונליות האפליקציות פועלת, לבין האופן שבו החברות המפעילות את האפליקציות באמת גורמות להן לעבוד.

וליז חוששת שזו אינדיקציה לגישה שנראה את חברות הטכנולוגיה הגדולות נוקטות בכל הנוגע לפרטיות. "זהו גם אישור נוסף לכך שהחברה הזו, OpenAI, אינה אמינה, ושהם לא מתייחסים לפרטיות ברצינות, לא משנה מה הם אומרים", היא אומרת. "מה שחשוב הוא מה שהם עושים".

מנכ"לית OpenAI, סם אלטמן, הזהירה מוקדם יותר החודש כי משתמשים לא צריכים לשתף את הפרטים האישיים ביותר שלהם עם ChatGPT מכיוון ש-OpenAI "עלולה להידרש להציג זאת" אם בית משפט יחייב אותם לעשות זאת באופן חוקי. "אני חושב שזה מאוד דפוק", הוסיף. השיחה, עם הפודקאסט תיאו פון, לא דנה בשיחות של משתמשים שנפתחו מרצונם לאינדוקס על ידי OpenAI.

"אנשים מצפים שהם יכולים להשתמש בכלים כמו ChatGPT באופן פרטי לחלוטין", אומרת רייצ'ל טובק, אנליסטית אבטחת סייבר ומנכ"לית SocialProof Security, "אבל המציאות היא שמשתמשים רבים לא מבינים לחלוטין שלפלטפורמות אלו יש תכונות שעלולות לדלוף, בטעות, את השאלות, הסיפורים והפחדים הפרטיים ביותר שלהם."