OpenAI מפריעה לשתי פעולות השפעה הקשורות לרוסיה ולאיראן
OpenAI אומרת שהיא זיהתה והפריעה לשתי פעולות השפעה של allegedly השתמשו ב-ChatGPT כדי לייצר ולהפיץ תוכן מטעה על קונפליקטים גיאופוליטיים. הקמפיינים, הידועים כ-"Dark Clark" ו-"Bogus Bylines," היו קשורים בהתאמה לשחקנים רוסיים ואיראניים, לפי הדו"ח האחרון של החברה על השימוש לרעה בבינה מלאכותית.
הממצאים מדגישים את החששות ההולכים ומתרקמים לגבי איך ניתן לשלב כלים של AI גנרטיבי בקמפיינים מתואמים של מידע. בעוד שמערכות כאלה יכולות לסייע בכתיבה, תרגום ומחקר, הן גם יכולות להיות מנוצלות לרעה כדי להכין נרטיבים מטעים, לייצר זהויות ולשנות תוכן עבור קהלים שונים.
לפי OpenAI, הפעולה Dark Clark כוונה לקהלים בכמה מדינות אמריקה הלטינית עם תוכן שנועד לערער את אוקראינה ולבקר מנהיגים פוליטיים אזוריים מסוימים. בין הפעילויות שזוהו הייתה ההפצה בטיקטוק של הקלטת אודיו allegedly מזויפת המיוחסת לקונסול של אוקראינה באקוודור. המפעילים גם reportedly השתמשו בכתובת דוא"ל מזויפת כדי לעודד בתי ספר בפרו לארגן אירועים הקשורים לאוקראינה.
OpenAI אמרה שהיא העריכה את הקמפיין בדרגה חמש מתוך שישה על הסקאלה שלה למדידת השפעת פעולות השפעה. עם זאת, החברה הזהירה כי חלק מהטענות שהעלו המעורבים לא יכולות להיות מאומתות באופן עצמאי, מה שמדגיש את הקושי לקבוע את היקף ההשפעה המלאה והאפקטיביות של פעילות מקוונת סמויה.
הפעולה השנייה, המכונה Bogus Bylines, allegedly התמקדה בייצור מאמרים מטעים על הקונפליקט בין ארצות הברית לאיראן. OpenAI אמרה ש-ChatGPT שימש לשיפור טיוטות, התאמת מאמרים לדרישות העורכת של פרסומים מקוונים והכנת מיילים להגשה שנועדו להבטיח פרסום.
הקמפיין reportedly הסתמך על שבעה מחברים פיקטיביים שהציגו את עצמם כעיתונאים מערביים. OpenAI אמרה שהיא זיהתה כמעט 100 מאמרים שפורסמו ביותר מעשרה כלי תקשורת מאז יולי 2025. הפעילות המדווחת ממחישה איך זהויות מזויפות וכתיבה מסייעת ב-AI יכולות להתמזג בניסיון לגרום לחומרים מטעים להיראות אמינים.
השימוש בפלטפורמות תקשורת מוכרות יכול לתת לתוכן מטעה גישה לקהלים מעבר לאלה שהושגו דרך חשבונות מדיה חברתית שנוצרו לאחרונה. מאמרים שפורסמו באתרים מוכרים עשויים גם להיות משותפים במקום אחר, מצוטטים על ידי משתמשים אחרים או משולבים בדיונים מקוונים רחבים יותר, מה שמקשה על זיהוי המקור והמטרה המקורית של התוכן.
עם זאת, פרסום מאמר לא קובע בפני עצמו כמה אנשים נתקלו בו, אם הקוראים האמינו בטענותיו או אם הוא שינה את דעת הקהל. הערכת ההשפעה האמיתית של קמפיינים כאלה דורשת ראיות על הפצה, מעורבות הקהל והסביבה המידע הרחבה יותר.
המקרים גם מעלים שאלות לגבי תפקידן של חברות בינה מלאכותית בזיהוי והגבלת שימוש לרעה מתואם. OpenAI אומרת שהיא עוקבת אחרי פעילות חשודה ונוקטת צעדים נגד חשבונות המפרים את המדיניות שלה. צעדים כאלה הם חלק ממאמץ רחב יותר ברחבי מגזר הטכנולוגיה לזהות מניפולציה אוטומטית, חיקוי והפצה מכוונת של מידע שקרי.
באותו הזמן, הזמינות ההולכת וגדלה של כלים לכתיבה ב-AI מסבכת את המאמצים להבחין בין תגובות פוליטיות לגיטימיות לבין רמאות מאורגנת. חוקרים ופלטפורמות חייבים לשקול לא רק את התוכן עצמו אלא גם דפוסי התנהגות, תיאום בין חשבונות, זהויות מזויפות וניסיונות להסתיר מי עומד מאחורי הודעה.
הממצאים של OpenAI מצביעים על צורת פרופגנדה דיגיטלית מתפתחת שבה AI יכול לתמוך בייצור והתאמה של חומרים מטעים, בעוד שרשתות חברתיות קיימות ופרסומים מקוונים מספקים ערוצי הפצה פוטנציאליים. הדו"ח מדגיש את החשיבות של מקוריות שקופה, אימות עצמאי ושיתוף פעולה חזק יותר בין חברות טכנולוגיה, ארגוני מדיה וחוקרים החוקרים קמפיינים של השפעה.
-
14:14
-
13:55
-
13:50
-
13:35
-
13:33
-
13:15
-
13:00
-
12:42
-
12:21
-
12:05
-
11:45
-
11:37
-
11:30
-
11:11
-
10:47
-
09:32
-
09:28
-
09:20
-
09:15
-
08:48
-
08:32
-
08:15
-
23:15
-
23:00
-
22:42
-
22:22
-
22:00
-
21:30
-
21:00
-
21:00
-
20:32
-
20:30
-
20:15
-
19:50
-
19:30
-
19:25
-
19:20
-
19:05
-
18:45
-
18:30
-
18:18
-
18:00
-
17:30
-
17:15
-
17:10
-
16:45
-
16:15
-
15:25
-
15:00
-
14:40
-
14:26
