X

גוגל משיקה כלי קוד פתוח לזיהוי טקסט שנוצר בינה מלאכותית

גוגל משיקה כלי קוד פתוח לזיהוי טקסט שנוצר בינה מלאכותית
Friday 25 October 2024 - 09:35
Zoom

גוגל הכריזה באמצעות הטכנולוגיה הזו נועדה להקל על ההבחנה בין תוכן שנוצר בינה מלאכותית לתוכן שנכתב על ידי אדם.

גוגל הסבירה כי טכנולוגיה זו, שהוכרזה באוגוסט האחרון, זמינה כעת למפתחים דרך פלטפורמת "Hugging Face", וניתן להשתמש בה כדי לסייע בבניית יישומי בינה מלאכותית אחראית. לדברי Pushmeet Kohli, סגן נשיא למחקר של DeepMind, הכלי הזה מקל על מפתחים לגלות טקסט שנוצר על ידי דגמי השפה הגדולים שלהם.

SynthID Text מבוסס על הוספת סימן מים בלתי נראה לטקסט שנוצר בינה מלאכותית, כך שניתן לזהות אותו רק על ידי תוכנה מותאמת אישית מבלי להיות גלוי לעין האנושית. צוות Google DeepMind מצא שטכנולוגיה זו אינה משפיעה על האיכות, היצירתיות או הדיוק של טקסטים.

סימני מים הופכים חשובים יותר ויותר במאבק נגד תוכן מטעה ופוגעני שנוצר על ידי בינה מלאכותית. עם השימוש ההולך וגובר בבינה מלאכותית, ממשלות כמו קליפורניה וסין החלו לשקול לחייב את השימוש בתגים אלה כדי להבטיח את אבטחת המידע המתפרסם.


קרא עוד