חוקרים גילו 'מערכת אקולוגית מזויפת עמוקה' באפליקציית ההודעות Telegram במרכז רובוטים שמייצרים עירום מזויף לפי דרישה. משתמשים שמקיימים אינטראקציה עם הבוטים האלה אומרים שהם יוצרים בעיקר עירום של נשים שהם מכירים באמצעות תמונות שנלקחו ממדיה חברתית, שאותם הם משתפים ומחליפים זה עם זה בערוצים שונים Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
החקירה מגיעה מחברת האבטחה Sensity, המתמקדת במה שהיא מכנה "מודיעין איומים חזותיים", במיוחד בהפצת זיופים עמוקים. חוקרי Sensity מצאו שיותר מ-100 תמונות נוצרו ושותפו בערוצים ציבוריים Telegram עד יולי 2020 (כלומר, המספר הכולל של תמונות שנוצרו, כולל אלו שלא שותפו ואלה שנוצרו מאז יולי, גבוה בהרבה). רוב המשתמשים בערוצים האלה, כ-70%, מגיעים מרוסיה וממדינות שכנות, אומר סנסיטי. הקצה הצליח לאשר כי ערוצים רבים שנחקרו על ידי החברה עדיין פעילים.
הבוטים חופשיים לשימוש, אך הם יוצרים עירום מזויף עם סימני מים או עירום חלקי בלבד. לאחר מכן, המשתמשים יכולים לשלם עמלה השווה לכמה סנטים כדי "לגלות" את התמונות במלואן. "תעריף למתחילים" גובה מהמשתמשים 100 רובל (כ-$1,28) כדי ליצור 100 עירום מזויף ללא סימן מים במשך שבעה ימים. Sensity אומרת ש"מספר מוגבל" מהתמונות שנוצרו על ידי הבוטים מציגות מטרות "שנראו מינוריות".
שניהם הקצה וסנסיטי יצרה קשר Telegram לשאול מדוע הם מאפשרים תוכן זה באפליקציה שלהם, אך עדיין לא קיבלו תשובות. סנסיטי אומרת שהיא גם יצרה קשר עם רשויות אכיפת החוק.
התוכנה המשמשת ליצירת תמונות אלו ידועה בשם DeepNude. זה הופיע לראשונה ברשת ביוני האחרון, אבל היוצר שלו סגר את האתר שלו תוך שעות מרגע קבלת סיקור התקשורת המיינסטרים, ואמר "הסבירות שאנשים יעשו בו שימוש לרעה היא גבוהה מדי". עם זאת, התוכנה המשיכה להתפשט על פני ערוצים אחוריים, וסנסיטי אומרת ש-DeepNude "מאז עברה הנדסה הפוכה וניתן למצוא אותה בצורות משופרות במאגרי קוד פתוח ובאתרי טורנט." הוא משמש כעת להנעת רובוטים Telegram, שמטפלים אוטומטית בתשלומים כדי לייצר הכנסה ליוצריהם.
DeepNude משתמש בטכניקת בינה מלאכותית המכונה רשתות יריבות יצירתיות, או GANs, כדי ליצור עירום מזויף, כאשר התמונות המתקבלות משתנות באיכותן. ברור שרובם מזויפים, עם בשר מרוח או מפוקסל, אבל חלקם יכולים בקלות להיחשב לתמונות אמיתיות.
מאז לפני הופעת הפוטושופ, אנשים יצרו עירום מזויף של נשים ללא הסכמה. ישנם כיום פורומים ואתרים רבים המוקדשים לפעילות זו תוך שימוש בכלים שאינם בינה מלאכותית, כאשר משתמשים חולקים עירום של ידוענים ואנשים שהם מכירים. אבל זיופים עמוקים הובילו ליצירה מהירה יותר של תמונות מציאותיות יותר. עכשיו, אוטומציה של התהליך הזה באמצעות רובוטים Telegram הופך את יצירת עירום מזויף לקלה כמו שליחת וקבלה של תמונות.
"ההבדל העיקרי הוא הנגישות של טכנולוגיה זו", אמר ג'ורג'יו פטריני, מנכ"ל סנסיטי ומחבר הדו"ח. הקצה. "חשוב לציין שגרסאות אחרות של הליבה AI של הבוט הזה, עיבוד תמונה וסינתזה, זמינות בחינם במאגרי קוד מקוונים. אבל אתה צריך להיות מתכנת ולהיות בעל הבנה מסוימת של ראיית מחשב כדי לגרום להם לעבוד, מלבד חומרה רבת עוצמה. כרגע, כל זה לא משנה כי זה מטופל על ידי הבוט המשולב באפליקציית הודעות.
דו"ח Sensity קובע כי "סביר להניח" שרוב האנשים המשתמשים בבוטים אלה "מעוניינים בעיקר לצרוך פורנוגרפיה מזויפת" (שנותרה קטגוריה פופולרית באתרים פורנוגרפיים). אבל תמונות וסרטונים אלו יכולים לשמש גם לסחיטה, סחיטה, הטרדה וכו'. היו מספר מְתוֹעָד CAS נשים מכוונות באמצעות עירום שנוצר על ידי בינה מלאכותית, וייתכן שחלק מאלה שיוצרות עירום באמצעות הרובוטים Telegram לעשות זאת מתוך מחשבה על הסיבות הללו.
אמר פטריני הקצה כי חוקרי Sensity לא ראו עדויות ישירות לכך שיצירות הבוט משמשות למטרות אלו, אך אמרו שהחברה מאמינה שזה קורה. הוא הוסיף כי בעוד שהאיום הפוליטי של זיופים עמוקים היה "טעות בחישוב" ("מנקודת מבטם של העבריינים, קל וזול יותר לפוטושופ תמונות ולהשיג השפעה דומה להפיץ מידע מוטעה, בפחות מאמץ"). שהטכנולוגיה מהווה "איום סדרתי על המוניטין האישי והבטיחות".
