פלטפורמת ההודעות מבוססת הענן Telegram הוא חממה לזיופים עמוקים פורנוגרפיים, על פי חקירת בטיחות שערכה סנסיטי. הניתוח מתאר את השליח המוצפן מקצה לקצה כ"מערכת אקולוגית מזויפת עמוקה" שבה בוטים מסוגלים להפוך תמונות יומיומיות של אנשים לתוכן "עירום", במיוחד של נשים.
בוטים אלו מופעלים על ידי בינה מלאכותית, על ידי Sensity, ומבצעים פעולות "הפשטה" על תמונה ללא בגדים, לרוב למטרות השפלה וסחיטה פומבית. החברה מתארת
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
תהליך זה כסוג של פונקציית עריכה שיכולה לשמש בקלות בעלי סמארטפונים ומחשבים מסורתיים. כל מה שהם צריכים לעשות הוא לתפוס תמונה מגלריית התמונות האישית שלהם ולאפשר לבוטים ליצור את הזיוף העמוק. תמונות אלו יכולות להגיע מכל מקום ומכל מקום באינטרנט.
מה מצא סנסיטי - להלן המסקנות העיקריות של סנסיטי:
- החברה גילתה רובוטים שיצרו תמונות שכיוונו עד היום ל -104 נשים.
- לאחר מכן הופצו תמונות אלה על פני הפלטפורמה עד סוף יולי השנה.
- רק בשלושת החודשים האחרונים, הזיופים העמוקים הללו גדלו ב -198%.
- לפחות 70 אחוז מהמתמקדים ראו את התמונות העלומות שלהם ברשתות החברתיות או במקורות פרטיים אחרים.
- חלק מהקורבנות הללו היו קטינים.
- מבחינה דמוגרפית, החברה מצאה את זה Telegram קיבל פרסום מהאתר הרוסי VK בזמן שהבוט ה-deepfake גרף 101 אנשים להשתתף. כדי להחמיר את העניינים, בוטים פועלים בחינם. המשתמשים לא צריכים לשלם שום דבר אלא אם כן הם רוצים להסיר את סימן המים, וזה לוקח רק $080 לכל היותר.
איך הרובוטים האלה עובדים - בדיווחים קודמים, תְרוּמָה הסביר כיצד רובוטים מסוגלים ליצור תמונות משלהם ממקורות מקוריים כגון תמונות וסרטונים. במקרה של בוטים דיפפייק מ Telegram, הבוטים האלה מסתמכים על הרשתות היריביות היצירתיות שהוזכרו קודם לכן. הם פושטים את התמונה המקורית של האישה הלבושה ל"קירוב ריאליסטי" של האנטומיה של הפרט.
סוג זה של סינתזה תלוי ביכולת של הבוט לנחש ביעילות את חלקי הגוף והגובה של האדם. כמובן שכדי שזה יעבוד "מושלם", הרובוטים הללו מאומנים על כמויות גדולות של נתונים חזותיים הקשורים לגוף של נשים.
אלו חדשות רעות עבור Telegram. לרשת כבר יש מוניטין מפוקפק הודות לבעלי עליונות לבנים שמשתמשים תדיר במסנג'ר. כעת, כאשר בוטים יוצרים עירום מזויף עם אנשים תמימים, כולל קטינים, תוכנית ההודעות רק מחזקת את תדמיתה כפלטפורמה שנפגעת מאוד.
