בקיץ שעבר, סרטון פורנוגרפי של יוצר בולט של TikTok הפך ויראלי ברשתות החברתיות. צילום מסך של הסרטון על TikTok עבר לחשבון האינסטגרם @tiktokחדר, מלווה בהערה של היוצר שפניו פורסמו בסרטון. "זה זיוף עמוק אבל עדיין, ההורים שלי באפליקציה הזו, תירגעו", אמר היוצר. (אבן מתגלגלת אינו שם את היוצר הזה או כל יוצר אחר שהוזכר בסיפור זה, בנימוק שהסרטונים פורסמו ללא הסכמתם.)
זיוף עמוק הוא סרטון מניפולציה דיגיטלי המשתמש בטכנולוגיית בינה מלאכותית כדי להחליף את פניו של אדם (לעיתים קרובות, אך לא תמיד, ידוען) בגופו של אדם אחר, בדרך כלל ללא הסכמתו. הרבה מתשומת הלב התקשורתית לזיופים עמוקים התמקדה בפוטנציאל שלהם להפצת דיסאינפורמציה, במיוחד ביחס למערכה פוליטית או לבחירות, כאל אחת קליפ הדוקטורט של ננסי פלוסי שהפך ויראלי בפייסבוק בשנה שעברה. עם זאת, הרוב המכריע של הזיופים העמוקים - 96%, על פי מחקר של חברת הבינה המלאכותית סנסיטי ב –2019 - הם פורנוגרפיים ומשמשים למיקוד נשים.
בעבר שימשה בעיקר טכנולוגיית זיוף עמוק ליצירת תמונות עירומות או מפורשות מינית של סלבריטאיות במיוחד. חלק מזה נובע מכך כדי ליצור דגמים מזויפים עמוקים אתה זקוק לאלפי תמונות או כמה דקות של צילומי וידיאו כדי לעשות עבודה טובה, אומר ג'ורג'יו פטריני, מייסד ומנכ"ל Sensity.
אך הטכנולוגיה הפכה לנגישה יותר ומורכבת פחות, עם תוצאות אימתניות. בשבוע שעבר, סנסיטי פרסם דוח על בוט AI באפליקציית הודעות מוצפנת Telegram משמש ליצירת תמונות עירום או מיניות מפורשות של מאות אלפי נשים ללא הסכמתן. בניגוד לתוכנות אחרות המשמשות ליצירת סרטונים מזויפים עמוקים, הבוט דרש רק שימוש בתמונה כדי לתאר נשים עירומות, מה שהוביל למיקוד הולך וגובר של נשים ונערות שאינן מפורסמות. אותו דבר לגבי משפיענים בפלטפורמות כמו אינסטגרם ו TikTok. "זו פלטפורמה מבוססת וידיאו, כך שהיא למעשה מספקת יותר חומר [ליצירת זיופים עמוקים]", אומר פטריני. "האנשים האלה חשופים יותר מאשר אילו רק היו מעלים תמונות. »
דניאל סיטרון, פרופסור למשפטים בבית הספר למשפטים באוניברסיטת בוסטון וסגנית נשיא יוזמת הסייבר לזכויות האזרח, אומרת כי אין להפריז בהשפעה הפסיכולוגית של הופעה בסרטון מזויף עמוק פורנוגרפי, וחלקן השוו גם פורנוגרפיה שאינה בהסכמה לטופס. שֶׁל אונס דיגיטלי. "כשאתה רואה סרטון מין מזויף עמוק של עצמך, זה מרגיש כאילו זה הגוף שלך באופן קרבי. זו ניכוס של הזהות המגדרית שלך ללא רשותך. זה נשמע כמו פגיעה נוראית באוטונומיה ובגוף, וזה מפנה לך מקום בראש, "היא אומרת. לדברי פטריני, הופעה בסרטון פורנו מזויף עמוק יכולה להיות בעלת השפעה כספית משמעותית ומזיקת על המודל העסקי של יוצר, תוך ציון דוגמת יוטיוברית בולטת שאיבדה שותפות עם מותג לאחר שמישהו פרסם סרטון מזויף עמוק שלה באתר פורנו. .
כדי להחמיר את המצב, כמעט שליש מהמשתמשים של TikTok מתחת לגיל 14, על פי נתוני חברה פנימיים שנבדקו על ידי ניו יורק טיימס, מה שהופך את האוכלוסייה הזו לפגיעה עוד יותר לאיום. כפי ש אבן מתגלגלת דווח בעבר, זה לא נדיר עבור יוצרים קטינים של TikTok מצא את הסרטונים שלהם שפורסמו בסרטוני אוסף באתרי צינור כמו Pornhub. אבן מתגלגלת דיברה עם אמא של ילדה בת 17 שגילתה את אחד הסרטונים שלה TikTok פורסם ב- Pornhub. "היא הייתה מבועתת. היא לא רצתה לחזור לבית הספר", אמרה לי האם, שביקשה להישאר בעילום שם. "היא פרסמה את הסרטון הזה בתמימות רבה. היא לא רצתה להסתבך עם Pornhub. זה לא שיעור שאתה צריך ללמוד בגיל 17. (היא אומרת ש- Pornhub הסירה מיד את הסרטון לבקשתם. במייל אל אבן מתגלגלת, Pornhub הכחישה כי התוכן של TikTok פורסם לעתים קרובות על הפלטפורמה שלו.)
בחקירתנו לסיפור זה, אבן מתגלגלת מצא יותר משני תריסר דוגמאות של יוצרים בולטים של TikTok מוצג בפורנו מזויף עמוק. רובם מפורסמים בתחילה באחד מאתרי האינטרנט הבודדים המוקדשים אך ורק לפרסום זיופים עמוקים, אך גם לא קשה למצוא אותם בפלטפורמות מדיה חברתית כמו טוויטר ו-Reddit, אם כי לשתי הפלטפורמות יש מדיניות האוסרת על זיופים עמוקים.
בהצהרה כיוונה דובר טוויטר אבן מתגלגלת למדיניות שלה האוסרת על זיופים עמוקים, או כל "תמונות או סרטונים אינטימיים של מישהו שהופקו או הופצו ללא הסכמתו". בזמן הפרסום, הוא לא מחק ציוץ שהכיל סרטון פורנוגרפי מזויף משני יוצרי TikTok. Reddit, שיש לה גם מדיניות נגד פרסום זיופים עמוקים שלא בהסכמה, לא הגיבה מיד לבקשת תגובה.
לא קשה למצוא אותם גם ב- Pornhub ובאתרי שפופרות אחרים, אם כי Pornhub אוסר גם על זיוף עמוק. "טהם פשוט אסרו על אנשים לסמן זיוף עמוק. אנשים עדיין יכלו להוריד אותם ולהשתמש בשם אחר ", אומר חוקר הסנסיטי לשעבר הנרי אג'דר. הוא חושב ש"יש לך כנראה איפשהו בכמה אלפי "זיופים עמוקים בפורנהוב.
אחד האתרים הפופולריים ביותר עבור זיוף עמוק, אשר אבן מתגלגלת מסרב לציין, היה לו שרת Discord עם למעלה מ-100 חברים שבו משתמשים יכלו לשאול את המפורסמים והמשפיעים שלהם TikTok המועדפים להיות נושא לזיוף עמוק. למרות שאתר זה מפרסם רק סרטונים הכוללים יוצרים מעל גיל 18, אחד הסלבריטאים המבוקשים ביותר בשרת זה הוא יוצר פופולרי של TikTok שזה עתה מלאו לו 17. [השם הוחלף], אגב, היא תהיה בת 18 בעוד 4 ימים", אמר לאחרונה משתמש אחד, ששאל יוצר. (המנהל עשה את הסרטון ופרסם אותו באתר שבועיים לאחר שמלאו לה 18).
כשנשאלה על השרת, אמר Discord כי הוא מפר את מדיניותו בנוגע לעירום שאינו מוסכם והסיר אותו. "לדיסקורד יש גישה אפסית לסובלנות לפורנוגרפיה שאינה בהסכמה בשירות והחברה נוקטת בפעולה מיידית כאשר אנו מודעים לכך", אמר דובר החברה. בהודעה באתר הפורנוגרפיה מזויפים עמוק, לעומת זאת, נכתב כי הוא "עובד על שרת חלופי."
בשאלה מדוע אנשים יוצרים פורנו מזויף עמוק מלכתחילה, סיטרון אומר שיש הסבורים בטעות שמדובר בפשע ללא קורבן. "הרוע כל כך רחוק מאנשים שזה מרגיש כמו משחק," אמרה. "אתה יכול להפוך את הגוף של מישהו משלך ואתה לא צריך לשאול אותו. תופעת הפורנוגרפיה המזויפת נובעת מ"תרבות של עונש ", או מהרעיון שלגברים צעירים יש את הזכות לעשות כל מה שהם רוצים בגופם של נשים.
אך בעוד שגברים מסוימים עשויים להרגיש מוסמכים לעשות כל מה שהם רוצים עם תמונות המשפיעים, בהיותם אנשי ציבור, בסופו של דבר נושא פורנו מזויף עמוק, אומר סיטרון, "כמו תקיפה מינית. "
