昨年の夏、著名なクリエイターによるポルノビデオが公開されました。 TikTok ソーシャルメディアで急速に広まりました。のビデオのスクリーンショット TikTok Instagramアカウント@にアクセスしましたtiktok動画内で顔が公開されたクリエイターからのコメントも添えて掲載。 「これはディープフェイクですが、このアプリを使用している私の両親は安心してください」と作成者は言いました。 (ローリングストーン 動画が彼らの同意なしに投稿されたという理由で、この作成者またはこのストーリーで参照されている他の作成者を指名しません。）
ディープフェイクは、人工知能技術を使用して、通常は同意なしに、人の顔（多くの場合、常にではありませんが、有名人）を別の人の体と交換するデジタル操作のビデオです。 ディープフェイクに対するメディアの注目の多くは、特に政治運動や選挙に関連して、偽情報を広める可能性に焦点を当てています。 ナンシーペロシのドクタークリップ 昨年Facebookで話題になりました。 それでも、ディープフェイクの大部分（人工知能会社Sensityの96年の調査によると2019％）はポルノであり、女性を標的にするために使用されています。
過去には、ディープフェイクテクノロジーは主に、特に女性有名人のヌードまたは性的に露骨な画像を作成するために使用されていました。 その一部は、ディープフェイクモデルを作成するには、良い仕事をするために数千枚の写真または数分のビデオ映像が必要になるためです、とSensityの創設者兼CEOであるGiorgioPatriniは言います。
しかし、テクノロジーはよりアクセスしやすく、複雑さを軽減し、恐ろしい結果をもたらしています。 先週、Sensity AIボットに関するレポートを公開 暗号化されたメッセージングアプリ Telegram 何十万人もの女性のヌード画像や性的に露骨な画像を同意なしに作成するために使用されていました。ディープフェイク動画の作成に使用される他のソフトウェアとは異なり、このボットはヌードの女性を描写するために写真の使用のみを必要としたため、非有名人の女性や少女がターゲットになることが増えました。 Instagram などのプラットフォームのインフルエンサーにも同じことが当てはまります。 TikTok。 「これはビデオベースのプラットフォームなので、実際には（ディープフェイクを作成するための）より多くの素材を提供します」とパトリーニ氏は言う。 「これらの人々は、単に写真をアップロードする場合よりも大きなリスクにさらされています。 »
ボストン大学ロースクールの法学教授でサイバー市民権イニシアチブの副社長であるダニエル・シトロンは、ポルノのディープフェイクビデオに登場することの心理的影響を誇張することはできないと述べています。の デジタルレイプ。 「自分のディープフェイクセックスビデオを見ると、内臓的には自分の体のように感じます。 それはあなたの許可なしにあなたの性同一性を流用することです。 それは自律性と身体のひどい違反のように聞こえます、そしてそれはあなたの頭の中に余地を作ります」と彼女は言います。 Patriniによると、ディープフェイクポルノビデオに出演することは、クリエイターのビジネスモデルに重大で有害な経済的影響を与える可能性があります。これは、誰かが彼女のディープフェイクビデオをポルノサイトに投稿した後にブランドパートナーシップを失った著名なYouTuberの例を挙げています。
さらに悪いことに、 ユーザーのほぼ 3 分の 1 が TikTok 14歳未満です、によってレビューされた社内データによると ニューヨーク·タイムズ紙 この人口を脅威に対してさらに脆弱にします。 なので ローリングストーン 以前に報告されたように、未成年のクリエイターが TikTok Pornhub などのチューブ サイトの編集ビデオに投稿されているビデオを見つけてください。 ローリングストーン 17歳の少女の母親に話を聞いたところ、彼女のビデオのXNUMXつが TikTok Pornhubで公開されていました。 「彼女は悔しかったです。彼女は学校に戻りたくなかったのです」と匿名を希望した母親は私に語った。 「彼女は非常に無邪気にこのビデオを投稿しました。彼女はPornhubとは関わりたくなかった。これは17歳で学ばなければならない教訓ではありません。 （彼女は、Pornhubが要求に応じてすぐにビデオを削除したと述べた。 転がる石、 Pornhubはその内容を否定した TikTok プラットフォームに頻繁に投稿されました。）
この話の調査では、 ローリングストーン の著名なクリエイターの例が 20 件以上見つかりました。 TikTok ディープフェイクポルノで紹介されました。それらのほとんどは、最初はディープフェイクの公開のみを専門とする数少ない Web サイトの 1 つに投稿されますが、Twitter や Reddit などのソーシャル メディア プラットフォームでも見つけるのは難しくありません。ただし、両プラットフォームにはディープフェイクを禁止するポリシーがあります。
声明の中で、ツイッターのスポークスパーソンは指示した ローリングストーン ディープフェイクや「同意なしに制作または配布された誰かの親密な写真やビデオ」を禁止するポリシーに準拠している。出版当時、彼は、2人のクリエイターによるディープフェイクポルノビデオを含むツイートを削除しなかった。 TikTok。 Redditも同意のないディープフェイクの投稿を禁止するポリシーを持っているが、コメントの要請にはすぐには応じていない。
また、Pornhubはディープフェイクも禁止していますが、Pornhubやその他のチューブサイトで見つけるのも難しくありません。 「T彼らは人々がディープフェイクにラベルを付けることを禁止しただけです。 人々はまだそれらをダウンロードして別の名前を使用することができました」と元Sensity研究者のHenryAjderは言います。 彼は、Pornhubで「おそらく数千のどこかに」ディープフェイクがあると考えています。
ディープフェイクで最も人気のあるウェブサイトのXNUMXつで、 ローリングストーン 名前は明かさないが、ユーザーが有名人やインフルエンサーに質問できる100人以上のメンバーがいるDiscordサーバーを持っていた TikTok ディープフェイクの対象となるお気に入り。この Web サイトは 18 歳以上のクリエイターが出演する動画のみを投稿していますが、このサーバーで最もリクエストの多い有名人の XNUMX 人は、 TikTok 17歳になったばかりの人。 [名前は編集済み] ちなみに、彼女はあと 18 日で 4 歳になります」と最近、あるユーザーがクリエイターに尋ねてこう言いました。 （管理者はビデオを作成し、彼女が 18 歳になった XNUMX 週間後にウェブサイトに投稿しました。）
サーバーについて尋ねられたとき、Discordは、合意に基づかないヌードに関するポリシーに違反していると述べ、サーバーを削除しました。 「Discordは、サービスの合意に基づかないポルノに対してゼロトレランスのアプローチを採用しており、会社はそれに気付いたときに即座に行動を起こします」と同社の広報担当者は語った。 ただし、ポルノWebサイトdeepfakeの通知には、「代替サーバーで動作している」と記載されています。
そもそもなぜ人々がディープフェイクポルノを作成するのかについて、Citronは、それが本質的に被害者なき犯罪であると誤って信じている人もいると言います。 「悪は人々から遠く離れているので、ゲームのように感じます」と彼女は言いました。 「あなたは誰かの体をあなた自身のものにすることができ、あなたは彼らに尋ねる必要はありません。 ディープフェイクポルノの現象は、「不処罰の文化」、つまり若い男性には女性の体を使ってやりたいことを何でもする権利があるという考えから生じています。
しかし、一部の男性は、影響力のある人物の画像を使ってやりたいことを何でもできるようになっていると感じるかもしれませんが、公人であり、最終的にはディープフェイクポルノの対象になります。 「」
