研究者は、メッセージングアプリで「ディープフェイクエコシステム」を発見しました Telegram オンデマンドで偽のヌードを生成するロボットが中心です。 これらのボットとやり取りするユーザーは、主にソーシャル メディアから取得した画像を使用して知っている女性のヌードを作成し、それをさまざまなチャネルで共有および交換していると述べています。 Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
この調査は、セキュリティ会社 Sensity によるもので、同社が「視覚的な脅威インテリジェンス」と呼んでいるもの、特にディープフェイクの拡散に焦点を当てています。 Sensity の研究者は、100 を超える画像が生成され、パブリック チャネルで共有されていることを発見しました Telegram 2020 年 70 月まで (これは、共有されなかったものや XNUMX 月以降に作成されたものを含め、生成された画像の総数がはるかに多いことを意味します)。 これらのチャネルのほとんどのユーザー (約 XNUMX%) は、ロシアと近隣諸国から来ている、と Sensity は説明します。 エッジ 同社が調査した多くのチャネルがまだアクティブであることを確認できました。
ボットは無料で使用できますが、透かしが入った偽のヌードや部分的なヌードのみが生成されます。 その後、ユーザーはペニーに等しい料金を支払って、画像を完全に「発見」することができます。 「初心者料金」では、100日間で透かしなしの偽のヌードを1,28枚生成するために、ユーザーに100ルーブル（約XNUMXドル）が請求されます。 感度によると、ロボットによって生成された「限られた数」の画像は、「マイナーに見える」ターゲットを示しています。
両方 エッジ とSensityが連絡しました Telegram アプリでこのコンテンツを許可しているのに、まだ回答を受け取っていない理由を彼に尋ねます。 Sensity は、法執行機関にも連絡したと述べています。
これらの画像を生成するために使用されるソフトウェアは、DeepNude として知られています。 昨年 XNUMX 月に初めて Web に登場しましたが、その作成者は主流メディアの報道を受けて数時間後に Web サイトを閉鎖し、「人々がそれを悪用する可能性が高すぎる」と述べました。 しかし、ソフトウェアはバックチャネルを通じて拡散し続けており、Sensity は DeepNude が「その後リバース エンジニアリングされ、オープン ソース リポジトリやトレント Web サイトで強化された形で見つかる可能性がある」と述べています。 現在、ロボットの動力源として使用されています Telegram、支払いを自動的に処理して、クリエイターの収益を生み出します。
DeepNudeは、Generative Adversarial Networks（GAN）と呼ばれるAI技術を使用して、偽のヌードを生成します。その結果、画像の品質は異なります。 ほとんどは明らかに偽物で、肉が汚れていたり、ピクセル化されていたりしますが、実際の写真と間違えやすいものもあります。
Photoshop が登場する前から、人々は同意のない偽の女性ヌードを作成してきました。 現在、非 AI ツールを使用したこの活動に特化した多くのフォーラムや Web サイトがあり、ユーザーは有名人や知り合いのヌードを共有しています。 しかしディープフェイクは、よりリアルな画像をより速く生成することにつながりました。 現在、ロボットを介してこのプロセスを自動化しています Telegram 画像の送受信と同じくらい簡単に偽のヌードを生成できます。
「主な違いは、このテクノロジーのアクセシビリティです」と、SensityのCEOでレポートの共著者であるGiorgioPatriniは述べています。 エッジ。 「このボットのAIコアの他のバージョンである画像処理と合成は、オンラインコードリポジトリから無料で利用できることに注意することが重要です。 ただし、強力なハードウェア以外に、プログラマーであり、コンピュータービジョンを機能させるには、コンピュータービジョンについてある程度理解している必要があります。 現時点では、メッセージングアプリに組み込まれているボットによって処理されるため、これらすべては重要ではありません。
Sensityレポートは、これらのボットを使用しているほとんどの人が「主にディープフェイクポルノの消費に関心がある」と「想定するのが合理的」であると述べています（ 人気のあるカテゴリ ポルノサイト）。 ただし、これらの画像や動画は、恐喝、恐喝、嫌がらせなどにも使用できます。 いくつかありました 文書化 CAS AIで生成されたヌードを使用してターゲットにされた女性、そしてロボットを使用してヌードを作成する人の一部がいる可能性があります Telegram これらの理由を念頭に置いて行ってください。
パトリーニは言った エッジ Sensityの研究者は、ボットの作成物がこれらの目的に使用されているという直接的な証拠を見ていなかったが、同社はそれが起こっていると信じていると述べた。 彼は、ディープフェイクの政治的脅威が「誤算」されていた場合（「著者の観点からは、画像のフォトショップに頼り、より少ない労力で偽情報を広めるために同様の影響を達成する方が簡単で安価です」と付け加えました。テクノロジーが「個人の評判とセキュリティに連続的な脅威」をもたらすことは明らかです。
