Deepfake boty włączone Telegram sprawiają, że tworzenie fałszywych aktów jest niebezpiecznie łatwe

Naukowcy odkryli „głęboki ekosystem” w aplikacji do przesyłania wiadomości Telegram skupiający się wokół robotów generujących fałszywe akty na żądanie. Użytkownicy, którzy wchodzą w interakcję z tymi botami, twierdzą, że tworzą głównie akty znanych sobie kobiet, korzystając ze zdjęć pobranych z mediów społecznościowych, które następnie udostępniają i wymieniają między sobą na różnych kanałach Telegram.

Dochodzenie prowadzi firma Sensity zajmująca się bezpieczeństwem, która koncentruje się na tzw. „wizualnej analizie zagrożeń”, w szczególności na rozprzestrzenianiu się deepfake’ów. Badacze Sensity odkryli, że wygenerowano i udostępniono w kanałach publicznych ponad 100 000 zdjęć Telegram do lipca 2020 r. (co oznacza, że łączna liczba wygenerowanych zdjęć, zarówno tych nigdy nie udostępnianych, jak i tych powstałych od lipca, jest znacznie większa). Według Sensity większość użytkowników tych kanałów, około 70 procent, pochodzi z Rosji i krajów sąsiadujących. Krawędź był w stanie potwierdzić, że wiele kanałów badanych przez firmę jest nadal aktywnych.

Z botów można korzystać bezpłatnie, ale generują fałszywe akty ze znakami wodnymi lub tylko częściową nagość. Użytkownicy mogą następnie uiścić opłatę w wysokości kilku centów, aby w pełni „odkryć” obrazy. „Stawka dla początkujących” pobiera od użytkowników 100 rubli (około 1,28 dolara) za wygenerowanie 100 fałszywych aktów bez znaku wodnego w ciągu siedmiu dni. Sensity twierdzi, że „ograniczona liczba” obrazów generowanych przez boty przedstawia cele, „które wydawały się niewielkie”.

Oboje Krawędź i Skontaktowaliśmy się z Wrażliwością Telegram zapytać, dlaczego zezwalają na te treści w swojej aplikacji, ale nie otrzymali jeszcze żadnej odpowiedzi. Sensity twierdzi, że skontaktowało się również z organami ścigania.

W ankiecie przeprowadzonej na jednym z wiodących kanałów udostępniania głębokich nagości (pierwotnie opublikowanym w języku rosyjskim i angielskim) większość użytkowników stwierdziła, że chce wygenerować obrazy kobiet, które znali w „prawdziwym życiu” .

Oprogramowanie używane do generowania tych obrazów jest znane jako DeepNude. Po raz pierwszy pojawił się w Internecie w czerwcu ubiegłego roku, ale jego twórca zamknął swoją witrynę w ciągu kilku godzin od pojawienia się w mediach głównego nurtu, stwierdzając, że „prawdopodobieństwo niewłaściwego wykorzystania jej przez ludzi jest zbyt wysokie”. Jednak oprogramowanie w dalszym ciągu rozprzestrzeniało się kanałami zwrotnymi, a Sensity twierdzi, że DeepNude „od tego czasu został poddany inżynierii wstecznej i można go znaleźć w ulepszonej formie w repozytoriach open source i witrynach z torrentami”. Obecnie służy do zasilania robotów Telegram, które automatycznie obsługują płatności, aby generować przychody dla ich twórców.

DeepNude wykorzystuje technikę sztucznej inteligencji znaną jako generatywne sieci kontradyktoryjne (GAN) do generowania fałszywych aktów, a uzyskane obrazy różnią się jakością. Większość z nich jest oczywiście fałszywa, z rozmazanym lub pikselowanym miąższem, ale niektóre można łatwo pomylić z prawdziwymi obrazami.

Jeszcze przed pojawieniem się Photoshopa ludzie tworzyli fałszywe akty kobiet bez ich zgody. Obecnie istnieje wiele forów i stron internetowych poświęconych tej działalności, korzystających z narzędzi innych niż sztuczna inteligencja, a użytkownicy udostępniają akty gwiazd i osób, które znają. Jednak deepfakes doprowadziły do szybszego generowania bardziej realistycznych obrazów. Teraz automatyzacja tego procesu za pomocą robotów Telegram sprawia, że generowanie fałszywych aktów jest tak proste, jak wysyłanie i odbieranie obrazów.

„Główną różnicą jest dostępność tej technologii” – powiedział Giorgio Patrini, dyrektor generalny Sensity i współautor raportu. Krawędź. „Należy zauważyć, że inne wersje podstawowej sztucznej inteligencji, przetwarzania i syntezy obrazu tego bota są dostępne bezpłatnie w internetowych repozytoriach kodu. Ale musisz być programistą i mieć pewną wiedzę na temat wizji komputerowej, aby działały, poza potężnym sprzętem. W tej chwili to wszystko nie ma znaczenia, bo zajmuje się tym bot zintegrowany z aplikacją do przesyłania wiadomości.

Raport Sensity stwierdza, że „rozsądnie jest założyć”, że większość osób korzystających z tych botów „jest przede wszystkim zainteresowana konsumpcją pornografii deep-fake” (co pozostaje popularna kategoria na stronach pornograficznych). Jednak te obrazy i filmy mogą być również wykorzystywane do wymuszeń, szantażu, nękania itp. Było ich wiele udokumentowane cas kobiety atakowały za pomocą aktów generowanych przez sztuczną inteligencję i możliwe, że niektóre z tych, które tworzą akty za pomocą robotów Telegram zrób to mając na uwadze te powody.

Patrini powiedział Krawędź że badacze Sensity nie widzieli bezpośrednich dowodów na wykorzystanie kreacji bota do tych celów, ale stwierdzili, że firma wierzy, że tak się dzieje. Dodał, że choć polityczne zagrożenie związane z deepfake’ami zostało „błędnie obliczone” („z punktu widzenia sprawców łatwiej i taniej jest poddać obrazom Photoshopa i osiągnąć podobny efekt, przy mniejszym wysiłku, rozpowszechniając dezinformację”), jasne jest, że że technologia stwarza „seryjne zagrożenie dla osobistej reputacji i bezpieczeństwa”.

Może Ci się spodobać

Dzień dobry ! Dobra, wiesz co? Minął tydzień odkąd się pieprzyłem

Link do grupy Telegram | Dołącz, udostępniaj, przesyłaj grupy Telegram 2021

posłaniec TELEGRAM