Οι ερευνητές ανακάλυψαν ένα «deepfake οικοσύστημα» στην εφαρμογή ανταλλαγής μηνυμάτων Telegram επικεντρώνεται γύρω από ρομπότ που δημιουργούν ψεύτικα γυμνά κατά παραγγελία. Οι χρήστες που αλληλεπιδρούν με αυτά τα ρομπότ λένε ότι δημιουργούν κυρίως γυμνά γυναικών που γνωρίζουν χρησιμοποιώντας εικόνες που λαμβάνονται από τα μέσα κοινωνικής δικτύωσης, τις οποίες στη συνέχεια μοιράζονται και ανταλλάσσουν μεταξύ τους σε διάφορα κανάλια Telegram.
-
-
- https://t.me/+NJ9dOO7okbMwZDQ0
- https://t.me/+D248nBps-zo2OTM8
- https://t.me/+9-HaKwj0_7I0Yzdk
- https://t.me/+ji5dVB_gocE5Zjhk
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+UXVp9ifkA-ljMTY0
- https://t.me/+_O4b8Uc5cXowNTc8
- https://t.me/+V6FoegpBESU2NDRk
- https://t.me/+RRfnUf7uzJE1Yjhk
- https://t.me/+GI1Ne7GyVBo2ZmI0
- https://t.me/+c6qdQxeqVAczYWZk
- https://t.me/+E7vor0Hx8BE2NmM0
- https://t.me/+b2wiBTfae9Q3YTk8
-
Η έρευνα προέρχεται από την εταιρεία ασφαλείας Sensity, η οποία επικεντρώνεται σε αυτό που αποκαλεί «πληροφορίες οπτικής απειλής», ιδιαίτερα στη διάδοση των deepfakes. Οι ερευνητές του Sensity διαπίστωσαν ότι περισσότερες από 100 εικόνες δημιουργήθηκαν και κοινοποιήθηκαν σε δημόσια κανάλια Telegram έως τον Ιούλιο του 2020 (που σημαίνει ότι ο συνολικός αριθμός των εικόνων που δημιουργήθηκαν, συμπεριλαμβανομένων αυτών που δεν κοινοποιήθηκαν ποτέ και εκείνων που έγιναν από τον Ιούλιο, είναι πολύ μεγαλύτερος). Οι περισσότεροι χρήστες αυτών των καναλιών, περίπου το 70 τοις εκατό, προέρχονται από τη Ρωσία και τις γειτονικές χώρες, λέει το Sensity. Η άκρη ήταν σε θέση να επιβεβαιώσει ότι πολλά κανάλια που ερευνήθηκαν από την εταιρεία εξακολουθούν να είναι ενεργά.
Τα bots είναι δωρεάν στη χρήση, αλλά δημιουργούν ψεύτικα γυμνά με υδατογραφήματα ή μόνο μερικό γυμνό. Οι χρήστες μπορούν στη συνέχεια να πληρώσουν ένα τέλος ίσο με μερικά σεντς για να «ανακαλύψουν» πλήρως τις εικόνες. Μια «τιμή για αρχάριους» χρεώνει τους χρήστες 100 ρούβλια (περίπου 1,28 $) για να δημιουργήσουν 100 ψεύτικα γυμνά χωρίς υδατογράφημα σε μια περίοδο επτά ημερών. Η Sensity λέει ότι "ένας περιορισμένος αριθμός" των εικόνων που δημιουργούνται από τα bots εμφανίζουν στόχους "που φαινόταν να είναι δευτερεύοντες".
και οι δύο Η άκρη και η Sensity επικοινώνησε Telegram να ρωτήσουν γιατί επιτρέπουν αυτό το περιεχόμενο στην εφαρμογή τους, αλλά δεν έχουν λάβει ακόμη απαντήσεις. Η Sensity λέει ότι έχει επίσης έρθει σε επαφή με τις αρχές επιβολής του νόμου.
Το λογισμικό που χρησιμοποιείται για τη δημιουργία αυτών των εικόνων είναι γνωστό ως DeepNude. Εμφανίστηκε για πρώτη φορά στον Ιστό τον περασμένο Ιούνιο, αλλά ο δημιουργός του έκλεισε τον ιστότοπό του μέσα σε λίγες ώρες από τη λήψη της κάλυψης από τα κυρίαρχα μέσα ενημέρωσης, λέγοντας ότι «η πιθανότητα να τον κάνουν κακή χρήση είναι πολύ υψηλή». Ωστόσο, το λογισμικό συνέχισε να εξαπλώνεται σε backchannels και το Sensity λέει ότι το DeepNude "έκτοτε έχει αναθεωρηθεί και μπορεί να βρεθεί σε βελτιωμένες μορφές σε αποθετήρια ανοιχτού κώδικα και ιστότοπους torrent." . Τώρα χρησιμοποιείται για την τροφοδοσία ρομπότ Telegram, οι οποίες διαχειρίζονται αυτόματα πληρωμές για τη δημιουργία εσόδων για τους δημιουργούς τους.
Το DeepNude χρησιμοποιεί μια τεχνική τεχνητής νοημοσύνης που είναι γνωστή ως δίκτυα αντιπαράθεσης (generative adversarial networks) ή GANs, για να δημιουργήσει ψεύτικα γυμνά, με τις προκύπτουσες εικόνες να ποικίλλουν σε ποιότητα. Τα περισσότερα είναι προφανώς ψεύτικα, με λερωμένη ή εικονογραφημένη σάρκα, αλλά μερικά μπορούν εύκολα να εκληφθούν ως αληθινές εικόνες.
Από πριν από την εμφάνιση του Photoshop, οι άνθρωποι δημιουργούσαν μη συναινετικά ψεύτικα γυμνά γυναικών. Αυτήν τη στιγμή υπάρχουν πολλά φόρουμ και ιστότοποι αφιερωμένοι σε αυτήν τη δραστηριότητα χρησιμοποιώντας εργαλεία που δεν είναι AI, με τους χρήστες να μοιράζονται γυμνά διασημότητες και άτομα που γνωρίζουν. Αλλά τα deepfakes οδήγησαν στην ταχύτερη δημιουργία πιο ρεαλιστικών εικόνων. Τώρα, αυτοματοποιώντας αυτή τη διαδικασία μέσω ρομπότ Telegram κάνει τη δημιουργία πλαστών γυμνών τόσο εύκολη όσο την αποστολή και λήψη εικόνων.
«Η κύρια διαφορά είναι η προσβασιμότητα αυτής της τεχνολογίας», δήλωσε ο Giorgio Patrini, Διευθύνων Σύμβουλος της Sensity και συν-συγγραφέας της έκθεσης. Η άκρη. «Είναι σημαντικό να σημειωθεί ότι άλλες εκδόσεις του βασικού AI αυτού του ρομπότ, η επεξεργασία και η σύνθεση εικόνας, είναι διαθέσιμες δωρεάν σε διαδικτυακά αποθετήρια κώδικα. Αλλά πρέπει να είστε προγραμματιστής και να έχετε κάποια κατανόηση της όρασης του υπολογιστή για να λειτουργήσουν, εκτός από το ισχυρό υλικό. Προς το παρόν, όλα αυτά δεν έχουν σημασία γιατί τα φροντίζει το bot που είναι ενσωματωμένο σε μια εφαρμογή ανταλλαγής μηνυμάτων.
Η έκθεση του Sensity λέει ότι είναι "λογικό να υποθέσει κανείς" ότι οι περισσότεροι άνθρωποι που χρησιμοποιούν αυτά τα ρομπότ "ενδιαφέρονται πρωτίστως να καταναλώνουν ψεύτικη πορνογραφία" (το οποίο παραμένει δημοφιλής κατηγορία σε πορνογραφικούς ιστότοπους). Αλλά αυτές οι εικόνες και τα βίντεο μπορούν επίσης να χρησιμοποιηθούν για εκβιασμό, εκβιασμό, παρενόχληση κ.λπ. Έχουν υπάρξει μια σειρά από τεκμηριωμένη cas γυναίκες που στοχεύουν χρησιμοποιώντας γυμνά που δημιουργούνται από την τεχνητή νοημοσύνη, και είναι πιθανό ότι ορισμένες από αυτές που δημιουργούν γυμνά χρησιμοποιώντας τα ρομπότ Telegram κάντε το έχοντας υπόψη αυτούς τους λόγους.
είπε η πατρίνι Η άκρη ότι οι ερευνητές του Sensity δεν είχαν δει άμεσες αποδείξεις ότι οι δημιουργίες του bot χρησιμοποιούνται για αυτούς τους σκοπούς, αλλά είπαν ότι η εταιρεία πίστευε ότι αυτό συνέβαινε. Πρόσθεσε ότι ενώ η πολιτική απειλή των deepfakes είχε «υπολογιστεί λάθος» («από τη σκοπιά των δραστών, είναι ευκολότερο και φθηνότερο να κάνετε photoshop εικόνων και να επιτύχετε παρόμοιο αντίκτυπο για τη διάδοση παραπληροφόρησης, με λιγότερη προσπάθεια»), είναι σαφές ότι η τεχνολογία αποτελεί «σειριακή απειλή για την προσωπική φήμη και ασφάλεια».
