Η Scarlett Johansson -και όχι μόνο- το γύρισε στο πορνό ή… δεν είναι αυτό που φαίνεται;

Θα μπορούσε άραγε η πιο ακριβοπληρωμένη ηθοποιός όλων των εποχών, έχοντας βραβευτεί με Βραβεία Τόνυ και αυτά της Βρετανικής Ακαδημίας Κινηματογράφου, η Scarlett Johansson να παίξει σε πλήθος ταινιών σκληρού ερωτικού περιεχομένου; Χάρη στις νέες τεχνολογίες και στα νομικά κενά… φυσικά, δίχως η ίδια να το γνωρίζει.

Τα περίφημα deepfakes που διαδίδονται όλο και περισσότερο, είναι ψηφιακά επεξεργασμένα βίντεο που αν και υπάρχουν εδώ και χρόνια, η πρόοδος στην τεχνητή νοημοσύνη και η αυξανόμενη διαθεσιμότητα της τεχνολογίας έχουν καταστήσει ευκολότερη —και πιο προσοδοφόρα— τη δημιουργία… μη συναινετικού σεξουαλικού υλικού. Το πρόβλημα εδώ έγγειται στο γεγονός ότι τα βίντεο δημιουργούνται χρησιμοποιώντας λογισμικό τεχνητής νοημοσύνης που μπορεί να «τραβήξει» ένα υπάρχον βίντεο και να αντικαταστήσει το πρόσωπο ενός ατόμου με κάποιο άλλο, ακόμη και να κοπιάρει τις εκφράσεις του προσώπου. Μερικά αυθόρμητα ψεύτικα βίντεο διασημοτήτων έχουν γίνει viral, αλλά η πιο κοινή χρήση είναι για βίντεο με σεξουαλικό περιεχόμενο, δίχως οι γυναίκες που εμφανίζονται να έχουν δώσει φυσικά τη συναίνεσή τους.

Σε έρευνα της Kat Tenbarge για το NBC News αποκαλύπτεται πως τα βίντεο αυτά προσελκύουν δεκάδες εκατομμύρια επισκέπτες σε ιστότοπους που φιγουράρουν στην κορυφή των αναζητήσεων της Google. Οι άνθρωποι που δημιουργούν τα βίντεο, χρεώνουν μόλις 5 δολάρια για να κατεβάσει κανείς χιλιάδες κλιπάκια με πρόσωπα διασημοτήτων και δέχονται κανονικά πληρωμή μέσω Visa, Mastercard και κρυπτονομισμάτων.

Emma Watson, Scarlett Johansson, «Sweet Anita»…

Η μη συναινετική οικονομία του deepfake βρέθηκε στο επίκεντρο της δημόσιας προσοχής όταν πρόσφατα η βρετανίδα livestreamer «Sweet Anita», με 1,9 εκ. ακολούθους, είδε τον εαυτό της να παίζει σε βίντεο σεξουαλικού περιοχομένου, λέγοντας «Για περίμενε, εγώ είμαι αυτή;». Σύμφωνα με το NBC, ακριβώς εκείνη την εποχή, η επισκεψιμότητα της αναζήτησης Google αυξήθηκε για το «deepfake porn». Η άνοδος συνέπεσε επίσης με την αύξηση του αριθμού των βίντεο που ανέβηκαν στο MrDeepFakes, έναν από τους πιο γνωστούς ιστότοπους παγκοσμίως στα deepfake πορνό. Ο ιστότοπος φιλοξενεί χιλιάδες τέτοια βίντεο που μπορεί κανείς να δει δωρεάν, με 17 εκατομμύρια επισκέπτες μηνιαίως, σύμφωνα με τη SimilarWeb.

Ερευνώντας το NBC News δύο από τους μεγαλύτερους ιστότοπους με deepfakes, Fan-Topia και MrDeepFakes, διαπίστωσε ότι ήταν εύκολα προσβάσιμοι μέσω της Google και ότι οι δημιουργοί τέτοιων βίντεο χρησιμοποιούσαν επίσης την πλατφόρμα διαδικτυακής συνομιλίας Discord για να ψάξουν πελάτες διαφημίζοντας βίντεο προς πώληση, αλλά και να δεχτούν «παραγγελίες».

Σύμφωνα με την ολλανδική εταιρεία Sensity, που ανιχνεύει και παρακολουθεί συνθετικά μέσα που έχουν αναπτυχθεί με τεχνητή νοημοσύνη, το 96% των deepfakes είναι σεξουαλικού περιεχομένου, με γυναίκες που δεν έχουν συναινέσει. Διασημότητες και ηθοποιοί εμφανίζονται σε αυτά τα deepfakes με τις Emma Watson και Scarlett Johansson να εμφανίζονται στην κορυφή των αναζητήσεων του ιστότοπου MrDeepFakes.

Όταν οι χρήστες deepfake βρίσκουν βίντεο που τους αρέσει στο MrDeepFakes, κάνοντας κλικ στα προφίλ των δημιουργών, μεταφέρονται συχνά στους συνδέσμους Fan-Topia, όπου μπορούν να πληρώσουν για πρόσβαση σε «βιβλιοθήκες» deepfake με τις πιστωτικές τους κάρτες. Στη σελίδα πληρωμής Fan-Topia, τα λογότυπα της Visa και της Mastercard εμφανίζονται δίπλα στα πεδία όπου οι χρήστες μπορούν να εισαγάγουν στοιχεία πιστωτικής κάρτας.

Το σεξουαλικό θύμα της διπλανής πόρτας

Αν και τα περισσότερα deepfakes αφορούν διάσημες γυναίκες, οι δημιουργοί τέτοιου περιεχομένου προσφέρονται να φτιάξουν βίντεο με οποιονδήποτε. Ένας δημιουργός προσφέρθηκε στο Discord να κάνει ένα deepfake διάρκειας 5 λεπτών με ένα «προσωπικό κορίτσι», δηλαδή μια γυναίκα που έχει λιγότερους από 2 εκατομμύρια ακόλουθους στο Instagram, για 65 δολάρια.

Σύμφωνα με την Αυστραλή δικηγόρο Νοέλ Μάρτιν, η οποία αγωνίζεται για την ευαισθητοποίηση γύρω από τους κινδύνους της σεξουαλικής κακοποίησης με χρήση τεχνολογίας, γίνεται όλο και πιο συνηθισμένο για αφανείς γυναίκες να πέφτουν θύματα τέτοιων μη συναινετικών βίντεο. «Όλο και περισσότεροι άνθρωποι γίνονται στόχος», είπε η Μάρτιν, η οποία έχει πέσει και ίδια θύμα σεξουαλικού deepfake. «Θα ακούσουμε στην πραγματικότητα πολύ περισσότερα θύματα αυτού του γεγονότος που είναι απλοί άνθρωποι, καθημερινοί άνθρωποι, που στοχοποιούνται».

Τι άμυνες υπάρχουν… προς το παρόν λίγες

Μιλώντας στο NBC News, ένας εκπρόσωπος της Google είπε ότι τα άτομα που είναι θύματα των deepfakes μπορούν να ζητήσουν την αφαίρεση σελίδων από την Αναζήτηση της Google που περιλαμβάνουν «ακούσια ψεύτικη πορνογραφία». «Επιπλέον, σχεδιάζουμε θεμελιωδώς τα συστήματα κατάταξής μας ώστε να αναδεικνύουν πληροφορίες υψηλής ποιότητας και να αποφεύγουν να σοκάρουν τους ανθρώπους με απροσδόκητο επιβλαβές ή σεξουαλικό περιεχόμενο όταν δεν το αναζητούν», συνεχίζει λέει ο εκπρόσωπος της Google.

H Μάρτιν πιστεύει ότι η MrDeepFakes «Δεν είναι ιστοσελίδα πορνό. Είναι μια ιστοσελίδα αρπακτικών που δεν βασίζεται στη συγκατάθεση των ανθρώπων που βρίσκονται στην πραγματική ιστοσελίδα» και προσθέτει πως «το γεγονός ότι επιτρέπεται ακόμη και να λειτουργεί και είναι γνωστό, είναι ένα πλήρες κατηγορητήριο για κάθε ρυθμιστική αρχή του χώρου, για όλες τις διωκτικές αρχές, για ολόκληρο το σύστημα, ότι αυτό επιτρέπεται ακόμη και να υπάρχει».

«Στο παρελθόν, ακόμη και πριν από μερικά χρόνια, ο κυρίαρχος τρόπος με τον οποίο οι άνθρωποι επηρεάζονταν από αυτό το είδος κακοποίησης ήταν η μη συναινετική κοινή χρήση προσωπικών εικόνων», είπε η Μάρτιν. «Δεν ήταν καν επεξεργασμένες εικόνες». Τώρα, σύμφωνα με την Μάρτιν, τα θύματα σεξουαλικής κακοποίησης στο διαδίκτυο και όχι μόνο, έχουν γίνει στόχος deepfakes. Στη Δυτική Αυστραλία, η Μάρτιν έκανε μια πετυχημένη εκστρατεία για την απαγόρευση των μη συναινετικών deepfakes και της σεξουαλικής κακοποίησης βάσει εικόνων, αλλά, όπως είπε, οι αρχές επιβολής του νόμου και οι ρυθμιστικές αρχές περιορίζονται από ζητήματα δικαιοδοσίας καθώς τα deepfakes μπορούν να δημιουργηθούν και να αναρτηθούν από οπουδήποτε στον κόσμο.

Στις ΗΠΑ, μόνο τέσσερις πολιτείες έχουν εγκρίνει νομοθεσία ειδικά για τα deepfakes. Τα θύματα βρίσκονται επίσης σε μειονεκτική θέση λόγω περιορισμένης δικαιοδοσίας, αλλά και επειδή οι σχετικοί νόμοι περιορίζονται μόνο να παρέχουν προστασία για τις εκλογές ή το υλικό σεξουαλικής κακοποίησης παιδιών. «Η συναίνεση είναι ότι χρειαζόμαστε μια παγκόσμια, συλλογική απάντηση σε αυτά τα ζητήματα», καταλήγει η Μάρτιν.