Taylor Swift: Το X μπλοκάρει τις αναζητήσεις του pop icon εξαιτίας χιλιάδων AI deepfakes

Τις εικόνες της Swift είδαν εκατομμύρια άνθρωποι πριν αφαιρεθούν από πλατφόρμες όπως το X και το Meta. Η πλατφόρμα κοινωνικής δικτύωσης X μπλόκαρε τις αναζητήσεις για μια από τις πιο δημοφιλείς προσωπικότητες παγκοσμίως, την Taylor Swift, αφού εικόνες τεχνητής νοημοσύνης της τραγουδίστριας-τραγουδοποιού έγιναν viral.

Διάφορα deepfakes κατέκλυσαν αρκετούς ιστότοπους κοινωνικής δικτύωσης από το Reddit έως το Facebook. Το γεγονός αυτό ανανέωσε τις εκκλήσεις για την ενίσχυση της νομοθεσίας γύρω από την τεχνητή νοημοσύνη, ιδίως όταν αυτή χρησιμοποιείται καταχρηστικά για σεξουαλική παρενόχληση.

Τυπικά αυτού του τύπου οι γυμνές deepfakes, θεωρούνται μη συναινετικό γυμνό και «σηκώνουν» πολλές ακόμα νομικές κατηγορίες, εκτός της πορνογραφίας.

Συγκεκριμένα την εμφάνιζαν σε σεξουαλικές στάσεις, είτε με ρεαλιστική χρήση τεχνητής νοημοσύνης, είτε με μορφή animation. Τυπικά η X, έκλεισε το ψάξιμο στο όνομα της Swift, όμως ο αλγόριθμος που υπάρχει για τους ανορθόγραφους, βγάζει τις (νομότυπες) δημοσιεύσεις που την αφορούν κανονικά.

Το Χ αφαίρεσε κάθε ψάξιμο στο όνομα Taylor Swift, όμως αυτό αδικεί την καλλιτέχνιδα. Είναι δικό τους πρόβλημα να ελέγξουν την ποιότητα των δημοσιευμάτων και αν παραβιάζονται νόμοι. Περιέργως αν κάνετε μια μετατροπή στο όνομα, για παράδειγμα Tailor Swift ή Taylor Sweft, o αλγόριθμος βγάζει τα κανονικά μη ΑΙ αποτελέσματα για την τραγουδίστρια.

Τι συνέβη με την Τέιλορ Σουίφτ και σηκώθηκε τόσος ντόρος;

Την Τετάρτη, εικόνες που δημιουργήθηκαν από τεχνητή νοημοσύνη είτε σε πορνό εκδοχή, είτε σε εκδοχή επί σκηνής, είτε τύπου κούκλα (χωρίς θηλές και γεννητικά όργανα), άρχισαν να κυκλοφορούν στους ιστότοπους κοινωνικής δικτύωσης, κερδίζοντας ιδιαίτερα έδαφος στο X. Μια εικόνα του pop icon είχε 47 εκατομμύρια θεάσεις κατά τη διάρκεια των περίπου 17 ωρών που ήταν ζωντανή στο X, προτού αφαιρεθεί την Πέμπτη.

Η ομάδα εντοπισμού deepfake, Reality Defender, δήλωσε στο πρακτορείο ειδήσεων Associated Press ότι εντόπισε δεκάδες μοναδικές εικόνες που διαδόθηκαν σε εκατομμύρια ανθρώπους στο διαδίκτυο πριν αφαιρεθούν. Αυτού του τύπου οι γυμνές deepfakes, θεωρούνται μη συναινετικό γυμνό και «σηκώνουν» πολλές ακόμα νομικές κατηγορίες, εκτός της παράνομης πορνογραφίας.

Το X απαγόρευσε τις αναζητήσεις για το Swift και τα ερωτήματα που σχετίζονται με τις φωτογραφίες, εμφανίζοντας αντ’ αυτού ένα μήνυμα σφάλματος. Το Instagram και το Threads, ενώ επιτρέπουν τις αναζητήσεις για τη Swift, εμφανίζουν ένα προειδοποιητικό μήνυμα όταν γίνεται συγκεκριμένη αναζήτηση για τις εικόνες.

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We’re closely…

— Safety (@Safety) January 26, 2024

Τι λένε οι πλατφόρμες όπως το X και οι ιστότοποι AI;

Την Παρασκευή, ο λογαριασμός ασφαλείας του X δημοσίευσε μια δήλωση που επανέλαβε την «πολιτική μηδενικής ανοχής» της πλατφόρμας για τη δημοσίευση μη συναινετικών γυμνών εικόνων. Είπε ότι η πλατφόρμα αφαιρεί εικόνες και λαμβάνει μέτρα κατά λογαριασμών που παραβιάζουν την πολιτική. Η Meta δημοσίευσε επίσης μια δήλωση με την οποία καταδικάζει το περιεχόμενο, προσθέτοντας ότι «θα λάβει τα κατάλληλα μέτρα όπως απαιτείται. Παρακολουθούμε στενά την κατάσταση για να διασφαλίσουμε ότι τυχόν περαιτέρω παραβιάσεις θα αντιμετωπιστούν άμεσα και το περιεχόμενο θα αφαιρεθεί», δήλωσε η εταιρεία.

Η OpenAI δήλωσε ότι διαθέτει διασφαλίσεις για τον περιορισμό της δημιουργίας επιβλαβούς περιεχομένου στις πλατφόρμες της, όπως το ChatGPT, και απορρίπτει «αιτήματα που ζητούν ονομαστικά ένα δημόσιο πρόσωπο, συμπεριλαμβανομένης της Taylor Swift». Η Microsoft, η οποία προσφέρει μια γεννήτρια εικόνων που βασίζεται εν μέρει στον ιστότοπο DALL-E, δήλωσε την Παρασκευή ότι βρίσκεται στη διαδικασία διερεύνησης του κατά πόσον το εργαλείο της χρησιμοποιήθηκε καταχρηστικά.

Η Kate Vredenburgh, επίκουρη καθηγήτρια στο Τμήμα Φιλοσοφίας, Λογικής και Επιστημονικής Μεθόδου στο LSE, επεσήμανε ότι τα επιχειρηματικά μοντέλα των μέσων κοινωνικής δικτύωσης συχνά βασίζονται στην ανταλλαγή περιεχομένου και η προσέγγισή τους είναι συνήθως η καθαριότητα μετά από ένα τέτοιο γεγονός. Η Swift δεν έχει προβεί σε δήλωση σχετικά με τις εικόνες. Το ζήτημα έχει πέσει μάλιστα θέμα μικροπολιτικής εκμετάλλευσης εν όψει των αμερικανικών εκλογών. Οι δημο

Η εικόνα αυτή δεν είναι πορνό, όμως χρησιμοποιούν καταχρηστικά το πρόσωπο της Swift και τυπικά απεικονίζει γυμνό. Είναι ανάγκη να διασαφηνιστούν τα όρια, τι επιτρέπεται και τι δεν επιτρέπεται να κάνει κάποιος με την χρήση ΑΙ.

Τι είναι ένα deepfake και πώς μπορεί να γίνει κατάχρηση της Τεχνητής Νοημοσύνης;

Η Swift δεν είναι το πρώτο δημόσιο πρόσωπο που έχει στοχοποιηθεί με τη χρήση deepfakes, τα οποία συνήθως είναι αληθοφανή βίντεο ή φωτογραφίες, ενώ έχει υπάρξει και αυτοματοποιημένο μήνυμα δήθεν από τον Biden με χρήση κατά πάσα πιθανότητα Τεχνητής Νοημοσύνης.

Εικόνες και βίντεο μπορούν να δημιουργηθούν από το μηδέν τροφοδοτώντας τα εργαλεία τεχνητής νοημοσύνης με υποδείξεις για το τι πρέπει να εμφανίσουν. Εναλλακτικά, το πρόσωπο κάποιου ατόμου σε ένα βίντεο ή μια εικόνα μπορεί να αντικατασταθεί με το πρόσωπο κάποιου άλλου, όπως ενός δημόσιου προσώπου.

Συνήθως δημιουργούνται με αυτόν τον τρόπο ψεύτικα βίντεο που δείχνουν πολιτικούς να υποστηρίζουν ορισμένες δηλώσεις ή ανθρώπους να επιδίδονται σε σεξουαλικές δραστηριότητες στις οποίες δεν συμμετείχαν ποτέ. Πρόσφατα, στην Ινδία, σεξουαλικά ρητά deepfakes της ηθοποιού Rashmika Mandanna έγιναν viral στα μέσα κοινωνικής δικτύωσης, προκαλώντας σάλο. Μια εφαρμογή παιχνιδιών χρησιμοποίησε ένα deepfake του εμβληματικού παίκτη του κρίκετ Sachin Tendulkar για να προωθήσει το προϊόν της.

Και στις ΗΠΑ, η εκστρατεία του πρώην υποψήφιου για την προεδρία των Ρεπουμπλικάνων Ron DeSantis παρήγαγε deepfakes που έδειχναν τον πρώην πρόεδρο Donald Trump, ο οποίος ηγείται της κούρσας για το προεδρικό χρίσμα του κόμματος, να φιλάει τον ειδικό σε θέματα δημόσιας υγείας Anthony Fauci, μια μισητή φιγούρα για πολλούς συντηρητικούς λόγω της υποστήριξής του υπέρ των μασκών και των εμβολίων κατά τη διάρκεια της πανδημίας COVID-19.

Ο κόσμος του διαδικτύου δεν δημιουργεί μόνο αρνητικά deep fake αλλά και θετικά. Όπως για παράδειγμα αυτά. Αυτός είναι ο λόγος για να υπάρξει σαφές νομοθετικό πλαίσιο.

Στόχος των deepfakes οι γυναίκες – Η τεχνητή νοημοσύνη στον κόσμο

Περισσότερο από το 96% των deepfake εικόνων που βρίσκονται σήμερα στο διαδίκτυο είναι πορνογραφικής φύσης και σχεδόν όλες στοχεύουν γυναίκες, σύμφωνα με έκθεση της Sensity AI, μιας εταιρείας νοημοσύνης που επικεντρώνεται στον εντοπισμό deepfakes. Η νομοθεσία που ασχολείται ειδικά με τα deepfakes ποικίλλει ανά χώρα και συνήθως κυμαίνεται από την απαίτηση αποκάλυψης των deepfakes έως την απαγόρευση περιεχομένου που είναι επιβλαβές ή κακόβουλο.

Δέκα πολιτείες στις ΗΠΑ, μεταξύ των οποίων το Τέξας, η Καλιφόρνια και το Ιλινόις, έχουν ποινικούς νόμους κατά των deepfakes. Οι νομοθέτες πιέζουν για ένα παρόμοιο ομοσπονδιακό νομοσχέδιο ή για περισσότερους περιορισμούς στο εργαλείο.Η Αμερικανίδα εκπρόσωπος Yvette Clarke, Δημοκρατική από τη Νέα Υόρκη, έχει εισαγάγει νομοθεσία που θα απαιτεί από τους δημιουργούς να φέρουν ψηφιακά υδατογραφήματα στο περιεχόμενο των deepfake.

Τα σεξουαλικά ρητά deepfakes, όταν δεν είναι συναινετικά, θα μπορούσαν να αποτελούν παραβίαση των ευρύτερων νόμων της χώρας.Οι ΗΠΑ δεν ποινικοποιούν τέτοιου είδους deepfakes, αλλά διαθέτουν πολιτειακούς και ομοσπονδιακούς νόμους που στοχεύουν στην προστασία της ιδιωτικής ζωής, την απάτη και την παρενόχληση. Το 2019, η Κίνα εφάρμοσε νόμους που επιβάλλουν την αποκάλυψη της χρήσης deepfake σε βίντεο και μέσα ενημέρωσης.

Το 2023, το Ηνωμένο Βασίλειο κατέστησε παράνομη την κοινή χρήση deepfake πορνογραφίας ως μέρος του νόμου για την ασφάλεια στο διαδίκτυο. Η Νότια Κορέα θέσπισε νόμο το 2020 που ποινικοποιεί τη διανομή deepfakes που προκαλούν βλάβη στο δημόσιο συμφέρον, επιβάλλοντας ποινές φυλάκισης έως και πέντε ετών ή πρόστιμα που φθάνουν περίπου τα 50 εκατομμύρια γουόν (43.000 δολάρια) για την αποτροπή της κακής χρήσης.

Για παράδειγμα η μεσαιωνική Taylor Swift δεν έχει αρνητικό ή σεξουαλικό κίνητρο και κατά πάσα πιθανότητα είναι fan based. Για αυτό και πρέπει να ξεκαθαρίσει τι επιτρέπεται και τι όχι, παρότι στην Ελλάδα αυτά έχουν λυθεί, όπως και στις περιπτώσεις του παλιού καλού photoshop. Όλα τα αρνητικά διώκονται.

Η περίπτωση της Ελλάδας – Ο νόμος διώκει πάρα πολλές περιπτώσεις ήδη – Τι συμβαίνει στην Αμερική

Στην Ελλάδα σε περιπτώσεις που μέσω εφαρμογής ΑΙ μπει παιδικό πρόσωπο σε γυμνό σώμα ενηλίκου, θεωρείται παιδική πορνογραφία. Αντίστοιχα θεωρείται πορνογραφία ή γυμνό χωρίς την συναίνεση αν γίνει deepfake σε ενήλικο άτομο. Ακόμα και αν δεν διώκεται κάποιος ως προς το ζήτημα των προσωπικών δεδομένων ή πνευματικής ιδιοκτησίας, μπορεί να κατηγορηθεί για μια πλειάδα αδικημάτων και για διασπορά ψευδών ειδήσεων αν πρόκειται για συκοφαντικό βίντεο ή φωτογραφία.

«Ενώ οι εταιρείες μέσων κοινωνικής δικτύωσης λαμβάνουν τις δικές τους ανεξάρτητες αποφάσεις σχετικά με τη διαχείριση του περιεχομένου, πιστεύουμε ότι έχουν σημαντικό ρόλο να διαδραματίσουν στην επιβολή των δικών τους κανόνων για να αποτρέψουν τη διάδοση της παραπληροφόρησης και των μη συναινετικών, προσωπικών εικόνων πραγματικών ανθρώπων», δήλωσε η εκπρόσωπος Τύπου του Λευκού Οίκου Καρέν Ζαν-Πιέρ σε ενημέρωση των δημοσιογράφων.

«Συχνά βασιζόμαστε στους χρήστες και σε εκείνους που πλήττονται ή σε ανθρώπους που είναι αλληλέγγυοι μαζί τους προκειμένου να κάνουν τη δύσκολη δουλειά της πίεσης προς τις εταιρείες», δήλωσε η Kate Vredenburgh, προσθέτοντας ότι δεν μπορούν όλοι να κινητοποιήσουν το ίδιο είδος πίεσης και έτσι το να βασίζεσαι στην οργή για να μεταφραστεί σε μόνιμη αλλαγή εξακολουθεί να είναι κάτι που πρέπει να ανησυχείς.

Πηγές: Al Jazeera και in