Deepfake: Η αλήθεια μπερδεύεται με το ψέμα ενόψει των αμερικανικών εκλογών

«Συμπαθώ πολύ τον Ρον ΝτεΣάντις» ακούγεται να λέει η Δημοκρατική Χίλαρι Κλίντον για τον πολιτικό αντίπαλό της που διεκδικεί το χρίσμα του Ρεπουμπλικανικού Κόμματος για τις εκλογές του 2024. «Είναι ο άνθρωπος που χρειάζεται η χώρα. Και το εννοώ αυτό» διαβεβαιώνει.

Σε ένα άλλο βίντεο, ο νυν πρόεδρος Τζο Μπάιντεν αφήνει τη  μάσκα να πέσει και επιτίθεται σε  μια τρανς: «Δεν θα γίνεις ποτέ πραγματική γυναίκα» της λέει με μίσος.

Καλωσήλθατε στην κούρσα για τις αμερικανικές εκλογές του 2024, εκεί όπου η αλήθεια και το ψέμα είναι πιο δυσδιάκριτα από ποτέ.

Τα deepfake της Κλίντον και του Μπάιντεν –ρεαλιστικά αλλά ψεύτικα βίντεο που δημιουργήθηκαν με εργαλεία τεχνητής νοημοσύνης (ΑΙ)- είναι δύο από τα χιλιάδες που εμφανίστηκαν στα μέσα κοινωνικής δικτύωσης τους τελευταίους μήνες, μια εξέλιξη που θολώνει τα νερά σε μια ήδη πολωμένη πολιτική σκηνή.

Οι ψεύτικες εικόνες δεν είναι καινούργιο φαινόμενο, τώρα όμως βελτιώνονται και πληθαίνουν χάρη σε μια ποικιλία εργαλείων «γενετικής τεχνητής νοημοσύνης», με δημοφιλέστερο το Midjourney που δημιουργεί πειστικές, φωτορεαλιστικές εικόνες σύμφωνα με τις οδηγίες του χρήστη.

«Θα είναι πολύ δύσκολο για τους χρήστες να ξεχωρίσουν το πραγματικό από το ψεύτικο. Μπορείτε να φανταστείτε πώς είτε οι υποστηρικτές του Τραμπ είτε οι υποστηρικτές του Μπάιντεν θα μπορούσαν να χρησιμοποιήσουν αυτή την τεχνολογία για να πλήξουν την εικόνα των αντιπάλων τους»« λέει στο Reuters ο Ντάρελ Ουέστ, ειδικός του Brookings Institution, δεξαμενή σκέψης στην Ουάσιγκτον.

«Μπορεί να υπάρξουν αναρτήσεις που εμφανίζονται λίγο πριν από τις εκλογές, τις οποίες κανείς δεν θα προλάβει να απομακρύνει» προειδοποιεί.

Ακόμα και ο ίδιος ο τέως πρόεδρος Ντόναλντ Τραμπ, ο οποίος διεκδικεί όπως και ο ΝτεΣάντις το χρίσμα των Ρεπουμπλικανών για την προεδρική υποψηφιότητα, ανάρτησε πρόσφατα deekfake του Άντερσον Κούπερ, παρουσιαστή του CNN.

«Ήταν ο πρόεδρος Ντόναλντ Τραμπ που μας ξέσκισε τον κώλο» ακούγεται να λέει ο παρουσιαστής, αν και οι κινήσεις των χειλιών του δεν συμφωνούν με τα λόγια.

I’m told this is real… it seems real and it’s surprisingly honest and accurate for CNN… but who knows these days. #cnn pic.twitter.com/J0YCuX13Od

— Donald Trump Jr. (@DonaldJTrumpJr) May 11, 2023

Μεγάλες πλατφόρμες όπως το Facebook, το Twitter και το YouTube καταβάλλουν προσπάθειες για την απομάκρυνση αναρτήσεων με deepfake, ωστόσο περισσότερα τα εργαλεία ΑΙ που δημιουργούν τέτοιο περιεχόμενο δεν επιβάλλουν περιορισμούς για την πρόληψη της παραπληροφόρησης.

Σύμφωνα με την DeepMedia, εταιρεία που αναπτύσσει εργαλεία ανίχνευσης του συνθετικού περιεχομένου, τη φετινή χρονιά τα deepfake βίντεο είναι τρεις φορές περισσότερα, και τα deepfake φωνής οκτώ φορές περισσότερα, σε σχέση με την αντίστοιχη περίοδο του 2022.

Περίπου μισό εκατομμύριο deepfake εικόνας και φωνής αναρτήθηκαν στα κοινωνικά δίκτυα το 2023, εκτιμά η DeepMedia.

Μέχρι πέρυσι, η κλωνοποίηση φωνής κόστιζε περίπου 10.000 δολάρια, τώρα όμως στοιχίζει λίγα δολάρια, επισημαίνει.

Αδυναμία ελέγχου

Η εταιρεία OpenAI, ηγέτης του κλάδου χάρη στη διάσημη μηχανή διαλόγου ChatGPT, αναγνωρίζει το πρόβλημα και προσπαθεί να το αντιμετωπίσει. Ο διευθύνων σύμβουλός της Σαμ Όλτμαν δήλωσε αυτό τον μήνα ενώπιον του Κογκρέσο ότι η ακεραιότητα της εκλογικής διαδικασίας είναι «σημαντική πηγή ανησυχίας» που πρέπει να αντιμετωπιστεί με ρυθμιστικό πλαίσιο.

Η OpenAI έχει λάβει μέτρα για να περιορίσει τη χρήση των προϊόντων της στην πολιτική. Για παράδειγμα, όταν το Reuters προσπάθησε να δημιουργήσει ψεύτικες εικόνες του Τραμπ και του Μπαιντεν στη γεννήτρια εικόνων DALL-E της OpenAI, το αίτημα απορρίφθηκε λόγω της πολιτικής περιεχομένου.

Ωστόσο το Reuters μπόρεσε να δημιουργήσει εικόνες τουλάχιστον δέκα άλλων αμερικανών πολιτικών, ανάμεσά τους ο τέως αντιπρόεδρος Μάικ Πενς, ο οποίος επίσης διεκδικεί το χρίσμα των Ρεπουμπλικανών για το 2024.

Εικόνες οποιουδήποτε πολιτικού προσώπου μπορεί κανείς να δημιουργήσει και με το Midjourney, το δημοφιλέστερο εργαλείο συνθετικών εικόνων, το οποίο έχει συγκεντρώσει 16 εκατομμύρια χρήστες.

Τον περασμένο μήνα πάντως, ο διευθύνων σύμβουλος του Midjourney Ντέιβιντ Χολτζ δήλωσε ότι η εταιρεία θα προχωρήσει σε αλλαγή της πολιτικής του ενόψει εκλογών, με στόχο την καταπολέμηση της παραπληροφόρησης. Όπως είπε, η εταιρεία εξετάζει το ενδεχόμενο απαγόρευσης των εικόνων υποψηφίων για τις εκλογές και τάσσεται υπέρ της καθιέρωσης ψηφιακού υδατογραφήματος για την ανίχνευση των συνθετικών εικόνων.

NIGHTMARE: What if Joe Biden, the weakest president we’ve ever had, is re-elected? pic.twitter.com/b5HvY9GEr0

— GOP (@GOP) April 25, 2023

Στο μεταξύ, ορισμένοι πολιτικοί παράγοντες σπεύδουν να αξιοποιήσουν τη δύναμη της ΑΙ στις προεκλογικές τους εκστρατείες.

Στα τέλη Απριλίου, η Ρεπουμπλικανική Εθνική Επιτροπή λάνσαρε βίντεο 30 δευτερολέπτων που παρουσιάζει ένα καταστροφικό σενάριο σε περίπτωση επανεκλογής του Μπάιντεν, με την Κίνα να εισβάλλει στην Ταϊβάν και το Σαν Φρανσίσκο να τίθεται σε λόκνταουν λόγω της εγκληματικότητας.