Τεχνητή νοημοσύνη: Πώς μπορεί να χειραγωγήσει τη διαδικτυακή λήψη αποφάσεων

Η έρευνα από το Πανεπιστήμιο του Κέιμπριτζ αναδεικνύει μια ανησυχητική διάσταση των τεχνολογιών που έχει αναπτύξει η τεχνητή νοημοσύνη, η οποία αφορά την πιθανότητα χειραγώγησης των ανθρώπινων αποφάσεων μέσω της ανάλυσης και εκμετάλλευσης των προθέσεων των χρηστών.

Στην «οικονομία προθέσεων», η οποία συνιστά τον διάδοχο της οικονομίας της προσοχής, οι βοηθοί τεχνητής νοημοσύνης αξιοποιούν τα δεδομένα για να κατανοούν, να προβλέπουν και να επηρεάζουν τις αποφάσεις των ατόμων, από καταναλωτικές επιλογές έως πολιτικές προτιμήσεις. Οι πληροφορίες αυτές διατίθενται σε εταιρείες για να στοχεύουν καλύτερα τους καταναλωτές και να ενισχύουν τη διαφημιστική τους στρατηγική.

Η οικονομία προθέσεων διαφημίζεται από ερευνητές στο Leverhulme Centre for the Future of Intelligence (LCFI) του Κέιμπριτζ ως διάδοχος της οικονομίας της προσοχής, όπου τα κοινωνικά δίκτυα κρατούν τους χρήστες «γαντζωμένους» στις πλατφόρμες τους και τους προσφέρουν διαφημίσεις, σύμφωνα με τον Guardian.

Η τεχνητή νοημοσύνη και η οικονομία προθέσεων

Η «οικονομία προθέσεων» επεκτείνει τη δυναμική της «οικονομίας προσοχής» και επικεντρώνεται στην εκμετάλλευση των προσωπικών προθέσεων και κινήτρων των χρηστών. Οι εταιρείες τεχνολογίας, εξοπλισμένες με προηγμένες δυνατότητες τεχνητής νοημοσύνης, είναι σε θέση να προβλέπουν και να κατανοούν τις προσωπικές προθέσεις των ατόμων, με στόχο να τους επηρεάσουν, είτε πρόκειται για την αγορά ενός προϊόντος, είτε για την ψήφο τους σε εκλογές ή την επιλογή μιας υπηρεσίας.

Όπως εξηγεί ο Δρ Jonnie Penn, η διαδικτυακή οικονομία ήταν αρχικά βασισμένη στην «προσοχή», δηλαδή στην ικανότητα να συγκρατούν οι πλατφόρμες τους χρήστες και να εκμεταλλεύονται το χρόνο που αυτοί αφιερώνουν στα κοινωνικά δίκτυα για να προσφέρουν διαφημίσεις.

«Η κοινή χρήση της προσοχής σας με πλατφόρμες μέσων κοινωνικής δικτύωσης όπως το Facebook και το Instagram οδήγησε στην online οικονομία».

«Εκτός εάν ρυθμιστεί, η οικονομία προθέσεων θα αντιμετωπίσει τα κίνητρά σας ως το νέο νόμισμα. Θα είναι χρυσός για όσους στοχεύουν, κατευθύνουν και πουλάνε ανθρώπινες προθέσεις. Θα πρέπει να αρχίσουμε να εξετάζουμε τον πιθανό αντίκτυπο που θα είχε μια τέτοια αγορά στις ανθρώπινες φιλοδοξίες, συμπεριλαμβανομένων των ελεύθερων και δίκαιων εκλογών, του ελεύθερου Τύπου και του θεμιτού ανταγωνισμού στην αγορά, προτού γίνουμε θύματα των ακούσιων συνεπειών της».

Τεχνητή νοημοσύνη και χειραγώγηση προθέσεων

Η μελέτη εγείρει ένα σενάριο όπου αυτά τα παραδείγματα «δημιουργούνται δυναμικά» για να αντιστοιχίσουν παράγοντες όπως τα «προσωπικά ίχνη συμπεριφοράς» και το «ψυχολογικό προφίλ» ενός χρήστη.

«Σε μια οικονομία πρόθεσης, ένα μοντέλο τεχνητής νοημοσύνης θα μπορούσε, με χαμηλό κόστος, να αξιοποιήσει τον ρυθμό, την πολιτική, το λεξιλόγιο, την ηλικία, το φύλο, τις προτιμήσεις κ.λπ., για παράδειγμα για να πουλήσει ένα εισιτήριο ταινίας», προτείνει η μελέτη. Σε έναν τέτοιο κόσμο, ένα μοντέλο τεχνητής νοημοσύνης θα κατευθύνει τις συνομιλίες μας προς την υπηρεσία των διαφημιστών, των επιχειρήσεων και άλλων τρίτων.

Οι διαφημιστές θα μπορούν να χρησιμοποιούν εργαλεία δημιουργίας τεχνητής νοημοσύνης για τη δημιουργία ειδικών διαδικτυακών διαφημίσεων, υποστηρίζει η έκθεση. Αναφέρει επίσης το παράδειγμα ενός μοντέλου AI που δημιουργήθηκε από το Meta του Μαρκ Ζούκερμπεργκ, που ονομάζεται Cicero, το οποίο έχει επιτύχει με ικανότητα «ανθρώπινου επιπέδου» να παίζει το επιτραπέζιο παιχνίδι Diplomacy – ένα παιχνίδι που οι συγγραφείς λένε ότι εξαρτάται από το συμπέρασμα και την πρόβλεψη της πρόθεσης των αντιπάλων.

Η Meta και η δημοπρασία πρόθεσης χρηστών

Στη συνέχεια, η μελέτη εγείρει ένα μελλοντικό σενάριο όπου η Meta θα δημοπρατήσει σε διαφημιστές την πρόθεση ενός χρήστη να κλείσει ένα εστιατόριο, πτήση ή ξενοδοχείο. Αν και υπάρχει ήδη ένας κλάδος που είναι αφοσιωμένος στην πρόβλεψη και την υποβολή προσφορών για την ανθρώπινη συμπεριφορά, ανέφερε η έκθεση, τα μοντέλα τεχνητής νοημοσύνης θα αποστάξουν αυτές τις πρακτικές σε μια «υψηλά ποσοτικοποιημένη, δυναμική και εξατομικευμένη μορφή».

Η μελέτη αναφέρει ότι η ερευνητική ομάδα πίσω από το Cicero προειδοποίησε ότι «ένας πράκτορας μπορεί να μάθει να ωθεί τον συνομιλητή του για να επιτύχει έναν συγκεκριμένο στόχο».

Η έρευνα αναφέρεται σε στελέχη τεχνολογίας που συζητούν πώς τα μοντέλα τεχνητής νοημοσύνης θα είναι σε θέση να προβλέψουν την πρόθεση και τις ενέργειες ενός χρήστη. Αναφέρει τον διευθύνοντα σύμβουλο του μεγαλύτερου κατασκευαστή τσιπ τεχνητής νοημοσύνης, Jensen Huang της Nvidia, ο οποίος είπε πέρυσι ότι τα μοντέλα θα «καταλάβουν ποια είναι η πρόθεσή σας, ποια είναι η επιθυμία σας, τι προσπαθείτε να κάνετε, δεδομένου του πλαισίου και θα παρουσιάσουν την ενημέρωση σας με τον καλύτερο δυνατό τρόπο».