Οι μηχανές τεχνητής νοημοσύνης δεν έχουν «ψευδαισθήσεις». Έχουν αλγοριθμικά σκουπίδια

Μέσα στις πολλές συζητήσεις που στροβιλίζονται γύρω από την ταχεία εξάπλωση της λεγόμενης τεχνητής νοημοσύνης, υπάρχει μια σχετικά σκοτεινή αψιμαχία που επικεντρώνεται στην επιλογή της λέξης «ψευδαίσθηση».

Με αυτή τη φράση ξεκινάει η Naomi Klein ένα πολύ ενδιαφέρον άρθρο γνώμης στην Guardian και συνεχίζει.

Αυτός είναι ο όρος, στον οποίο έχουν καταλήξει οι αρχιτέκτονες και οι υποστηρικτές της τεχνητής νοημοσύνης για να χαρακτηρίσουν τις απαντήσεις που σερβίρουν τα chatbots και οι οποίες είναι εντελώς κατασκευασμένες ή εντελώς λανθασμένες. Όπως, για παράδειγμα, όταν ζητάτε από ένα ρομπότ έναν ορισμό για κάτι που δεν υπάρχει και αυτό, μάλλον πειστικά, σας δίνει έναν ορισμό, μαζί με κατασκευασμένες υποσημειώσεις.

Με έτοιμο υλικό

«Κανείς στον τομέα αυτό δεν έχει λύσει ακόμη τα προβλήματα ψευδαισθήσεων» δήλωσε πρόσφατα ο Sundar Pichai, ο διευθύνων σύμβουλος της Google και της Alphabet, σε συνέντευξή του.

Αυτό είναι αλήθεια – αλλά γιατί να ονομάζουμε τα λάθη «ψευδαισθήσεις»; Γιατί όχι αλγοριθμικά σκουπίδια; Ή δυσλειτουργίες; Λοιπόν, η παραίσθηση αναφέρεται στη μυστηριώδη ικανότητα του ανθρώπινου εγκεφάλου να αντιλαμβάνεται φαινόμενα που δεν υπάρχουν, τουλάχιστον όχι με συμβατικούς, υλιστικούς όρους. Οικειοποιούμενοι μια λέξη που χρησιμοποιείται συνήθως στην ψυχολογία, την ψυχεδέλια και τις διάφορες μορφές μυστικισμού, οι υποστηρικτές της τεχνητής νοημοσύνης, ενώ αναγνωρίζουν την αστοχία των μηχανών τους, τροφοδοτούν ταυτόχρονα την πιο αγαπημένη μυθολογία του τομέα: Ότι με τη δημιουργία αυτών των μεγάλων γλωσσικών μοντέλων και την εκπαίδευσή τους σε όλα όσα έχουμε γράψει, πει και αναπαραστήσει οπτικά εμείς οι άνθρωποι, βρίσκονται στη διαδικασία γέννησης μιας έμψυχης νοημοσύνης που βρίσκεται στο κατώφλι ενός εξελικτικού άλματος για το είδος μας.

Ωστόσο, στον κόσμο της τεχνητής νοημοσύνης όντως συμβαίνουν στρεβλές παραισθήσεις – αλλά δεν τις κουβαλούν τα ρομπότ, αλλά οι διευθύνοντες σύμβουλοι τεχνολογίας που τα εξαπέλυσαν, μαζί με μια φάλαγγα από οπαδούς τους, οι οποίοι βρίσκονται στη δίνη άγριων παραισθήσεων, τόσο ατομικά όσο και συλλογικά. Εδώ ορίζω τις παραισθήσεις όχι με τη μυστικιστική ή ψυχεδελική έννοια, καταστάσεις πλοήγησης του νου που μπορούν πράγματι να βοηθήσουν στην πρόσβαση σε βαθιές, προηγουμένως μη αντιληπτές αλήθειες. Όχι. Αυτοί οι τύποι απλά σκοντάφτουν: Βλέπουν, ή τουλάχιστον ισχυρίζονται ότι βλέπουν, στοιχεία που δεν υπάρχουν καθόλου, ακόμη και μαγεύουν ολόκληρους κόσμους που θα χρησιμοποιήσουν τα προϊόντα τους για την παγκόσμια ανύψωση και εκπαίδευσή μας.

Η λύση για τα πάντα

Η γεννητική τεχνητή νοημοσύνη θα τερματίσει τη φτώχεια, μας λένε. Θα θεραπεύσει όλες τις ασθένειες. Θα λύσει την κλιματική αλλαγή. Θα κάνει τις δουλειές μας πιο ουσιαστικές και συναρπαστικές. Θα απελευθερώσει ζωές αναψυχής και περισυλλογής, βοηθώντας μας να ανακτήσουμε την ανθρωπιά που χάσαμε από την ύστερη καπιταλιστική μηχανοποίηση. Θα δώσει τέλος στη μοναξιά. Θα κάνει τις κυβερνήσεις μας ορθολογικές και ευέλικτες. Αυτά, φοβάμαι, είναι οι πραγματικές ψευδαισθήσεις της ΤΝ και τις ακούμε όλοι σε επανάληψη από τότε που ξεκίνησε το Chat GPT στα τέλη του περασμένου έτους.

Αυτά γράφει η Naomi Klein και συνεχίζει.

Υπάρχει ένας κόσμος στον οποίο η τεχνητή νοημοσύνη, ως ένα ισχυρό εργαλείο προγνωστικής έρευνας και εκτέλεσης κουραστικών εργασιών, θα μπορούσε πράγματι να χρησιμοποιηθεί προς όφελος της ανθρωπότητας, άλλων ειδών και του κοινού μας σπιτιού. Αλλά για να συμβεί αυτό, οι τεχνολογίες αυτές θα πρέπει να αναπτυχθούν μέσα σε μια πολύ διαφορετική οικονομική και κοινωνική τάξη από τη δική μας, μια τάξη που θα έχει ως σκοπό την ικανοποίηση των ανθρώπινων αναγκών και την προστασία των πλανητικών συστημάτων που υποστηρίζουν όλη τη ζωή.

Αλλά όπως καταλαβαίνουμε, το σημερινό μας σύστημα δεν έχει καμία σχέση με αυτό. Αντίθετα, είναι φτιαγμένο για να μεγιστοποιεί την απόσπαση πλούτου και κέρδους – τόσο από τους ανθρώπους όσο και από τον φυσικό κόσμο – μια πραγματικότητα που μας έχει φέρει σε αυτό που θα μπορούσαμε να σκεφτούμε ως το «τεχνο-νέκρο» στάδιο του καπιταλισμού. Σε αυτή την πραγματικότητα της υπερσυγκεντρωμένης εξουσίας και του πλούτου, η τεχνητή νοημοσύνη – μακριά από το να ανταποκριθεί σε όλες αυτές τις ουτοπικές ψευδαισθήσεις – είναι πολύ πιο πιθανό να γίνει ένα τρομακτικό εργαλείο περαιτέρω αποστέρησης και λεηλασίας.

Διότι αυτό που παρακολουθούμε είναι τις πλουσιότερες εταιρείες στην ιστορία (Microsoft, Apple, Google, Meta, Amazon …) να αρπάζουν μονομερώς το σύνολο της ανθρώπινης γνώσης που υπάρχει σε ψηφιακή μορφή και να το περιφράσσουν μέσα σε ιδιόκτητα προϊόντα, πολλά από τα οποία θα στοχεύουν ευθέως τους ανθρώπους των οποίων η δική τους εργασία «εκπαίδευσε» τις μηχανές χωρίς να δώσουν την άδεια ή τη συγκατάθεσή τους.

Αυτό δεν θα έπρεπε να είναι νόμιμο.

Η κλοπή των κόπων μας

Η ζωγράφος και εικονογράφος Molly Crabapple συμβάλλει στην ηγεσία ενός κινήματος καλλιτεχνών που καταδικάζει αυτή την κλοπή. «Οι γεννήτριες τέχνης τεχνητής νοημοσύνης εκπαιδεύονται σε τεράστια σύνολα δεδομένων, τα οποία περιέχουν εκατομμύρια εικόνες που προστατεύονται από πνευματικά δικαιώματα και συλλέγονται χωρίς τη γνώση του δημιουργού τους, πόσο μάλλον χωρίς αποζημίωση ή συγκατάθεση. Πρόκειται ουσιαστικά για τη μεγαλύτερη ληστεία τέχνης στην ιστορία. Διαπράττεται από εταιρικές οντότητες που φαίνονται αξιοσέβαστες και υποστηρίζονται από επιχειρηματικά κεφάλαια της Silicon Valley. Πρόκειται για ληστεία στο φως της ημέρας» αναφέρει μια νέα ανοιχτή επιστολή που συνέταξε.

Το κόλπο, βέβαια, είναι ότι η Silicon Valley αποκαλεί συνήθως την κλοπή «αναστάτωση» – και πολύ συχνά τη γλιτώνει. Γνωρίζουμε αυτή την κίνηση: ορμάτε μπροστά σε άνομο έδαφος- ισχυρίζεστε ότι οι παλιοί κανόνες δεν ισχύουν για τη νέα σας τεχνολογία- φωνάζετε ότι η ρύθμιση θα βοηθήσει μόνο την Κίνα – και όλα αυτά ενώ έχετε τα γεγονότα σας σταθερά στο έδαφος.

Μέχρι να ξεπεράσουμε όλοι την καινοτομία αυτών των νέων παιχνιδιών και να αρχίσουμε να κάνουμε απολογισμό των κοινωνικών, πολιτικών και οικονομικών καταστροφών, η τεχνολογία είναι ήδη τόσο διαδεδομένη που τα δικαστήρια και οι υπεύθυνοι χάραξης πολιτικής σηκώνουν τα χέρια ψηλά.

Το είδαμε με τη σάρωση βιβλίων και έργων τέχνης της Google. Με τον αποικισμό του διαστήματος από τον Ίλον Μασκ. Με την επίθεση της Uber στον κλάδο των ταξί. Με την επίθεση της Airbnb στην αγορά ενοικίασης. Με την ασυδοσία του Facebook με τα δεδομένα μας. Μην ζητάτε άδεια, αρέσκονται να λένε οι disruptors, ζητήστε συγχώρεση.

Έχουμε βολευτεί τελικά;

Στο βιβλίο The Age of Surveillance Capitalism (Η εποχή του καπιταλισμού της επιτήρησης), η Shoshana Zuboff περιγράφει με λεπτομέρεια πώς οι χάρτες Street View της Google ξεπέρασαν τους κανόνες προστασίας της ιδιωτικής ζωής, στέλνοντας τα αυτοκίνητά της με τις κάμερες να φωτογραφίζουν τους δημόσιους δρόμους και τους εξωτερικούς χώρους των σπιτιών μας. Μέχρι να ξεκινήσουν οι αγωγές για την υπεράσπιση των δικαιωμάτων της ιδιωτικής ζωής, το Street View ήταν ήδη τόσο πανταχού παρόν στις συσκευές μας (και τόσο ωραίο, και τόσο βολικό) που ελάχιστα δικαστήρια εκτός Γερμανίας ήταν πρόθυμα να παρέμβουν.

Μέχρι τώρα, οι περισσότεροι από εμάς έχουμε ακούσει για την έρευνα που ζήτησε από τους ερευνητές και τους προγραμματιστές τεχνητής νοημοσύνης να εκτιμήσουν την πιθανότητα τα προηγμένα συστήματά τους να προκαλέσουν «την εξαφάνιση του ανθρώπου ή παρόμοια μόνιμη και σοβαρή αποδυνάμωση του ανθρώπινου είδους». Ανατριχιαστικά, η μέση απάντηση ήταν ότι υπάρχει πιθανότητα 10%.

Πώς μπορεί κανείς να εκλογικεύσει το να πηγαίνει στη δουλειά του και να προωθεί εργαλεία που ενέχουν τέτοιους υπαρξιακούς κινδύνους; Συχνά, ο λόγος που δίνεται είναι ότι αυτά τα συστήματα φέρουν επίσης τεράστια δυνητικά πλεονεκτήματα – μόνο που αυτά τα πλεονεκτήματα είναι, ως επί το πλείστον, παραισθητικά.

*Με στοιχεία από το άρθρο γνώμης της Naomi Klein, που δημοσιεύθηκε στην theguardian.com

*Η Naomi Klein είναι αρθρογράφος και συγγραφέας της αμερικανικής Guardian. Είναι η συγγραφέας των μπεστ σέλερ «No Logo» και «The Shock Doctrine» και καθηγήτρια κλιματικής δικαιοσύνης και συνδιευθύντρια του Κέντρου για την κλιματική δικαιοσύνη στο Πανεπιστήμιο της Βρετανικής Κολομβίας.