Φιλοσοφία της Τεχνητής Νοημοσύνης – ένα ταξίδι στο μέλλον

Το in.gr συνομιλεί με τον συγγραφέα του βιβλίου Φιλοσοφία της Τεχνητής Νοημοσύνης – Ένα ταξίδι στο μέλλον, Δρ. Γιώργο Χατζηβασιλείου.

Αφορμή η πρόσφατη αξιοποίηση του βιβλίου (Διόπτρα) απ’ το Υπουργείο Παιδείας της Κύπρου για τις Πανκύπριες εισαγωγικές εξετάσεις των μαθητών στο Πανεπιστήμιο, όπου επιλέχτηκε ένα απόσπασμα του βιβλίου για το μάθημα των Νέων Ελληνικών γύρω από το ΑΙ.

Η κουβέντα μας δεν θα μπορούσε παρά να αρχίσει από το γιατί ο συγγραφέας εμβάθυνε φιλοσοφικά σε ένα θέμα που αρχίζει και μπαίνει δυναμικά στις συζητήσεις του κόσμου, των διεθνών media, και εφεξής της εκπαίδευσης: την Τεχνητή Νοημοσύνη.

Οι τεκτονικές αλλαγές από την Τεχνητή Νοημοσύνη

«Η Τεχνητή Νοημοσύνη (ΤΝ) συστήνει στα μάτια μου τον πιο καθοριστικό ίσως παράγοντα που διαμορφώνει τη μέλλουσα εποχή. Όπως η τεχνολογία του ηλεκτρισμού ήρθε στον 20o αιώνα και άλλαξε όλη την ιστορία της ανθρωπότητας έτσι θα έρθει στον 21ο αιώνα η ΤΝ και θα αλλάξει συθέμελα τον κόσμο. Μόνο που αυτή τη φορά θα γίνει ακόμη πιο τεκτονικά, πληθωρικά και καταιγιστικά. Η ΤΝ στα επόμενα χρόνια θα μεγεθύνει τις δυνάμεις της. Θα υπεισέλθει στις επιστήμες, στην αγορά εργασίας, στην πολιτική, στην εκπαίδευση, στην τέχνη φέρνοντας πλούσιες ευκαιρίες και εξίσου μεγάλες επιβουλές στον ανθρώπινο έμβιο».

Εμβληματικοί τεχνολόγοι όπως ο Σούνταρ Πιτσάι, επικεφαλής της Google, έχουν χαρακτηρίσει την ΤΝ “πιο σημαντική και από τη φωτιά, κι απ’ τον ηλεκτρισμό ή και από οτιδήποτε άλλο από τα μεγάλα θέματα με τα οποία έχει ασχοληθεί η ανθρωπότητα”. Ο Τζέφρι Χίντον, από τους κορυφαίους επιστήμονες στον χώρο, “νονός” της ΤΝ όπως ευρέως αποκαλείται, έχει δηλώσει ότι η σημασία της είναι συγκρίσιμη με τεχνολογίες όπως “της βιομηχανικής επανάστασης, του ηλεκτρισμού, ίσως και της ίδιας της επινόησης του τροχού”.

«Η ΤΝ θα αλλάξει την ιστορία της ανθρωπότητας. Γι’ αυτό χρειάζεται να την κατανοήσουμε όχι μόνο τεχνολογικά. Αλλά μαζί φιλοσοφικά και πολιτικά. Καθώς το ζήτημα της ΤΝ φέρει στον νου μου το παραπάνω εκτόπισμα, θέλησα να το ερευνήσω διεξοδικά όσο απαιτεί ένα διδακτορικό στη Φιλοσοφία της Τεχνολογίας ή η συγγραφή του βιβλίου μου Φιλοσοφία της Τεχνητής Νοημοσύνης – Ένα ταξίδι στο μέλλον (Διόπτρα). Ένα βιβλίο που έγινε best seller, βραβεύτηκε ως “Καλύτερο Non-Fiction Βιβλίο του 2023”, και τιμήθηκε απ’ το Υπουργείο Παιδείας Κύπρου ως θέμα εξέτασης στις εισαγωγικές εξετάσεις στα Πανεπιστήμια».

Τι περιεχόμενο έχει λοιπόν το βιβλίο η Φιλοσοφία της Τεχνητής Νοημοσύνης;

Τι έχει να πει στη συζήτηση γύρω από τις ανερχόμενες τεχνολογίες;

Φιλοσοφία της Τεχνητής Νοημοσύνης – ένα ταξίδι στο Μέλλον

«Στο βιβλίο» απαντά ο Γιώργος Χατζηβασιλείου «αναλύονται φιλοσοφικά οι μεγάλες προκλήσεις που επωάζει η ΤΝ για το μέλλον του ανθρώπου αποδίδοντας τη μεγάλη εικόνα τους. Είναι η πρώτη συναφής έκδοση στην ελληνική βιβλιογραφία για την φιλοσοφία της ΤΝ που απευθύνεται μαζί και στο ευρύ αναγνωστικό κοινό. Η γλώσσα του κειμένου επιχειρώ να είναι λόγια αλλά μαζί γλαφυρή και προσιτή για όλους. Το δύσκολο αυτό γλωσσικό εγχείρημα γίνεται θεωρώντας ότι οι προκλήσεις της ΤΝ καταφτάνουν με τόσο γρήγορους ρυθμούς που χρειάζεται να διαχυθεί έγκαιρα στη δημόσια και πολιτική σφαίρα μια επίγνωση τους.
Μια κομβική πρόκληση λόγου χάρη είναι ότι ο Homo Sapiens δεσπόζει στον πλανήτη όχι γιατί έχει πιο ισχυρούς μύες από τα άλλα όντα, αλλά επειδή έχει πιο υψηλή νοημοσύνη. Η υψηλή λογική ικανότητα, καθώς αναδεικνύουν φιλόσοφοι όπως πρώτος ο Αριστοτέλης, μας ξεχωρίζει από τα άλλα πλάσματα. Η ΤΝ στο μέλλον μπορεί να φτάσει ή και να ξεπεράσει την ευφυία των Sapiens κομίζοντας πληθωρικές υπαρξιακές συνέπειες στη ζωή μας. Για να το πούμε απλά: πως θα μπορούμε να ελέγξουμε κάτι που είναι το πιο ευφυές από εμάς;
Η επικοινωνία των θεμάτων αυτών καλείται να γίνει εύληπτα όπως επιχειρείται και στο βιβλίο. Δεν πρόκειται άλλωστε για κάτι καινούργιο. Κλασικοί φιλόσοφοι επικοινώνησαν τη σκέψη τους με γλώσσα προσιτή που παρέχει όμως πλούσιο υλικό για συλλογισμό και στους κατεξοχήν ειδήμονες: Απ’ τον Ντεκάρτ και τον Επίκουρο έως τον ίδιο τον Σωκράτη (το έμβλημα της φιλοσοφίας) ο προσιτός λόγος δεν είναι κάτι το ανοίκειο στη φιλοσοφία».

Το γλωσσικό τουλάχιστον εγχείρημα του βιβλίου πιθανώς επιτυγχάνεται. Αυτό μαρτυρά και η επιλογή του από το Υπουργείο Παιδείας της Κύπρου που πρόκρινε ένα απόσπασμα του για τις φετινές εισαγωγικές εξετάσεις των μαθητών στο Πανεπιστήμιο, στο μάθημα των Νέων Ελληνικών.
«Είναι μια διάκριση ξεχωριστή σε σημασία» σημειώνει ο Χατζηβασιλείου. «Αξιοποιήθηκε ένα απόσπασμα του βιβλίου για τις Πανκύπριες εξετάσεις εισαγωγής των μαθητών από το Λύκειο στο Πανεπιστήμιο. Ζητήθηκε από τους μαθητές να αναλυθούν θέσεις μου πάνω σε μια φιλοσοφική μου εισήγηση: Η εκπαιδευτική πολιτική του 21ου αιώνα να εντάξει μια Φιλοσοφία της Τεχνολογίας που θα μυεί τις νέες γενιές στις προκλήσεις που φέρουν το ΑΙ και οι νέες τεχνολογίες στο ανθρώπινο μέλλον. Μπροστά στις καινοφανείς και αστείρευτες δυνάμεις της σύγχρονης τεχνολογίας του φουτουριστικού 21ου αιώνα, η ηθική της τεχνολογίας (δηλαδή η φιλοσοφία της τεχνολογίας) είναι το πιο κρίσιμο “Software” που καλούμαστε να καλλιεργήσουμε.
Εκείνο που επισημαίνω όμως μαζί σε όλη την ανάπτυξη του βιβλίου, πέρα από τα ρίσκα της ΤΝ, είναι ότι στο πλαίσιο μιας τέτοιας εκπαιδευτικής απόπειρας δεν πρέπει να υπάρξει επ’ ουδενί kai η καλλιέργεια ενός τεχνοφοβικού πνεύματος – κάτι που συναντάμε συχνά στη φιλοσοφία και στην εκπαίδευση.
Η τεχνολογία ανήκει στην ουσία της ανθρώπινης φύσης. Δίχως την τεχνολογία (απ’ την τεχνολογία της γραφής ή της γεωργίας έως την τεχνολογία της εκτύπωσης ή του Ίντερνετ) οι άνθρωποι θα ήμασταν τόσο ενδιαφέροντα ή αδιάφορα πλάσματα όσο οι συγγενείς π.χ. μας χιμπαντζήδες. Η τεχνολογία ανήκει στο Είναι της ανθρώπινης ύπαρξης, μας διακρίνει από όλα τα υπόλοιπα όντα. Πρόκειται για μια αιρετική φιλοσοφική εισήγηση που διατρέχει όλη την ανάλυση του βιβλίου».

Η συζήτηση επιστρέφει στην σύγχρονη “φρενίτιδα” γύρω απ’ την ΤΝ.

Που οφείλεται η σημερινή εκτόξευση της που παρατηρείται; Γιατί αναπτύσσεται τώρα τόσο δυναμικά;

«Είναι ενδιαφέρον να συζητήσει κανείς για ποιο λόγο γιγαντώνεται σήμερα η ΤΝ και γιατί όχι πριν από 20 ή πριν 200 χρόνια. Εδώ έχω δύο σκέψεις. Μια τεχνολογική και μια φιλοσοφική. Τεχνολογικά η ΤΝ κορυφώνεται τώρα για τρεις νομίζω λόγους: Πρώτον έχουμε ασύγκριτα πιο ισχυρούς υπολογιστές από κάθε άλλη εποχή. Η επεξεργαστική τους δύναμη κάθε δύο περίπου χρόνια διπλασιάζεται (ο “νόμος του Μουρ”). Υπάρχουν εκτιμήσεις ότι στο 2024 θα έχει εγκατασταθεί μάλιστα στον πλανήτη τόσο υπολογιστική δύναμη όση εγκαταστάθηκε συνολικά στα προηγούμενα 30-40 χρόνια. Αν συνεχίσει αυτό, η σημερινή ΤΝ, και ευρύτερα η σημερινή τεχνολογία, σε λίγες δεκαετίες δεν θα μας φαίνεται ξεπερασμένη. Θα φαίνεται πρωτόγονη.
Δεύτερον, η ΤΝ τρέφεται από τα Big Data. Όσο πιο πολλές πληροφορίες διαθέτει τόσο πιο “έξυπνη” γίνεται. Πλέον μεγεθύνουμε διαρκώς δεξαμενές από data που ποτέ πιο πριν δεν είχαμε καθώς διαθέτουμε μια άλλη επανστατική τεχνολογία: Το internet. Το διαδίκτυο ως ένα αχανές απόθεμα όλο και περισσότερων data, συστήνει έτσι τον 2ο λόγο γιγάντωσης της ΤΝ.
Τρίτον, διαθέτουμε καλύτερα μαθηματικά, φτιάχνουμε δηλαδή καλύτερους αλγόριθμους – το νευρικό σύστημα της ΤΝ. Οι αλγόριθμοι πίσω από το νεόκτιστο ChatGPT π.χ. είναι ένας εξαιρετικά εντυπωσιακός νέος κώδικας που ξαναγράφεται διαρκώς όλο και καλύτερα».

«Φιλοσοφικά όμως» επισημαίνει ο συγγραφέας «ο λόγος που παρατηρούμε τη μεγέθυνση όλης της τεχνολογίας τα τελευταία 200 χρόνια που φτιάχτηκε η Βιομηχανική και η Ψηφιακή Τεχνολογία είναι στη θεώρηση μου η ίδια η φιλοσοφία της Ευρώπης των τελευταίων 400 χρόνων. Είναι η φιλοσοφία της Νεωτερικότητας (του Σπινόζα, του Καντ, του Χέγκελ κ.α.) που έβαλε τον Λόγο, τη λογική, στο επίκεντρο της ως το σημαντικότερο μέσο για την απόκτηση γνώσης – κάτι που μας φαίνεται πια αυτονόητο αλλά για τα προηγούμενα 1.000 χρόνια του Μεσαίωνα δεν ήταν καθόλου. Η ευρωπαϊκή φιλοσοφία ταύτισε το Είναι του ανθρώπου με τον λόγο. Τούτο πυροδότησε την έκρηξη τεχνολογίας και επιστήμης που ακολούθησε τα τελευταία 200 χρόνια.
Η “Τεχνο-λογία”, όπως η ίδια η λέξη της φανερώνει, είναι η “τέχνη” χρήσης του “λόγου”, της λογικής. Μέσα από αυτήν την πρωτοκαθεδρία που απέδωσε η ευρωπαϊκή σκέψη στον λόγο, στη λογική, δεν ευνόησε απλώς την ανάπτυξη της τεχνολογίας. Στη σκέψη μου όργωσε και το ιδανικό οικοσύστημα για την καλλιέργεια της.
Για αυτό η βιομηχανική και ψηφιακή κορύφωση που ζούμε ξεκίνησε από την Ευρώπη και δεν ξεκίνησε ας πούμε στην Κίνα – που στο κάτω κάτω μέχρι και τον 15ο αιώνα ήταν ένας πολιτισμός πολύ πιο τεχνολογικά προηγμένος από την Ευρώπη, για αυτό και πιο πλούσιος.
Δεν είναι κάποια εφεύρεση που πυροδότησε τη σύγχρονη τεχνολογία. Το υπέδαφος του φαινομένου είναι στα μάτια μου φιλοσοφικό. Πηγάζει απ’ τη δυτική φιλοσοφία που ώθησε με όλο της, κυριολεκτικά, το Είναι την επέλαση τεχνολογίας που σήμερα αντικρύζουμε».

Και που οδηγείται αυτή η επέλαση τεχνολογίας που αντικρύζουμε;

Τι ρόλο έχει η ΤΝ στο μέλλον που αντικρύζουμε;

«H TΝ» επισημαίνει ο συγγραφέας «είναι η κορυφαία αποκρυστάλλωση του τεχνολογικού ρεύματος των τελευταίων αιώνων. Θα γίνει περίπου ο εγκέφαλος της ανθρωπότητας. Θα λαμβάνει τις άπειρες πληροφορίες που παράγουμε, και θα τις συνδέει όπως οι νευρώνες του εγκεφάλου συνδέονται μεταξύ τους. Θα τις επεξεργάζεται όμως ταχύτερα, βαθύτερα, αποτελεσματικότερα από ό,τι εμείς οι άνθρωποι. Θα βρίσκει μοτίβα λογικής πίσω από αχανείς δεξαμενές πληροφοριών (ήδη το κάνει) που ουδείς ανθρώπινος εγκέφαλος μπορεί να εντοπίσει, συνθέτοντας λύσεις και ένα τρόπο κατανόησης της πραγματικότητας που δεν θα είναι ανθρώπινος. Αυτό φέρνει τεράστιες ευκαιρίες ανάπτυξης γνώσης αλλά και εξίσου μεγάλες επιβουλές.
Η πρόκληση της ΤΝ που βρίσκεται στο επίκεντρο της φιλοσοφίας σχετίζεται, όπως και πριν κουβεντιάζαμε, με μορφές ΤΝ που θα ξεπεράσουν κάποτε τη νοημοσύνη του ανθρώπου την οποία οι Sapiens δεν θα είμαστε σε θέση να την ελέγξουμε.
Όπως π.χ. ένα ον χαμηλότερης νοημοσύνης από μας, όπως τα μυρμήγκια ή οι σκύλοι, δεν “βλέπει” τη ζωή ενός ανθρώπου (δεν μπορεί να “δει” ένας σκύλος τι λέει π.χ. αυτό το κείμενο ή τι είναι μια τηλεόραση) δεν μπορεί άρα και να ελέγξει τη ζωή μας. Αντίστοιχα αν η ΤΝ ξεπεράσει τη νοημοσύνη του ανθρώπου, δεν θα μπορούμε ούτε εμείς να κατανοήσουμε τα έργα της ΤΝ – και άρα δεν θα μπορούμε και να την ελέγξουμε. Τα έργα της θα μας είναι εν πολλοίς αόρατα. Αυτό είναι το ζήτημα της «επεξηγησιμότητας της ΤΝ».
Ακούσια η ΤΝ μπορεί η ΤΝ να αποβεί έτσι επιζήμια – ακόμη κι αν έχει τους πλέον καλοκάγαθους σκοπούς. Για παράδειγμα και οι άνθρωποι χτίζουμε από αγαθούς σκοπούς ένα νοσοκομείο σε ένα οικόπεδο, αλλά αυτό έχει ως αποτέλεσμα να εξολοθρεύσουμε μυριάδες μυρμήγκια που ζούσαν πριν εκεί. Όχι από μοχθηρία. Αλλά απλώς γιατί έχουμε διαφορετική νοημοσύνη άρα και διαφορετικούς στόχους από τα άλλα όντα. Πρόκειται για ένα σοβαρό (οντολογικό) ζήτημα που χρήζει σοβαρής ανάλυσης στην πολιτική σκέψη του 21ου αιώνα».

Ο συγγραφέας, Δρ Γιώργος Χατζηβασιλείου

Οι ευκαιρίες και οι κίνδυνοι από την δημιουργία υψηλής Τεχνητής Νοημοσύνης

Είναι ρεαλιστικό ενδεχόμενο να οδηγηθούμε σε μια τέτοια συνθήκη επινόησης τόσο υψηλής ΤΝ;

«Στις μέρες μας» αποκρίνεται ο Δρ. Χατζηβασιλείου «βρισκόμαστε στα πρόθυρα του επίτευξης ακριβώς αυτού: μιας ΤΝ που θα φτάνει και θα ξεπερνάει τη νοημοσύνη του ανθρώπου. Πρόκειται για την περίφημη AGI (Artificial General Intelligence).
Η επίτευξη AGI είναι ο διακηρυγμένος στόχος για τον οποίο ιδρύθηκε η εταιρεία πίσω από το ChatGPT: η OpenAI. Κάτι που μέχρι πριν λίγα χρόνια αποτελούσε σενάριο επιστημονικής φαντασίας για πολλούς (και απασχολούσε λίγους τεχνολόγους και φιλοσόφους ανάμεσα μας) αποτελεί εφεξής απτή προοπτική επιστημονικής πραγματικότητας.
Πολλοί ειδήμονες υπολόγιζαν ότι AGI θα φτιαχτεί έως το 2075. Άλλοι έλεγαν ότι μπορεί να επιτευχθεί μέχρι το 2050. Κι άλλοι μετά την εμφάνιση του ChatGPT εκτιμούν πως μπορεί να βρισκόμαστε πια πολύ πιο κοντά σε αυτό το ορόσημο.
Προσωπικότητες της ΤΝ όπως ο επικεφαλής της OpenAI, Σαμ Άλτμαν, ο Έλον Μασκ, ο επικεφαλής μηχανικών ΤΝ της Google, Ρέι Κούρτσβαϊλ, ο «νονός» της ΤΝ, Τζέφρι Χίντον, μετά την εμφάνιση του ChatGPT έχουν κάνει δηλώσεις ότι μπορεί να έχουμε φτιάξει AGI μέχρι το… 2029. Πρόκειται για κάτι που απέχει ελάχιστα, μια ανάσα χρόνου, από σήμερα.

Ολοένα και περισσότεροι φορείς τους τελευταίους έτσι μήνες, από την UNESCO έως κράτη, τεχνολόγους και φιλοσόφους, επισημαίνουν τις ευκαιρίες μαζί και τις επιβουλές που μια AGI μπορεί να έχει για το πανανθρώπινο μέλλον. Ο «νονός» της ΤΝ, Τζέφρι Χίντον (το επιστημονικό έργο του οποίου επέτρεψε στο ChatGPT να υπάρχει) ανακοίνωσε πως παραιτείται από την ακριβοπληρωμένη του θέση στην Google ώστε να μιλά ελεύθερα για τους κινδύνους της ΤΝ. Δήλωσε ότι «μετανιώνω πλέον για τη δουλειά μου», και το να χαρακτηριστεί αυτή η είδηση μόνο ανησυχητική θα ήταν μια ριζική της υποβάθμιση.
Ακόμη και αν η AGI δεν επέλθει τόσο σύντομα όσο το 2029 αλλά πολλά χρόνια μετά, λίγη σημασία στην πραγματικότητα έχει. Το μείζον είναι πως καλπάζουμε αποφασιστικά προς αυτό το ορόσημο μέσα στον 21ο αιώνα.

«Είμαστε στα πρόθυρα ενός άλματος στην ιστορία του είδους μας» καταλήγει ο Δρ. Γιώργος Χατζηβασιλείου. «Στα εργαστήρια της ΤΝ και των άλλων τεχνολογιών με τις οποίες εκείνη μπολιάζει (όπως η βιοτεχνολογία, το διαδίκτυο, οι κβαντικοί υπολογιστές) επωάζεται μια κοσμογονία. Κι εμείς, οι κάτοικοι της εποχής μας, έχουμε το προνόμιο να είμαστε οι παρατηρητές και οι μέτοχοι της κοσμοϊστορικής αυτής απαρχής. Βιώνουμε την απαρχή μιας τελείως ανοίκειας, γι’ αυτό κρίσιμης, στροφής του μέλλοντος».

Και ο Χατζηβασιλείου σημειώνει: «Η AGI θα φέρει συναρπαστικές ευκαιρίες και εξίσου μεγάλα ρίσκα στον πανανθρώπινο βίο. Για παράδειγμα θα πολλαπλασιάσει τις γνώσεις και τις θεραπείες που προσφέρει η ιατρική. Θα αναβαθμίσει τη σωματικότητα του ανθρώπου. Νομίζω πως έτσι θα αντιληφθούμε ότι έχουμε πράγματι φτιάξει AGI: όταν θα δούμε μέσα σε ελάχιστα χρόνια γιγάντια άλματα προόδου να σημειώνονται σε όλες τις επιστήμες – από την ιατρική μέχρι την αστροφυσική και την καταπολέμηση της κλιματικής αλλαγής».

Από την άλλη πλευρά η AGI φέρνει στο τραπέζι της ανθρωπότητας επίσης πολύ μεγάλες απειλές – όπως είναι το να μας ξεπεράσει κατά πολύ σε αντίληψη κι έτσι να μην μπορούμε να “δούμε” τις δράσεις, τις προθέσεις της και τις συνέπειες που έχουν στη ζωή μας.

«Μια άλλη απειλή είναι ότι κάθε κράτος (από τις ΗΠΑ ως την Κίνα) και κάθε μεγάλη εταιρεία Τεχνολογίας (από τη Google μέχρι την “X” του Έλον Μασκ) αρχίζει εφεξής να φτιάχνει μια αντίστοιχη δική του προηγμένη ΤΝ παραγωγής Λόγου (τα λεγόμενα Large Language Models, LLMS’s) όπως είναι το ChatGPT. Κάθε κράτος και εταιρεία δηλαδή σφυρηλατεί την απαρχή μιας δική του AGI.
Αυτό που κάνει η ΤΝ Λόγου είναι πως μπορεί να προβλέψει την επόμενη λέξη μέσα σε ένα σύμπλεγμα λέξεων. Κάτι που φαίνεται αθώο. Λες π.χ. «εύχομαι χρόνια» και το μηχάνημα απαντά «πολλά». Αυτό δεν δείχνει φοβερό. Αλλά μπορείς επίσης να πεις «πως μπορώ να χτίσω ένα βιολογικό όπλο στο σπίτι μου;» και στη συνέχεια η ΤΝ να σου δώσει επίσης λεπτομερείς οδηγίες για το πώς να κάνεις κάτι τέτοιο. Και αυτό δείχνει μάλλον λιγότερο αθώο…
Εάν τα πράγματα αφεθούν ανεξέλεγκτα, το πιο πιθανό είναι ότι η ΤΝ θα ενσαρκωθεί εμπεριέχοντας κάθε πιθανό ηθικό κώδικα και κάθε ποικιλία στόχων που υπάρχουν στη Γη: θα υπάρχει η δημοκρατική ΤΝ, και η φονταμενταλιστική. Θα υπάρχουν π.χ. και αυτόνομα όπλα ΤΝ που δεν σκοτώνουν τους άμαχους, και άλλα που τους σκοτώνουν.
Αν κάθε πολιτισμός φτιάξει δικά του αυτόνομα όπλα ΤΝ, σε στιγμές έντασης θα μπορεί να τα στρέφει και εναντίον των άλλων πολιτισμών: οι αυταρχικοί εναντίον των φιλελεύθερων, οι φονταμενταλιστές χριστιανοί εναντίον των ισλαμιστών, οι Ρώσοι εναντίον των ΗΠΑ, και όλοι εναντίον όλων.
Ας φανταστούμε έναν παγκόσμιο πόλεμο όπου κράτη έχουν στην κατοχή τους από ένα φορέα υψηλής ΤΝ (AGI) που θα έχει την εντολή “βρες τρόπους να σκοτωθούν όσο πιο πολλοί Αμερικανοί” ή “Κινέζοι γίνεται”. Θα είναι σημείο δίχως επιστροφή τη στιγμή που ο 1ος ηγέτης πατήσει το λάθος κουμπί. Το ντόμινο αβύσσου που θα ακολουθήσει θα χορογραφήσει τα βήματα από ένα ακατάληπτο χάος.
Οι διαμάχες μεταξύ των ανθρώπων βέβαια δεν είναι βέβαια καινούργιο φαινόμενο. Καινούργιο είναι οι διαμάχες μεταξύ ανθρώπων που κρατούν όμως στα χέρια τους υπεράνθρωπες δυνάμεις που τους προσφέρει η ΤΝ».

Είμαστε στα πρόθυρα ενός άλματος στην ιστορία του είδους μας. Στα εργαστήρια της ΤΝ και άλλων επίμαχων τεχνολογίων με τις οποίες η ΤΝ μπολιάζεται (όπως η βιοτεχνολογία, το διαδίκτυο, οι κβαντικοί υπολογιστές) επωάζεται στους χρόνους μας μια κοσμογονία.

Και εμείς, οι κάτοικοι του 21ου αιώνα, έχουμε το προνόμιο να είμαστε οι παρατηρητές και οι μέτοχοι της κοσμοϊστορικής αυτής απαρχής. Κοιτάζουμε την απαρχή μιας τελείως ανοίκειας, γι’ αυτό και κρίσιμης, στροφής του μέλλοντος.