Drones – ρομπότ που σκοτώνουν χωρίς εντολή

Ενα, τουρκικής κατασκευής, στρατιωτικό drone που επιτέθηκε σε στρατιώτες στη διάρκεια μάχης στον εμφύλιο πόλεμο της Λιβύης πέρσι, μπορεί να προχώρησε στην επίθεση χωρίς ανθρώπινο έλεγχο, σύμφωνα με πρόσφατη έρευνα του ΟΗΕ. Το μη επανδρωμένο αεροσκάφος, το οποίο στην έρευνα περιγράφεται ως «θανατηφόρο αυτόνομο οπλικό σύστημα», κινείτο βάσει τεχνητής νοημοσύνης και χρησιμοποιήθηκε από τις δυνάμεις που υποστήριζαν την κυβέρνηση της Τρίπολης, εναντίον ενόπλων αντιπάλων οι οποίοι προσπαθούσαν να διαφύγουν από πυραυλικές επιθέσεις.

Οι στρατιώτες «εντοπίστηκαν και από μακριά μπήκαν στο στόχαστρο του μαχητικού drone ή του αυτόνομου οπλικού του συστήματος», αναφέρεται στην έρευνα, όπου όμως δεν περιλαμβάνονται στοιχεία για το εάν υπήρξαν θύματα. Σημειώνεται ότι το οπλικό σύστημα «ήταν προγραμματισμένο να επιτεθεί σε στόχους χωρίς να απαιτείται συνδεσιμότητα δεδομένων μεταξύ του χειριστή και των πυρομαχικών».

Εκπρόσωπος των Ηνωμένων Εθνών αρνήθηκε να σχολιάσει την έκθεση, την οποία συνέταξε ομάδα ανεξάρτητων εμπειρογνωμόνων. Εστάλη προς εξέταση στην επιτροπή κυρώσεων του ΟΗΕ.  Το drone, ένα Kargu-2 της STM, χρησιμοποιήθηκε καθώς οι στρατιώτες προσπαθούσαν να διαφύγουν. «Οταν άρχισε η υποχώρησή τους, δέχονταν συνεχώς παρενοχλήσεις από το μη επανδρωμένο αεροσκάφος και τα θανατηφόρα αυτόνομα οπλικά του συστήματα», έγραψαν τα μέλη της Επιτροπής Ειδικών για τη Λιβύη του ΟΗΕ, στην έκθεση που δόθηκε στη δημοσιότητα τον Μάρτιο. Τα ευρήματα για την επίθεση του drone, περιγράφονται συνοπτικά στο έγγραφο των 548 σελίδων, για το οποίο πρωτοέγινε δημόσια αναφορά στο περιοδικό New Scientist, τον περασμένο μήνα.

Drones που ελέγχονται και καθοδηγούνται από ανθρώπους χρησιμοποιούνται σε στρατιωτικά χτυπήματα εδώ και πάνω από μια δεκαετία. Ο πρόεδρος Μπαράκ Ομπάμα επί χρόνια είχε υιοθετήσει επιθέσεις με drones ως αντιτρομοκρατική στρατηγική, και ο πρόεδρος Ντόναλντ Τραμπ επέκτεινε τη χρήση τους στην Αφρική.

Χώρες όπως η Κίνα, η Ρωσία και το Ισραήλ χρησιμοποιούν πολλά drones, ενώ έγινε εκτεταμένη χρήση τους από την Τουρκία στον πόλεμο μεταξύ Αζερμπαϊτζάν και Αρμενίας πέρσι. Οι ειδικοί είναι διχασμένοι για τη σημασία των ευρημάτων της έκθεσης του ΟΗΕ για τη Λιβύη, ενώ κάποιοι σημειώνουν πως η λέξη «αυτόνομα» μπορεί να έχει πολλές διαφορετικές έννοιες.

Ο Ζάκαρι Κάλενμπορν, ο οποίος μελετά τη χρήση των drones σε πολεμικές συγκρούσεις, στην τρομοκρατία καθώς και τα όπλα μαζικής καταστροφής στο πανεπιστήμιο του Μέριλαντ, δήλωσε ότι η έρευνα αφήνει ανοιχτό το ενδεχόμενο, για πρώτη φορά, ένα οπλικό σύστημα με δυνατότητα τεχνητής νοημοσύνης να έδρασε αυτόνομα εντοπίζοντας και πραγματοποιώντας επίθεση σε ανθρώπους.

«Είναι ξεκάθαρο ότι αυτό το drone χρησιμοποιήθηκε στη σύγκρουση», λέει ο Κάλενμπορν, ο οποίος παρουσίασε το θέμα στο Περιοδικό των Ατομικών Επιστημόνων. «Εκείνο που δεν είναι ξεκάθαρο είναι το εάν επετράπη στο μη επανδρωμένο όχημα να επιλέξει τον στόχο του αυτόνομα και το εάν το drone, την ώρα που δρούσε αυτόνομα, προκάλεσε θύματα. Στην έκθεση του ΟΗΕ υπονοείται έντονα, όμως δεν αναφέρεται ξεκάθαρα ότι συνέβη κάτι τέτοιο».

Ομως η Ούλρικε Φρανκ, του Ευρωπαϊκού Συμβουλίου Διεθνών Σχέσεων, παρατηρεί ότι στην έκθεση δεν αναφέρεται πόσο ανεξάρτητα έδρασε το drone, εάν υπήρχε ανθρώπινος έλεγχος του σκάφους και σε ποιο βαθμό, καθώς και ποιο ήταν το αποτέλεσμα της εμπλοκής του στη μάχη. «Θα πρέπει να μιλήσουμε περισσότερο για την αυτονομία των οπλικών συστημάτων; Σίγουρα», δήλωσε η Φρανκ απαντώντας στους «New York Time»s. «Αυτό το περιστατικό στη Λιβύη μοιάζει με μια συγκλονιστική στιγμή στο πλαίσιο αυτής της συζήτησης; Οχι πραγματικά».

Επίθεση

Παρατηρεί πως στην έκθεση αναφέρεται ότι το Kargu-2 και «άλλα περιφερόμενα πυρομαχικά» επιτέθηκαν σε αυτοκινητοπομπή και σε μαχητές που υποχωρούσαν. Ο όρος «περιφερόμενα πυρομαχικά» αφορά πιο απλά αυτόνομα όπλα τα οποία είναι σχεδιασμένα να ίπτανται πάνω από μια περιοχή πριν συγκρουστούν πάνω σε κάποιο στόχο και έχουν χρησιμοποιηθεί μέχρι τώρα σε αρκετές συγκρούσεις.

«Αυτά δεν είναι καινούργια, ούτε και η παρατήρηση πως αυτά τα συστήματα είναι αυτόνομα. Το πόσο αυτόνομα είναι δύσκολο να το διαπιστώσουμε – ούτως ή άλλως η αυτονομία δεν μπορεί ποτέ να περιγραφεί επακριβώς – αλλά γνωρίζουμε πως αρκετοί κατασκευαστές περιφερόμενων πυρομαχικών ισχυρίζονται ότι τα συστήματά τους μπορούν να δράσουν αυτόνομα».

Η έκθεση δείχνει ότι «ο αγώνας για τον έλεγχο αυτών των όπλων» έχει χαθεί, μια δυνητικά «καταστροφική» εξέλιξη, σχολιάζει ο Τζέιμς Ντάουζ, καθηγητής σε πανεπιστήμιο της Μινεσότα, που ασχολείται με τα αυτόνομα όπλα. «Οι μεγάλες στρατιωτικές επενδύσεις που γίνονται σε όλο τον κόσμο σε αυτόνομα οπλικά συστήματα, το κάνουν αναπόφευκτο», πιστεύει.

Μέχρι στιγμής οι δυνατότητες της τεχνητής νοημοσύνης παραμένουν σχετικά μικρές για τα drones, θεωρεί ο Κάλενμπορν. Οι μηχανές μπορούν εύκολα να κάνουν λάθη, όπως το να περάσουν έναν αγρότη που κρατά τσουγκράνα με στρατιώτη του εχθρού που κρατά όπλο, εξηγεί. Οι οργανώσεις ανθρωπίνων δικαιωμάτων «ανησυχούν ιδιαίτερα, μεταξύ άλλων, και για την ευθραυστότητα του συστήματος τεχνητής νοημοσύνης»,  προσθέτει.

Ο καθηγητής Ντάουζ λέει πως αρκετές χώρες θα αρχίσουν σύντομα να ανταγωνίζονται επιθετικά μεταξύ τους για να δημιουργήσουν περισσότερα αυτόνομα όπλα. «Η πιθανότητα πως αυτά τα όπλα ίσως δεν αναγνωρίσουν σωστά στόχους είναι η μικρότερη από τις ανησυχίες μας», δηλώνει. «Πιο σημαντικές είναι η απειλή του ανταγωνισμού των εξοπλισμών σε αυτόνομα οπλικά συστήματα και η κρίση της γρήγορης εξάπλωσής τους».

Σύμφωνα με την έκθεση του ΟΗΕ η επίθεση σημειώθηκε σε σύγκρουση μεταξύ μαχητών της κυβέρνησης της Τρίπολης, την οποία υποστηρίζει η Τουρκία και έχει αναγνωρισθεί επισήμως από τις ΗΠΑ και αρκετές δυτικές χώρες και στρατιωτικών δυνάμεων του στρατηγού Χαλίφα Χαφτάρ, ο οποίος υποστηρίζεται από τη Ρωσία, την Αίγυπτο, τα Ηνωμένα Αραβικά Εμιράτα, τη Σαουδική Αραβία και, κάποιες φορές, από τη Γαλλία.

Επιθετικό

Το Kargu-2 κατασκευάστηκε από την τουρκική εταιρεία STM, η οποία το περιγράφει ως «περιστροφικό επιθετικό drone» που μπορεί να χρησιμοποιηθεί αυτόνομα ή με τηλεχειρισμό. Σύμφωνα με την έκθεση του ΟΗΕ, η Τουρκία η οποία στηρίζει την κυβέρνηση της Τρίπολης, την ενίσχυσε με πολλά οπλικά συστήματα.

«Τα περιφερόμενα πυρομαχικά δείχνουν πως ο ανθρώπινος έλεγχος και η κρίση σε αποφάσεις ζωής ή θανάτου έχει περιορισθεί, πιθανώς σε απαράδεκτο σημείο», σχολιάζει η Μέρι Ουάρχαμ, στέλεχος του Παρατηρητηρίου Ανθρωπίνων Δικαιωμάτων. Είναι ιδρυτικό μέλος της Εκστρατείας για το Σταμάτημα των Ρομπότ-Δολοφόνων, που έχει στόχο την απαγόρευση των πλήρως αυτόνομων όπλων. Οπως λέει, οι χώρες «πρέπει να δράσουν προς το συμφέρον της ανθρωπότητας, ολοκληρώνοντας τη διαπραγμάτευση μιας νέας διεθνούς συνθήκης που θα απαγορεύει τα πλήρως αυτόνομα όπλα και θα διατηρήσει τον ουσιαστικό ανθρώπινο έλεγχο στη χρήση βίας».