Τεχνητή Νοημοσύνη: Ο νέος «Μεγάλος Αδελφός» στους Ολυμπιακούς Αγώνες στο Παρίσι

Το Παρίσι ετοιμάζεται να μεταμορφωθεί σε απέραντο ψηφιακό Πανόπτικον, εν όψει των Ολυμπιακών Αγώνων, καθώς η χρήση συστημάτων με Τεχνητή Νοημοσύνη για τη «σάρωση» προσώπων – των χιλιάδων αθλητών, προπονητών και θεατών, εγείρει ανησυχίες για παραβίαση των προσωπικών δεδομένων και της ιδιωτικότητας.

Σύμφωνα με την ανταπόκριση του Reuters, οι Γαλλικές αρχές ήδη δοκιμάζουν εδώ και μήνες τα συστήματα επιτήρησης  Τεχνητής Νοημοσύνης σε σιδηροδρομικούς σταθμούς, συναυλίες και ποδοσφαιρικούς αγώνες, ενώ οργανώσεις ανθρωπίνων δικαιωμάτων διαμαρτύρονται ότι πρόκειται για μια μορφή «ύπουλης παρακολούθησης».

Όταν ξεκινήσουν οι Ολυμπιακοί αγώνες στα τέλη Ιουλίου,  τα συστήματα ασφαλείας με AI, θα «σαρώνουν» τα πλήθη, θα ελέγχουν για τυχόν ύποπτα «εγκαταλελειμμένα» δέματα, θα ανιχνεύουν όπλα και εκρηκτικά, και πολλά άλλα.

 Οι ακτιβιστές ανησυχούν ότι η επιτήρηση με τεχνητή νοημοσύνη θα μπορούσε να γίνει η νέα κανονικότητα

Οι Γάλλοι αξιωματούχοι δηλώνουν ότι τα εργαλεία αυτά δεν θα είναι πλήρως λειτουργικά πριν από τους αγώνες, όμως μετά τη λήξη των Ολυμπιακών και μέχρι τις 31 Μαρτίου του 2025 θα μπορούν να τα χρησιμοποιούν οι αστυνομικές αρχές, η πυροσβεστική, οι διασώστες, καθώς και ορισμένες υπηρεσίες ασφάλειας στις μεταφορές.

«Οι Ολυμπιακοί Αγώνες αποτελούν την ιδανική ευκαιρία για να δοκιμαστεί η επιτήρηση με ΑΙ, υπό το πρόσχημα της προστασίας και της ασφάλειας, στρώνοντας έτσι το δρόμο για ακόμα πιο παρεμβατικά συστήματα, όπως η αναγνώριση προσώπου», δήλωσε στο Thomson Reuters Foundation η Katia Roux, νομική υπεύθυνη της Γαλλικής Διεθνούς Αμνηστίας.

Η ψηφιακή επιτήρηση, από το μετρό στην Τaylor Swift

Η γαλλική κυβέρνηση έχει αναθέσει το έργο των νέων συστημάτων επιτήρησης σε τέσσερις εταιρείες ψηφιακής τεχνολογίας: Videtics, Orange Business, Chaps Vision και Wintics.

Οι πλατφόρμες ασφαλείας των συγκεκριμένων εταιρειών παρακολουθούν και ελέγχουν 8 παράγοντες-κλειδιά: οχήματα που κινούνται αντίθετα με τη ροή της κυκλοφορίας,  παρουσία προσώπων σε απαγορευμένες ζώνες, κινήσεις πλήθους, εγκαταλελειμμένα δέματα-αποσκευές, παρουσία ή χρήση όπλων, συνωστισμός, σώματα πεσμένα στο έδαφος και φωτιά.

Τα παραπάνω λογισμικά ασφάλειας δοκιμάστηκαν πιλοτικά σε μεγάλες μουσικές εκδηλώσεις και αθλητικά γεγονότα, όπως οι συναυλίες των Depeche Mode και των Black-Eyed Peas, καθώς και ο ποδοσφαιρικός αγώνας μεταξύ της Paris Saint-Germain και της Olympique Lyon.

Περισσότερες δοκιμές πραγματοποιήθηκαν σε πλήθη που μετακινήθηκαν με το μετρό από τα παρισινά προάστια της Ναντέρ μέχρι το σταθμό Grand Arch De la Defence στο επιχειρηματικό κέντρο της πρωτεύουσας για να παρακολουθήσουν τη συναυλία της Τaylor Swift στο στάδιο Grand Arch Arena. Η ίδια τεχνολογία χρησιμοποιήθηκε σε μαζική κλίμακα στο Φεστιβάλ των Καννών, ελέγχοντας της κίνηση των 40.000 επισκεπτών και συμμετεχόντων. Ο δήμαρχος των Καννών David Lisnard δήλωσε ότι η πόλη διαθέτει ήδη το «πυκνότερο δίκτυο βιντεοπροστασίας στη Γαλλία», με 884 κάμερες – μία για κάθε 84 κατοίκους.

Οι συγκεκριμένες τεχνολογίες, στην πλειονότητά τους, δεν προχωρούν σε αναγνώριση ταυτότητας, όμως απαιτούν σύνθετες υποδομές επιτήρησης, οι οποίες είναι ένα “κλικ” μακριά από το μετατραπούν στα πλέον “παρεμβατικά” εργαλεία μαζικής παρακολούθησης.

Ανατριχιαστικά αποτελέσματα

Σε ολόκληρη τη Γαλλία υπάρχουν περίπου 90.000 κάμερες βιντεοεπιτήρησης, οι οποίες παρακολουθούνται από την αστυνομία και τη χωροφυλακή, σύμφωνα με έκθεση του 2020.

«Η μεγαλύτερη ανησυχία μας είναι ότι ενώ οι συγκεκριμένες τεχνολογίες, στην πλειονότητά τους, δεν προχωρούν σε αναγνώριση ταυτότητας ή σε παρακολούθηση ατόμων με βάση ατομικά χαρακτηριστικά (profiling), απαιτούν σύνθετες υποδομές επιτήρησης, οι οποίες είναι ένα “κλικ” μακριά από το μετατραπούν στα πλέον “παρεμβατικά” εργαλεία μαζικής παρακολούθησης», δήλωσε ο Daniel Leufer, ανώτερος αναλυτής στην οργάνωση AccessNow, για την υπεράσπιση των ψηφιακών δικαιωμάτων. To «κλικ» αυτό μπορεί να είναι μια απλή ανανέωση στο λογισμικό, που μετατρέπει ένα σύστημα ανώνυμης επιτήρησης, σε εργαλείο «φακελώματος» προσώπων.

«Τα αποτελέσματα αυτού του είδους της μαζικής δημόσιας παρακολούθησης είναι ανατριχιαστικά, καθώς ς οι πολίτες δεν θα έχουν σχεδόν καμία ενημέρωση ή εποπτεία για το τι ακριβώς παρακολουθούν αυτά τα συστήματα ή πώς θα ανανεώνεται το λογισμικό τους»

Οι Ολυμπιακοί Αγώνες γίνονται «Παιδική Χαρά» της Τεχνητής Νοημοσύνης

Οι Γάλλοι νομοθέτες προσπάθησαν να κατευνάσουν τις επικρίσεις απαγορεύοντας τη χρήση τεχνολογίας αναγνώρισης προσώπου. Οι αρχές λένε ότι πρόκειται για μια κόκκινη γραμμή που δεν πρέπει να ξεπεραστεί.

Ο Matthias Houllier, συνιδρυτής της Wintics, δήλωσε ότι το πείραμα ήταν «αυστηρά περιορισμένο» στο να μετρά τα 8 δεδομένα που περιγράφονται στο νόμο και ότι χαρακτηριστικά όπως η ανίχνευση κίνησης πλήθους δεν μπορούν να χρησιμοποιηθούν για άλλες διαδικασίες  – όπως για παράδειγμα η ανίχνευση βάδισης, η οποία επιτρέπει την αναγνώριση ενός προσώπου από τον τρόπο που περπατάει.

Ο Houllier δήλωσε ότι ήταν «απολύτως αδύνατο» τόσο για τους τελικούς χρήστες όσο και για τους προηγμένους μηχανικούς να χρησιμοποιήσουν το Wintics για την αναγνώριση προσώπου λόγω του σχεδιασμού του.

Σιωπή από τις επιχειρήσεις συστημάτων παρακολούθησης

Εκπρόσωποι της Videtics, της Orange Business και της ChapsVision δεν απάντησαν στο αίτημα του ανταποκριτή του Reuters για σχολιασμό. Οι ειδικοί ανησυχούν ότι οι μέθοδοι αξιολόγησης των δοκιμών αυτής της τεχνολογίας από την κυβέρνηση ή ο τρόπος λειτουργίας της, ουδέποτε έχει κοινοποιηθεί. «Δεν υπάρχει ούτε κατά διάνοια η απαραίτητη διαφάνεια σχετικά με αυτές τις τεχνολογίες. Το σύνηθες επιχείρημα από την πλευρά των αρχών είναι ότι ‘»Δεν μπορεί να επιτρέψουμε τη διαφάνεια σε αυτά τα συστήματα, όταν τίθεται θέμα εφαρμογής του νόμου ή δημόσιας ασφάλειας», όμως όλα αυτά είναι ότι δεν παρά ανόητες δικαιολογίες», δήλωσε ο Houllier. «Η χρήση τεχνολογιών επιτήρησης όπως αυτές, ιδίως σε πλαίσια επιβολής του νόμου και δημόσιας ασφάλειας, ενέχει ίσως τη μεγαλύτερη πιθανότητα βλάβης και, ως εκ τούτου, απαιτεί το υψηλότερο επίπεδο δημόσιας λογοδοσίας», συμπλήρωσε ο ίδιος.

Οι υπερασπιστές των ατομικών δικαιωμάτων και της προστασίας της ιδιωτικής ζωής λένε ότι οι εξαιρέσεις στη νομοθεσία θα επιτρέψουν την ανάπτυξη της αναγνώρισης προσώπου από «αρμόδιες αρχές αρχές», για σκοπούς όπως η εθνική ασφάλεια και η μετανάστευση.

Απαγόρευση αναγνώρισης προσώπου, αλλά μόνο στα λόγια

«Στην πραγματικότητα δεν υπάρχει καμία απαγόρευση για την αναγνώριση προσώπων. Ισχύει ακριβώς το αντίθετο, η αστυνομία έχει την εξουσιοδότηση να το κάνει, αφού θεσπίζονται καταστάσεις εξαίρεσης.  Δημιουργείται η ψευδαίσθηση στον κόσμο ότι επειδή τυπικά «απαγορεύεται» η συγκεκριμένη τεχνολογία – εκτός εξαιρέσεων, ότι όλα είναι ok. Mόνο που αυτές οι περιπτώσεις είναι οι πιο προβληματικές», δήλωσε η εκπρόσωπος της Διεθνούς Αμνηστίας

Δεν είναι η πρώτη φορά που η προβληματική χρήση μηχανισμών επιτήρησης στη Γαλλία έχει εγείρει διαμαρτυρίες. Τον περασμένο Νοέμβριο, η μη κερδοσκοπική οργάνωση Disclose διαπίστωσε ότι οι δυνάμεις επιβολής του νόμου χρησιμοποιούσαν κρυφά λογισμικό αναγνώρισης προσώπου της ισραηλινής εταιρείας Briefcam από το 2015.

Τεχνητή Νοημοσύνη και παρακολούθηση: Χάσμα μεταξύ υποσχέσεων και δυνατοτήτων

Γάλλοι πολιτικοί επισημαίνουν  ότι υπάρχει ένα χάσμα μεταξύ όσων υπόσχεται ότι μπορεί να πετύχει η τεχνολογία παρακολούθησης μέσω ΑΙ, και ότι πραγματικά μπορεί να κάνει.

«Η βιντεοεπιτήρηση με βάση την τεχνητή νοημοσύνη δεν θα είναι η καλύτερη δυνατή κατά την περίοδο των Ολυμπιακών Αγώνων. Αλλά οι Ολυμπιακοί Αγώνες θα είναι μια μεγάλη «παιδική χαρά» για να πειραματιστούμε με αυτήν», δήλωσε η Γαλλίδα γερουσιαστής Agnes Canayer.

«Θα χρειαστούν περισσότερες δυνάμεις ασφάλειας και ιδιωτικοί σεκιούριτι για να αντισταθμίσουν τις ελλείψεις της τεχνολογίας», δήλωσε η ίδια.

Το Υπουργείο Εσωτερικών, το οποίο εποπτεύει τις γαλλικές αρχές επιβολής του νόμου, δεν απάντησε σε αίτημα για σχολιασμό.

Σε έναν κατάλογο προτάσεων σχετικά με το μέλλον της παρακολούθησης με τεχνητή νοημοσύνη, η Νομική Επιτροπή της κυβέρνησης συνέστησε να συνεχιστεί η «πειραματική βάση» της τεχνολογίας και να επεκταθεί επίσης η περίοδος διατήρησης των εικόνων που καταγράφονται από τα συστήματα, ώστε να «δοκιμαστεί ο εξοπλισμός σε όλες τις εποχές» και κατά τη διάρκεια μικρότερων γεγονότων.

«Αυτός είναι ο λόγος για τον οποίο αποφασίσαμε να κάνουμε εκστρατεία και να ευαισθητοποιήσουμε την κοινή γνώμη αυτή τη στιγμή σχετικά με την αναγνώριση προσώπου, ακόμη και αν δεν πρόκειται να χρησιμοποιηθεί κατά τη διάρκεια των Ολυμπιακών Αγώνων», δήλωσε η Katia Roux της Διεθνούς Αμνηστίας. «Αν περιμένουμε μέχρι να χρησιμοποιηθεί, τότε θα είναι πολύ αργά».