Τεχνητή νοημοσύνη: Ο Μεγάλος Αδελφός που «σκανάρει» τα παιδιά σας… για το καλό τους

Ο νόμος της Ευρωπαϊκής Ένωσης για την Τεχνητή Νοημοσύνη,  που έχει τεθεί σε ισχύ από την 1η Αυγούστου, θεωρείται στο είδος του  ο πρώτος ολοκληρωμένος κανονισμός στον κόσμο.

Όπως προβλέπει, τα συστήματα που βασίζονται στην Τεχνητή Νοημοσύνη και η χρήση τους ταξινομούνται σε τέσσερις κατηγορίες, ανάλογα με την ασφάλεια ή την επικινδυνότητά τους. Στην τελευταία κατηγορία, του μη αποδεκτού κινδύνου, εντάσσονται και «ορισμένες χρήσεις βιομετρικών συστημάτων», οι οποίες πρέπει να απαγορευθούν.

Ως απαράδεκτη ορίζεται η χρήση βιομετρικών συστημάτων που «αναγνωρίζουν συναισθήματα» και χρησιμοποιούνται σε χώρους εργασίας, ή συστήματα που κάνουν  κατηγοριοποίηση ατόμων, ή απομακρυσμένη βιομετρική ταυτοποίηση σε δημόσιους χώρους.  Ακόμα και γι’αυτά  θεσπίζονται εξαιρέσεις, κάτι που έχει ήδη συμβεί στους Ολυμπιακούς Αγώνες του Παρισιού με κάμερες παρακολούθησης που χρησιμοποιούν ΑΙ.

Σε γενικές γραμμές πάντως τα βιομετρικά συστήματα αναγνώρισης προσώπων ή ακόμα και αναγνώρισης συναισθημάτων και κατηγοριοποίησης ατόμων θεωρούνται ασφαλή, αρκεί οι χρήστες να ενημερώνονται ότι υποβάλλονται σε αυτά.

Τεχνητή Νοημοσύνη για επαλήθευση ηλικίας: ένα αμφιλεγόμενο εργαλείο

Τι συμβαίνει όμως όταν τα βιομετρικά συστήματα αναγνώρισης προσώπων, μέσω εργαλείων Τεχνητής Νοημοσύνης  χρησιμοποιούνται σε παιδιά;

Η Ευρωπαϊκή Ένωση όχι μόνο δεν απαγορεύει, αλλά ενθαρρύνει, υπό όρους,  τη χρήση τέτοιων εργαλείων, ως μέσο επιβεβαίωσης της ηλικίας, για να αποτρέπει για παράδειγμα τη χρήση διαδικτυακών εφαρμογών για ενήλικες από παιδιά.

Προγράμματα τεχνητής νοημοσύνης που ειδικεύονται σε συστήματα «επαλήθευσης ηλικίας» για παιδιά, έχουν δεχθεί οξεία κριτική, καθώς μπορούν να χρησιμοποιηθούν για παραβίαση των προσωπικών δεδομένων των ανηλίκων

Φέτος, εκπονήθηκε από την Ευρωπαϊκή Επιτροπή ειδική έκθεση για το θέμα των εργαλείων αναγνώρισης – επιβεβαιώσης ηλικίας, ως μέσο προστασίας των παιδιών από τους κινδύνους στο  διαδίκτυο.

Μεταξύ άλλων η έκθεση υπογραμμίζει ότι πρέπει να τεθούν κανόνες για το πότε και γιατί πρέπει να χρησιμοποιούνται  νόμιμα εργαλεία επιβεβαίωσης της ηλικίας, και πότε μπορεί να είναι θεμιτή η χρήση τους ως μέσο προστασίας των παιδιών, ακόμα και ελλείψει νομικού πλαισίου.

Την ίδια στιγμή ωστόσο, τα προγράμματα τεχνητής νοημοσύνης που ειδικεύονται σε συστήματα «επαλήθευσης ηλικίας» για παιδιά, έχουν δεχθεί οξεία κριτική, καθώς μπορούν να χρησιμοποιηθούν για παραβίαση των προσωπικών δεδομένων των ανηλίκων

Εταιρείες ΑΙ που «σκανάρουν» παιδικά πρόσωπα: Μια ακμάζουσα βιομηχανία

Μεγάλη έρευνα της Washington Post για τα προγράμματα «επιβεβαίωσης ηλικίας» μέσω ΑΙ, επικεντρώνεται στις πρακτικές εταιρειών που εξειδικεύνται σε αυτό, όπως η Yoti. Όπως επισημαίνει, πρόκειται για εταιρείες που συλλέγουν προσωπικά δεδομένα και βιομετρικά στοιχεία από εκατομμύρια παιδιά στον πλανήτη.

Πριν τρία χρόνια, όταν το πρόγραμμά της ήταν ακόμα στα σπάργανα, η Υοti προσέφερε σε γονείς στη Νότια Αφρική ένα δολάριο για κάθε φωτογραφία του παιδιού τους, για να βελτιώσει τα εργαλεία αναγνώρισης ηλικίας. Η εκστρατεία λεγόταν «Share to Protect» – «Μοιραστείτε (σ.σ. τις φωτογραφίες  και τα βιομετρικά δεδομένα των παιδιών σας), για να τα προστατεύσετε». Είχε στόχο να συλλέξει καταρχάς 50.000 φωτογραφίες παιδικών προσώπων.

Ενώ ορισμένοι γονείς συμμετείχαν, πολλοί ήταν ιδιαίτερα επιφυλακτικοί λόγω ανησυχιών για την προστασία της ιδιωτικής ζωής των παιδιών τους. «Δεν θα πουλήσω το παιδί μου», έλεγε χαρακτηριστικά  μια μητέρα – αναφέρει η εφημερίδα. «Δεν πουλάς το παιδί σου, πουλάς τα data του», της απάντησε ο υπεύθυνος της εταιρείας.

Επαλήθευση ηλικίας μέσω AI

Η Yoti και άλλες εταιρείες στον κλάδο της «επαλήθευσης ηλικίας», όπως η Incode και η VerifyMyAge, έχουν αναπτύξει εργαλεία AI που εκτιμούν την ηλικία αναλύοντας μοτίβα προσώπου. Για παράδειγμα, ζητάνε από τους  χρήστες να καταγράψουν μια ζωντανή «βιντεοσκοπημένη selfie» στο τηλέφωνο ή την κάμερα, συχνά κρατώντας μια κρατική ταυτότητα, ώστε η τεχνητή νοημοσύνη να μπορεί να αξιολογήσει αν είναι αρκετά μεγάλοι για να εισέλθουν.

Τα περισσότερα συστήματα επαλήθευσης ηλικίας, στην καλύτερη περίπτωση παραβιάζουν «ελαφρώς» την ιδιωτικότητα, και στη χειρότερη είναι ένας «ολοκληρωτικός εφιάλτης»

Τα εργαλεία αυτά χρησιμοποιούνται από διάφορες πλατφόρμες, συμπεριλαμβανομένων κοινωνικών δικτύων όπως το Facebook και το TikTok, για την επιβολή ηλικιακών περιορισμών. Η χρήση αυτής της τεχνολογίας έχει αυξηθεί κατακόρυφα λόγω των αυξανόμενων ανησυχιών σχετικά με τον αντίκτυπο των μέσων κοινωνικής δικτύωσης στη νεολαία.

Οι εταιρείες λένε ότι τα εργαλεία τους για τον έλεγχο της ηλικίας θα μπορούσαν να δώσουν στους γονείς μια καλύτερη αίσθηση ελέγχου και ηρεμίας. Αλλά με τη σάρωση δεκάδων εκατομμυρίων προσώπων ετησίως, τα εργαλεία αυτά, αυξάνουν τις πιθανότητας τα προσωπικά  δεδομένα των παιδιών να παραβιαστούν, να διαρρεύσουν ή να χρησιμοποιηθούν καταχρηστικά.

To «ηλικιακό πάσο» για τα social media

Ορισμένα από τα μεγαλύτερα κοινωνικά δίκτυα, όπως το Facebook, το Instagram και το TikTok, χρησιμοποιούν πλέον εργαλεία ελέγχου ηλικίας για να εντοπίζουν και να περιορίζουν τους νεότερους χρήστες τους. Η OpenAI τα χρησιμοποιεί για το chatbot ChatGPT – το ίδιο κάνουν και αρκετοί ιστότοποι περιεχομένου για ενήλικες, όπως το Pornhub και το OnlyFans.

Στις ΗΠΑ 19 πολιτείες έχουν θεσπίσει νόμους που απαιτούν διαδικτυακούς ελέγχους ηλικίας από τις αρχές του 2023, δημιουργώντας μια προσοδοφόρα αγορά για τις εταιρείες αυτές.

Ενώ η Yoti ισχυρίζεται ότι διαγράφει τις εικόνες μετά την ανάλυση, εξακολουθούν να υπάρχουν ανησυχίες σχετικά με τις ευρύτερες επιπτώσεις αυτών των συστημάτων.

Εκπρόσωπος της Ιnstagram, που χρησιμοποιεί εργαλεία αναγνώρισης ηλικίας, δήλωσε ότι τα προγράμματα αυτά έχουν «μπλοκάρει» το 98% των ανήλικων χρηστών που προσπάθησαν να αλλάξουν τους λογαριασμούς τους για να φαίνονται άνω των 18 ετών.

Ανησυχίες για ψηφιακό «φακέλωμα»

Αλλά ενώ τα συστήματα προωθούνται για την προστασία των παιδιών, μπορούν να λειτουργήσουν για την έρευνα και το «ψηφιακό φακέλωμα» προσώπων, σε μαζική κλίμακα. Ο Άλεξ Στάμος, πρώην επικεφαλής ασφαλείας του Facebook, το οποίο χρησιμοποιεί το Yoti, δήλωσε ότι τα περισσότερα συστήματα επαλήθευσης ηλικίας, στην καλύτερη περίπτωση παραβιάζουν «ελαφρώς» την ιδιωτικότητα, και στη χειρότερη είναι ένας «ολοκληρωτικός εφιάλτης».

Οι υποστηρικτές των εργαλείων αναγνωρίζουν ότι οι έλεγχοι ηλικίας θα μπορούσαν να οδηγήσουν σε μια πιο έντονη «εποπτεία» της χρήσης του διαδικτύου. Οι επικριτές τους από την άλλη, υποστηρίζουν ότι οι νομοθέτες που ελπίζουν να προστατεύσουν τα παιδιά θα μπορούσαν αντίθετα να εκθέσουν τους χρήστες όλων των ηλικιών σε τρομερούς κινδύνους. Ο βασικότερος κίνδυνος είναι ότι όλα αυτά τα συστήματα, αναγκάζουν τους χρήστες να «εκχωρήσουν»  προσωπικά δεδομένα και λεπτομέρειες για την ιδιωτική τους ζωή, σε ιδιωτικές εταιρείες, οι οποίες σε μεγάλο βαθμό λειτουργούν χωρίς έλεγχο.

«Για να προστατέψεις τα παιδιά, πρέπει να ξέρεις ποια είναι», δήλωσε στην Washington Post δικηγόρος της εταιρείας Luminos Law που ειδικεύεται στα βιομετρικά δεδομένα. «Αλλά ένα από τα πράγματα που θέλετε να προστατεύσετε είναι και  η ιδιωτική ζωή των παιδιών. Και όσο περισσότερα. Και όσο περισσότερα μαθαίνεις για τα παιδιά, τόσο περισσότερο κινδυνεύει η ιδιωτικότητά τους».