Έξυπνες κάμερες ασφαλείας έδειχναν προτίμηση σε μαύρους και γυναίκες

Οι αμερικανικές αρχές απαγόρευσαν σε μεγάλη αλυσίδα φαρμακείων να χρησιμοποιεί κάμερες αναγνώρισης προσώπων για πέντε χρόνια, έπειτα από καταγγελίες ότι οι κάμερες που υποτίθενται εντόπιζαν κλέφτες ενοχοποιούσε εσφαλμένα Αφροαμερικανούς, Λατινοαμερικανούς και γυναίκες.

Η αλυσίδα Rite Aid δεν δοκίμασε την αξιοπιστία του συστήματος πριν το εγκαταστήσει κρυφά στα καταστήματά της σε τέσσερις πόλεις, ανέφερε η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC), με την οποία κατέληξε σε εξωδικαστικό συμβιβασμό η εταιρεία.

Σύμφωνα με την FTC, η τεχνολογία που χρησιμοποιούσε η Rite Aid έκανε χιλιάδες λάθη αναγνώρισης. Σε ένα τέτοιο περιστατικό, οι υπάλληλοι του καταστήματος έκαναν έλεγχο σε ένα 11χρονο κορίτσι.

Πολλά συστήματα τεχνητής νοημοσύνης έχουν βρεθεί να αναπαράγουν κοινωνικά στερεότυπα και προκαταλήψεις

Οι κάμερες που λειτουργούσαν από τον Οκτώβριο του 2012 έως τον Ιούλιο του 2020 συνέκριναν τα πρόσωπα των πελατών με εικόνες ανθρώπων που έχουν καταδικαστεί για κλοπές από καταστήματα.

Τα καταστήματα δεν ενημέρωναν τους πελάτες για τη χρήση της τεχνολογίας.

Σύμφωνα με την FTC, οι εικόνες στη βάση δεδομένων που χρησιμοποιούσε το σύστημα ήταν χαμηλής ποιότητας, καθώς προέρχονταν συνήθως από κάμερες ασφάλειας, κάμερες κινητών τηλεφώνων, ακόμα και από δημοσιεύματα στον Τύπο σε κάποιες περιπτώσεις.

Οι υπάλληλοι του καταστήματος ακολουθούσαν τους πελάτες για τους οποίους σήμαινε συναγερμό το σύστημα και τους ζητούσαν να φύγουν ή καλούσαν την αστυνομία. Σύμφωνα με την FTC, οι υπάλληλοι εξευτέλιζαν αθώους πελάτες μπροστά στις οικογένειες και τους φίλους τους, κατηγορώντας τους ότι είχαν διαπράξει κλοπές σε άλλα καταστήματα.

Πολλά ακόμα συστήματα τεχνητής νοημοσύνης έχουν βρεθεί να αναπαράγουν τα στερεότυπα και τις προκαταλήψεις που κρύβονται στα δεδομένα με τα οποία εκπαιδεύτηκαν – η εσφαλμένη στοχοποίηση Αφροαμερικανών είναι συχνό φαινόμενο λόγω υπερεκπροσώπησής τους στις βάσεις δεδομένων.

Η Rite Aid ανακοίνωσε από την πλευρά της ότι διαφωνεί με τις κατηγορίες και ότι σταμάτησε να χρησιμοποιεί το επίμαχο σύστημα πριν από τρία χρόνια.

Η εταιρεία έχει πάνω από 2.000 καταστήματα, αντιμετωπίζει όμως οικονομικά προβλήματα εδώ και χρόνια και έχει υποβάλει αίτημα χρεοκοπίας.