Τεχνητή νοημοσύνη: Το chatbot της Νέας Υόρκης πιάστηκε να δίνει συμβουλές για παρανομίες

Λάτρης της τεχνολογίας, ο δήμαρχος της Νέας Υόρκης Έρικ Άνταμς ήρθε και πάλι σε δύσκολη θέση όταν το chatbot που δημιούργησε για να λύνει νομικές απορίες επαγγελματιών πιάστηκε να δίνει συμβουλές που θα παρέβαιναν τη νομοθεσία.

Όταν η μηχανή διαλόγου «MyCity» παρουσιάστηκε σε πιλοτική βάση τον Οκτώβριο, η Νέα Υόρκη καμάρωνε πως ήταν η πρώτη πόλη που αξιοποιεί την τεχνολογία της τεχνητής νοημοσύνης σε τέτοια κλίμακα.

Το chatbot, το οποίο τρέχει στην υπηρεσία νέφους Azure AI της Microsoft, υποτίθεται θα απαντούσε στα ερωτήματα επαγγελματιών που ενδιαφέρονται να ανοίξουν επιχείρηση.

Όπως αποδείχθηκε, οι απαντήσεις του δεν ήταν πάντα σωστές. Όπως διαπίστωσε η ενημερωτική ιστοσελίδα The Markup, το σύστημα έλεγε για παράδειγμα ότι οι εργοδότες δικαιούνται μερίδιο από τα φιλοδωρήματα που λαμβάνει το προσωπικό, ή ότι οι επιχειρήσεις δεν υποχρεούνται να ενημερώνουν από πριν τους εργαζομένους τους για αλλαγές του ωραρίου.

«Κάνει λάθος σε κάποια πράγματα και πρέπει να το φτιάξουμε» δήλωσε στους δημοσιογράφους ο Δημοκρατικός δήμαρχος. «Κάθε φορά που χρησιμοποιείς μια νέα τεχνολογία πρέπει να το δοκιμάσεις σε πραγματικές συνθήκες για να διορθώσεις τα προβλήματα» είπε σύμφωνα με το Reuters.

Όπως σχολιάζει το πρακτορείο, ο Άνταμς υποστηρίζει την αξιοποίηση νέων τεχνολογιών με ένα αίσθημα οπτιμισμού που έχει αποδειχθεί υπερβολικό. Πέρυσι, έβαλε ένα ρομπότ των 200 κιλών να αστυνομεύει τον σταθμό του μετρό στην Τάιμς Σκουέαρ. Το μηχάνημα βγήκε στη σύνταξη πέντε μήνες αργότερα έπειτα από παράπονα ότι δεν έκανε απολύτως τίποτα και δεν μπορούσε καν να ανέβει τις σκάλες.

Το chatbot του MyCity παρέμενε σε λειτουργία την Πέμπτη και συνέχιζε να δίνει λανθασμένες απαντήσεις. Έλεγε για παράδειγμα ότι τα καταστήματα έχουν δικαίωμα να αρνούνται πληρωμές με μετρητά. Έλεγε επίσης ότι το κατώτατο ωρομίσθιο στην πόλη είναι 15 δολάρια, ενώ από φέτος έχει αυξηθεί στα 16.

Η Microsoft αρνήθηκε να σχολιάσει πού οφείλεται το πρόβλημα και περιορίστηκε να δηλώσει ότι εργάζεται για την επίλυσή του. Είναι όμως προφανές ότι το chatbot πάσχει από το λεγόμενο πρόβλημα των «παραισθήσεων», το πρόβλημα των εσφαλμένων απαντήσεων που δίνουν ενίοτε σχεδόν όλα τα συστήματα ΑΙ. Η αντιμετώπιση αυτής της εγγενούς αδυναμίας θεωρείται δύσκολη υπόθεση.

Η δημαρχεία έσπευσε να ενημερώσει τη δήλωση αποποίησης στην ιστοσελίδα του MyCity, η οποία πλέον διευκρινίζει ότι «οι απαντήσεις του μπορεί σε κάποιες περιπτώσεις να είναι ανακριβείς ή ελλιπείς». Ξεκαθαρίζει επίσης στους επιχειρηματίες ότι δεν πρέπει να θεωρούν τις απαντήσεις νομικές συμβουλές.

Όπως σχολίασε ο Άντριου Ρίγκι, διευθυντής του συνδέσμου επιχειρήσεων εστίασης της Νέας Υόρκης «αν κάνω μια ερώτηση και μετά πρέπει να ρωτήσω δικηγόρο αν ήταν σωστή ή λάθος, δεν έχει κανένα νόημα».