Τεχνητή νοημοσύνη: Το chatbot της Νέας Υόρκης πιάστηκε να δίνει συμβουλές για παρανομίες
Το σύστημα MyCity υποτίθεται θα απαντούσε στα ερωτήματα επαγγελματιών που ενδιαφέρονται να ανοίξουν επιχείρηση. Όπως αποδείχθηκε, οι απαντήσεις του δεν ήταν πάντα σωστές.
- Που είναι τα παιδιά; Περισσότερα από 3.000 ασυνόδευτα προσφυγόπουλα έφτασαν φέτος στην χώρα μας
- «Με βίασαν οι κακοποιοί του Άσαντ, αλλά πλέον δεν φοβάμαι να δείξω το πρόσωπό μου»
- Ξέσπασε ο πατέρας του 19χρονου Γιάννη - «Πρέπει να προσέχουν τα παιδιά» ανέφερε με αφορμή το «Allou Fun Park»
- Γαλλία: Η σύνθεση της νέας κυβέρνησης θα ανακοινωθεί το νωρίτερο το βράδυ
Λάτρης της τεχνολογίας, ο δήμαρχος της Νέας Υόρκης Έρικ Άνταμς ήρθε και πάλι σε δύσκολη θέση όταν το chatbot που δημιούργησε για να λύνει νομικές απορίες επαγγελματιών πιάστηκε να δίνει συμβουλές που θα παρέβαιναν τη νομοθεσία.
Όταν η μηχανή διαλόγου «MyCity» παρουσιάστηκε σε πιλοτική βάση τον Οκτώβριο, η Νέα Υόρκη καμάρωνε πως ήταν η πρώτη πόλη που αξιοποιεί την τεχνολογία της τεχνητής νοημοσύνης σε τέτοια κλίμακα.
Το chatbot, το οποίο τρέχει στην υπηρεσία νέφους Azure AI της Microsoft, υποτίθεται θα απαντούσε στα ερωτήματα επαγγελματιών που ενδιαφέρονται να ανοίξουν επιχείρηση.
Όπως αποδείχθηκε, οι απαντήσεις του δεν ήταν πάντα σωστές. Όπως διαπίστωσε η ενημερωτική ιστοσελίδα The Markup, το σύστημα έλεγε για παράδειγμα ότι οι εργοδότες δικαιούνται μερίδιο από τα φιλοδωρήματα που λαμβάνει το προσωπικό, ή ότι οι επιχειρήσεις δεν υποχρεούνται να ενημερώνουν από πριν τους εργαζομένους τους για αλλαγές του ωραρίου.
«Κάνει λάθος σε κάποια πράγματα και πρέπει να το φτιάξουμε» δήλωσε στους δημοσιογράφους ο Δημοκρατικός δήμαρχος. «Κάθε φορά που χρησιμοποιείς μια νέα τεχνολογία πρέπει να το δοκιμάσεις σε πραγματικές συνθήκες για να διορθώσεις τα προβλήματα» είπε σύμφωνα με το Reuters.
Όπως σχολιάζει το πρακτορείο, ο Άνταμς υποστηρίζει την αξιοποίηση νέων τεχνολογιών με ένα αίσθημα οπτιμισμού που έχει αποδειχθεί υπερβολικό. Πέρυσι, έβαλε ένα ρομπότ των 200 κιλών να αστυνομεύει τον σταθμό του μετρό στην Τάιμς Σκουέαρ. Το μηχάνημα βγήκε στη σύνταξη πέντε μήνες αργότερα έπειτα από παράπονα ότι δεν έκανε απολύτως τίποτα και δεν μπορούσε καν να ανέβει τις σκάλες.
Το chatbot του MyCity παρέμενε σε λειτουργία την Πέμπτη και συνέχιζε να δίνει λανθασμένες απαντήσεις. Έλεγε για παράδειγμα ότι τα καταστήματα έχουν δικαίωμα να αρνούνται πληρωμές με μετρητά. Έλεγε επίσης ότι το κατώτατο ωρομίσθιο στην πόλη είναι 15 δολάρια, ενώ από φέτος έχει αυξηθεί στα 16.
Η Microsoft αρνήθηκε να σχολιάσει πού οφείλεται το πρόβλημα και περιορίστηκε να δηλώσει ότι εργάζεται για την επίλυσή του. Είναι όμως προφανές ότι το chatbot πάσχει από το λεγόμενο πρόβλημα των «παραισθήσεων», το πρόβλημα των εσφαλμένων απαντήσεων που δίνουν ενίοτε σχεδόν όλα τα συστήματα ΑΙ. Η αντιμετώπιση αυτής της εγγενούς αδυναμίας θεωρείται δύσκολη υπόθεση.
Η δημαρχεία έσπευσε να ενημερώσει τη δήλωση αποποίησης στην ιστοσελίδα του MyCity, η οποία πλέον διευκρινίζει ότι «οι απαντήσεις του μπορεί σε κάποιες περιπτώσεις να είναι ανακριβείς ή ελλιπείς». Ξεκαθαρίζει επίσης στους επιχειρηματίες ότι δεν πρέπει να θεωρούν τις απαντήσεις νομικές συμβουλές.
Όπως σχολίασε ο Άντριου Ρίγκι, διευθυντής του συνδέσμου επιχειρήσεων εστίασης της Νέας Υόρκης «αν κάνω μια ερώτηση και μετά πρέπει να ρωτήσω δικηγόρο αν ήταν σωστή ή λάθος, δεν έχει κανένα νόημα».
Ακολουθήστε το in.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις