H ΑΙ γεννάει ευφυείς πράκτορες

Αν το 2023 ήταν η χρονιά των chatbot τεχνητής νοημοσύνης, το 2024 ίσως είναι η χρονιά των ευφυών πρακτόρων AI. Στην τεχνητή νοημοσύνη, ευφυής πράκτορας (Intelligent Agent – IA) είναι μια αυτόνομη οντότητα που εστιάζει τη δραστηριότητά του στην επίτευξη συγκεκριμένων στόχων (είναι δηλαδή ορθολογικός).

Ένα chatbot AI μπορεί να προτείνει μια συνταγή για δείπνο ή ένα λεπτομερές δρομολόγιο ταξιδιού για ένα ταξίδι στη Λισαβόνα, αλλά δεν μπορεί να παραγγείλει φαγητό από το σούπερ μάρκετ ή να κλείσει την πτήση. Τώρα, οι εταιρείες τεχνολογίας στοιχηματίζουν ότι οι άνθρωποι θέλουν τους λεγόμενους «ευφυείς πράκτορες τεχνητής νοημοσύνης» που μπορούν να εκτελέσουν αυτές τις εργασίες για τους χρήστες, με ελάχιστη ή καθόλου ανθρώπινη επίβλεψη.

Στην κλήση κερδών της Alphabet τον περασμένο μήνα, ο Διευθύνων Σύμβουλος Σούνταρ Πιτσάι είπε ότι η γενετική τεχνητή νοημοσύνη θα επιτρέψει σε προϊόντα όπως το Google Assistant «να ενεργούν περισσότερο σαν ευφυής πράκτορας με την πάροδο του χρόνου».

Η Microsoft έχει κυκλοφορήσει τα προϊόντα Copilot, τα οποία διατίθενται στην αγορά ως «καθημερινός σύντροφος τεχνητής νοημοσύνης». Και το OpenAI, το οποίο μιλάει για ευφυείς πράκτορες από το συνέδριο προγραμματιστών του τον Νοέμβριο και μετά, κατασκευάζει τώρα δύο νέους τύπους προϊόντων ευφυών πρακτόρων τεχνητής νοημοσύνης, σύμφωνα με το The Information.

Η εταιρεία προσφέρει επίσης άλλα προϊόντα, συμπεριλαμβανομένων προσαρμόσιμων εκδόσεων του ChatGPT, τις οποίες περιγράφει ως ένα βήμα προς τη δημιουργία ευφυών πρακτόρων AI.

Από ψηφιακούς βοηθούς σε ευφυείς πράκτορες

Η Silicon Valley προσφέρει εδώ και καιρό ψηφιακούς βοηθούς για να επιταχύνουν εργασίες, όπως η Alexa της Amazon. Αλλά αυτά τα εργαλεία ήταν κάπως περιορισμένα στην κατανόηση της πρόθεσής του χρήστη. Τώρα που τα μοντέλα έχουν γίνει τόσο ικανά οι ευφυείς πράκτορες γίνονται πιο ενδιαφέροντες.

Ορισμένες νεοφυείς επιχειρήσεις, συμπεριλαμβανομένων των Adept, Imbue και Luda, έχουν συγκεντρώσει εκατομμύρια σε χρηματοδότηση για να δημιουργήσουν τέτοιους ευφυείς πράκτορες, μια τεχνολογία που ονομάζεται agentic AI. Αυτή την εβδομάδα, ο πρόεδρος της OpenAI, Μπρετ Τέιλορ, ξεκίνησε μια νέα startup που ονομάζεται Sierra, με επίκεντρο τη δημιουργία πρακτόρων τεχνητής νοημοσύνης συνομιλίας για τις επιχειρήσεις. Είπε στο Bloomberg ότι η τεχνολογία σύντομα θα είναι τόσο σημαντική όσο μια εφαρμογή ή ένας ιστότοπος για κινητά.

Όμως, ενώ ορισμένοι ευφυείς πράκτορες AI είναι ήδη διαθέσιμοι, δεν είναι όλοι εξίσου χρήσιμοι. «Σε αυτόν τον τρέχοντα κύκλο προβολής των ευφυών πρακτόρων, ο καθένας προωθεί πράγματα τα οποία μπορεί να επιδείξει με ένα γρήγορο βίντεο στο Twitter, αλλά στη συνέχεια όταν ο κόμπος φτάσει στο χτένι δεν είναι τόσο χρήσιμο», δήλωσε ο Λουάν, συνιδρυτής της Adept, που κατασκευάζει ευφυείς πράκτορες για επιχειρήσεις.

Ωστόσο, υπάρχουν προκλήσεις στη δημιουργία ευφυών πρακτόρων τεχνητής νοημοσύνης, συμπεριλαμβανομένων των ανησυχιών σχετικά με την αξιοπιστία. Τα chatbot τεχνητής νοημοσύνης εξακολουθούν να δυσκολεύονται να επιλέξουν σωστά βασικά δεδομένα, ειδικά για τα τρέχοντα γεγονότα. Είναι ένα πράγμα αν ένα chatbot AI απαντάει λάθος σε μια συζήτηση κειμένου. Αλλά αν πραγματοποιεί ενέργειες για λογαριασμό σας, τα διακυβεύματα είναι πολύ μεγαλύτερα.

Βασικό στοιχείο η εμπιστοσύνη των χρηστών

Σήμερα λείπει η εμπιστοσύνη των χρηστών, δήλωσε στο Bloomberg ο Καντζούν Κιου, συνιδρυτής και Διευθύνων Σύμβουλος της startup AI Imbue, καθώς πολλοί χρήστες θα δοκιμάσουν προϊόντα και θα τα βρουν κάπως διασκεδαστικά, αλλά δεν πρόκειται να το χρησιμοποιήσουν για να κάνουν κάτι αν δεν το εμπιστεύονται.

Εάν τα μοντέλα τεχνητής νοημοσύνης σε μεγάλες γλώσσες συνεχίσουν να βελτιώνουν τις ικανότητές συλλογιστικής τους και λειτουργούν πιο αξιόπιστα, η εμπιστοσύνη των χρηστών θα μπορούσε να αυξηθεί. Αλλά είναι επίσης σημαντικό, είπε ο Κιου, να σχεδιάζουμε ευφυείς πράκτορες τεχνητής νοημοσύνης που έρχονται συνεχώς σε επαφή με τους ανθρώπους για να βεβαιωθούν ότι είναι σε καλό δρόμο, παρόμοια με το πώς ένας υπάλληλος θα κοινοποιούσε μια ενημέρωση κατάστασης για ένα έργο με το αφεντικό του.

Μια ομάδα ερευνητών στο OpenAI σε εργασία τον Δεκέμβριο περιγράφει τις βέλτιστες πρακτικές για την ασφαλή χρήση ευφυών πρακτόρων τεχνητής νοημοσύνης. Εάν εκτελεστεί κακώς, τόνισαν οι ερευνητές, η υπερβολική εξάρτηση από ελαττωματικούς πράκτορες τεχνητής νοημοσύνης «θα μπορούσε να δημιουργήσει τις προϋποθέσεις για ευρεία χρήση μη ασφαλών συστημάτων τεχνητής νοημοσύνης που στη χειρότερη περίπτωση μπορεί να αποδειχθεί καταστροφική». Ένας τομέας ανησυχίας είναι εάν ένας χρήστης «δεν θέλει ή δεν μπορεί να κλείσει» ένα σύστημα AI που προκαλεί βλάβη.

Για τη μείωση αυτών των κινδύνων, το έγγραφο προσφέρει προτάσεις για υπεύθυνη σχεδίαση ευφυών πρακτόρων τεχνητής νοημοσύνης, όπως τα εργαλεία να ζητούν έγκριση από τους χρήστες προτού εκτελέσουν μια εργασία, την δημιουργία συστημάτων για μια «εύκολη διαδικασία τερματισμού λειτουργίας» και η δημιουργία προγραμμάτων τεχνητής νοημοσύνης για την παρακολούθηση της  συμπεριφοράς του ευφυούς πράκτορα.

Πηγή: ΟΤ