Δέκα προτάσεις για εφαρμογές τεχνητής νοημοσύνης στην υγεία  

Αποτελεσματικότερες και ασφαλέστερες διαγνώσεις και θεραπείες περιμένουμε από τη βιοϊατρική έρευνα, ιδίως μέσω της τεχνητής νοημοσύνης η οποία αναπτύσσει ιδιαίτερη δυναμική. Εργαλεία της τεχνητής νοημοσύνης συμβάλλουν στην ανάπτυξη εφαρμογών ιατρικής ακριβείας, με στόχο τη διενέργεια στοχευμένων και αποτελεσματικότερων ιατρικών πράξεων συσχετίζοντας βιοϊατρικά προφίλ – πρότυπα που αφορούν ομοιογενείς πληθυσμιακές ομάδες ή άτομα.

Παρά τις θετικές προοπτικές που ανοίγονται από την τεχνητή νοημοσύνη εγείρονται σοβαρά ηθικά προβλήματα, τα οποία η Πολιτεία δεν μπορεί να παραβλέψει, αντίθετα οφείλει να αντιμετωπίσει.

Τα σημαντικότερα αφορούν την ασφάλεια των εφαρμογών, την τεχνική πολυπλοκότητά τους, τα ζητήματα διαφάνειας και έλλειψης γνώσεων από το ευρύ κοινό, αλλά και την αξιοποίηση των δεδομένων που θα προκύψουν από τις εφαρμογές της τεχνητής νοημοσύνης, σε σύγκριση με την προστασία των προσωπικών δεδομένων, την διαβεβαίωση ότι η χρήση των εφαρμογών δεν θα βλάψει τον ασθενή αλλά και η χρήση τους δεν θα υποκαθιστά την ανθρώπινη κρίση, ούτε το κόστος τους θα επιβαρύνει το σύστημα υγείας, δεδομένων των αναγκών και του περιορισμού των διαθέσιμων πόρων.

Οι εφαρμογές τεχνητής νοημοσύνης πρέπει να αξιολογούνται λόγω του υψηλού κόστους τους, για τη δίκαιη κατανομή των πόρων υγείας

Στα συμπεράσματα αυτά καταλήγει γνώμη της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής, η οποία εκδόθηκε πρόσφατα με αφορμή την συνεχή ανάπτυξη σημαντικών ερευνητικών πρωτοβουλιών στη χώρα μας, ενόσω ολοένα και περισσότερες εφαρμογές τεχνητής νοημοσύνης καθιερώνονται στην κλινική πράξη και καταθέτει 10 προτάσεις για την ενσωμάτωση ψηφιακών και άλλων καινοτόμων λύσεων στο σύστημα υγείας, μόνον αν τα αναμενόμενα αποτελέσματα

προς όφελος των ασθενών είναι απτά.

Έλεγχος αξιοπιστίας

Σύμφωνα με τη γνώμη της Επιτροπής Βιοηθικής, τα δεδομένα που εισάγονται για να αξιοποιηθούν μέσω των εργαλείων ΤΝ θα πρέπει να ελέγχονται ως προς το βαθμό αξιοπιστίας, εγκυρότητας και αμεροληψίας, π.χ. μέσω της αξιολόγησης των μεθοδολογιών με τις οποίες παρήχθησαν, την ομοιογένεια των πληθυσμιακών ομάδων που μελετήθηκαν, τη διαπίστωση της καταχώρησης ή μη των αποτελεσμάτων των μελετών σε δημόσιες βάσεις δεδομένων και τη δυνατότητα επιβεβαίωσης των αποτελεσμάτων και της ίδιας πληροφορίας από άλλες ανεξάρτητες μελέτες.

Η Επιτροπή επισημαίνει ότι ο σχεδιασμός και η λειτουργία των αλγορίθμων βασίζονται σε τεχνικές γνώσεις που δεν είναι εφικτό να ελέγξει ο θεράπων ιατρός ως τελικός χρήστης και διαχειριστής μιας εφαρμογής, παρά το γεγονός ότι ο ίδιος οφείλει να διατηρεί την τελική ευθύνη της ορθής διαχείρισης και φροντίδας του ασθενούς. Παράλληλα, και ο αποδέκτης των υπηρεσιών υγείας (ασθενής ή υγιής), όταν καλείται να συναινέσει σε ιατρικές πράξεις που περιλαμβάνουν τέτοιες εφαρμογές, είναι πιθανό να μην έχει ενημερωθεί πλήρως για τους όρους που εγγυώνται την ασφαλή χρήση τους.

Ενημέρωση και γνώση

Παρότι την τελική ευθύνη κάθε ιατρικής πράξης εξακολουθεί να έχει ο θεράπων ιατρός, το κενό ενημέρωσης θεράποντα και ασθενούς δημιουργεί αντικειμενικά μια συνθήκη αδιαφάνειας, η οποία δε συνάδει με την παροχή ποιοτικών υπηρεσιών υγείας.

Το δεύτερο ζήτημα που απαιτείται να αντιμετωπισθεί είναι η επεξεργασία δεδομένων μεγάλου όγκου και η ποικιλομορφία των ατομικών χαρακτηριστικών, που αποτελούν ευαίσθητα δεδομένα ασθενών ή και υγιών προσώπων. Η πρόσβαση στα δεδομένα αυτά απαιτεί διαδικασίες που να διασφαλίζουν ότι η αξιοποίησή τους γίνεται για συγκεκριμένους σκοπούς. Οι ίδιες διαδικασίες πρέπει κυρίως να αποτρέπουν την πιθανότητα διαρροών και ταυτοποίησης προσώπων, έστω κι αν τα ευαίσθητα προσωπικά δεδομένα έχουν δοθεί με εγγυήσεις ανωνυμίας και ταυτόχρονα, το κοινωνικό συμφέρον ανάπτυξης εφαρμογών τεχνητής νοημοσύνης στην υγεία πρέπει να εναρμονίζεται με το δικαίωμα προστασίας των προσωπικών δεδομένων των ασθενών ή ενδιαφερόμενων υγιών προσώπων.

Όσον αφορά τους πόρους, η Επιτροπή επισημαίνει πως οι εφαρμογές τεχνητής νοημοσύνης πρέπει να αξιολογούνται, από την άποψη της δίκαιης κατανομής των (πεπερασμένων) πόρων που διατίθενται για την υγεία, εξαιτίας του υψηλού – προς το παρόν – κόστος εισαγωγής τους στην κλινική πράξη. Η προτεραιότητα των δημόσιων επενδύσεων σε κάθε μία από τις εφαρμογές αυτές, πρέπει να δικαιολογείται και σε σύγκριση με άλλες ανάγκες που αντιμετωπίζει το εθνικό σύστημα Υγείας.

Αρχές οφέλους και ασφάλειας

Η Επιτροπή υποστηρίζει ότι η νομοθεσία για την χρήση της τεχνητής νοημοσύνης στην υγεία πρέπει να διέπεται από τις αρχές:

• της αυτονομίας, ώστε να γνωρίζουν γιατροί και ασθενείς τη λειτουργία των εφαρμογών και να διασφαλίζεται η προστασία των δεδομένων,
• της ωφέλειας αν πρόκειται για διαγνωστική πράξη, ώστε να μην υπάρχει κίνδυνος περαιτέρω βλάβης της υγείας,
• της ασφάλειας ώστε να ελαχιστοποιούνται τα σφάλματα από ιατρικές πράξεις,
• της δικαιοσύνης ώστε οι ιατρικές αποφάσεις να λαμβάνονται με βάση το κριτήριο της δίκαιης διανομής και
• της ίσης μεταχείρισης, ώστε να εξασφαλίζεται ισότιμη πρόσβαση σε όλους χωρίς διακρίσεις οικονομικές, κοινωνικές ή άλλες.

Η διαδικασία χρήσης

Αντίστοιχα, σε ότι αφορά την αξιοποίηση των εφαρμογών της τεχνητής νοημοσύνης, θα πρέπει να διασφαλίζεται ότι:

1. αν υπάρξουν κίνδυνοι για τους ασθενείς οι εφαρμογές τεχνητής νοημοσύνης θα διακόπτονται,
2. η διαφάνεια και λογοδοσία επιτάσσουν να υπάρχει ένα συγκεκριμένο πρόσωπο που θα έχει την ευθύνη για διαγνωστικές και θεραπευτικές πράξεις και η διαδικασία λήψης της απόφασης για την εφαρμογή τους θα πρέπει να διασφαλίζει ότι οι διαδικασίες είναι κατανοητές.
3. οι εφαρμογές τεχνητής νοημοσύνης στην υγεία δεν θα υποκαθιστούν τελείως την ανθρώπινη κρίση, συνεπώς οι αποφάσεις θα λαμβάνονται από εκπαιδευμένους γιατρούς και άλλους επαγγελματίες υγείας.

Οι προτάσεις

Κατά την Επιτροπή, απώτερος στόχος πρέπει να είναι η ενσωμάτωση ψηφιακών και άλλων καινοτόμων λύσεων στο σύστημα υγείας με βάση μια ανθρωποκεντρική προσέγγιση, μόνον αν αναμένονται απτά αποτελέσματα προς όφελος των ασθενών/ληπτών υπηρεσιών υγείας.

Προς αυτή την κατεύθυνση συνιστάται:

1. Η διαμόρφωση ενός πλαισίου για την ανάπτυξη και χρήση της τεχνητής νοημοσύνης στην υγεία και το οποίο θα συνοδεύει την εθνική στρατηγική για την τεχνητή νοημοσύνη. Αυτό θα βασίζεται στις θεμελιώδεις ηθικές αρχές και θα περιλαμβάνει ρυθμιστικούς κανόνες που θα εγγυώνται την υπεύθυνη διαχείριση και την ηθική ανάπτυξη και αξιοποίηση της τεχνητής νοημοσύνης στην υγεία.
2. Ενόψει του Κανονισμού της ΕΕ (AI Act), ο εκσυγχρονισμός και η εξειδίκευση από την Πολιτεία κατάλληλου νομικού πλαισίου που να εγγυάται το σεβασμό της ανθρώπινης αξιοπρέπειας και των ανθρώπινων δικαιωμάτων, με έμφαση στην οριοθέτηση και καταμερισμό των ευθυνών των εμπλεκόμενων μερών στην τεχνητή νοημοσύνη (ΑΙ stakeholders).
3. H διαμόρφωση κωδίκων ηθικής και δεοντολογικής αξιολόγησης, καθώς και η εφαρμογή εσωτερικών προτύπων αποτίμησης από τους οργανισμούς που αξιοποιούν εφαρμογές της τεχνητής νοημοσύνης στην υγεία, βάσει σχετικών αναγνωρισμένων πρωτοκόλλων.
4. Η γεφύρωση του ψηφιακού χάσματος και των ψηφιακών ανισοτήτων, μέσω της ανάπτυξης προγραμμάτων και δράσεων για την ψηφιακή επιμόρφωση του γενικού πληθυσμού και ειδικότερα των χρηστών υπηρεσιών υγείας, με στοχευμένες συμπράξεις της Πολιτείας και άλλων φορέων, όπως λ.χ. ενώσεων ασθενών.
5. Η προώθηση της εκ νέου ειδίκευσης και αναβάθμισης των δεξιοτήτων των χρηστών των εφαρμογών τεχνητής νοημοσύνης στην υγεία (ιατρών, άλλων επαγγελματιών υγείας, διοικητικού προσωπικού, κτλ.), μέσω σχεδιασμού κατάλληλων προγραμμάτων από Πανεπιστήμια, Ερευνητικά Κέντρα, Κέντρα Δια Βίου Μάθησης, Επιστημονικές Εταιρείες και Δομές Υγείας.
6. Ο καθορισμός από την Πολιτεία των όρων και προϋποθέσεων ασφαλούς και αποτελεσματικής εφαρμογής των συστημάτων τεχνητής νοημοσύνης στο ελληνικό περιβάλλον και η συνακόλουθη αναβάθμιση της λειτουργίας των αρμόδιων ελεγκτικών οργάνων. Στο πλαίσιο αυτό συνιστάται ιδιαίτερα η αξιολόγηση κλινικών εφαρμογών τεχνητής νοημοσύνης που έχουν δοκιμαστεί ήδη σε συστήματα υγείας άλλων χωρών, με σκοπό την υιοθέτησή τους από το ΕΣΥ.
7. Η ενίσχυση της ψηφιοποίησης των συστημάτων και των δεδομένων υγείας (π.χ. με τη διεύρυνση της χρήσης του ηλεκτρονικού φακέλου υγείας) και της διασύνδεσης και διαλειτουργικότητας των εθνικών δικτύων και σχετικών βάσεων δεδομένων υγείας
8. Η διαμόρφωση πλαισίου για τη διευκόλυνση της πρόσβασης των ερευνητών στις βάσεις δεδομένων της ΗΔΙΚΑ για έρευνα και ανάπτυξη συστημάτων τεχνητής νοημοσύνης.
9. Ο συστηματικός διεπιστημονικός δημόσιος διάλογος για τις πιθανές εφαρμογές της τεχνητής νοημοσύνης και της επίπτωσής τους, με έμφαση στην επικαιροποίηση των πλαισίων βιοηθικής και τεχνοηθικής σκέψης.
10. Η συστηματική χρήση μεθόδων και εργαλείων στρατηγικής πρόβλεψης από την Πολιτεία και τις επιστημονικές κοινότητες με σκοπό τη δυναμική κατανόηση του προαναφερθέντος αντικτύπου, την ανάλυση των τάσεων στο πεδίο της ψηφιακής υγείας, τη διαμόρφωση σεναρίων για το μέλλον της τεχνητής νοημοσύνης στο υγειονομικό τοπίο της χώρας, την καλύτερη προετοιμασία απέναντι σε ενδεχόμενες διαταράξεις του συστήματος υγείας και την προστασία των μελλοντικών γενεών. Η διαμόρφωση σεναρίων μέσω διαλόγου μεταξύ των εμπλεκόμενων μερών μπορεί να ενισχύσει τις συνθήκες ψηφιακής συμπερίληψης και εμπιστοσύνης.