Ο ασθενής στην εποχή της τεχνητής νοημοσύνης: ποιος φέρει την ευθύνη;
Η τεχνητή νοημοσύνη δημιουργεί νέες δυνατότητες για την ιατρική, από την υποστήριξη της διάγνωσης έως τη βελτίωση της οργάνωσης των υπηρεσιών υγείας. Ωστόσο, η αξιοποίησή της εγείρει κρίσιμα ερωτήματα σχετικά με την ευθύνη, τη διαφάνεια και την προστασία των ασθενών. Η χρήση ενός chatbot για την αναζήτηση ιατρικών συμβουλών μπορεί να προσφέρει άμεσες απαντήσεις, χωρίς όμως να υποκαθιστά την κλινική εξέταση και την εξατομικευμένη αξιολόγηση από έναν επαγγελματία υγείας. Όταν οι πληροφορίες που παρέχονται είναι λανθασμένες ή παραπλανητικές, ανακύπτει ένα ουσιαστικό ερώτημα: ποιος λογοδοτεί για τις συνέπειες; Ήδη από τη δεκαετία του 1960, ο οικονομολόγος Kenneth Arrow είχε αναδείξει τις ιδιαιτερότητες της αγοράς υπηρεσιών υγείας. Ο ασθενής δεν διαθέτει πάντοτε τις απαραίτητες γνώσεις για να αξιολογήσει την ποιότητα της περίθαλψης που λαμβάνει. Για τον λόγο αυτό, η εμπιστοσύνη στην ιατρική βασίζεται σε θεσμικές εγγυήσεις, επαγγελματικά πρότυπα, κανόνες δεοντολογίας και μηχανισμούς λογοδοσίας. Αργότερα, ο Robert Evans ανέδειξε το ζήτημα της προκλητής ζήτησης, δηλαδή την πιθανότητα οι επαγγελματίες υγείας να επηρεάζουν την κατανάλωση υπηρεσιών, ακόμη και όταν αυτές δεν είναι απαραίτητες. Η σχέση γιατρού και ασθενούς, επομένως, δεν είναι απλώς μια συναλλαγή, αλλά μια σχέση που προϋποθέτει εμπιστοσύνη και σαφή κατανομή ευθυνών. Η νέα σχέση γιατρού, ασθενούς και αλγορίθμου Η είσοδος της τεχνητής νοημοσύνης μεταβάλλει αυτή τη σχέση. Όταν ένας γιατρός αξιοποιεί ένα σύστημα ΤΝ, δεν είναι πάντοτε σαφές στον ασθενή ποια στοιχεία προέρχονται από την επιστημονική κρίση του επαγγελματία και ποια από τις προτάσεις του αλγορίθμου. Παράλληλα, προκύπτουν ερωτήματα για τους στόχους που υπηρετεί κάθε σύστημα. Επιδιώκει την καλύτερη δυνατή θεραπεία, την ταχύτερη εξυπηρέτηση ή τη βελτίωση της οικονομικής απόδοσης ενός οργανισμού; Οι σχεδιαστικές επιλογές και τα εμπορικά συμφέροντα που ενδέχεται να επηρεάζουν τη λειτουργία του δεν είναι πάντα ορατά στον ασθενή. Ακόμη και όταν ο ασθενής έχει πρόσβαση σε ένα πιο προηγμένο εργαλείο από εκείνο που χρησιμοποιεί ο γιατρός του, η πληροφορία που παράγεται δεν υποκαθιστά την κλινική αξιολόγηση. Η τελική απόφαση απαιτεί επαγγελματική κρίση και η ευθύνη πρέπει να κατανέμεται με σαφήνεια μεταξύ όσων αναπτύσσουν, διαθέτουν και χρησιμοποιούν τα συστήματα. Η ψευδαίσθηση της προσωπικής σχέσης Όταν ο ασθενής συνομιλεί απευθείας με ένα chatbot, χωρίς τη συμμετοχή γιατρού, δημιουργείται μια σχέση που μοιάζει με ανθρώπινη επικοινωνία, αλλά στερείται των βασικών χαρακτηριστικών της επαγγελματικής ιατρικής σχέσης. Η άμεση ανταπόκριση, ο ευγενικός τόνος και η διατύπωση με βεβαιότητα μπορούν να δημιουργήσουν την εντύπωση αξιοπιστίας. Ωστόσο, ένα σύστημα τεχνητής νοημοσύνης δεν διαθέτει επαγγελματική άδεια, προσωπική κλινική ευθύνη ή την ίδια θεσμική υποχρέωση απέναντι στον ασθενή που έχει ένας γιατρός. Σε αντίθεση με την αναζήτηση πληροφοριών στο διαδίκτυο, όπου ο χρήστης συγκρίνει διαφορετικές πηγές, ένα chatbot συνθέτει μια ενιαία απάντηση. Αυτό διευκολύνει την κατανόηση, αλλά μπορεί να αποκρύπτει την προέλευση, την ποιότητα ή την αβεβαιότητα των πληροφοριών. Δύο βασικές προκλήσεις Η πρώτη αφορά την ανακρίβεια. Τα συστήματα ΤΝ μπορούν να παράγουν απαντήσεις που ακούγονται πειστικές, ακόμη και όταν περιέχουν λάθη ή μη τεκμηριωμένους ισχυρισμούς. Η ταχύτητα και η ευχέρεια στην επικοινωνία δεν αποτελούν εγγύηση επιστημονικής ορθότητας. Η δεύτερη πρόκληση σχετίζεται με τα οικονομικά κίνητρα. Επιχειρήσεις που αναπτύσσουν τέτοια εργαλεία ενδέχεται να ωφελούνται από την αυξημένη χρήση τους, την αξιοποίηση δεδομένων ή την προώθηση εμπορικών υπηρεσιών. Εάν αυτά τα κίνητρα επηρεάζουν τις παρεχόμενες προτάσεις, υπάρχει κίνδυνος να ενισχυθεί η ζήτηση για εξετάσεις και θεραπείες χωρίς αντίστοιχο όφελος για την υγεία. Προσωπικά δεδομένα και κατανομή ευθύνης Ιδιαίτερη σημασία έχει η προστασία των ευαίσθητων δεδομένων υγείας. Οι πληροφορίες που καταχωρίζονται σε ένα chatbot ενδέχεται να υπόκεινται σε επεξεργασία σύμφωνα με συγκεκριμένους όρους χρήσης και πολιτικές απορρήτου. Η χρήση ενός τέτοιου εργαλείου δεν συνεπάγεται αυτομάτως τις ίδιες εγγυήσεις ιατρικού απορρήτου που χαρακτηρίζουν την επικοινωνία με έναν επαγγελματία υγείας. Η νομιμότητα της επεξεργασίας δεδομένων υγείας απαιτεί ειδικές προϋποθέσεις και κατάλληλες εγγυήσεις προστασίας. Παράλληλα, η επίκληση της τεχνολογίας δεν πρέπει να χρησιμοποιείται ως μέσο αποφυγής ευθυνών. Όταν ένας γιατρός, ένας ασφαλιστικός οργανισμός ή ένα νοσοκομείο λαμβάνει μια απόφαση με τη βοήθεια αλγορίθμου, πρέπει να είναι σαφές ποιος ευθύνεται για την απόφαση και με ποια κριτήρια αυτή ελήφθη. Επιπλέον, δεν έχουν όλοι οι ασθενείς την ίδια πρόσβαση σε αξιόπιστα εργαλεία ούτε τις ίδιες δυνατότητες να αξιολογήσουν τις απαντήσεις τους. Η ανισότητα στην πρόσβαση στην τεχνολογία μπορεί, συνεπώς, να δημιουργήσει νέες μορφές ανισότητας στην υγεία. Από την τεχνολογική καινοτομία στη θεσμική προστασία Η τεχνητή νοημοσύνη μπορεί να συμβάλει ουσιαστικά στη βελτίωση των υπηρεσιών υγείας. Μπορεί να υποστηρίξει την ανάλυση απεικονιστικών εξετάσεων, να εντοπίσει ευρήματα που ενδέχεται να διαφύγουν της προσοχής ενός επαγγελματία και να διευκολύνει την ενημέρωση των ασθενών. Για να αξιοποιηθούν αυτές οι δυνατότητες με ασφάλεια, απαιτούνται σαφείς κανόνες. Οι εταιρείες πρέπει να παρέχουν ουσιαστική ενημέρωση για τη λειτουργία των συστημάτων τους, τα δεδομένα εκπαίδευσης, τους περιορισμούς τους και τυχόν εμπορικές συνεργασίες που μπορεί να επηρεάζουν τις προτάσεις τους. Παράλληλα, πρέπει να λογοδοτούν για τις πράξεις και τις παραλείψεις που εμπίπτουν στη δική τους ευθύνη. Τα συστήματα που προορίζονται για ιατρική χρήση χρειάζονται κατάλληλη αξιολόγηση πριν από τη διάθεσή τους, καθώς και συνεχή παρακολούθηση της ασφάλειας και της αποτελεσματικότητάς τους. Ο ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη αποτελεί σημαντικό βήμα προς αυτή την κατεύθυνση, χωρίς αυτό να σημαίνει ότι κάθε chatbot που απαντά σε ερωτήματα υγείας υπάγεται αυτομάτως στις αυστηρότερες απαιτήσεις για συστήματα υψηλού κινδύνου. Το βασικό ζητούμενο δεν είναι να περιοριστεί η τεχνολογική πρόοδος, αλλά να διασφαλιστεί ότι συμβαδίζει με την ανθρώπινη αξιοπρέπεια, την ασφάλεια και τη λογοδοσία. Η τεχνητή νοημοσύνη μπορεί να ενισχύσει την ιατρική κρίση, όχι όμως να καταργήσει την ανάγκη για σαφώς προσδιορισμένη ευθύνη απέναντι στον ασθενή.
