του Δρα Κορμά Παναγιώτη

Ορθοπεδικός χειρουργός, Διδάσκων Φιλοσοφίας του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών

Διδάσκων του Μεταπτυχιακού προγράμματος «Βιοηθική – Ιατρική Ηθική» του Ανοικτού Πανεπιστημίου Κύπρου

 

Η Τεχνητή Νοημοσύνη (ΤΝ) αποτελεί μια νέα πραγματικότητα στην επιστήμη και στην τεχνολογία που διαδραματίζει όλο και σημαντικότερο ρόλο στη σύγχρονη κοινωνία. Στον τομέα της υγείας, συστήματα ΤΝ υπόσχονται βελτίωση της διαγνωστικής και προγνωστικής ικανότητας των γιατρών μέσα από την εκτίμηση κινδύνου για κάθε μεμονωμένο ασθενή, βασισμένη σε πολύπλοκα και τεράστια σε όγκο δεδομένα, πρακτικά αδύνατο να αναλυθούν από τον ανθρώπινο εγκέφαλο.

Τα κλινικά αυτά δεδομένα ολοένα και αυξανόμενα συλλέγονται ψηφιακά, γεγονός που τα καθιστά διαθέσιμα να τροφοδοτούν αλγορίθμους ΤΝ. Οι υποστηρικτές της ΤΝ διαφημίζουν την εφαρμογή της τόσο σε ατομικό (π.χ. κλινικό γιατρό), όσο και σε θεσμικό επίπεδο (π.χ. νοσοκομείο), για τη βελτίωση της λήψης αποφάσεων, αλλά και για τον περιορισμό των αναποτελεσματικών διεργασιών και των ήδη υπαρχουσών ανισοτήτων. Μάλιστα υπογραμμίζουν «τρωτά» των κλινικών γιατρών, όπως τα λάθη που γίνονται στη διάγνωση ή τα παρατηρούμενα φαινόμενα γνωστικής μεροληψίας.

Παρά τα πολλαπλά οφέλη, η εισαγωγή συστημάτων ΤΝ συνοδεύεται από σοβαρά ηθικά ζητήματα. Η κατάσταση επείγοντος κάτω από την οποία οι νέες τεχνολογίες χρησιμοποιήθηκαν κατά την πανδημία covid-19, για παράδειγμα, εγείρει ηθικά ζητήματα που αφορούν τις ατομικές και πολιτικές ελευθερίες, την ισότητα και την αυτονομία. Ψηφιακά δεδομένα από εφαρμογές κινητών τηλεφώνων, συνδέσεις Bluetooth, μέσα κοινωνικής δικτύωσης, wearables, κ.λπ. χρησιμοποιήθηκαν ώστε να τροφοδοτήσουν έξυπνα συστήματα και να ιχνηλατηθούν οι επαφές με πιθανά κρούσματα, να παρακολουθηθούν τα συμπτώματα, να ελεγχθεί η τήρηση της καραντίνας και να μοντελοποιηθεί η ροή εξάπλωσης του ιού. Αυτό ενδέχεται προσωρινά να στερήσει τους πολίτες από δικαιώματά τους χωρίς καμία εγγύηση ότι αυτά θα αποκατασταθούν με την επάνοδο της κανονικότητας.

Στα θετικά προσμετράται το γεγονός ότι η ταχύτητα των αλγοριθμικών αποφάσεων υπερβαίνει κατά πολύ τις δυνατότητες του ανθρώπινου εγκεφάλου και άρα επιτρέπει τη δημιουργία συστημάτων ικανών για αυτόνομη λήψη αποφάσεων, όπως τα διαγνωστικά συστήματα διαβητικής αμφιβληστροειδοπάθειας, τα οποία δεν απαιτούν ανθρώπινη παρέμβαση. Η δυνατότητα χρήσης τέτοιων συστημάτων υπόσχεται μεγαλύτερη ακρίβεια στη διάγνωση, χαμηλότερο κόστος και βελτιωμένη πρόσβαση των ασθενών σε υπηρεσίες υγείας. Οι ηθικές προκλήσεις, ωστόσο, παραμένουν.

Τα συστήματα ΤΝ βασίζονται στη μηχανική μάθηση και στον σχεδιασμό νευρωνικών δικτύων: ένα αρχικό σετ ‘‘κόμβων’’ καταχωρήσεων συνδέεται με ενδιάμεσα σετ που καλούνται κρυφά επίπεδα (λειτουργούν όπως οι διασυνδεδεμένοι νευρώνες στον εγκέφαλο), και κάθε κόμβος συνδέεται με ένα παραγόμενο αποτέλεσμα. Καθώς οι διαμορφώσεις γίνονται ολοένα και πιο προηγμένες και τα διαθέσιμα δεδομένα περισσότερα, ο αλγόριθμος αναλύει σε υπο-βήματα (που δεν είναι κατανοητά στον άνθρωπο) τα ενδιάμεσα βήματα, που θα ήταν πρακτικά αδύνατο να ιχνηλατηθούν, ακόμη και από ειδικούς. Υπ’ αυτή την έννοια, η μέγιστη δυνατή ακρίβεια καθιστά δυσχερέστερη τη διαφάνεια.

Επιπλέον, με βάση την ισχύουσα νομοθεσία, οι αλγόριθμοι λαμβάνουν δίπλωμα ευρεσιτεχνίας μόνον εάν τα βήματα που ακολουθούν αποτελούν μέρος ενός φυσικού μηχανισμού. Αυτό ενισχύει την ασάφεια, καθώς οι δημιουργοί και οι εταιρείες διστάζουν να αποκαλύψουν λεπτομέρειες για τον σχεδιασμό των αλγορίθμων, ώστε να μην αντιγραφούν αυτοί από πιθανούς ανταγωνιστές.

Η ΤΝ έχει μεν τη δυνατότητα να περιορίσει τις αβελτηρίες των συστημάτων υγείας, ελαχιστοποιώντας τα ανθρώπινα σφάλματα και μετριάζοντας τη μεροληψία, ωστόσο είναι ευπαθής σε αλγοριθμικές μεροληψίες που παγιώνουν και ενισχύουν τις υπάρχουσες ανισότητες. H κυρίαρχη ανησυχία είναι ότι οι αλγόριθμοι σχεδιάζονται από ανθρώπους, οι οποίοι είναι επιρρεπείς στο σφάλμα και δεσμεύονται από προσωπικές αξίες και εγγενείς προκαταλήψεις. Επιπλέον, τα υφιστάμενα μοτίβα ανισοτήτων, π.χ. η περιορισμένη πρόσβαση των μειονοτήτων σε υπηρεσίες υγείας, διαπερνούν τα συστήματα TN, και έτσι προκαταλήψεις εδραιώνονται. Ως αποτέλεσμα αυτού, τα μοντέλα ΤΝ ενδέχεται να είναι δυσανάλογα επιβλαβή, επειδή θα προβλέπουν χαμηλή ανταπόκριση σε θεραπείες ή υψηλότερη θνησιμότητα σε ομάδες που δεν αντιπροσωπεύονται επαρκώς στα υφιστάμενα δεδομένα. Για παράδειγμα, μέρος του γενικού πληθυσμού δεν χρησιμοποιεί smartphone ή έξυπνες εφαρμογές, από τα οποία τροφοδοτούνται τα συστήματα ΤΝ.

Η έλλειψη διαφάνειας, ειδικά σε αυτοεκπαιδευόμενα μοντέλα μηχανικής μάθησης, δημιουργεί, ακόμη, ερωτήματα σχετικά με το ποιος ευθύνεται για μια κακή διάγνωση. Σε θεσμικό επίπεδο, οι επιπτώσεις των αλγορίθμων μηχανικής μάθησης στις διαδικασίες λήψης αποφάσεων γίνονται ακόμη πιο εμφανείς. Σκεφτείτε το εξής σενάριο: όταν ένας αλγόριθμος αποδεικνύεται ελαττωματικός και συστηματικά προτείνει λανθασμένες θεραπείες εξαιτίας κακής μεθοδολογίας ή περιορισμένου αριθμού δείγματος εκπαίδευσης του μοντέλου, ο οργανισμός υγειονομικής περίθαλψης πιέζει να ακολουθηθούν οι προτάσεις του συστήματος και ο κλινικός γιατρός είναι εκείνος που τελικά οφείλει να αποφασίσει, έχει ευθύνη η εταιρεία που δημιούργησε τον αλγόριθμο; Σε περιπτώσεις όπως αυτή, καθένα από τα εμπλεκόμενα μέρη έχει συμβάλει στην «ιατρική κακοποίηση», κανένα, όμως, από αυτά δεν ευθύνεται πλήρως. Αποφάσεις που βασίζονται σε φτωχά μοντέλα μπορεί να κάνουν τη διαφορά ανάμεσα στη ζωή και στον θάνατο, π.χ. να καθορίσουν ποιος θα έχει πρόσβαση σε αναπνευστήρα. Τα συστήματα ΤΝ δεν είναι ηθικά πρόσωπα, συνεπώς η νέα εποχή στις υπηρεσίες υγείας ίσως απαιτεί μοντέλα συλλογικής ευθύνης.

Εν τέλει, η εισαγωγή της ΤΝ στις υπηρεσίας υγείας πρέπει να γίνει με προσεκτικά και συνετά βήματα, και μόνον κατόπιν εκτενούς συζήτησης στο πλαίσιο τόσο της Βιοηθικής, όσο και της Ιατρικής Ηθικής.

 

Το Ανοικτό Πανεπιστήμιο Κύπρου δέχεται αιτήσεις εισαγωγής για το ακαδημαϊκό έτος 2021-2022 ως τις 25 Μαΐου 2021 στο www.ouc.ac.cy