της Φανής Χρ. Παππού
Ένα θεσμικό κενό στην εποχή της τεχνητής νοημοσύνης
Καθημερινά, οι δημόσιοι φορείς και οι οργανισμοί υγείας αποφασίζουν για ζητήματα που αγγίζουν άμεσα τη ζωή των ανθρώπων: ποιος δικαιούται μια παροχή, ποιος ασθενής θα εξεταστεί πρώτος, ποιο αίτημα θα προηγηθεί. Ολοένα και συχνότερα, στις αποφάσεις αυτές σημαντικό ρόλο έχει η τεχνητή νοημοσύνη. Για το αν μια τέτοια απόφαση είναι επιτρεπτή, υπάρχουν κανόνες, έλεγχος και αρχές. Για το αν είναι όμως ηθική, ανθρώπινη και σωστή, στην πλειονότητα των οργανισμών δεν υπάρχει κανείς που να έχει ως αποστολή να το εξετάσει. Αυτό το κενό μεταξύ του νόμιμου & του ηθικού, έρχεται να το καλύψει μια εσωτερική Επιτροπή Ηθικής & Δεοντολογίας.
Ένα ερώτημα που η ιατρική έθεσε πρώτη
Το ερώτημα δεν είναι καινούργιο. Η ιατρική το έθεσε πριν από όλους, στο πεδίο της έρευνας και απάντησε με τη δημιουργία επιτροπών ηθικής. Σήμερα, η ευρωπαϊκή νομοθεσία απαιτεί τη γνωμοδότησή τους για τις κλινικές δοκιμές φαρμάκων (Κανονισμός (ΕΕ) 536/2014) και για τις κλινικές έρευνες ιατροτεχνολογικών προϊόντων (Κανονισμός (ΕΕ) 2017/745). Στην Ελλάδα, ο Ν. 4521/2018 τις προβλέπει στα πανεπιστήμια και τα ερευνητικά κέντρα.
Έξω από την έρευνα, όμως, η εικόνα γίνεται αποσπασματική. Στα νοσοκομεία του ΕΣΥ ο Ν. 3329/2005 αναθέτει στο Επιστημονικό Συμβούλιο «τις αρμοδιότητες της Επιτροπής Ηθικής και Δεοντολογίας». Τις αναθέτει όμως σε ένα όργανο επιφορτισμένο με πλήθος άλλων καθηκόντων, το οποίο ασχολείται κυρίως με τα ερευνητικά πρωτόκολλα. Στις ιδιωτικές δομές υγείας δεν υπάρχει καμία γενική υποχρέωση. Σε εθνικό επίπεδο λειτουργεί η Εθνική Επιτροπή Βιοηθικής και Τεχνοηθικής (Ν. 4780/2021), που εξετάζει ρητά και την τεχνητή νοημοσύνη. Είναι όμως συμβουλευτικό όργανο της Πολιτείας και όχι εσωτερικός μηχανισμός που υπάγεται εντός του εκάστοτε οργανισμού.
Η δημόσια διοίκηση βρίσκεται ακόμη πιο πίσω. Ο Ν. 4795/2021 καθιέρωσε τον Σύμβουλο Ακεραιότητας, που συνδράμει τους υπαλλήλους σε ζητήματα δεοντολογίας και σύγκρουσης συμφερόντων. Ο θεσμός είναι πολύτιμος, αλλά αφορά την ακεραιότητα των προσώπων και όχι την ηθική των αποφάσεων και των συστημάτων που τις υποστηρίζουν. Ούτε ο ευρωπαϊκός Κανονισμός για την τεχνητή νοημοσύνη (ΕΕ) 2024/1689 καλύπτει το κενό. Για τους δημόσιους φορείς που χρησιμοποιούν συστήματα υψηλού κινδύνου απαιτεί εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα και ανθρώπινη εποπτεία. Και τα δύο είναι διαδικασίες, κανένα δεν συνιστά θεσμό.
Κάθε μία από αυτές τις προβλέψεις καλύπτει ένα κομμάτι του προβλήματος. Καμία δεν καλύπτει το σύνολο. Η κατεύθυνση πάντως, έχει διατυπωθεί εδώ και χρόνια σε διεθνές επίπεδο. Η Οικουμενική Διακήρυξη της UNESCO για τη Βιοηθική και τα Ανθρώπινα Δικαιώματα (2005) ζητά στο άρθρο 19 τη σύσταση ανεξάρτητων, διεπιστημονικών και πλουραλιστικών επιτροπών ηθικής. Σκοπός τους είναι, μεταξύ άλλων, να παρέχουν καθοδήγηση για τα ηθικά ζητήματα της καθημερινής κλινικής πράξης, όχι μόνο της έρευνας.
Αν το κενό αυτό ήταν ανεκτό στο παρελθόν, η τεχνητή νοημοσύνη πλέον το καθιστά επικίνδυνο, γιατί αλλάζει την κλίμακα του λάθους. Ένας άνθρωπος που σφάλλει, σφάλλει σε μία υπόθεση. Ένα σύστημα που σφάλλει, επαναλαμβάνει το ίδιο λάθος σε χιλιάδες υποθέσεις, συχνά χωρίς να το αντιληφθεί κανείς. Στην Ολλανδία, η φορολογική διοίκηση χρησιμοποιούσε στα επιδόματα παιδικής φροντίδας ένα μοντέλο εκτίμησης κινδύνου που είχε την ιθαγένεια ως δείκτη. Η υπόθεση οδήγησε σε πρόστιμο από την αρχή προστασίας δεδομένων και, μαζί με τις υπόλοιπες πτυχές του σκανδάλου, στην παραίτηση της κυβέρνησης το 2021. Νόμος υπήρχε. Αυτό που έλειπε ήταν ένας θεσμός που να θέσει εγκαίρως το ερώτημα αν αυτό που συνέβαινε ήταν δίκαιο.
Εδώ βρίσκεται η ουσιαστική διαφορά ανάμεσα στη νομική συμμόρφωση και στην ηθική αξιολόγηση: ο νόμος ρωτά αν κάτι επιτρέπεται, μια επιτροπή ηθικής ρωτά αν είναι σωστό, για ποιον, με ποιο κόστος και ποιος θα λογοδοτήσει αν αποδειχθεί λάθος. Το ρωτά εκ των προτέρων, τη στιγμή που η απόφαση μπορεί ακόμη να αλλάξει.
Από την ανάγκη στη θεσμοθέτηση
Οι θεσμοί σπάνια γεννώνται από τον νόμο. Γεννώνται από την ανάγκη συνήθως και ο νόμος έπεται. Οι επιτροπές ηθικής της έρευνας ξεκίνησαν ως αρχή της ιατρικής δεοντολογίας, με τη Διακήρυξη του Ελσίνκι της Παγκόσμιας Ιατρικής Ένωσης και πολύ αργότερα έγιναν νομική υποχρέωση. Οι επιτροπές ηθικής για την καθημερινή διοικητική και κλινική πράξη βρίσκονται σήμερα στο ίδιο σημείο εκείνης της διαδρομής: δεν προβλέπονται ακόμη ρητά, αλλά η ανάγκη τους είναι ήδη ορατή.
Μια τέτοια επιτροπή δεν χρειάζεται να είναι γραφειοκρατική. Χρειάζεται να είναι ανεξάρτητη, ώστε να μπορεί να διαφωνήσει. Χρειάζεται να είναι διεπιστημονική, ώστε να συνομιλούν μέσα της το δίκαιο, η ιατρική ή η διοικητική εμπειρία, η τεχνολογία και, όπου είναι δυνατόν, η φωνή των πολιτών και των ασθενών. Και χρειάζεται να είναι αναλογική: πλήρης επιτροπή σε έναν μεγάλο οργανισμό, ευέλικτη λειτουργία ηθικής με εξωτερικό εμπειρογνώμονα σε έναν μικρότερο. Το έργο της είναι να εξετάζει κάθε νέο σύστημα ΤΝ και κάθε κρίσιμη διαδικασία πριν από την εφαρμογή τους, να καθοδηγεί στις δύσκολες περιπτώσεις και να συμβάλλει στις πολιτικές και στην εκπαίδευση του οργανισμού.
Οι οργανισμοί που θα συστήσουν σήμερα τέτοιες επιτροπές δεν θα προλάβουν απλώς μελλοντικές υποχρεώσεις. Θα διαμορφώσουν οι ίδιοι τα πρότυπα με βάση τα οποία ο θεσμός θα θεσμοθετηθεί αύριο.
Ως ETHOS AI στηρίζουμε τον θεσμό των εσωτερικών επιτροπών ηθικής και δεοντολογίας σε τρία επίπεδα:
Στην ύπαρξη: αναδεικνύουμε την ανάγκη της ύπαρξης των επιτροπών ηθικής & δεοντολογίας μέσα από την ανάλυση, τη δημόσια συζήτηση και τη συνεργασία με φορείς της διοίκησης και της υγείας.
Στη θεσμοθέτηση: συμβάλλουμε με τεκμηριωμένες προτάσεις, ώστε το ρυθμιστικό του πλαίσιο να συνδεθεί οργανικά με τον Κανονισμό για την ΤΝ, τον Ν. 5321/2026 και τον ΓΚΠΔ.
Στη σύσταση: Συντονίζουμε και οργανώνουμε την σύσταση των Επιτροπών Ηθικής & Δεοντολογίας σε κάθε οργανισμό Δημόσιας Διοίκησης ή Υγείας σε όλα τα στάδια. Σχεδιάζουμε τη σύνθεση και τον κανονισμό λειτουργίας της επιτροπής και αναπτύσσουμε τη μεθοδολογία ηθικής αξιολόγησης των συστημάτων ΤΝ. Μπορούμε να συμμετέχουμε ως ανεξάρτητο εξωτερικό μέλος με εξειδίκευση στο δίκαιο, τη βιοηθική και την τεχνητή νοημοσύνη, υποστηρίζοντας την αποδοτική λειτουργία της επιτροπής και εκπαιδεύοντας τα μέλη της.
Η τεχνητή νοημοσύνη θα αλλάξει τον τρόπο με τον οποίο αποφασίζουν η δημόσια διοίκηση και τα συστήματα υγείας. Η αλλαγή αυτή έχει ήδη αρχίσει και είναι πλέον αισθητή. Τα αποτελέσματά της είναι ήδη ορατά, αφού μπορεί να φέρει ταχύτερη εξυπηρέτηση, ακριβέστερη διάγνωση και καλύτερη αξιοποίηση περιορισμένων πόρων. Το ερώτημα δεν αφορά την ίδια την τεχνολογία. Αφορά τους θεσμούς που θα τη συνοδεύσουν.
Για κάθε μεγάλη μεταβολή στην άσκηση εξουσίας πάνω στον άνθρωπο, οι κοινωνίες μας δημιούργησαν αντίβαρα. Όταν η ιατρική έρευνα άρχισε να δοκιμάζει νέες θεραπείες σε ανθρώπους, γεννήθηκαν οι επιτροπές ηθικής της έρευνας. Όταν η διοίκηση απέκτησε δυνατότητα να επεξεργάζεται μαζικά προσωπικά δεδομένα, γεννήθηκαν οι αρχές προστασίας τους. Κανένας από αυτούς τους θεσμούς δεν εμπόδισε την πρόοδο. Αντίθετα, την έκαναν αποδεκτή, γιατί έδωσαν στους πολίτες τη βεβαιότητα ότι κάποιος εξετάζει και ελέγχει, πριν από αυτούς και για λογαριασμό τους, τα ζητήματα που δεν μπορούν να θέσουν μόνοι τους.
Οι εσωτερικές επιτροπές ηθικής και δεοντολογίας είναι το αντίβαρο που αντιστοιχεί στη δική μας εποχή. Δεν υποκαθιστούν τον νόμο ούτε τις εποπτικές αρχές. Καλύπτουν τον χώρο που ο νόμος αφήνει αναγκαστικά ανοιχτό: τον χώρο ανάμεσα σε ό,τι επιτρέπεται και σε ό,τι είναι σωστό. Τον καλύπτουν στη μόνη στιγμή που αυτό έχει πραγματική αξία, πριν από την απόφαση. Εκ των υστέρων, ο οργανισμός μπορεί μόνο να εξηγεί, να αποκαθιστά ή να απολογείται.
Η θεσμοθέτησή τους θα έρθει, όπως ήρθε και για τις επιτροπές ηθικής της έρευνας. Το ερώτημα είναι ποιοι οργανισμοί θα την προλάβουν και ποιοι θα την ακολουθήσουν. Όσοι τις συστήσουν σήμερα θα έχουν κερδίσει κάτι που καμία νομοθετική πρόβλεψη δεν μπορεί να εξασφαλίσει: την εμπιστοσύνη εκείνων που υπηρετούν.
Στην ETHOS AI πιστεύουμε ότι η καινοτομία και η ηθική αποτελούν αμοιβαίες προϋποθέσεις της ουσιαστικής προόδου. Μια τεχνολογία που δεν εμπνέει εμπιστοσύνη δεν μπορεί να διαρκέσει και μια ηθική που δεν διέπεται θεσμικά δεν μπορεί να εφαρμοστεί. Γι’ αυτό στηρίζουμε τον θεσμό των επιτροπών ηθικής και δεοντολογίας σε όλη του τη διαδρομή, από την ανάγκη στη θεσμοθέτηση. Με την τεχνητή νοημοσύνη, οι αποφάσεις θα λαμβάνονται ταχύτερα. Ο θεσμός αυτός λειτουργεί ως εχέγγυο ώστε να παραμείνουν ηθικές, δίκαιες και ανθρώπινες.
