Το παρόν άρθρο συνεισφέρει σκέψεις στον αναδυόμενο διάλογο περί αναγνώρισης ενός νέου ανθρωπίνου δικαιώματος (human right), του δικαιώματος στην ανθρώπινη απόφαση. Στην εποχή της ολοένα και μεγαλύτερης επέμβασης των συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) στη λήψη αποφάσεων σε πολλαπλούς τομείς, υποστηρίζεται ότι στους πιο κρίσιμους από αυτούς, οι άνθρωποι έχουν το δικαίωμα οι αποφάσεις που επιδρούν σημαντικά στη ζωή τους να λαμβάνονται από ανθρώπους και όχι από αλγορίθμους. Προς τούτο, διερευνάται το φιλοσοφικό και νομικό υπόβαθρο του προτεινόμενου δικαιώματος, αναλύονται ζητήματα εφαρμογής του και εξετάζεται η αμφίρροπη σχέση του με την αρχή του κράτους δικαίου.
Η διείσδυση της ΤΝ στη λήψη αποφάσεων και η ανάγκη για τη θέσπιση ενός περιοριστικού πλαισίου
Τα «έξυπνα» σπίτια, πιστοί θεράποντες της άνεσής μας, ρυθμίζουν αθόρυβα, βάσει των μαθημένων από τα ίδια προτιμήσεών μας, το οικιακό περιβάλλον[1]. Ψηφιακοί ομοιωματικοί συνομιλητές (chatbots) χειρίζονται συνηθισμένα ερωτήματα, καθησυχάζοντας τις ανησυχίες μας με μία προγραμματισμένη ευγένεια[2]. Στο διαδίκτυο, η περιήγησή μας, ακόμα και για πολύ σοβαρά ζητήματα, καθορίζεται περισσότερο από αλγορίθμους, παρά από προσωπικές επιλογές[3]. Στην οικονομία, αλγοριθμικά συστήματα συναλλαγών εκτελούν χιλιάδες συναλλαγές στιγμιαία, επιδρώντας στη δυναμική της αγοράς[4], ενώ μοντέλα πιστωτικής βαθμολόγησης, που σαρώνουν το ιστορικό των αγορών μας και τις αναρτήσεις μας στα κοινωνικά δίκτυα, καθορίζουν την πρόσβαση σε δάνεια και άλλες χρηματοοικονομικές υπηρεσίες[5]. Στην εργασία, συστήματα ΤΝ ελέγχουν τις αιτήσεις απασχόλησής μας[6]. Στην υγεία, προτείνουν διαγνώσεις και θεραπείες[7]. Στις μεταφορές, αυτόνομα αυτοκίνητα, μέσα σε κλάσματα του δευτερολέπτου, λαμβάνουν αποφάσεις ζωής και θανάτου[8]. Στη δημόσια διοίκηση, γραφειοκρατικοί αλγόριθμοι κατανέμουν πόρους, ελέγχουν τη φορολογική συμμόρφωση και κρίνουν το μέλλον μεταναστών[9]. Στην εκπαίδευση, συστήματα ΤΝ προσαρμόζουν το περιεχόμενο και τον ρυθμό της μάθησης στις ανάγκες κάθε μαθητή[10]. Στην ασφάλεια, αλγόριθμοι πρόβλεψης εγκλήματος καθοδηγούν την αστυνόμευση[11]. Τελικά, στην κορυφή αυτής της ψηφιακής «πυραμίδας» αλγόριθμοι επιλέγουν τον φυσικό δικαστή[12] και εν τέλει αποδίδουν δικαιοσύνη[13].
Η εξέλιξη της τεχνολογίας της ΤΝ είναι πλέον αλματώδης[14]. Διεισδύει και διαχέεται σε κάθε πτυχή της καθημερινότητας παγκοσμίως, από την πιο τετριμμένη μέχρι την πιο ουσιώδη, από την πλέον ιδιωτική έως την πλέον δημόσια[15]. Υπόσχεται μία ζωή μεγαλύτερης ευκολίας και αποτελεσματικότητας, με αντάλλαγμα τη σταδιακή μεταμόρφωση της ίδιας της φύσης της ανθρώπινης εμπειρίας και κρίσης[16]. Καθώς η ΤΝ αναλαμβάνει όλο και περισσότερες γνωστικές λειτουργίες, διακυβεύεται όχι μόνο η απώλεια ελέγχου, αλλά, προεχόντως, η ατροφία των ικανοτήτων μας για κριτική σκέψη, δημιουργικότητα και ηθική κρίση[17]. Η τροπή των πραγμάτων οδηγεί στο παράδοξο μιας κοινωνίας τεχνολογικά προηγμένης, αλλά πνευματικά λιγότερο ικανής, θέτοντας σε κίνδυνο την ουσία του τι σημαίνει να είσαι άνθρωπος – κεντρική έννοια των φιλελεύθερων συνταγματικών τάξεων – στην εποχή των αλγορίθμων[18].
Η άμεση θέσπιση περιορισμών της διάχυτης αυτής διείσδυσης των συστημάτων ΤΝ στην ανθρώπινη κοινωνία, που στηρίζουν την ισχύ τους στην υπολογιστική τους δύναμη, στο πλήθος των δεδομένων και στου θαυμαστούς αλγορίθμους που τα καθοδηγούν, κατά μίμηση του ανθρώπινου νευρικού συστήματος[19], φαντάζει αυτονόητη. Τα όρια δεν θα πρέπει να στοχεύουν απλώς στον περιορισμό της επεκτατικής διάθεσης των τεχνολογικών κολοσσών, συνεπικουρούμενων από τα κράτη, πράγμα δυσεπίτευκτο, αλλά στην προστασία και ενίσχυση της ικανότητας, τόσο του ανθρώπου, όσο και της κοινότητας, στην οποία ζει, για αυτοκατεύθυνση με βάση τον ορθό λόγο. Η μελέτη αυτή υπερασπίζεται την αναγνώριση ενός νέου ανθρώπινου δικαιώματος, του λεγόμενου «δικαιώματος στην ανθρώπινη απόφαση», ως θεμέλιου λίθου του εν λόγω περιοριστικού πλαισίου[20].
Η φύση των ανθρωπίνων δικαιωμάτων και η μεθοδολογία θεμελίωσής τους
Η προσπάθεια αναγνώρισης ενός νέου ανθρωπίνου δικαιώματος συνοδεύεται, δίχως αμφιβολία, από έναν σκεπτικισμό. Εάν τα ανθρώπινα δικαιώματα είναι αναλλοίωτα και προαιώνια, τότε πώς είναι δυνατόν να «δημιουργείται» ένα νέο δικαίωμα[21]; Μήπως το φαινομενικά νέο δικαίωμα είναι εξειδίκευση ενός προϋπάρχοντος, καθιστώντας περιττή την «αναγνώρισή» του[22]; Υπάρχει κίνδυνος αυτή η πληθωριστική τάση (δημιουργίας νέων δικαιωμάτων) να οδηγήσει τελικά σε οπισθοδρόμηση της προστασίας μέσω της κατάργησης των «παλαιών» δικαιωμάτων; Μήπως πρόκειται απλώς για μία γλωσσική κατασκευή, για ένα ρητορικό τέχνασμα;
Είναι σαφές ότι το επιχείρημα μπορεί να ευδοκιμήσει μόνο εάν έχει μεθοδολογικά θεμέλια. Στον πυρήνα της μεθοδολογίας για τη θεμελίωση ενός νέου ανθρωπίνου δικαιώματος βρίσκεται ένα φιλοσοφικό ερώτημα: τι είναι τα ανθρώπινα δικαιώματα και πώς δικαιολογείται η ύπαρξή τους. Τα ανθρώπινα δικαιώματα μπορούν να οριστούν ως (α) τα καθολικά ηθικά δικαιώματα (moral rights) που κατέχουν όλοι οι άνθρωποι απλώς και μόνο επειδή είναι άνθρωποι[23], τα οποία (β) είναι εγγενώς ικανά να δικαιολογήσουν την επιβολή (νομικών) υποχρεώσεων σε τρίτους, και κυρίως στο κράτος[24].
Ειδικότερα, τα καθολικά ηθικά δικαιώματα στηρίζονται σε καθολικά ανθρώπινα συμφέροντα ή αξίες. Αυτά έχουν διαχρονικό μεν χαρακτήρα, ωστόσο, η μορφή που λαμβάνουν ανά εποχή εξελίσσεται, εφόσον εξελίσσεται το τι είναι εφικτό κάθε φορά για εμάς να κάνουμε για τους άλλους[25]. Σε αυτά τα συμφέροντα ή αξίες συγκαταλέγονται η αξιοπρέπεια, η ζωή, η αποφυγή του πόνου, η αυτονομία, η γνώση, η αισθητική εμπειρία, η φιλία, η πνευματικότητα, το παιχνίδι[26]. Ενώ, λοιπόν, τα εν λόγω συμφέροντα ή αξίες έχουν διαχρονικό χαρακτήρα, αποτελώντας τα θεμέλια των ανθρωπίνων δικαιωμάτων, εν τούτοις δεν ταυτίζονται με αυτά[27]. Η μετάβαση από τα συμφέροντα ή τις αξίες, δηλαδή από ό,τι αποτελεί το ηθικό δικαίωμα, στο ανθρώπινο (νομικό) δικαίωμα προϋποθέτει την ύπαρξη μίας αντίστοιχης υποχρέωσης τρίτων να σέβονται, να προστατεύουν και να ενισχύουν την πραγμάτωση αυτού (του ηθικού δικαιώματος).
Η εν λόγω υποχρέωση, ως το δεύτερο μεθοδολογικό συστατικό της αναγνώρισης ενός ανθρωπίνου δικαιώματος, απαιτείται (α) να είναι πρακτικά εφαρμόσιμη, (β) να μην είναι δυσανάλογη για τους υπόχρεους και (γ) να εναρμονίζεται με το σύστημα των λοιπών σε ισχύ ανθρωπίνων δικαιωμάτων[28]. Ως προς την εφαρμοσιμότητα, πρέπει να γίνει δεκτό ότι δεν νοείται δικαίωμα που η πραγμάτωσή του είναι λογικά, μεταφυσικά ή εμπειρικά αδύνατη, όπως για παράδειγμα το «δικαίωμα» του άνδρα να γεννάει, το «δικαίωμα» των ανθρώπων να ταξιδεύουν διαπλανητικά ή να τηλεμεταφέρονται ή το «δικαίωμα» στην τέλεια ή απόλυτη υγεία. Ως προς την μη επιβάρυνση, πρέπει να γίνει δεκτό ότι δεν νοείται δικαίωμα που επιβάλλει υπερβολικά βάρη επί των υπόχρεων τούτου ή των δικαιωμάτων τρίτων, διότι, σε διαφορετική περίπτωση, ούτε το ίδιο, ούτε τα υπόλοιπα δικαιώματα θα μπορούσαν να υλοποιηθούν, καθιστώντας τη θέσπισή τους προσχηματική. Τέτοιες περιπτώσεις θα αποτελούσαν το «δικαίωμα» πολυτελούς διαβίωσης, το «δικαίωμα» σε κλιματικές συνθήκες αρεσκείας μας[29], ή το «δικαίωμα» σε διαρκή (24/7) διαδικτυακή σύνδεση και παροχή βοήθειας από εξελιγμένα συστήματα ΤΝ, δεδομένου ότι η πραγμάτωση αυτών θα απαιτούσε δυσθεώρητους φυσικούς πόρους και ριζικές μεταβολές στην οργάνωση της κοινωνίας. Τέλος, ως προς το στοιχείο της εναρμόνισης, πρέπει να γίνει δεκτό ότι τα ανθρώπινα δικαιώματα δεν υπάρχουν απομονωμένα, αλλά αποτελούν μέρος ενός ευρύτερου συστήματος κανόνων, ώστε οι υποχρεώσεις που συνεπάγεται κάποιο εξ αυτών οφείλουν να μην υπονομεύουν ή να μην αντιφάσκουν προς εκείνες που απορρέουν από άλλα δικαιώματα, συμβάλλοντας έτσι στη διατήρηση της συνοχής και της ακεραιότητας του συστήματος των ανθρωπίνων δικαιωμάτων ως ενιαίου όλου[30].
Μέχρι στιγμής έχει γίνει αναφορά στις νέες συνθήκες που η τεχνολογία διαμορφώνει στην κοινωνία, στην ανάγκη για θέσπιση αντίστοιχων περιορισμών, στο ανθρώπινο δικαίωμα ως θεμελιώδες είδος περιορισμού, καθώς και στη μέθοδο «γέννησης» ενός νέου δικαιώματος. Δηλαδή, έχουν αναλυθεί οι ιδιότητες του υπό κρίση πράγματος, αλλά όχι, ακόμα, το πράγμα καθ’ εαυτό. Στις ακόλουθες ενότητες οριοθετείται, κατ’ αρχάς, το δικαίωμα στην ανθρώπινη απόφαση (Α.) και, ακολούθως, προτείνονται τρεις καθολικές ανθρώπινες αξίες που το θεμελιώνουν, από τις οποίες απορρέουν υποχρεώσεις σύμφωνες με τις προϋποθέσεις μετάβασης από το ηθικό στο ανθρώπινο δικαίωμα (Β.).
Α. Ορισμός, πεδίο εφαρμογής, διάκριση από παρόμοιες έννοιες
Το εν θέματι δικαίωμα θα μπορούσε να οριστεί ως το δικαίωμα του καθενός οι αποφάσεις που μπορούν να επηρεάσουν άμεσα και σημαντικά τα θεμελιώδη δικαιώματα, τις υποχρεώσεις και τα έννομα συμφέροντά του να λαμβάνονται αποκλειστικά από άνθρωπο.
Ο ορισμός αυτός χρήζει δύο διευκρινίσεων. Πρώτον, ως προς το ποιες αποφάσεις εμπίπτουν στην ως άνω αόριστη νομική έννοια και, δεύτερον, ως προς την έννοια της κατ’ αποκλειστικότητα ανθρώπινης ενέργειας. Αρχικά, στον ορισμό αυτόν θα ενέπιπταν, ενδεικτικά, αποφάσεις σχετικές με: α) τη θεμελίωση ποινικής ευθύνης, είτε υπό την έννοια της έναρξης διαδικασίας ποινικής αξιολόγησης, είτε υπό την έννοια της ολοκλήρωσης αυτής δια της επιβολής ποινής, ιδίως όταν συνεπάγεται φυλάκιση, είτε υπό την έννοια της εκτίμησης του κινδύνου τέλεσης αξιόποινων πράξεων στο μέλλον [π.χ. όπως επιχειρήθηκε στις Η.Π.Α. μέσω της χρήσης του λογισμικού COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), για την πρόβλεψη υποτροπής τέλεσης εγκλημάτων από καταδικασθέντες, η χρήση του οποίου επικρίθηκε για πιθανή μεροληψία][31], β) αξιολογήσεις στον τομέα της εργασίας, είτε κατά την πρόσληψη (π.χ. όπως επιχειρήθηκε από την εταιρεία Amazon, η οποία εγκατέλειψε το έτος 2018 ένα σύστημα ΤΝ για προσλήψεις, η χρήση του οποίου επικρίθηκε για πιθανή μεροληψία κατά των γυναικών[32]), είτε κατά την απόλυση, γ) αξιολογήσεις στον χώρο της εκπαίδευσης και της ακαδημίας (όπως π.χ. επιχειρήθηκε από το Ηνωμένο Βασίλειο με τη θέσπιση αλγοριθμικής αξιολόγησης μαθητών, η οποία επικρίθηκε και εν τέλει καταργήθηκε, εξ αιτίας αντιφατικών και αλλοπρόσαλλων αποτελεσμάτων)[33], δ) πολιτικές κοινωνικής κατάταξης πολιτών βάσει συστήματος αξιολόγησης και βαθμολόγησης της συμπεριφοράς τους (κοινωνικό σκορ) [π.χ. το παράδειγμα της Κίνας[34]] ή ε) την εισδοχή ή κράτηση ή απέλαση αλλοδαπών κατά την εφαρμογή της μεταναστευτικής νομοθεσίας[35]. Σημειώνεται ότι η ως άνω ενδεικτική απαρίθμηση των κρίσιμων τομέων εφαρμογής του δικαιώματος είναι αντίστοιχη με την αξιολόγηση του άρθρου 6 του Κανονισμού (ΕΕ) 2024/1689 για την Τεχνητή Νοημοσύνη (L/12.7.24), που θεσπίστηκε πρόσφατα, όπου τα συστήματα ΤΝ που αναπτύσσονται στους εν θέματι τομείς χαρακτηρίζονται ως συστήματα ΤΝ υψηλού ρίσκου για την προστασία θεμελιωδών δικαιωμάτων.
Αντιθέτως, το προτεινόμενο δικαίωμα δεν αφορά σε ασήμαντες ή άνευ συνεπειών αποφάσεις για τον άνθρωπο (π.χ. η «απόφαση» μιας σκούπας για το από που θα ξεκινήσει το καθάρισμα), σε αποφάσεις που μόνο έμμεσα επηρεάζουν αυτόν (π.χ. εφαρμογή μουσικής που προτείνει τραγούδια βάσει ιστορικού χρήσης), σε αυτοματοποιημένα υποστηρικτικά συστήματα (π.χ. διορθωτές ορθογραφίας), σε αυτοματοποιημένα συστήματα μη κρίσιμων εμπορικών συναλλαγών (π.χ. συστήματα διαχείρισης αποθεμάτων σε καταστήματα λιανικής) ή σε αποφάσεις ψυχαγωγικού χαρακτήρα (π.χ. αντίπαλοι τεχνητής νοημοσύνης σε βιντεοπαιχνίδια).
Περαιτέρω, αναφορικά με την έννοια της κατ’ αποκλειστικότητα ανθρώπινης ενέργειας, το προτεινόμενο δικαίωμα πρέπει να διακριθεί από τρεις σημαντικές παραλλαγές του, κοινό γνώρισμα των οποίων αποτελεί, σε αντίθεση με ό,τι εδώ προκρίνεται, η εν μέρει ανθρώπινη και εν μέρει μηχανική λήψη απόφασης. Πρόκειται, κατ’ αρχάς, για το «δικαίωμα» άσκησης προσφυγής ενώπιον ανθρώπινης αρχής κατά απόφασης ληφθείσας από σύστημα ΤΝ, σε έναν εκ των τομέων που προαναφέρθηκαν. Aυτό απορρέει από το άρθρο 52§1 του ν. 4624/2019 (Α΄ 137), όπως ισχύει μετά την τροποποίησή του με το άρθρο 42 του ν. 5002/2022 (Α΄ 228). Σύμφωνα με αυτό, απαγορεύεται η λήψη απόφασης που βασίζεται αποκλειστικά σε αυτοματοποιημένη επεξεργασία, η οποία παράγει δυσμενή έννομα αποτελέσματα για το υποκείμενο των δεδομένων ή το επηρεάζει σημαντικά, εκτός εάν προβλέπεται ρητά από διάταξη νόμου ή το δίκαιο της Ένωσης. Η τελευταία πρέπει να ορίζει τις κατάλληλες εγγυήσεις για τα δικαιώματα και τις ελευθερίες του υποκειμένου των δεδομένων και κατ’ ελάχιστον να περιλαμβάνει ρύθμιση που, μεταξύ άλλων, εξασφαλίζει το δικαίωμα ανθρώπινης παρέμβασης εκ μέρους του υπευθύνου επεξεργασίας, καθώς και το δικαίωμα του υποκειμένου να διατυπώσει τις απόψεις του, να απαιτήσει αιτιολόγηση της απόφασης που ελήφθη κατόπιν της εν λόγω αξιολόγησης και να αμφισβητήσει ή να ζητήσει επανεξέταση της απόφασης. Δεύτερον, το προτεινόμενο δικαίωμα διακρίνεται από το «δικαίωμα» των υποκειμένων να επιλέγουν ότι δεν θα υπόκεινται σε αυτοματοποιημένη κατ’ αρχήν λήψη αποφάσεων από συστήματα ΤΝ [δικαίωμα αποεπιλογής (opt-out)], εκδοχή που προτείνεται για παράδειγμα στο σχέδιο νόμου του Λευκού Οίκου για την προστασία των δικαιωμάτων από την Τεχνητή Νοημοσύνη[36]. Τέλος, διακρίνεται από το «δικαίωμα» σε μία καλά αιτιολογημένη απόφαση μηχανής, ανεξάρτητα από το εάν αυτή προέρχεται από τον άνθρωπο ή από την μηχανή, εφόσον, κατά την αντίστοιχη άποψη, έμφαση πρέπει να δοθεί στην ποιότητα και διαφάνεια της απόφασης, όχι στην πηγή της[37].
Β. Τα θεμέλια του δικαιώματος: εξηγησιμότητα, λογοδοσία, αλληλεγγύη
Η ανάλυση του περιεχομένου του προτεινόμενου δικαιώματος εγείρει εύλογα ερωτήματα σχετικά με τα κριτήρια, τόσο της επιλογής των πεδίων εφαρμογής του, όσο και του αποκλεισμού άλλων εκδοχών με σημαντική, αλλά όχι αποκλειστική, ανθρώπινη συμμετοχή. Παρότι ο καθορισμός του ακριβούς εύρους ενός τέτοιου δικαιώματος ανήκει, εν τέλει, στην κοινωνία δια των αντιπροσώπων της, η θεμελίωσή του απαιτεί τη διασαφήνιση των καθολικών ανθρώπινων αξιών που το στηρίζουν. Οι αξίες αυτές όχι μόνο δικαιολογούν την ύπαρξη του δικαιώματος, αλλά παρέχουν και αντικειμενικά κριτήρια για την οριοθέτησή του.
Προς θεμελίωση του εν λόγω δικαιώματος, προτείνονται τρεις καθολικές ανθρώπινες αξίες: (α) η εξηγησιμότητα, (β) η λογοδοσία και (γ) η ανθρώπινη αλληλεγγύη[38]. Αυτή η τριάδα αξιών ενέχει βαθύ φιλοσοφικό περιεχόμενο, αγγίζοντας τον πυρήνα της σχέσης της ανθρώπινης κρίσης με τη δικαιοσύνη, την πρώτη, κατά τον J. Rawls, αρετή των κοινωνικών συστημάτων[39].
Εξηγησιμότητα. Ο άνθρωπος είναι φύσει ικανός να συλλογίζεται, να διαλέγεται, να αρθρώνει σκεπτικό, να απαντάει σε ερωτήσεις και να παρέχει διευκρινίσεις. Άρα, όταν λαμβάνει μία απόφαση, αυτή έχει την ιδιότητα να μην είναι απλώς ορθή, αλλά, προεχόντως, σαφής και διαφανής, δηλαδή, με μία λέξη, κατανοητή. Μία δικαστική απόφαση, κατ’ εξοχήν πεδίο εφαρμογής του προτεινόμενου δικαιώματος, όταν είναι αιτιολογημένη με ειδικό και εμπεριστατωμένο τρόπο, ήτοι όταν είναι εξηγήσιμη, βοηθάει τον αποδέκτη της να την κατανοήσει, να αξιολογήσει την νομιμότητά της, καθώς και να την αμφισβητήσει[40].
Ισχύει, όμως, το ίδιο και με την αλγοριθμική απόφαση; Ένας τεχνικός συστήματος ΤΝ μπορεί, ίσως, να προσδιορίσει τεχνικά τον τρόπο με τον οποίο ένας αλγοριθμικός «δικαστής» κατέληξε σε μία «δικανική» κρίση. Ωστόσο, η ουσιαστική κατανόηση και αξιολόγηση αυτής της διαδικασίας από τους άμεσα ενδιαφερόμενους είναι προβληματική για πολλούς λόγους. Αρχικά, η πρόσβαση στον τρόπο λειτουργίας ενός αλγορίθμου μπορεί να είναι περιορισμένη, είτε λόγω ζητημάτων προστασίας της πνευματικής ιδιοκτησίας του προγραμματιστή του[41], είτε λόγω δημόσιας ασφάλειας. Εξάλλου, ακόμα και όταν αυτή υπάρχει, η εγγενής πολυπλοκότητα ενός προηγμένου αλγορίθμου καθιστά δυσχερή την κατανόησή του από έναν μη ειδικό[42]. Μάλιστα, όσο πιο εξελιγμένος τυγχάνει ο αλγόριθμος, τόσο πιο αδιαφανής θα είναι ο τρόπος λειτουργίας του, οδηγώντας στο παράδοξο η ακρίβεια να προκαλεί μειωμένη εξηγησιμότητα[43]. Όμως, ακόμα και κατανοητή, είναι αμφίβολο εάν μία τέτοια αλγοριθμική αιτιολογία θα δινόταν με τον ειδικό και εμπεριστατωμένο τρόπο που προβλέπει το άρθρο 93 παρ. 3 του Συντάγματός μας. Τούτο, διότι αυτή προκύπτει μέσα από μία στατιστική διαδικασία ανίχνευσης (γλωσσικών) προτύπων, δηλαδή μία τεχνική διαδικασία που διακρίνει στατιστικές συσχετίσεις σε έναν τεράστιο όγκο δεδομένων και σε αυτή τη βάση κάνει ταξινομήσεις ή προβλέψεις που σχετίζεται με τις νέες υπό κρίση περιπτώσεις. Η κρίση δηλαδή δεν στηρίζεται στον νόμο, αλλά ορθολογικοποιείται μέσω μίας τυχαίας γλωσσολογικής συσχέτισης, διαδικασία παντελώς ξένη προς τον δικανικό συλλογισμό και την ανάγκη εξέλιξης της νομολογίας.
Συνεπώς, η εξηγησιμότητα, μία έννοια με φιλοσοφικές ρίζες από την ελεγκτική μέθοδο του Σωκράτη μέχρι την ερμηνευτική παράδοση των Gadamer και Ricoeur και τη θεωρία της επικοινωνιακής δράσης του Jürgen Habermas, δεν αποτελεί ένα απλώς τεχνικό ζήτημα, αλλά μία θεμελιώδη αξία, η οποία, αφ’ ενός εγγυάται την ακεραιότητα της δικαιοσύνης και της ανθρώπινης αυτονομίας[44], αφ’ ετέρου αποτελεί εγγενές χαρακτηριστικό της ανθρώπινης κρίσης, παρέχοντας μείζονα λόγο προς υιοθέτηση του προτεινόμενου δικαιώματος.
Λογοδοσία. Ο άνθρωπος είναι φύσει ικανός να κατανοεί τις συνέπειες των πράξεών του, να στοχάζεται πάνω σε αυτές και να φέρει την ευθύνη για τις επιλογές του. Η ικανότητα αυτή συνδέεται άρρηκτα με την ελεύθερη βούληση και την αυτονομία του. Ειδικότερα, ο δικαστής συνάπτει ένα σιωπηρό κοινωνικό συμβόλαιο, όταν αναλαμβάνει τον ρόλο του. Δεσμεύεται όχι μόνο να εφαρμόζει συνειδητά τον νόμο σε μία συγκεκριμένη περίπτωση, έχοντας επίγνωση των συνεπειών, αλλά να το κάνει μέσω λογικής διαβούλευσης, ηθικής εξέτασης και δημόσιας δικαιολόγησης των αποφάσεών του. Ευθύνεται θεσμικά (π.χ. άσκηση ενδίκου μέσου, επιστημονικός διάλογος) (εξωτερική λογοδοσία), πρωτίστως, όμως, προσωπικά· πρέπει να παλέψει εσωτερικά και συνειδησιακά με πολύπλοκα ηθικά και νομικά ζητήματα και να ενσωματώνει τις αποφάσεις του σε ένα συνεκτικό σύστημα αρχών (εσωτερική λογοδοσία).
Ισχύει, όμως, το ίδιο και για τον αλγοριθμικό «δικαστή»; Παρά τη δυνατότητά του για συνέπεια και αποτελεσματικότητα, στερείται θεμελιωδώς την ικανότητα να συλλογιστεί ηθικά, να αισθανθεί το βάρος των αποφάσεών του και, εν τέλει, να λογοδοτήσει. Ίσως, οι τεχνικοί που τον προγραμμάτισαν να μπορούν να εξηγήσουν κάποιο σφάλμα του, όπως αυτό απορρέει από τη γενικότερη λειτουργία του. Όμως, δεν μπορούν να λογοδοτήσουν για κάθε συγκεκριμένη απόφαση με τον άμεσο και προσωπικό τρόπο του ανθρώπινου δικαστή· η απόφαση δεν τους «ανήκει», με τον τρόπο που ανήκει στον άνθρωπο που την υπογράφει, στην πραγματικότητα δεν «ανήκει» σε κανέναν.
Συνεπώς, η λογοδοσία δεν αποτελεί, ούτε αυτή, μία, απλώς, τεχνική διασφάλιση, αλλά μία θεμελιώδη αξία που αντανακλά την ουσία της ανθρώπινης κρίσης και ευθύνης. Εδράζεται στην παράδοση της φιλοσοφικής ανθρωπολογίας, από τον καντιανό ορισμό της αυτονομίας[45] έως τη σύγχρονη φαινομενολογική προσέγγιση της ενσώματης νόησης[46], και αναδεικνύει τη μοναδική ικανότητα του ανθρώπου για ηθικό συλλογισμό και διαλογική δικαιολόγηση των αποφάσεών του[47]. Ως εκ τούτου, παρέχει, και αυτή, μείζονα λόγο προς υιοθέτηση του προτεινόμενου δικαιώματος[48].
Αλληλεγγύη. Από τις σκέψεις αυτές ενδέχεται να δημιουργηθεί η εντύπωση ότι το επίμαχο δικαίωμα στηρίζεται σε μία μονοσήμαντη σχέση μεταξύ των ανθρώπων. Δηλαδή, σε μία σχέση, όπου ο ένας (π.χ. ο ανθρώπινος δικαστής ή ο διάδικος) εξηγεί και λογοδοτεί σε κάποιον άλλον, ο οποίος ακούει και κρίνει ανεπιστρεπτί. Όμως, αυτή θα ήταν μία λανθασμένη εντύπωση. Τούτο, διότι όταν ένας άνθρωπος λαμβάνει μία απόφαση, που επηρεάζει τη ζωή ενός άλλου, εξασκώντας την ικανότητά του για ορθολογική σκέψη, αναπτύσσει με εκείνον έναν (αμοιβαίο) δεσμό, όχι μόνο συναισθηματικό, αλλά βαθιά γνωστικό και ηθικό. Η αμοιβαία κατανόηση, στηριζόμενη στην κοινή τους εμπειρία, στη δυνατότητα του ενός να μπαίνει στη θέση του άλλου, υποστασιοποιεί την αξία της αριστοτελικής φιλίας[49] (ο δικαστής διορθώνει το σφάλμα και παραδειγματίζει, όπως θα έκανε ένας αληθινός φίλος), της χριστιανικής αγάπης[50] και τελικά αυτής που σήμερα ονομάζουμε αλληλεγγύη.
Η αξία αυτή εκδηλώνεται με ενάργεια στα πλαίσια μίας δίκης, μέσω της ικανότητας των παραγόντων της να λαμβάνουν ο ένας νοητά τη θέση του άλλου. Επιπλέον, εμφαίνεται και σε ένα άλλο κομβικό για την απονομή της δικαιοσύνης ζήτημα: στη δυνατότητα επίδειξης επιείκειας ή ελέους από αυτόν που κρίνει προς αυτόν που κρίνεται. Η επιείκεια και το έλεος δεν συνιστούν απλώς συναισθηματικές αντιδράσεις του κρίνοντος, αλλά έχουν γνωστικό υπόβαθρο, εφόσον, εκπορεύονται άλλοτε από την αναγνώριση της μεταμέλειας στο πρόσωπο του κρινόμενου, άλλοτε από την αναγνώριση της επιρροής που ασκούν πάνω του, και μάλιστα κατά τρόπο αναπότρεπτο, οι ιδιαίτερες περιστάσεις της πράξης του (π.χ. ανατροφή σε οικογένεια προβληματική ή διαβίωση σε πτωχευμένη χώρα).
Δεν χρειάζεται ιδιαίτερη προσπάθεια για να αντιληφθεί κανείς ότι ένα σύστημα ΤΝ, τουλάχιστον επί του παρόντος, αδυνατεί να επιδείξει τέτοιες αρετές. Όπως ο άνθρωπος προσεγγίζει τον κόσμο των ζώων μέσα από τις δικές του κατηγορίες, αδυνατώντας να αντιληφθεί την κοσμοεικόνα των τελευταίων για τον εαυτό τους και για τη φύση, έτσι και ο αλγοριθμικός «δικαστής», ακόμα και εάν εφαρμόζει κάποια αρχή επιείκειας, ανατρέχοντας στις αποφάσεις που βρίσκονται στη βάση δεδομένων του, στην πραγματικότητα δεν θα ενεργεί από συμπάθεια, αλλά από υπαγόρευση.
Κατ’ αποτέλεσμα, η αλληλεγγύη, ως αυταξία που συμπληρώνει την προτεινόμενη τριάδα αξιών, επιτρέπει στον άνθρωπο να συμμετέχει στην κατάσταση του άλλου, αποτελώντας κατ’ εξοχήν γνώρισμα της κρίσης του και παρέχοντας έναν ακόμη λόγο για την υιοθέτηση του προτεινόμενου δικαιώματος.
Γ. Κράτος δικαίου αλγορίθμων: όραμα ή δυστοπία;
Σύμφωνα με το μεθοδολογικό πλαίσιο που αναπτύχθηκε, η μετάβαση από ένα ηθικό σε ένα ανθρώπινο δικαίωμα προϋποθέτει την ύπαρξη μίας οικουμενικής ανθρώπινης αξίας, φύσει ικανής να δικαιολογήσει την επιβολή υποχρεώσεων προς τρίτους. Η ανάλυση κατέδειξε την ύπαρξη τέτοιων θεμελιωδών αξιών στην περίπτωση του δικαιώματος στην ανθρώπινη απόφαση. Ζητούμενο, επομένως, είναι να ελεγχθεί κατά πόσο αυτές οι αξίες μπορούν να δικαιολογήσουν την επιβολή υποχρεώσεων σε τρίτους, κυρίως στο κράτος.
Πώς μπορεί, όμως, κανείς να προσεγγίσει ένα τέτοιο ερώτημα; Εκ πρώτης όψεως, φαίνεται ότι η αντίστοιχη υποχρέωση του κράτους να μην χρησιμοποιεί συστήματα ΤΝ για την λήψη κρίσιμων αποφάσεων είναι πρακτικά εφαρμόσιμη (πρώτη μεθοδολογική προϋπόθεση), εφόσον οι άνθρωποι θα συνεχίσουν να αποφασίζουν όπως και πριν. Εξάλλου, ως προς το περιεχόμενό του, φαίνεται να διαφοροποιείται επαρκώς από άλλα δικαιώματα, όπως αυτό της μη διάκρισης (άρθρο 4 παρ. 1 του Συντάγματος), ή το δικαίωμα στη δίκαιη δίκη (άρθρο 20 παρ. 1 του Συντάγματος). Τα δικαιώματα αυτά έχουν ευρύτερο πεδίο εφαρμογής, δεν απαιτούν αποκλειστικά την κρίση του ανθρώπου για να υλοποιηθούν, ενώ αμφίβολη είναι η κανονιστική τους δυνατότητα να παράσχουν επαρκή προστασία από την επιρροή που ασκούν τα σύγχρονα «οικοσυστήματα» δεδομένων[51] (περίπλοκα δίκτυα διαμοιρασμού δεδομένων, ψυχολογικά προφίλ, αναλύσεις βασισμένες στην τεχνητή νοημοσύνη) που διαπερνούν την κοινωνία, σε αντίθεση με το προτεινόμενο. Επιπλέον, η κανονιστική «ατροφία» του νεόκοπου δικαιώματος συμμετοχής στην Κοινωνία της Πληροφορίας (άρθρο 5Α Συντάγματος), το οποίο αξίζει μεγαλύτερης προσοχής, μάλλον επιτάσσει, παρά αποθαρρύνει την προσπάθεια.
Κατά τα λοιπά, όμως, δηλαδή ως προς τα ζητήματα του δυσανάλογου ή μη των υποχρεώσεων για τους υπόχρεους (δεύτερη μεθοδολογική προϋπόθεση) και της εναρμόνισης αυτών προς τη λοιπή νομοθεσία (τρίτη μεθοδολογική προϋπόθεση), το άχθος για τον εξεταστή του ζητήματος παραμένει μεγάλο. Προκειμένου, όμως, να μην μείνει μετέωρη η απάντηση, στα πλαίσια αυτής της σύντομης συμβολής, θα προκριθεί ένας άλλος πιο σύντομος, αλλά εξίσου αποτελεσματικός τρόπος. Εάν το δικαίωμα στην ανθρώπινη απόφαση μπορεί να ενταχθεί αρμονικά στο κανονιστικό πεδίο της αρχής του κράτους δικαίου, τότε θα συντρέχει, κατ’ αρχήν, ένας σημαντικός λόγος αναγνώρισής του ως ανθρωπίνου δικαιώματος. Τούτο, εξ αιτίας της φύσης της αρχής του κράτους δικαίου, η οποία ενσωματώνει σε ένα οργανικό όλον το σύνολο των δικαιωμάτων και των υποχρεώσεων, καθώς και των αξιών της έννομης τάξης (άρα, ενδεχομένως, και τις αξίες που αναλύθηκαν πιο πάνω).
Η αρχή του κράτους δικαίου αποτελεί, κατ’ αρχάς, ένα ιδανικό της σύγχρονης φιλελεύθερης δημοκρατίας, με πολύπλοκο χαρακτήρα εξ αιτίας, τόσο των ποικίλων ιστορικών καταβολών του[52], όσο και των πολλαπλών πτυχών του. Εκφράζει κυρίως την απαίτηση, όσοι βρίσκονται σε θέση εξουσίας να την ασκούν μέσα σε ένα περιοριστικό πλαίσιο προκαθορισμένων δημοσίων κανόνων και όχι αυθαίρετα, ad hoc ή με επιλεκτικό τρόπο, βάσει ιδιωτικών προτιμήσεων ή ιδεολογιών, λογοδοτώντας για τις επιλογές τους[53]. Λαμβάνοντας υπόψη ότι το ουσιαστικό μέρος της αρχής είναι αντικείμενο θεωρητικής έριδας[54], η εξέταση του ζητήματος που μας αφορά πρέπει, κατ’ ανάγκην, να περιοριστεί στο εάν το προτεινόμενο δικαίωμα μπορεί να εναρμονιστεί με τις τυπικές πτυχές της εν λόγω αρχής.
Σύμφωνα με τον κλασσικό ορισμό του L.Fuller[55], που χρησιμοποιείται εδώ ως σύνοψη των τυπικών κριτηρίων της αρχής του κράτους δικαίου, το «εσωτερικό ήθος του νόμου» (inner morality of law), απορρέον από την πρωταρχική ιδιότητα του τελευταίου να καθοδηγεί τη συμπεριφορά των πολιτών, περιλαμβάνει οκτώ αρχές: ο νόμος πρέπει να έχει γενικό χαρακτήρα (generality), να δημοσιοποιείται εκ των προτέρων (publicity), να έχει μελλοντική και όχι αναδρομική ισχύ (prospectivity), να είναι σαφής και κατανοητός (intelligibility), να μην περιέχει αντιφάσεις (consistency), να απαιτεί μόνο ό,τι είναι εφικτό για τους πολίτες (practicability), να είναι σταθερός στον χρόνο (stability) και, τέλος, ο τρόπος με τον οποίον εφαρμόζεται από τις αρχές να είναι συνεπής με τον τρόπο που είναι γραμμένος (και όχι με τον τρόπο που θα θέλαμε να είναι γραμμένος) (congruence). Κρίσιμη για τις ανάγκες του επιχειρήματος είναι η τελευταία αρχή.
Εάν το δικαίωμα στην ανθρώπινη απόφαση ενέχει τον κίνδυνο της εμφάνισης φαινομένων μικρότερης συνέπειας κατά την εφαρμογή του νόμου, σε σύγκριση με τον βαθμό συνέπειας που εξασφαλίζει ένα σύστημα ΤΝ (π.χ. ένας αλγοριθμικός δικαστής στην περίπτωση της έκδοσης δικαστικών αποφάσεων), τότε δεν μπορεί να εναρμονιστεί με την αρχή του κράτους δικαίου και δεν πρέπει να αναγνωριστεί ως νομικό δικαίωμα. Το ζήτημα είναι εξόχως σοβαρό αν αναλογιστεί κανείς τις ιστορικές καταβολές της αρχής του κράτους δικαίου. Δεν ήταν, άραγε, η αυθαίρετη και απρόβλεπτη άσκηση εξουσίας από τον άνθρωπο[56], η διαφθορά και η άνιση εφαρμογή των νόμων, το αδιαφανές και ασαφές περιεχόμενό τους[57], η συγκέντρωση εξουσίας και έλλειψη λογοδοσίας που οδήγησε (και οδηγεί) στην απαίτηση για νόμους σαφείς, δημόσιους και ίσους, γεννώντας, έτσι, την ιδέα αυτή; Από πόσες, άραγε, γνωστικές προκαταλήψεις ή ατέλειες πάσχει η ανθρώπινη κρίση; Πόση άγνοια, διαφθορά, δειλία, προκατάληψη και κόπωση δεν έχει να επιδείξει; Ή μήπως δεν είναι απρόθυμη προς αλλαγή, δεν δείχνει υπερβολική εμπιστοσύνη στις ικανότητές της, δεν είναι ευάλωτη στην πίεση τρίτων και αδύναμη να αντισταθεί σε βραχυπρόθεσμες ανταμοιβές; Ο κατάλογος μπορεί να γίνει ακόμα πιο μεγάλος: απερισκεψία, ακρισία, αμέλεια, υπεροψία, αβελτηρία, απροσεξία, αναβλητικότητα, ευπιστία, απειρία, αβουλία, ραθυμία, ακαταστασία είναι κάποιες συνηθισμένες καταστάσεις κατά τη λήψη αποφάσεων. Όμως, ακόμα και ελλείψει τέτοιων ατελειών, δεν είναι σύνηθες φερ’ ειπείν δύο δικαστές, να κρίνουν τα ίδια πραγματικά περιστατικά υπό τον ίδιο νόμο και να καταλήγουν σε διαφορετικό αποτέλεσμα; Μήπως, τελικά, η απόμακρη, απάνθρωπη, ανεπιεικής και αναίσθητη ΤΝ[58] μπορεί να λαμβάνει, κατ’ αποτέλεσμα, αποφάσεις με μεγαλύτερη συνέπεια, συνοχή, διαφάνεια, αμεροληψία, οικονομία και αποτελεσματικότητα, που έχουν θεμελιώδη σημασία για την ισότητα ενώπιον του νόμου και κατ’ επέκταση για την κοινωνική συνοχή, χωρίς να μας ενδιαφέρει η διαδικασία βάσει της οποίας κατέληξε σε αυτές;
Το εύλογο αυτό δίλημμα, σχετικά με το εάν η συνεπής εφαρμογή του νόμου, ως μίας εκ των εκδηλώσεων της αρχής του κράτους δικαίου, είναι ζήτημα μόνο αποτελέσματος ή αποτελέσματος μόνο κατόπιν συγκεκριμένης διαδικασίας, επαναφέρει το νήμα του επιχειρήματος εκεί από όπου ξεκινήσαμε: δηλαδή, στο ότι το πλαίσιο περιορισμού της ΤΝ έχει ως γνώμονα την προστασία της ορθολογικής αυτονομίας του ανθρώπου ή, αλλιώς, της αυτοκατεύθυνσής του με βάση τον ορθό λόγο.
Όταν κανείς επιλέγει τον σύντροφο της ζωής του έχει λόγο, όχι μόνο να κάνει μία καλή επιλογή, αλλά να την κάνει ο ίδιος, όχι άλλος, όπως ο καλοπροαίρετος γονιός ή ο καλοπροαίρετος κυβερνητικός αναλυτής δεδομένων. Όταν κανείς επιλέγει γιατρό, έχει λόγο να προτιμήσει όχι εκείνον που «τυραννικά» θα τον προστάξει και θα τον θεραπεύσει άνευ εξήγησης, αλλά εκείνον, ο οποίος, αφού θα τον εξετάσει επιμελώς, κατόπιν διαλόγου, κατά τη διάρκεια του οποίου αμφότεροι διδάσκουν και διδάσκονται, θα λάβει τη συναίνεσή του και θα τον θεραπεύσει δια της (διαλογικής) πειθούς[59]. Έτσι, και όταν κάποιος πρέπει να επιλέξει ανάμεσα στον άνθρωπο ή τη μηχανή για τη λήψη κρίσιμων δικαστικών αποφάσεων, θα προκρίνει την ανθρώπινη ελεύθερη κρίση, αντί της ανελεύθερης μηχανικής. Η πρώτη παράγει αποφάσεις που δεν είναι απλώς στατιστικά συνεπείς, αλλά ουσιαστικά δίκαιες και αποδεκτές, ενώ μέσω της τήρησης της διαδικασίας, τόσο ο λήπτης της απόφασης, όσο και οι εμπλεκόμενοι αμφιβάλλουν, μαθαίνουν, εξελίσσονται και βελτιώνουν την κατανόησή τους για τον νόμο και τη δικαιοσύνη. Αυτή εξάλλου δεν ήταν και η πορεία που ακολούθησε αυτό το σύντομο άρθρο;
Εν κατακλείδι, το δικαίωμα στην ανθρώπινη απόφαση δεν αντιβαίνει στην αρχή του κράτους δικαίου, αντιθέτως την ενισχύει. Η ασυνέπεια που μόνο φαινομενικά μπορεί να προκύψει από τις ανθρώπινες αποφάσεις δεν είναι αδυναμία, αλλά ένδειξη της δυνατότητας του νομικού συστήματος να προσαρμόζεται και να εξελίσσεται. Η κρίση του ανθρώπου, παρά τις ατέλειές της, είναι η μόνη που εξασφαλίζει ότι οι νόμοι εφαρμόζονται με τρόπο που σέβεται την ανθρώπινη αξιοπρέπεια, που προάγει την κατανόηση και που, τελικά, υπηρετεί το πραγματικό νόημα της δικαιοσύνης. Το δικαίωμα στην ανθρώπινη απόφαση είναι, κατ’ αρχήν, συμβατό με την σημαντικότερη ίσως τυπική πτυχή της αρχής του κράτους δικαίου και αυτό, ίσως, είναι αρκετό.
Το όραμα ενός νομικού και κοινωνικού συστήματος που βασίζεται αποκλειστικά σε αλγορίθμους είναι βαθιά αντίθετο με την ουσία του κράτους δικαίου και δυστοπικό, γιατί, εν τέλει, είναι ανελεύθερο και μη αυθεντικό. Το πραγματικό κράτος δικαίου απαιτεί όχι μόνο αποφάσεις, αλλά και αυτοεξέταση, όχι μόνο συνέπεια, αλλά και κατανόηση, όχι μόνο ακρίβεια, αλλά και σοφία. Και αυτά μόνο η ανθρώπινη κρίση μπορεί να τα παρέχει.
[1] Wilson C./Hargreaves T./Hauxwell-Baldwin R., «Benefits and risks of smart home technologies», Energy Policy 103/2017, σ. 72-83.
[2] Følstad A./Brandtzæg P. B., «Chatbots and the new world of HCI», Interactions 24(4)/2017, σ. 38-42.
[3] Zuiderveen Borgesius F./Poort J., «Online price discrimination and EU data privacy law», Journal of Consumer Policy 40(3)/2017, σ. 347-366.
[4]Kirilenko A., Kyle A. S., Samadi M. & Tuzun T., «The flash crash: High‐frequency trading in an electronic market», The Journal of Finance 72(3)/2017, σ. 967-998.
[5] Hurley M. & Adebayo J., «Credit scoring in the era of big data», Yale Journal of Law and Technology 18(1)/2016, σ. 148-216.
[6] Bogen M. & Rieke A., «Help wanted: An examination of hiring algorithms, equity, and bias», Upturn, 2018, στο: https://www.upturn.org/reports/2018/hiring-algorithms/ (πρόσβαση: 2.9.2024).
[7] Topol E. J., «High-performance medicine: the convergence of human and artificial intelligence», Nature Medicine 25(1)/2019, σ. 44-56.
[8] Sparrow R. & Howard M., «When human beings are like drunk robots: Driverless vehicles, ethics, and the future of transport», Transportation Research Part C: Emerging Technologies 80/2017, σ. 206-215.
[9] Eubanks V., Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor, St. Martin’s Press, Νέα Υόρκη 2018.
[10] Holmes W./Bialik M./Fadel C., Artificial Intelligence in Education: Promises and Implications for Teaching and Learning, Center for Curriculum Redesign, Βοστώνη 2019.
[11] Ferguson A. G., The Rise of Big Data Policing: Surveillance, Race, and the Future of Law Enforcement, NYU Press, Νέα Υόρκη 2017.
[12] Βλ. το νέο άρθρο 20 του π.δ. 18/1989, όπως τροποποιήθηκε με το άρθρο 4 του ν. 5119/2024 (Α΄ 103), σύμφωνα με το οποίο: «Το ένδικο βοήθημα ή μέσο αμέσως μετά από την κατάθεση … του στο Δικαστήριο [ενν. το Συμβούλιο της Επικρατείας] ανατίθεται … υπό την εποπτεία του Προέδρου του Τμήματος … Η ανάθεση γίνεται βάσει αλγορίθμου με ίση κατανομή υποθέσεων σε κάθε Πάρεδρο και Εισηγητή …». Βλ. και το από 21.7.2023 υπογραφέν Μνημόνιο Συνεργασίας μεταξύ του Συμβουλίου της Επικρατείας και του Ερευνητικού Κέντρου Αθηνά, «με σκοπό την ανάπτυξη αλγορίθμου για τη γρήγορη, άμεση και ίση κατανομή υποθέσεων» μέσω της σχεδίασης, υλοποίησης και πιλοτικής εφαρμογής αλγοριθμικού συστήματος αυτοματοποιημένης ανάθεσης δικαστικών υποθέσεων, που θα «συμβάλει ουσιαστικά στην επιτάχυνση της απονομής δικαιοσύνης στο ΣτΕ, αλλά και ευρύτερα στον δικαστικό χώρο», καθώς και «στην προαγωγή της αποτελεσματικότητας και της διαφάνειας στο δικαστικό σύστημα», στο: https://www.athenarc.gr/el/news/ypografi-mnimonioy-synergasias-metaxy-toy-ste-kai-toy-ek-athina/ (πρόσβαση: 2.9.2024).
[13] Park J., «Your Honor, AI», στο https://hir.harvard.edu/your-honor-ai/ (πρόσβαση: 4.9.2024).
[14] Bostrom N., Superintelligence: Paths, Dangers, Strategies, Oxford University Press, Οξφόρδη 2014, σ. 15-20.
[15] Zuboff S., The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power, Public Affairs, Νέα Υόρκη 2019, σ. 8-12.
[16] Harari Y. N., Homo Deus: A Brief History of Tomorrow, Harper, Νέα Υόρκη 2017, σ. 320-325.
[17] Carr N., The Glass Cage: How Our Computers Are Changing Us, W. W. Norton & Company, Νέα Υόρκη 2014, σ. 150-155.
[18]Tasioulas J., «First Steps Towards an Ethics of Robots and Artificial Intelligence», Journal of Practical Ethics, 7(1)/2019, σ. 61-95.
[19] LeCun, Y./ Bengio, Y./Hinton, G., «Deep learning» Nature, 521(7553)/2015 σ. 436-444.
[20] Ober J./Tasioulas J., «AI Ethics with Aristotle», στο https://www.oxford-aiethics.ox.ac.uk/sites/default/files/2024-06/Aristotle%20and%20AI%20White%20Paper%20-%20June%202024.pdf (πρόσβαση: 2.9.2024), όπου αναπτύσσεται αναλυτικά το πλήθος των άλλων πρακτικών ή ηθικών λόγων ή αρετών που δύνανται να θεμελιώσουν τέτοιους περιορισμούς, πλην, όμως, δια της θέσπισης ατελών κανόνων δικαίου.
[21] Hannum H., Rescuing Human Rights: A Radically Moderate Approach, Cambridge University Press, Κέμπριτζ 2019, σ. 27-30.
[22] Ibid, σ. 31-33.
[23] Tasioulas J., «On the Nature of Human Rights» στο Ernst G./Heilinger J-C (επιμ.), The Philosophy of Human Rights: Contemporary Controversies, Walter de Gruyter, Βερολίνο 2012, σ. 17-59.
[24] Tasioulas J., «Saving Human Rights from Human Rights Law», Vanderbilt Journal of Transnational Law 5/2019, σ. 1167-1207
[25] Ιdem,Donnelly J., «The Relative Universality of Human Rights», Human Rights Quarterly 2/2007, σ. 281-306, Αριστοτέλης, Ηθικά Νικομάχεια, μτφρ. Δ. Λυπουρλής, Ζήτρος, Αθήνα 2006, 1129b-1130a: «η δικαιοσύνη είναι η μόνη από τις αρετές που θεωρείται ότι είναι και “αγαθό που ανήκει σε άλλον”, γιατί έχει σχέση με τον άλλον».
[26] Finnis J., Natural Law and Natural Rights, Clarendon Press, Οξφόρδη 1980, σ. 59-99.
[27] Βλ. όμως και την αντίθετη άποψη: Beitz C. R., The Idea of Human Rights, Oxford University Press, Οξφόρδη 2011, Buchanan A., The Heart of Human Rights, Oxford University Press, Οξφόρδη 2017, Nussbaum M. C., «Capabilities and Human Rights», Fordham Law Review 66/1997, σ. 273-300.
[28] Tasioulas J., «Saving Human Rights from Human Rights Law», ό.π., σ. 1182.
[29] Βλ. όμως ΕΔΔΑ, αρ. προσφ. 53600/20, 09.04.2024, Verein KlimaSeniorinnen Schweiz και άλλοι κατά Ελβετίας, όπου το Δικαστήριο ναι μεν δεν αναγνώρισε ένα γενικό δικαίωμα σε συγκεκριμένες κλιματικές συνθήκες, αλλά έκρινε, βάσει της αναπτυχθείσας από το ίδιο δυναμικής ερμηνείας της σύμβασης, ότι η κλιματική αλλαγή μπορεί να επηρεάσει τα ανθρώπινα δικαιώματα, ιδιαίτερα το δικαίωμα στη ζωή (άρθρο 2 της ΕΣΔΑ) και το δικαίωμα στην ιδιωτική και οικογενειακή ζωή (άρθρο 8 της ΕΣΔΑ), αναγνωρίζοντας αντίστοιχες κρατικές υποχρεώσεις. Για μία κριτική θεώρηση της δυναμικής ερμηνείας ως είδους ερμηνείας βλ. Ekins R./Yowell P./Barber N.W. (επιμ.), Lord Sumption and the Limits of the Law, Hart Publishing, Οξφόρδη 2016.
[30] Βλ. Tasioulas J., «Saving Human Rights from Human Rights Law», ό.π., σελ. 1186, σύμφωνα με τον οποίο, το ζήτημα της εναρμόνισης των ανθρωπίνων δικαιωμάτων στις ηπειρωτικές έννομες τάξεις γίνεται συνήθως αντιληπτό μέσω της χρήσης της αρχής της αναλογικότητας. Το χαρακτηρίζει ως ένα «δόγμα» με απαρχές στη γερμανική θεολογία, το οποίο επεκτάθηκε στο γερμανικό συνταγματικό δίκαιο και έπειτα στη γενικότερη σκέψη περί ανθρωπίνων δικαιωμάτων. Μεθοδολογικά, το δόγμα αυτό ξεκινάει με μία πολύ ευρεία ερμηνεία/ορισμό ενός δικαιώματος, εξισώνοντας αυτό σχεδόν με κάθε νομικά αναγνωρίσιμο συμφέρον που μπορεί να έχει ένα άτομο, ώστε, ακολούθως, να τίθεται το ερώτημα, εάν ένα μέτρο που παραβιάζει το ευρύ αυτό δικαίωμα θα μπορούσε να δικαιολογηθεί βάσει μιας ανάλυσης αναλογικότητας που λαμβάνει υπόψη τους έγκυρους σκοπούς της παραβίασης. Ο προβληματισμός είναι εύλογος και κοινός τόπος σε όσους προέρχονται από αγγλοσαξονικές έννομες τάξεις.
[31] Angwin, J./ Larson, J./ Mattu, S./ Kirchner L. «Machine bias» στη διαδικτυακή έκδοση του ProPublica, στο https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (πρόσβαση: 3.9.2024).
[32] Dastin J., «Amazon scraps secret AI recruiting tool that showed bias against women», στο https://www.reuters.com/article/world/insight-amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK0AG/ (πρόσβαση: 3.9.2024).
[33] Wealle S./ Stewart H., «A-level and GCSE results in England to be based on teacher assessments in U-turn», στο https://www.theguardian.com/education/2020/aug/17/a-levels-gcse-results-england-based-teacher-assessments-government-u-turn (πρόσβαση 3.9.2024).
[34] Liang, F./ Das, V./ Kostyuk, N./ Hussain, M. M., «Constructing a data-driven society: China’s social credit system as a state surveillance infrastructure», Policy & Internet, 10(4)/2018, σ. 415-453.
[35] Molnar, P./Gill, L., Bots at the Gate: A Human Rights Analysis of Automated Decision-Making in Canada’s Immigration and Refugee System. University of Toronto International Human Rights Program & Citizen Lab, στο https://citizenlab.ca/wp-content/uploads/2018/09/IHRP-Automated-Systems-Report-Web-V2.pdf (πρόσβαση 3.9.2024).
[36] Blueprint for an AI Bill of Rights – Making automated systems work for the american people, στο https://www.whitehouse.gov/ostp/ai-bill-of-rights/ (πρόσβαση 3.9.2024).
[37] A. Huq, «A Right to a Human Decision», Virginia Law Review 106/2020.
[38] Tasioulas J., The Rule of Algorithm and the Rule of Law, Vienna Lectures on Legal Philosophy (2023), στο SSRN: https://ssrn.com/abstract=4319969 or http://dx.doi.org/10.2139/ssrn.4319969 (πρόσβαση 4.9.2024).
[39] Rawls J., A Theory of Justice: Original Edition. Harvard University Press, 1971.
[40] Δαγτόγλου Π. Δ., Συνταγματικό Δίκαιο: Ατομικά Δικαιώματα. Εκδόσεις Σάκκουλα, 2012.
[41] Pasquale F., The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press., 2015, σ. 8. Ο Pasquale αναφέρεται συγκεκριμένα στο πώς οι εταιρείες και οι κυβερνήσεις χρησιμοποιούν διάφορες μεθόδους για να διατηρούν τους αλγόριθμούς τους κρυφούς, συμπεριλαμβανομένης της επίκλησης του εμπορικού απορρήτου και άλλων νομικών προστασιών. Με αποτέλεσμα «η αδιαφάνεια να δημιουργεί ασυμμετρίες πληροφόρησης μεταξύ των ληπτών αποφάσεων και εκείνων που επηρεάζονται από τις αποφάσεις τους».
[42] Idem.
[43] Coglianese C./Lehr D., «Regulating by Robot: Administrative Decision Making in the Machine-Learning Era», Georgetown Law Journal 105/2017, σ. 1205-6, 1213. Επίσης, Λίλιαν Μήτρου (επιμ.), Μπορεί ο Αλγόριθμος …, Πανεπιστημιακές Εκδόσεις Κρήτης, 2023.
[44] Τasioulas J., «First Steps Towards an Ethics of Robots and Artificial Intelligence», Journal of Practical Ethics, 7(1)/2019, σ. 61-95.
[45] Kant I., Groundwork of the Metaphysics of Morals, μτφρ. Mary Gregor, Cambridge University Press, Κέμπριτζ 1998, σ. 52-53.
[46] Gallagher, S./ Viale, R./ Gallese, V. (eds), Embodied bounded rationality, Lausanne: Frontiers Media SA, 2023, σ. 4, Gordon J./ Maselli A./ Lancia G. L./ Thiery T./ Cisek P./ Pezzulo G., «The road towards understanding embodied decisions», Neuroscience and biobehavioral reviews, 131/2021, σ. 722-736.
[47] Habermas J., Between Facts and Norms: Contributions to a Discourse Theory of Law and Democracy, μτφρ. William Rehg, MIT Press, Κέμπριτζ 1996, σ. 107-109.
[48] Floridi L., «Artificial Intelligence, Deepfakes and a Future of Ectypes», Philosophy & Technology 31/2018, σ. 317-321, όπου ο συγγραφέας από άλλο δρόμο, με αφορμή τη διάκριση ανάμεσα σε έργα τέχνης «αντίγραφα» και «ψεύτικα», καταλήγει στο επιχείρημα της σημασίας της αυθεντικότητας.
[49] Αριστοτέλης, Ηθικά Νικομάχεια, ό.π., 1156β.
[50] Nygren A., Agape and Eros. Philadelphia: Westminster Press, 1953, σ. 45-50.
[51] Oliveira M. J. S./ Lóscio B.F., «What is a data ecosystem?», Proceedings of the 19th Annual International Conference on Digital Government Research: Governance in the Data Age, Association for Computing Machinery, Νέα Υόρκη, Article 74/2018, σ. 19.
[52] Για μία αναλυτική παρουσίαση της αρχής βλ. Waldron J., «The rule of law», στο https://plato.stanford.edu/entries/rule-of-law/ (πρόσβαση 3.9.2024).
[53] Idem.
[54] Idem.
[55] Fuller L., The Morality of Law, New Haven: Yale University Press, 1964.
[56] Αριστοτέλους Πολιτικά, 1287α: Ὁ μὲν οὖν τὸν νόμον κελεύων ἄρχειν δοκεῖ κελεύειν ἄρχειν τὸν θεὸν καὶ τὸν νοῦν μόνους, ὁ δ᾽ ἄνθρωπον κελεύων προστίθησι καὶ θηρίον. Μετάφραση του γράφοντος: Αυτός που ζητά να κυβερνά ο νόμος, φαίνεται να ζητά να κυβερνούν μόνο ο Θεός και η λογική, ενώ αυτός που ζητά να κυβερνά ο άνθρωπος, προσθέτει και το στοιχείο του θηρίου.
[57] Locke J., Two Treatises of Government, 1689, §137: «To avoid their being subjected to the arbitrary and unknown Wills of others». Μετάφραση του γράφοντος: Για να αποφύγουν να υπόκεινται στις αυθαίρετες και άγνωστες βουλήσεις των άλλων.
[58] Lord Sales, «Algorithms, Artificial Intelligence and the Law», The Sir Henry Brooke Lecture, 12 November 2019, στο https://www.supremecourt.uk/docs/speech-191112.pdf (πρόσβαση 3.9.2024).
[59] Πρόκειται για την ωραία αναλογία που χρησιμοποίησε ο Πλάτων στους Νόμους (720b-e), την λεγόμενη διπλή μέθοδο, για να αναδείξει τη σημασία της κατανόησης μέσω του διαλόγου, όχι μόνο στην επιβολή του νόμου ή εδώ στη λήψη αποφάσεων, αλλά ακόμα και στην ιατρική θεραπεία.
Ο Γιώργος Μουκαζής υπηρετεί ως Δικαστής Διοικητικών Δικαστηρίων από το έτος 2019. Είναι απόφοιτος της Νομικής Σχολής του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών και κάτοχος μεταπτυχιακών τίτλων σπουδών στην Ιστορία και Θεωρία του Δικαίου με ειδίκευση στη Φιλοσοφία του Δικαίου (2010 - 2011) από την ίδια Σχολή και στο Διεθνές Δίκαιο Ανθρωπίνων Δικαιωμάτων (2012 - 2014) από το Institute for Human Rights του Åbo Akademi University (Φινλανδία). Το ερευνητικό του έργο έχει διεπιστημονικό χαρακτήρα και περιλαμβάνει έργα, όπως «Διανεμητική Δικαιοσύνη: Σημειώσεις στον διάλογο ανάμεσα στους J. Rawls και R. Nozick» (2011), «Third parties and the ICC: Jurisdiction and admissibility of cases concerning the US drone attacks in Afghanistan and Pakistan» (2013) και «International human rights law accountability of International Financial Institutions: Minimal Elements» (2015).