Τα τελευταία χρόνια, αλγοριθμικά προγράμματα – γνωστά και ως «αλγοριθμικές μελέτες επικινδυνότητας» – λαμβάνονται όλο και περισσότερο υπόψιν από τα αμερικανικά ποινικά δικαστήρια, προκειμένου να υπολογισθούν οι πιθανότητες υποτροπής ενός δράστη. Δεδομένου ότι οι εκτιμώμενες παράμετροι βρίσκονται εκτός του πεδίου ελέγχου (και επομένως αντιλόγου) του δράστη (πρόκειται για παράδειγμα για την κοινωνικοοικονομική του κατάσταση, το οικογενειακό υπόβαθρο, το φύλο (gender), την εγκληματικότητα στο γειτονικό του περιβάλλον) και η μεθοδολογία τους παραμένει συνήθως ασαφής, η ενσωμάτωσή τους στη διαδικασία επιμέτρησης της ποινής αμφισβητείται έντονα, καθώς εγείρονται ζητήματα ευδικίας, οριοθέτησης της ποινικής ευθύνης και διαφάνειας.[1]

Η ανωτέρω θεματική παρουσιάζεται εν προκειμένω με μια απόφαση-ορόσημο, δηλαδή την απόφαση State v Loomis, που έλαβε το Ανώτατο Δικαστήριο του Wisconsin στις 13 Ιουλίου 2016 [2]. Πρόκειται για την πρώτη απόφαση στην οποία θίγεται σε τέτοια έκταση η συνταγματικότητα της χρήσης αλγοριθμικών εκτιμήσεων της επικινδυνότητας από τα δικαστήρια και για τη δεύτερη που πραγματεύεται το ίδιο ζήτημα μέχρι στιγμής[3].

Στα επόμενα, παρατίθεται αρχικά μια σύντομη περίληψη του ιστορικού της υπόθεσης, στη συνέχεια εξετάζονται οι σκέψεις του Δικαστηρίου και, τέλος, διατυπώνονται ορισμένα σχόλια, σχετικά με την πιθανή μελλοντική επίδραση της υπό συζήτηση τεχνολογίας στα δικαστήρια.

I. Η υπόθεση

Στις αρχές του 2013, ο Eric Loomis κατηγορήθηκε για τη διάπραξη πέντε εγκλημάτων κατά τη διάρκεια μιας επίθεσης με πυροβολισμούς από διερχόμενο όχημα. Ο Loomis αρνήθηκε τη συμμετοχή του στο συμβάν, όμως παραδέχτηκε ότι οδήγησε το ίδιο αυτοκίνητο το βράδυ εκείνης της μέρας. Δήλωσε ένοχος για τη διάπραξη δύο ελαφρότερων εγκλημάτων, την μη συμμόρφωση σε σήμα της τροχαίας να σταματήσει και την οδήγηση μηχανοκίνητου μέσου χωρίς την άδεια του ιδιοκτήτη. Το πρωτοβάθμιο δικαστήριο καταδίκασε τον Loomis σε έξι χρόνια κάθειρξης και σε πέντε χρόνια ελεγχόμενης ελευθερίας μετά την έκτιση της πρώτης, βασίζοντας εν μέρει την απόφασή του στην εκτίμηση της επικινδυνότητας με την μέθοδο COMPAS[4]. Πρόκειται για λογισμικό που αποτελεί ευρεσιτεχνία ιδιωτικής εταιρείας (συγκεκριμένα της Northpointe, Inc) με το οποίο εκτιμήθηκε ότι ο Loomis είναι άτομο με αυξημένες πιθανότητες υποτροπής, συγκριτικά με άλλα άτομα που φέρουν παρόμοια με αυτόν χαρακτηριστικά. Η εκτίμηση των χαρακτηριστικών της προσωπικότητάς του από το πρόγραμμα στηρίχθηκε σε μια συνέντευξη και στο ποινικό του μητρώο, ενώ η μεθοδολογία που ακολουθήθηκε παρέμεινε μυστική ως επιχειρηματικό απόρρητο. Ο Loomis ισχυρίσθηκε ότι παραβιάσθηκαν τόσο το δικαίωμά του σε δίκαιη δίκη (due process rights)[5] όσο και το δικαίωμά του σε επιβολή εξατομικευμένης ποινής, με το επιχείρημα ότι η φύση του λογισμικού δεν του επέτρεψε να αμφισβητήσει την επιστημονική εγκυρότητά του και ότι για την επιβολή της ποινής δόθηκε βαρύτητα στην κοινωνική διάσταση του φύλου του (gender)[6] κατά παραβίαση του Συντάγματος. Κατόπιν αυτού το Εφετείο του Wisconsin παρέπεμψε την υπόθεση στο Ανώτατο Δικαστήριο της Πολιτείας.

II. Το σκεπτικό της απόφασης και η εξέλιξη της υπόθεσης

Κατά την άποψη της πλειοψηφίας που συνέταξε η δικαστής Ann Walsh Bradley διαπιστώνεται η ανάγκη προσαρμογής στις εξελίξεις της τεχνολογίας: «Καθώς αλλάζουν τα δεδομένα, η χρήση εμπειρικών εργαλείων θα πρέπει ομοίως να αλλάξει. Το δικαστικό σύστημα πρέπει να εκσυγχρονίζεται και να επανεξετάζει τακτικά τη χρήση αυτών των εργαλείων».[7]

Όσον αφορά στην εγκυρότητα του προγράμματος, το Ανώτατο Δικαστήριο αναγνωρίζει ότι η εμπορική προστασία του προγράμματος COMPAS δεν επέτρεψε στον Loomis να διαπιστώσει με ποιον ακριβώς τρόπο αξιολογήθηκε η προσωπικότητά του. Εντούτοις, εφόσον τα δεδομένα που επεξεργάσθηκε το πρόγραμμα προήλθαν κατά βάση από ερωτηματολόγιο που συμπλήρωσε ο ίδιος και από δημόσια έγγραφα, το Δικαστήριο καταλήγει στο συμπέρασμα ότι ο αναιρεσιβάλλων είχε τη δυνατότητα να επιβεβαιώσει αν αυτά ήταν έγκυρα ή όχι. Περαιτέρω το δικαστήριο δέχεται ότι ο ισχυρισμός του κατηγορουμένου περί προσβολής των δικονομικών του δικαιωμάτων θα μπορούσε να ευδοκιμήσει μόνο στην περίπτωση που το αποτέλεσμα της αξιολόγησής του με την επίμαχη μέθοδο θα ήταν ο μόνος ή εν πάση περιπτώσει ο καθοριστικός παράγοντας για την επιμέτρηση της ποινής που του επιβλήθηκε.

Το Δικαστήριο εν τέλει έκρινε ότι ο Loomis δεν μπόρεσε να ανταποδείξει ικανοποιητικά ότι η κοινωνική διάσταση του φύλου του (gender) έπαιξε πράγματι ρόλο στην ποινή που του επιβλήθηκε[8]. Το δικαστήριο πάντως επισημαίνει ότι αυτή η παράμετρος είναι σημαντική: «Ανεξάρτητα από την λειτουργία του κοινωνικού φύλου ως εγκληματογόνου παράγοντα ή απλά ως στατιστικού δείγματος, ο Loomis αντιλέγει στη γενικότερη συμπερίληψη της κοινωνικής διάστασης του φύλου του για την εξαγωγή των συμπερασμάτων με την μέθοδο COMPAS. Ως προς αυτό, η Πολιτεία διατείνεται ότι η επιλογή της κοινωνικής διάστασης του φύλου στα δεδομένα του προγράμματος της COMPAS είναι αναγκαία προκειμένου να διασφαλισθεί η στατιστική ακρίβεια. Η Πολιτεία υποστηρίζει ότι, επειδή οι άντρες και οι γυναίκες εμφανίζουν διαφορετικά ποσοστά υποτροπής και διαφορετικές προοπτικές κοινωνικής επανένταξης, η μη εκτίμηση της κοινωνικής διάστασης του φύλου κατά την διακρίβωση της επικινδυνότητας θα παρείχε ανακριβή αποτελέσματα για τους μεν και τους δε. […] Τουναντίον φαίνεται ότι κάθε μελέτη που δεν διακρίνει ανάμεσα σε άντρες και γυναίκες οδηγεί σε εσφαλμένα συμπεράσματα και ως προς τα δύο φύλα».[9]

Επιπρόσθετα το Δικαστήριο παρέχει κατευθυντήριες οδηγίες για την επιτρεπτή χρήση της μεθόδου COMPAS κατά την αντικατάσταση του εγκλεισμού με εναλλακτικές ποινές που αφορά παραβάτες με χαμηλές πιθανότητες υποτροπής, κατά την αξιολόγηση της αποτελεσματικότητας και ασφάλειας του κοινωνικού ελέγχου στο περιβάλλον της κοινότητας και κατά τον έλεγχο της συμμόρφωσης του εν ελευθερία εκτίοντος την ποινή προς τους όρους που του επιβλήθηκαν[10]. Το Δικαστήριο τονίζει εν προκειμένω την προσοχή με την οποία ο δικαστής θα πρέπει να χρησιμοποιεί τις μελέτες επικινδυνότητας. Για τον λόγο αυτό παρέχει συγκεκριμένες οδηγίες, σύμφωνα με τις οποίες οι εκθέσεις που συντάσσονται πριν την επιβολή ποινής και περιέχουν αξιολογήσεις της επικινδυνότητας με την μέθοδο COMPAS, θα πρέπει να αποκαλύπτουν στα δικαστήρια που επιβάλλουν την ποινή ορισμένους περιορισμούς της μεθοδολογίας που ακολουθείται, όπως λ.χ. ότι:

• Η μέθοδος COMPAS αποτελεί πνευματική ιδιοκτησία και ως εκ τούτου δεν επιτρέπεται η γνωστοποίηση ορισμένων πληροφοριών σχετικά με τη βαρύτητα των υπό εξέταση παραγόντων ή τον τρόπο με τον οποίο υπολογίζονται οι πιθανότητες υποτροπής.
• Τα αποτελέσματα της COMPAS βασίζονται σε δεδομένα κοινωνικών ομάδων, και γι’ αυτό το λόγο ταυτοποιούν ομάδες με κοινά χαρακτηριστικά και υψηλά ποσοστά υποτροπής, όχι εξατομικευμένα πρόσωπα με υψηλή επικινδυνότητα.
• Ορισμένες έρευνες οδηγούν στο συμπέρασμα ότι ο αλγόριθμος της COMPAS ενδέχεται να κατηγοριοποιεί μεροληπτικά δράστες από μειονοτικές ομάδες.
• Η COMPAS συγκρίνει τον εκάστοτε κατηγορούμενο με ένα συνολικό εθνικό δείγμα, χωρίς στη συνέχεια να το επαληθεύει με αντίστοιχο δείγμα για τον πληθυσμό του Wisconsin κι αυτό ανεξάρτητα από το γεγονός ότι τέτοια εργαλεία πρέπει να επικαιροποιούνται συνεχώς ώστε να ανταποκρίνονται στις πληθυσμιακές μεταβολές.
• Η COMPAS δεν δημιουργήθηκε ως μεθοδολογία επιμετρήσεως των ποινών· αντίθετα, προοριζόταν ως βοήθημα στα δικαστήρια που έπρεπε να αξιολογήσουν την επικινδυνότητα σε αποφάσεις κατά την έκτιση της ποινής.

Αυτές οι πέντε κατευθυντήριες γραμμές διατυπώθηκαν με στόχο να δημιουργήσουν σκεπτικισμό στα δικαστήρια που θα εφαρμόζουν την σχετική μέθοδο ως προς την εγκυρότητά της[11]. Ωστόσο, η απόφαση παραμένει ασαφής στο βαθμό που δεν διευκρινίζει τον τρόπο με τον οποίο θα πρέπει οι δικαστές να αποτιμούν τις αξιολογήσεις επικινδυνότητας. Το πρόβλημα λαμβάνει ακόμα μεγαλύτερες διαστάσεις αν αναλογισθεί κανείς ότι, ο μέσος άνθρωπος εμπιστεύεται και υιοθετεί συνήθως δεδομένα που εξάγονται ψηφιακά.[12]

Η δικαστής Shirley Abrahamson, η οποία συντάχθηκε επίσης με την άποψη που πλειοψήφησε, επέκρινε το γεγονός ότι το Δικαστήριο δεν επέτρεψε στη Northpointe, την εταιρεία που ανέπτυξε το λογισμικό, να υποβάλει σχετικό τεχνικό υπόμνημα (amicus brief)[13]. Σημείωσε ότι «συνεκτιμώντας την μέθοδο COMPAS (ή άλλες εκτιμήσεις επικινδυνότητας) κατά την επιμέτρηση της ποινής, το πρωτοβάθμιο δικαστήριο θα πρέπει να καταγράφει, με λογικά επιχειρήματα, τη σημασία, τα πλεονεκτήματα και τα μειονεκτήματα αυτού του εργαλείου». Επισήμανε μάλιστα χαρακτηριστικά, ότι «δεν ήταν σωστή η άρνηση του δικαστηρίου να δεχθεί τεχνική γνωμοδότηση. Το δικαστήριο χρειαζόταν κάθε δυνατή βοήθεια»[14].

Είναι αξιοσημείωτο ότι η μελέτη που αξιοποιήθηκε στην περίπτωση του Loomis έδινε μεγαλύτερες πιθανότητες υποτροπής σε μη λευκούς δράστες, αφού τους εμφάνιζε να έχουν 45% περισσότερες πιθανότητες να τοποθετηθούν σε κατηγορία υψηλού κινδύνου σε σχέση με τους λευκούς δράστες.[15]

Στις 26 Ιουνίου 2017 το Ανώτατο Ομοσπονδιακό Δικαστήριο απέρριψε το αίτημα του Loomis, το οποίο στόχευε στην ανατροπή της απόφασης του Ανωτάτου Δικαστηρίου του Wisconsin[16].

III. Συμπέρασμα

Η πραγματική αξία και η ενδεδειγμένη χρήση αλγοριθμικών εκτιμήσεων επικινδυνότητας αμφισβητείται έντονα. Αφενός, έχει αποδειχθεί ότι ένας τυχαία επιλεγμένος δράστης υψηλής επικινδυνότητας διατρέχει σε ποσοστό 70% μεγαλύτερο κίνδυνο να αξιολογηθεί αυστηρότερα σε σχέση με έναν τυχαία επιλεγμένο δράστη χαμηλής επικινδυνότητας[17]. Αφετέρου, άλλες πηγές καταδεικνύουν ότι οι αξιολογήσεις επικινδυνότητας μπορούν, σε εξαιρετικά διαφοροποιημένες κοινωνίες, όπως αυτές των Η.Π.Α., να προβλέψουν σε ικανοποιητικό βαθμό ποιος δράστης διατρέχει μεγαλύτερο κίνδυνο υποτροπής.[18]

Εν πάση περιπτώσει, δύσκολα θα μπορούσε να κριθεί ως επαρκώς αιτιολογημένη μια δικαστική κρίση η οποία θα περιοριζόταν στη μνεία μιας εμπειρικής εκτίμησης. Η δυσπιστία του Ανωτάτου Ομοσπονδιακού Δικαστηρίου έναντι τέτοιου είδους εμπειρικών ερευνών προβάλλεται χαρακτηριστικά με την ακόλουθη διατύπωση: «[…] η απόδειξη εκτεταμένων κοινωνιολογικών παρατηρήσεων μέσω στατιστικών στοιχείων […] αναπόφευκτα συγκρούεται με την κανονιστική εμβέλεια της αρχής της ίσης μεταχείρισης».[19]

Συνεπώς, μια απόφαση πρέπει να αντιμετωπίζεται ως μη θεμελιωμένη όταν στηρίζεται ουσιωδώς σε μια τέτοια μελέτη. Όταν όμως το συγκεκριμένο βοήθημα συνεκτιμάται με άλλες αξιολογήσεις και επιχειρήματα, προσφέρεται μάλλον να περιορίσει παρά να μεγιστοποιήσει ενδεχόμενες αυθαίρετες κρίσεις. Αν και η προσωπική κρίση του δικαστή υπήρξε ανέκαθεν υψίστης σημασίας για τους δικαιϊκούς θεσμούς, αντικειμενικά δεδομένα μπορούν σε ορισμένες περιπτώσεις να διευκολύνουν τη διαδικασία εξατομίκευσης της ποινής – όταν βεβαίως αφορούν την αξιολόγηση περιστατικών του παρελθόντος. Για τον λόγο αυτό, μόνο εκείνες οι μελέτες, οι οποίες δημοσιοποιούν και εξηγούν επαρκώς τη μεθοδολογία που ακολουθούν, θα πρέπει να περιλαμβάνονται στην αιτιολογία της απόφασης. Αν και οι υπό συζήτηση έρευνες έχουν ακόμα να διανύσουν αρκετό δρόμο πριν ενσωματωθούν πλήρως στην μεθοδολογία της επιμέτρησης των ποινών, εφόσον τουλάχιστον διασφαλίζεται η διαφάνεια και ο τρόπος που λειτουργούν, ώστε ο κατηγορούμενος να μπορεί να αντιλέξει σχετικά, δύνανται πράγματι, σε ορισμένες περιπτώσεις και σε κοινωνίες με σημαντικό βαθμό κοινωνικής διαφοροποίησης, να διευκολύνουν το έργο των δικαστών κατά την επιμέτρηση της ποινής.

ΣΗΜΕΙΩΣΕΙΣ
[1] Βλ. Kehl, Danielle / Guo, Priscilla / Kessler, Samuel: Algorithms in the Criminal Justice System: Assessing the Use of Risk Assessments in Sentencing. (July 2017). Responsive Communities. Διαθέσιμο στην ιστοσελίδα https://cyber.harvard.edu/ publications/2017/07/Algorithms.
[2] State v Loomis, No. 2015AP157–CR., 881 N.W.2d 749 (2016). Διαθέσιμη στην διεύθυνση: https://www.wicourts.gov/sc/opinion/DisplayDocument.pdf?content=pdf&seqNo=171690.
[3] Βλ. και Malenchik v Indiana, 928 N.E.2d 564 (Ind. 2010).
[4] Τα αρχικά COMPAS σημαίνουν  «Διαχείριση των χαρακτηριστικών της προσωπικότητας των δραστών για την επιβολή εναλλακτικών ποινικών κυρώσεων» (“Correctional Offender Management Profiling for Alternative Sanctions”). Η συγκεκριμένη πρακτική χρησιμοποιείται ευρέως, τόσο στο Wisconsin όσο και σε άλλες πολιτείες. Βλ. Tim Brennan and al., Northpointe Inst. for Pub. Mgmt. Inc., Evaluating the Predictive Validity of the COMPAS Risk and Needs Assessment System, 36 CRIM. JUST & BEHAV. 21, 21 (2009). Παράδειγμα του τρόπου εφαρμογής βλ. στην διεύθυνση https://www.documentcloud.org/documents/2702103-Sample-Risk-Assessment-COMPAS-CORE.html.
[5] Η σχετική ρήτρα (Due Process Clause) εισήχθη με την πέμπτη Τροποποίηση του αμερικανικού Συντάγματος, όμως το Ανώτατο Δικαστήριο την ενέταξε – όσον αφορά στις επιμέρους πολιτείες – στην δέκατη τέταρτη Τροποποίηση. Αυτή προστατεύει τους πολίτες από προσβολές στη «ζωή, την ελευθερία και την ιδιοκτησία τους, δίχως την τήρηση της νόμιμα προβλεπόμενης διαδικασίας». Βλ. Katherine Freeman, Algorithmic Injustice: How the Wisconsin Supreme Court failed to protect Due Process Rights in State v Loomis, North Carolina Journal of Law and Technology, Vol. 18, December 2016.
[6] Γίνεται αναφορά στο κοινωνικό φύλο (gender), στο οποίο περιλαμβάνονται τα κοινωνικά χαρακτηριστικά τα οποία θεωρούνται αποκλειστικά ή κυρίαρχα για το κάθε φύλο, και όχι στο βιολογικό φύλο (sex).
[7] 881 N.W.2d 754 (Wis. 2016).
[8] Σε αντίθεση με το δικό μας σύστημα, όπου ο εισαγγελέας κινείται προς πάσα κατεύθυνση στο πλαίσιο αναζήτησης της ουσιαστικής αλήθειας, κατά το αμερικανικό πρότυπο η κατηγορούσα αρχή τοποθετείται μονόπλευρα εναντίον του κατηγορουμένου και ο τελευταίος φέρει το βάρος απόδειξης των ισχυρισμών του.
[9] 881 N.W.2d 766, 767.
[10] 881 N.W.2d 768.
[11] Για μια πιο θετική αποτίμηση της αξίας παρόμοιων αξιολογήσεων επικινδυνότητας, βλ. Malenchik v State, 928 N.E. 2d 564, 574-575 (Ind. 2010).
[12] http://www.datacivilrights.org/pubs/2015-1027/Courts_and_Predictive_Algorithms.pdf
[13] Στον αγγλοσαξονικό χώρο, το amicus brief είναι ένα έγγραφο που υποβάλλεται στο δικαστήριο από μη διάδικο (με ή χωρίς την αίτηση διαδίκου) και σκοπό έχει να παράσχει εξειδικευμένες-τεχνικές γνώσεις, κρίσιμες για την εκδικαζόμενη υπόθεση. Η εξέτασή του εναπόκειται στην κρίση του δικαστηρίου. Βλ. Stephen G. Masciocchi, What Amici Curiae Can and Cannot Do with Amicus Briefs, Colorado Lawyer Vol. 46, No 4, 23-26.
[14] 881 N.W.2d 775.
[15] Cecelia Klingele, The Promises and Perils of Evidence-Based Corrections, 91 NOTRE DAME L. REV. 537, 577 (2015). Βλ. ακόμη Jeff Larson, et al., How We Analyzed the COMPAS Recidivism Algorithm, PROPUBLICA (May 23, 2016), διαθέσιμο στην ιστοσελίδα https://www.propublica.org/article/how-weanalyzed-the-compas-recidivism-algorithm.
[16] Loomis v. Wisconsin, No. 16-6387, 137 S.Ct. 2290 (2017). Βλ. όμως την τεχνική γνωμοδότηση της Κυβέρνησης η οποία, αν και συντάχθηκε με την απόφαση του Ανωτάτου Δικαστηρίου του Wisconsin, αναγνώρισε  το ενδεχόμενο εκτιμήσεις επικινδυνότητας να θέσουν συνταγματικά ζητήματα («[…] το Ανώτατο Δικαστήριο του Wisconsin ορθά αρνήθηκε την ύπαρξη παραβίασης του δικαιώματος στη δίκαιη δίκη. Αυτό το γεγονός όμως δε σημαίνει ότι η χρήση εμπειρικών εκτιμήσεων επικινδυνότητας κατά την επιμέτρηση θα είναι πάντα συνταγματικά συνεπής. Ορισμένες χρήσεις ενός μεθοδολογικά σκοτεινού αλγορίθμου μπορούν να θίξουν το δικαίωμα στη δίκαιη δίκη — αν, για παράδειγμα, καταστεί αδύνατη η πρόσβαση του κατηγορουμένου στα σχετικά με το ποινικό του μητρώο εισαχθέντα δεδομένα, ή αν τα αποτελέσματά του συμβάλουν στην καταδίκη του ή οδηγήσουν σε ένα «τεκμαρτό» διάστημα φυλάκισης»).
[17] Lightbourne John, Damned Lies and Criminal Sentencing Using Evidence-Based Tools, Duke Law and Technology Review, Vol. 15 No 1.
[18] Nathan James, Risk and Needs Assessment in the Criminal Justice System, Congressional Research Service, 13/10/2015.
[19] Craig v Boren, 429 U.S. 190 (1976), 204: “[…] proving broad sociological propositions by statistics  . . . inevitably is in tension with the normative philosophy that underlies the Equal Protection Clause”.