H πρώτη καταγγελία για παράτυπη χρήση AI στο δημόσιο

Ο αλγόριθμος της Τεχνητής Νοημοσύνης “έκοψε” από τη θετική αρχική αξιολόγηση χιλιάδες δημόσιους υπαλλήλους και το υπουργείο Εσωτερικών πανηγύρισε για την “κρίση” του στην κατηγορία “χαμηλής απόδοσης”. Όπως αποδεικνύεται σήμερα 15 μήνες μετά τους κυβερνητικούς διθύραμβους μέσω ανάρτησης που βαφτίστηκε” ρεπορτάζ στο Αθηναϊκών Πρακτορείο, το υπουργείο δεν τηρεί το νόμο για τη “χρήση Τεχνητής Νοημοσύνης στην αξιολόγηση των δημοσίων υπαλλήλων”!

Η πρώτη καταγγελία που φέρνει στο δημόσιο διάλογο ένα κρίσιμο ζήτημα για το εύρος χρησιμοποίησης των αυτόματων μοντέλων και αλγορίθμων της AI σε ευαίσθητες λειτουργίες του κράτους, έγινε από Ινστιτούτο Ρυθμιστικών Πολιτικών (ΙΝΕΡΠ), τη Homo Digitalis και μια κριθείσα υπάλληλο. Κατατέθηκε στην Εθνική Αρχή Διαφάνειας (ΕΑΔ) με αίτημα “να διερευνηθεί αν το Υπουργείο Εσωτερικών συμμορφώθηκε με τις υποχρεώσεις που προβλέπει ο ν. 4961/2022 για τη χρήση συστημάτων τεχνητής νοημοσύνης κατά την αξιολόγηση δημοσίων υπαλλήλων τόσο για το έτος 2023 όσο και για τα επόμενα”. 

Το ιστορικό και τα γεγονότα

Η καταγγελία αφορά στην αξιολόγηση των δημοσίων υπαλλήλων για το έτος 2023, όταν το υπουργείο Εσωτερικών επεξεργάστηκε, με τη χρήση εργαλείου τεχνητής νοημοσύνης, τα δεδομένα 54.500 υπαλλήλων που είχαν αρχικά κριθεί υψηλής απόδοσης.

Η επεξεργασία με τον αλγόριθμο της AI απέρριψε έναν τεράστιο αριθμό θετικών αξιολογήσεων και ο αριθμός των υπαλλήλων που τελικά κατατάχθηκαν “ως υψηλής απόδοσης” μειώθηκε σε λιγότερους από 4.500. Από τον αρχικό αριθμό των θετικών αξιολογήσεων οι 1.329 κρίθηκαν “ως χαμηλής απόδοσης”.

Στο νόμο ν. 4961/2022 που ρυθμίζει το πως το Δημόσιο μπορεί να χρησιμοποιεί συστήματα τεχνητής νοημοσύνης για αποφάσεις που επηρεάζουν τα δικαιώματα πολιτών ή εργαζομένων, προβλέπεται ρητά ότι αυτό μπορεί να γίνει μόνο “από ειδική διάταξη νόμου και συνοδεύεται από συγκεκριμένες εγγυήσεις προστασίας”.

Όπως αποδεικνύεται στην περίπτωση της αξιολόγησης των δημοσίων υπαλλήλων το 2023, δεν υπάρχει τέτοια ειδική νομοθετική πρόβλεψη.

Στην καταγγελία επισημαίνεται ότι δεν υπάρχει νομική βάση που να επιτρέπει τη χρήση του συστήματος της AI και να εγγυάται την ορθή χρήση του. Όπως σημειώνεται “το υπουργείο Εσωτερικών δεν φαίνεται να έχει δημοσιεύσει την απαιτούμενη αξιολόγηση αντικτύπου ούτε τις πληροφορίες διαφάνειας που προβλέπει ο νόμος. Επίσης, δεν είναι γνωστό αν οι δημόσιοι υπάλληλοι ενημερώθηκαν με σαφή τρόπο για το πώς το σύστημα τεχνητής νοημοσύνης επηρέασε την αξιολόγησή τους”.

Η αυθαίρετη και αδιαφανής χρήση συστημάτων τεχνητής νοημοσύνης σε μια τέτοια διαδικασία συνδέεται διεθνώς με αλγοριθμική μεροληψία, έλλειψη διαφάνειας και αδυναμία λογοδοσίας, γι’ αυτό και οΕυρωπαϊκός Κανονισμός για την ΤΝ (AI Act) την κατατάσσει ως εφαρμογή υψηλού κινδύνου. Το διακύβευμα ξεπερνά τη συγκεκριμένη υπόθεση και αφορά το Κράτος Δικαίου, τη λειτουργία των θεσμών και τα θεμελιώδη δικαιώματα των εργαζομένων.

Αναφέρονται εκτενώς οι δύο νόμοι που ρυθμίζουν τη διαδικασία αξιολόγησης. Ο νόμος 4940/2022 καθορίζει τη διαδικασία στοχοθεσίας, αξιολόγησης και ανταμοιβής με σκοπό την ενίσχυση της αποτελεσματικότητας της δημόσιας διοίκησης. Ο αμέσως επόμενος νόμος, ο 4961/2022, “δεν περιλαμβάνει καμία ειδική διάταξη που να προβλέπει ή να επιτρέπει τη χρήση συστημάτων τεχνητής νοημοσύνης κατά τη διαδικασία στοχοθεσίας, αξιολόγησης ή ανταμοιβής των δημοσίων υπαλλήλων”. Προβλέπει αντίθετα, συγκεκριμένες εγγυήσεις παράλληλα για την προστασία των δικαιωμάτων των δημοσίων υπαλλήλων.

Στην αναφερόμενη αξιολόγηση των 54.500 υπαλλήλων που είχαν αρχικά κριθεί υψηλής απόδοσης, δεν τηρήθηκε καμία από τις προβλέψεις των νόμων. Όπως σημειώνεται οι γενικές “αναφορές του νόμου σε τεχνολογικά εργαλεία ή ηλεκτρονικές εφαρμογές δεν μπορούν να ερμηνευθούν ως παροχή νομοθετικής εξουσιοδότησης για τη χρήση συστημάτων τεχνητής νοημοσύνης, ιδίως όταν αυτά επηρεάζουν ή δύνανται να επηρεάσουν την αξιολόγηση, την υπηρεσιακή εξέλιξη ή την ανταμοιβή των αξιολογουμένων”.

Δεν εκπονήθηκε και δεν γνωστοποιήθηκε η “αλγοριθμική εκτίμηση αντικτύπου”. Σε αυτή τη διαδικασία λαμβάνονται υπόψη: 

ο επιδιωκόμενος σκοπός, συμπεριλαμβανομένου του δημόσιου συμφέροντος που εξυπηρετείται με τη χρήση του συστήματος, οι δυνατότητες, τα τεχνικά χαρακτηριστικά και οι παράμετροι λειτουργίας του συστήματος, το είδος και οι κατηγορίες των αποφάσεων που λαμβάνονται ή των πράξεων που εκδίδονται με τη συμμετοχή του συστήματος, ή υποστηρίζονται από αυτό, οι κατηγορίες δεδομένων που συλλέγονται, τυγχάνουν επεξεργασίας ή εισάγονται στο σύστημα ή παράγονται από αυτό, οι κίνδυνοι που ενδέχεται να προκύψουν για τα δικαιώματα, τις ελευθερίες και τα έννομα συμφέροντα των φυσικών ή νομικών προσώπων, στα οποία αφορά ή τα οποία επηρεάζει η λήψη της απόφασης και το προσδοκώμενο όφελος που απορρέει για το κοινωνικό σύνολο σε συνάρτησης.

Επίσης, δεν τηρήθηκε η απαιτούμενη διαφάνεια, δηλαδή δεν δόθηκαν δημόσια πληροφορίες για τον χρόνο έναρξης λειτουργίας του συστήματος, τις παραμέτρους λειτουργίας, τις δυνατότητες και τα τεχνικά χαρακτηριστικά του συστήματος, τις κατηγορίες των αποφάσεων που λαμβάνονται ή των πράξεων που εκδίδονται με τη συμμετοχή του συστήματος ή υποστηρίζονται από αυτό και τη διενέργεια αλγοριθμικής εκτίμησης αντικτύπου.

Με βάση όλα τα παραπάνω οι φορείς και η υπάλληλος που υπογράφουν την καταγγελία ζητούν από την Εθνική Αρχή Διαφάνειας να ελέγξει το υπουργείο Εσωτερικών για την περίπτωση παραβίασης των νόμων που ισχύουν για την αξιολόγηση για το έτος 2023 αλλά και για τα επόμενα έτη.

neostrategy.gr

photo:AI unsplash