Στην Εθνική Αρχή Διαφάνειας (ΕΑΔ) προσφεύγουν η Homo Digitalis, το Ινστιτούτο Ρυθμιστικών Πολιτικών (ΙΝΕΡΠ) και μία δημόσια υπάλληλος, ζητώντας τη διερεύνηση της νομιμότητας της χρήσης συστημάτων Τεχνητής Νοημοσύνης (ΤΝ) κατά την αξιολόγηση δημοσίων υπαλλήλων. Η καταγγελία αφορά την εφαρμογή της διαδικασίας αξιολόγησης του 2023 και θέτει σοβαρά ερωτήματα για τη συμμόρφωση με το ισχύον θεσμικό πλαίσιο.
Τι καταγγέλλεται
Σύμφωνα με τους καταγγέλλοντες, το Υπουργείο Εσωτερικών αξιοποίησε σύστημα Τεχνητής Νοημοσύνης για την επεξεργασία των στοιχείων περίπου 54.500 δημοσίων υπαλλήλων, οι οποίοι είχαν αρχικά αξιολογηθεί ως υψηλής απόδοσης.
Μετά την επεξεργασία από το σύστημα, ο αριθμός των υπαλλήλων που διατήρησαν τον χαρακτηρισμό αυτό περιορίστηκε σε λιγότερους από 4.500, ενώ 1.329 υπάλληλοι εντάχθηκαν στην κατηγορία της χαμηλής απόδοσης. Οι οργανώσεις υποστηρίζουν ότι η παρέμβαση του αλγοριθμικού συστήματος επηρέασε ουσιαστικά το τελικό αποτέλεσμα της αξιολόγησης.
Ζήτημα εφαρμογής του ν. 4961/2022
Η καταγγελία βασίζεται στις προβλέψεις του ν. 4961/2022, ο οποίος ρυθμίζει τη χρήση συστημάτων Τεχνητής Νοημοσύνης από φορείς του Δημοσίου.
Οι καταγγέλλοντες υποστηρίζουν ότι η χρήση τέτοιων συστημάτων προϋποθέτει ειδική νομοθετική εξουσιοδότηση και συγκεκριμένες εγγυήσεις προστασίας των δικαιωμάτων των πολιτών και των εργαζομένων. Όπως αναφέρουν, για την αξιολόγηση των δημοσίων υπαλλήλων δεν υπάρχει ειδική διάταξη που να προβλέπει τη χρήση ΤΝ, γεγονός που, κατά την άποψή τους, δημιουργεί σοβαρά ζητήματα νομιμότητας.
Παράλληλα, επισημαίνεται ότι δεν προκύπτει να έχει δημοσιοποιηθεί η προβλεπόμενη αξιολόγηση αντικτύπου, ούτε τα στοιχεία διαφάνειας που απαιτεί η νομοθεσία, ενώ παραμένει ασαφές αν οι δημόσιοι υπάλληλοι ενημερώθηκαν για τον τρόπο με τον οποίο το σύστημα επηρέασε την τελική κρίση για την απόδοσή τους.
Διαφάνεια, λογοδοσία και αλγοριθμική μεροληψία
Η Homo Digitalis και το ΙΝΕΡΠ διευκρινίζουν ότι δεν αμφισβητούν τον θεσμό της αξιολόγησης στο Δημόσιο, τον οποίο χαρακτηρίζουν σημαντικό εργαλείο για τη βελτίωση της δημόσιας διοίκησης. Ωστόσο, τονίζουν ότι η αξιοποίηση αλγοριθμικών συστημάτων χωρίς σαφές θεσμικό πλαίσιο μπορεί να οδηγήσει σε φαινόμενα αλγοριθμικής μεροληψίας, περιορισμένης διαφάνειας και μειωμένης λογοδοσίας.
Ιδιαίτερη αναφορά γίνεται και στον Ευρωπαϊκό Κανονισμό για την Τεχνητή Νοημοσύνη (AI Act), ο οποίος κατατάσσει τα συστήματα που χρησιμοποιούνται στην απασχόληση, τη διαχείριση προσωπικού και την αξιολόγηση εργαζομένων στις εφαρμογές υψηλού κινδύνου, επιβάλλοντας αυστηρές απαιτήσεις ως προς τη διαφάνεια, την τεκμηρίωση και την προστασία των θεμελιωδών δικαιωμάτων.
Αναμένεται η παρέμβαση της Εθνικής Αρχής Διαφάνειας
Οι οργανώσεις ζητούν από την Εθνική Αρχή Διαφάνειας να εξετάσει εάν κατά τη χρήση του συγκεκριμένου συστήματος τηρήθηκαν οι απαιτήσεις του ελληνικού και ευρωπαϊκού δικαίου και να διαπιστώσει αν εφαρμόστηκαν οι προβλεπόμενες εγγυήσεις.
Η υπόθεση αναμένεται να αποκτήσει ιδιαίτερη σημασία, καθώς το πόρισμα της ΕΑΔ ενδέχεται να αποτελέσει σημείο αναφοράς για το πώς θα χρησιμοποιούνται στο μέλλον συστήματα Τεχνητής Νοημοσύνης στη δημόσια διοίκηση, ειδικά σε διαδικασίες που επηρεάζουν την υπηρεσιακή εξέλιξη και τα δικαιώματα χιλιάδων δημοσίων υπαλλήλων.
