Αλγόριθμος ακύρωσε τις αξιολογήσεις 54.500 υπαλλήλων – Καταγγελία Homo Digitalis και ΙΝΕΡΠ στην ΕΑΔ
Homo Digitalis και ΙΝΕΡΠ κατέθεσαν καταγγελία στην ΕΑΔ για παράνομη χρήση AI στην αξιολόγηση 54.500 δημοσίων υπαλλήλων.
Η χρήση τεχνητής νοημοσύνης στην αξιολόγηση δημοσίων υπαλλήλων βρίσκεται στο στόχαστρο της ΕΑΔ, μετά από καταγγελία Homo Digitalis και ΙΝΕΡΠ.
Στην Εθνική Αρχή Διαφάνειας προσέφυγαν η Homo Digitalis, το Ινστιτούτο Ρυθμιστικών Πολιτικών και μία δημόσια υπάλληλος, καταγγέλλοντας το Υπουργείο Εσωτερικών για αδιαφανή χρήση αλγορίθμων τεχνητής νοημοσύνης στην αξιολόγηση δεκάδων χιλιάδων εργαζομένων του Δημοσίου.
σχετικά άρθρα
Οι καταγγελίες κατατέθηκαν την Παρασκευή 3 Ιουλίου και ζητούν τη διερεύνηση της συμμόρφωσης του Υπουργείου με τον ν. 4961/2022. Σύμφωνα με την καταγγελία, κατά την αξιολόγηση των υπαλλήλων για το έτος 2023, το Υπουργείο επεξεργάστηκε με εργαλείο AI τα δεδομένα 54.500 υπαλλήλων που είχαν αρχικά κριθεί υψηλής απόδοσης.
Η μαζική απόρριψη αξιολογήσεων
Μέσα από την επεξεργασία αυτή, ο αριθμός των υπαλλήλων που τελικά κατατάχθηκαν ως υψηλής απόδοσης μειώθηκε δραματικά, σε λιγότερους από 4.500. Παράλληλα, 1.329 υπάλληλοι κρίθηκαν ως χαμηλής απόδοσης.
Οι καταγγέλλοντες τονίζουν ότι η διαδικασία έγινε γνωστή εκ των υστέρων, μέσα από δημοσιεύματα και δηλώσεις στελεχών του Υπουργείου. Οι υπάλληλοι δεν ενημερώθηκαν ποτέ για το πώς το σύστημα AI επηρέασε την αξιολόγησή τους.
Το νομικό πλαίσιο
Σύμφωνα με τον ν. 4961/2022, το Δημόσιο μπορεί να χρησιμοποιεί συστήματα AI για αποφάσεις που επηρεάζουν δικαιώματα πολιτών ή εργαζομένων μόνο όταν αυτό προβλέπεται ρητά από ειδική διάταξη νόμου.
Στην περίπτωση της αξιολόγησης των δημοσίων υπαλλήλων, δεν υπάρχει τέτοια ειδική νομοθετική πρόβλεψη. Επομένως, η χρήση του συστήματος στερείται νομικής βάσης.
Το Υπουργείο Εσωτερικών δεν φαίνεται να έχει δημοσιεύσει την απαιτούμενη αξιολόγηση αντικτύπου ούτε τις πληροφορίες διαφάνειας που προβλέπει ο νόμος.
Οι κίνδυνοι της αδιαφανούς χρήσης AI
Η καταγγελία αναφέρει ότι η αυθαίρετη και αδιαφανής χρήση AI συνδέεται διεθνώς με αλγοριθμική μεροληψία, έλλειψη διαφάνειας και αδυναμία λογοδοσίας. Ο Ευρωπαϊκός Κανονισμός για την ΤΝ (AI Act) την κατατάσσει ως εφαρμογή υψηλού κινδύνου.
Το διακύβευμα ξεπερνά τη συγκεκριμένη υπόθεση και αφορά το Κράτος Δικαίου, τη λειτουργία των θεσμών και τα θεμελιώδη δικαιώματα των εργαζομένων.
Το επόμενο βήμα
Η Homo Digitalis και το ΙΝΕΡΠ αναμένουν την εξέταση των καταγγελιών από την ΕΑΔ και θα ενημερώνουν για κάθε εξέλιξη.
