Η Ευρώπη βάζει την τεχνητή νοημοσύνη στα όπλα της, αλλά λείπει ένας κρίσιμος κανόνας
Το AI Act εξαιρεί τα συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς σκοπούς – Το κενό που δημιουργείται όταν διαφορετικά εθνικά συστήματα AI πρέπει να λειτουργήσουν μαζί σε μια επιχείρηση του ΝΑΤΟ
Η ολοένα μεγαλύτερη ενσωμάτωση της τεχνητής νοημοσύνης στις ευρωπαϊκές ένοπλες δυνάμεις δημιουργεί ένα πρόβλημα που δεν περιορίζεται στο εάν και με ποιον τρόπο θα πρέπει να ρυθμίζονται τα στρατιωτικά συστήματα AI. Το κρίσιμο ζήτημα αφορά πλέον το τι πρέπει να έχει αποδειχθεί για την ασφάλεια, τον ανθρώπινο έλεγχο και τη λειτουργία ενός τέτοιου συστήματος προτού περάσει από το στάδιο της ανάπτυξης στην επιχειρησιακή χρήση και, κυρίως, προτού ενταχθεί σε μια πολυεθνική στρατιωτική επιχείρηση.
σχετικά άρθρα
Το AI Act της Ευρωπαϊκής Ένωσης εξαιρεί, μέσω του άρθρου 2(3), τα συστήματα που χρησιμοποιούνται αποκλειστικά για στρατιωτικούς, αμυντικούς σκοπούς ή για την εθνική ασφάλεια. Πρόκειται για μια ευρεία και νομικά θεμελιωμένη εξαίρεση, η οποία αντανακλά τον καταμερισμό αρμοδιοτήτων μεταξύ της ΕΕ και των κρατών-μελών.
Ωστόσο, σύμφωνα με την ανάλυση του GM, η αντιμετώπιση αυτής της εξαίρεσης ως του βασικού προβλήματος μπορεί να οδηγήσει σε λάθος λύση. Η απλή επέκταση ενός κανονιστικού πλαισίου που έχει σχεδιαστεί για την πολιτική αγορά στο πεδίο των στρατιωτικών επιχειρήσεων δεν απαντά στο βασικό ερώτημα: ποια κριτήρια πρέπει να πληροί ένα στρατιωτικό σύστημα τεχνητής νοημοσύνης προτού τεθεί σε υπηρεσία και στη συνέχεια χρησιμοποιηθεί μαζί με συστήματα άλλων χωρών;
Η Ευρώπη δεν ξεκινά από το μηδέν. Οι σύμμαχοι του ΝΑΤΟ έχουν ήδη υιοθετήσει αρχές για την υπεύθυνη χρήση της τεχνητής νοημοσύνης, οι οποίες καλύπτουν μεταξύ άλλων τη νομιμότητα, την ευθύνη και τη λογοδοσία, την επεξηγησιμότητα και την ιχνηλασιμότητα, την αξιοπιστία, τη δυνατότητα ελέγχου και τον περιορισμό των προκαταλήψεων των συστημάτων.
Η αναθεωρημένη στρατηγική του ΝΑΤΟ για την AI προβλέπει επίσης κοινά πρότυπα, διαδικασίες αξιολόγησης και ελέγχου, μηχανισμούς δοκιμών και επικύρωσης, καθώς και μεγαλύτερη διαλειτουργικότητα μεταξύ των συστημάτων τεχνητής νοημοσύνης των συμμάχων.
Αυτές οι αρχές αποτελούν σημαντική βάση, δεν συνιστούν όμως ακόμη ένα ενιαίο και συγκεκριμένο πλαίσιο πιστοποίησης που θα μπορεί να ελέγχεται από τις εθνικές αρχές και να αναγνωρίζεται όταν ένα στρατιωτικό σύστημα περνά από τη δικαιοδοσία μιας χώρας σε μια κοινή συμμαχική αρχιτεκτονική.
Το ίδιο πρόβλημα αποτυπώνεται και στα ευρωπαϊκά αμυντικά χρηματοδοτικά εργαλεία.
Το Ευρωπαϊκό Ταμείο Άμυνας (EDF) απαγορεύει τη χρηματοδότηση θανατηφόρων αυτόνομων όπλων όταν αυτά δεν διαθέτουν ουσιαστικό ανθρώπινο έλεγχο στις αποφάσεις επιλογής και εμπλοκής ανθρώπινων στόχων.
Αντίστοιχος περιορισμός υπήρχε στο EDIRPA, το βραχυπρόθεσμο ευρωπαϊκό εργαλείο για την ενίσχυση των κοινών αμυντικών προμηθειών, το οποίο όμως έληξε στα τέλη του 2025.
Το νεότερο χρηματοδοτικό εργαλείο SAFE υποστηρίζει ρητά τις κοινές προμήθειες συστημάτων τεχνητής νοημοσύνης και άλλων προηγμένων στρατιωτικών δυνατοτήτων. Ωστόσο, το κείμενό του δεν επαναλαμβάνει τη ρητή πρόβλεψη του EDIRPA περί ουσιαστικού ανθρώπινου ελέγχου. Μάλιστα, το Βέλγιο εξέφρασε επισήμως τη λύπη του για αυτή την παράλειψη κατά την υιοθέτηση του SAFE από το Συμβούλιο.
Αυτό δεν σημαίνει ότι τα στρατιωτικά συστήματα AI λειτουργούν σε ένα περιβάλλον χωρίς κανόνες. Εξακολουθούν να εφαρμόζονται το διεθνές δίκαιο, οι εθνικοί έλεγχοι των οπλικών συστημάτων, οι αρχές του ΝΑΤΟ και οι ειδικοί όροι των επιμέρους προγραμμάτων.
Το πρόβλημα βρίσκεται αλλού: οι κανόνες δεν ακολουθούν απαραίτητα ένα σύστημα σε ολόκληρο τον κύκλο ζωής του.
Ένας όρος για τον ανθρώπινο έλεγχο μπορεί, για παράδειγμα, να αποτελεί προϋπόθεση για τη χρηματοδότηση ενός προγράμματος, χωρίς όμως να μετατρέπεται αυτομάτως σε κοινή και ελέγξιμη απαίτηση όταν το συγκεκριμένο σύστημα τεθεί αργότερα σε υπηρεσία, αναβαθμιστεί με νέο λογισμικό ή συνδεθεί με στρατιωτικά δίκτυα άλλων χωρών.
Το πρόβλημα όταν τα στρατιωτικά AI διαφορετικών χωρών συνδέονται μεταξύ τους
Η διαλειτουργικότητα μεταβάλλει ουσιαστικά τη φύση του κινδύνου.
Ένα σύστημα που έχει πιστοποιηθεί βάσει των κανόνων μιας χώρας μπορεί σε μια πολυεθνική επιχείρηση να ανταλλάσσει πληροφορίες, να παρέχει συστάσεις ή ακόμη και να εκτελεί λειτουργίες ελέγχου μέσα σε μια αρχιτεκτονική που χρησιμοποιείται ταυτόχρονα από πολλές συμμαχικές χώρες.
Οι εθνικές αρχές, όμως, ενδέχεται να έχουν διαφορετικούς κανόνες για το ποιες ενέργειες απαιτούν ρητή ανθρώπινη απόφαση, πόσο υψηλή πρέπει να είναι η βεβαιότητα ενός συστήματος προτού επιτραπεί μια αυτοματοποιημένη σύσταση, πόσο γρήγορα πρέπει να μπορεί ένας άνθρωπος να παρέμβει ή ποια δεδομένα πρέπει να διατηρούνται ώστε μια απόφαση να μπορεί αργότερα να ελεγχθεί.
Έτσι δημιουργείται ένα ιδιαίτερο παράδοξο: η τεχνική διαλειτουργικότητα μπορεί να εξελίσσεται ταχύτερα από την εμπιστοσύνη μεταξύ των συμμάχων ως προς το πώς το λογισμικό κάθε χώρας εφαρμόζει τους κανόνες ανθρώπινου ελέγχου.
Η λύση που προτείνεται δεν είναι να αποφασίζει η Ευρωπαϊκή Ένωση πότε ένα κράτος μπορεί να χρησιμοποιήσει στρατιωτική ισχύ. Αντίθετα, προτείνεται η δημιουργία ενός κοινού πλαισίου διασφάλισης για την επιχειρησιακή ένταξη των στρατιωτικών συστημάτων AI, αρκετά περιορισμένου ώστε να μην παραβιάζει την εθνική κυριαρχία, αλλά ταυτόχρονα αρκετά συγκεκριμένου ώστε να μπορεί να ελεγχθεί στην πράξη.
Το πλαίσιο αυτό θα πρέπει να περιλαμβάνει τέσσερις βασικές απαιτήσεις.
Πρώτον, θα πρέπει να υπάρχει σαφές όριο εξουσιοδότησης, ώστε να είναι γνωστό ποιες κρίσιμες ενέργειες απαιτούν ανθρώπινη έγκριση και ποιο συγκεκριμένο πρόσωπο ή ποιος θεσμικός ρόλος έχει δικαίωμα να την παρέχει.
Δεύτερον, απαιτείται η δυνατότητα ελέγχου του συστήματος κατά τη διάρκεια της λειτουργίας του. Εάν επιδεινωθεί η ποιότητα των δεδομένων, χαθούν επικοινωνίες, μεταβληθούν οι συνθήκες της αποστολής ή μειωθεί η εμπιστοσύνη του χειριστή, το AI θα πρέπει να μπορεί να περιορίσει ή να αναστείλει τη λειτουργία του ή να επιστρέψει σε ασφαλή κατάσταση.
Τρίτον, απαιτείται ιχνηλασιμότητα που δεν μπορεί να αλλοιωθεί, ώστε να καταγράφεται τι πρότεινε ή τι ξεκίνησε το σύστημα, ποια δεδομένα και ποιοι κανόνες οδήγησαν σε αυτή την ενέργεια, ποιος την ενέκρινε και εάν υπήρξε ανθρώπινη παρέμβαση ή ακύρωση.
Τέταρτον, στις πολυεθνικές επιχειρήσεις πρέπει να υπάρχει εκ των προτέρων συμφωνημένος μηχανισμός για τις περιπτώσεις στις οποίες οι εθνικοί περιορισμοί δύο ή περισσότερων χωρών συγκρούονται. Σε μια τέτοια περίπτωση θα πρέπει να απαιτείται νέα ανθρώπινη εξουσιοδότηση, αντί η διαφορά να επιλύεται σιωπηρά από το σύστημα που θα ενεργήσει πρώτο.
ΕΕ, ΝΑΤΟ και κράτη-μέλη με διαφορετικούς ρόλους
Οι θεσμικοί μηχανισμοί που θα μπορούσαν να στηρίξουν ένα τέτοιο μοντέλο υπάρχουν ήδη.
Το σχέδιο δράσης του Ευρωπαϊκού Οργανισμού Άμυνας για τα Αυτόνομα Συστήματα περιλαμβάνει μεταξύ των πεδίων δράσης τις δοκιμές, την επαλήθευση και επικύρωση, την πιστοποίηση, την τυποποίηση, τη ρύθμιση, τη δεοντολογία και τον συντονισμό με το ΝΑΤΟ.
Παράλληλα, το Data and Artificial Intelligence Review Board του ΝΑΤΟ και η αναθεωρημένη στρατηγική της Συμμαχίας για την AI μπορούν να αποτελέσουν το πλαίσιο μέσα από το οποίο οι γενικές αρχές υπεύθυνης χρήσης θα μετατραπούν σε κοινές πρακτικές.
Με βάση την προτεινόμενη κατανομή αρμοδιοτήτων, η Ευρωπαϊκή Ένωση θα μπορούσε να συνδέσει το κοινό πλαίσιο διασφάλισης με τη χρηματοδότηση και τα προγράμματα κοινών προμηθειών της. Οι εθνικές κυβερνήσεις θα εξακολουθούσαν να έχουν την αρμοδιότητα πιστοποίησης των συστημάτων που τίθενται σε υπηρεσία, αλλά και την αποκλειστική εξουσία να αποφασίζουν εάν και πότε θα χρησιμοποιήσουν στρατιωτική ισχύ. Το ΝΑΤΟ, από την πλευρά του, θα μπορούσε να προωθήσει την αμοιβαία αναγνώριση των σχετικών πιστοποιήσεων και να ελέγχει στην πράξη εάν οι απαιτήσεις λειτουργούν σε πολυεθνικές στρατιωτικές αρχιτεκτονικές.
Με αυτό τον τρόπο θα μπορούσαν να αποφευχθούν δύο αντίθετα προβλήματα. Από τη μία, η Ευρώπη δεν χρειάζεται να αντιμετωπίσει το AI Act σαν να παρέχει στις Βρυξέλλες γενική αρμοδιότητα πάνω στις στρατιωτικές επιχειρήσεις των κρατών-μελών. Από την άλλη, οι ευρωπαϊκές χώρες δεν μπορούν να καταλήξουν σε ένα κατακερματισμένο σύστημα, όπου τα οπλικά συστήματα διαφορετικών κρατών μπορούν τεχνικά να επικοινωνούν μεταξύ τους, αλλά κανένας σύμμαχος δεν είναι σε θέση να γνωρίζει και να επαληθεύσει με ποιον ακριβώς τρόπο το λογισμικό μιας άλλης χώρας εφαρμόζει τον ανθρώπινο έλεγχο.
Ένα κοινό πλαίσιο δεν θα καθόριζε τη στρατηγική ούτε την πολιτική επιλογής στόχων. Θα όριζε, όμως, το ελάχιστο επίπεδο αποδείξεων και εγγυήσεων που θα πρέπει να παρέχει κάθε χώρα στους συμμάχους της, προτού ένα σύστημα τεχνητής νοημοσύνης θεωρηθεί αρκετά αξιόπιστο για να χρησιμοποιηθεί σε μια κοινή επιχείρηση.
Η στρατιωτική εξαίρεση του AI Act, επομένως, αποτελεί μόνο ένα μέρος του προβλήματος. Το δυσκολότερο ερώτημα αρχίζει όταν ένα ευρωπαϊκό πρόγραμμα εγκαταλείπει το στάδιο της χρηματοδότησης, περνά στις προμήθειες, λαμβάνει νέες αναβαθμίσεις λογισμικού και τελικά συνδέεται με ένα συμμαχικό στρατιωτικό δίκτυο.
Η Ευρώπη έχει ήδη αποδεχθεί ότι ο ανθρώπινος έλεγχος αποτελεί κρίσιμη παράμετρο και το ΝΑΤΟ έχει ήδη συμφωνήσει στις βασικές αρχές που πρέπει να διέπουν την υπεύθυνη στρατιωτική χρήση της AI. Αυτό που εξακολουθεί να λείπει είναι ένας κοινός, πρακτικά ελέγξιμος μηχανισμός που θα συνοδεύει το σύστημα από την ανάπτυξή του μέχρι το πεδίο των επιχειρήσεων.
