Η νέα κούρσα της στρατιωτικής τεχνητής νοημοσύνης – Γιατί δεν θα κερδίσει απαραίτητα όποιος έχει το καλύτερο AI
Το ΝΑΤΟ επιταχύνει τις επενδύσεις στις νέες αμυντικές τεχνολογίες, όμως η πραγματική μάχη αρχίζει μετά την αγορά: κόστος λειτουργίας, υπολογιστική ισχύς, αναβαθμίσεις και εξάρτηση από ξένους προμηθευτές μπορούν να μετατρέψουν ένα προηγμένο σύστημα σε στρατηγική αδυναμία
Περισσότερα από 40 δισ. δολάρια για τεχνολογίες αντιμετώπισης drones μέσα στην επόμενη πενταετία ανακοίνωσαν οι σύμμαχοι στη σύνοδο του ΝΑΤΟ στην Άγκυρα τον Ιούλιο, σε μία ακόμη ένδειξη της ταχύτητας με την οποία αλλάζουν οι προτεραιότητες στις αμυντικές επενδύσεις. Μόλις μία ημέρα αργότερα, η Συμμαχία παρουσίασε τη νέα στρατηγική συνεργασίας της με την αμυντική βιομηχανία, η οποία επανέρχεται διαρκώς σε τρεις βασικούς στόχους: ενίσχυση, αύξηση της κλίμακας και διατήρηση των δυνατοτήτων σε βάθος χρόνου.
σχετικά άρθρα
Ακριβώς εκεί βρίσκεται και μία από τις μεγαλύτερες προκλήσεις της νέας κούρσας για την τεχνητή νοημοσύνη στο πεδίο της άμυνας. Η αγορά ενός προηγμένου συστήματος αποτελεί μόνο την αρχή. Το πραγματικό ερώτημα είναι ποια χώρα θα εξακολουθεί να έχει τη δυνατότητα να το χρησιμοποιεί αποτελεσματικά και οικονομικά όταν περάσουν τα χρόνια, αλλάξουν οι τεχνολογικές απαιτήσεις και αποχωρήσει η ομάδα του κατασκευαστή που το παρουσίασε.
Η τεχνητή νοημοσύνη κάνει αυτή την εξίσωση ακόμη πιο περίπλοκη. Οι δυνατότητές της είναι σχετικά εύκολο να παρουσιαστούν σε μια δοκιμή. Ένα benchmark μπορεί να δείξει την ακρίβεια ενός μοντέλου και ένα πιλοτικό πρόγραμμα την ταχύτητά του. Μια εταιρεία μπορεί να επιδείξει ένα σύστημα που εντοπίζει στόχους, προβλέπει βλάβες, συνοψίζει πληροφορίες ή συμβάλλει στον σχεδιασμό μιας στρατιωτικής αποστολής.
Πίσω από την εντυπωσιακή επίδειξη, όμως, υπάρχει μια ολόκληρη αρχιτεκτονική που συνήθως δεν είναι εξίσου ορατή: υπολογιστική ισχύς, κατανάλωση ενέργειας, δεδομένα, ενσωμάτωση στα υπάρχοντα συστήματα, κυβερνοασφάλεια, επανεκπαίδευση του μοντέλου, συνεχής παρακολούθησή του, τεχνική υποστήριξη των χειριστών, ενημερώσεις λογισμικού και περιορισμοί στις εξαγωγές.
Υπάρχει ακόμη ένα κρίσιμο κόστος: πόσο δύσκολο και ακριβό θα είναι για μια χώρα να εγκαταλείψει τον συγκεκριμένο προμηθευτή όταν το σύστημα πάψει να καλύπτει τις ανάγκες της.
Η αναθεωρημένη στρατηγική του ίδιου του ΝΑΤΟ για την τεχνητή νοημοσύνη έχει ήδη επισημάνει τόσο τις μεγάλες ενεργειακές απαιτήσεις των συστημάτων που χρειάζονται υψηλή υπολογιστική ισχύ όσο και τις δυσκολίες μεταφοράς τεχνολογιών διπλής χρήσης στο στρατιωτικό περιβάλλον.
Αυτές οι παράμετροι μπορεί να μοιάζουν δευτερεύουσες μπροστά στις επιδόσεις ενός νέου AI μοντέλου. Στην πραγματικότητα, μπορούν να καθορίσουν εάν μια τεχνολογία θα εξελιχθεί σε διατηρήσιμη στρατιωτική ισχύ ή σε μια πανάκριβη εξάρτηση.
Το μάθημα από ένα αμερικανικό πρόγραμμα που δεν έφτασε ποτέ σε μαζική εφαρμογή
Ένα πρόγραμμα που ξεκίνησε στις Ηνωμένες Πολιτείες πριν από περισσότερα από 20 χρόνια δείχνει πόσο μεγάλη μπορεί να είναι η απόσταση ανάμεσα σε μια τεχνολογία που λειτουργεί και σε μια τεχνολογία που μπορεί πράγματι να χρησιμοποιηθεί σε μεγάλη κλίμακα.
Στα τέλη του 2002, τρομοκράτες εκτόξευσαν φορητούς πυραύλους εναντίον ισραηλινού επιβατικού αεροσκάφους που απογειωνόταν από τη Μομπάσα της Κένυας. Η επίθεση απέτυχε, αλλά ώθησε τις ΗΠΑ να εξετάσουν εάν στρατιωτικές τεχνολογίες προστασίας αεροσκαφών μπορούσαν να προσαρμοστούν στους εμπορικούς αεροπορικούς στόλους.
Η τεχνολογική αρχή είχε ήδη αποδειχθεί: το σύστημα θα εντόπιζε έναν εισερχόμενο πύραυλο θερμικής καθοδήγησης και θα χρησιμοποιούσε κατευθυνόμενο υπέρυθρο αντίμετρο για να διαταράξει την καθοδήγησή του.
Το πραγματικά δύσκολο κομμάτι δεν ήταν να αποδειχθεί ότι το σύστημα λειτουργεί. Ήταν να καταστεί οικονομικά και επιχειρησιακά βιώσιμο για χιλιάδες εμπορικές πτήσεις κάθε ημέρα.
Τα στοιχεία που είχε καταγράψει το αμερικανικό Government Accountability Office ήταν χαρακτηριστικά. Τα στρατιωτικά συστήματα της εποχής εμφάνιζαν βλάβη περίπου κάθε 300 έως 400 ώρες, ενώ για την εμπορική χρήση ο στόχος ξεπερνούσε τις 3.000 ώρες.
Το πρόγραμμα επιδίωκε παράλληλα να μειώσει το κόστος λειτουργίας και υποστήριξης περίπου στα 350 δολάρια ανά πτήση και την τιμή κάθε μονάδας περίπου στο 1 εκατ. δολάρια, εφόσον άρχιζε η παραγωγή σε μεγάλη κλίμακα.
Ακόμη και οι λανθασμένοι συναγερμοί αποτελούσαν σημαντική παράμετρο, καθώς περιόριζαν τη διάρκεια ζωής των συστημάτων και μπορούσαν να προκαλέσουν περιττές επιχειρησιακές αντιδράσεις. Πρόβλημα αποτελούσε και η ενσωμάτωση της τεχνολογίας στα αεροσκάφη, καθώς οι εμπορικοί στόλοι αποτελούνταν από πολλούς διαφορετικούς τύπους.
Μέχρι το τέλος της δεκαετίας, το πρόγραμμα δεν είχε οδηγήσει σε εγκατάσταση των συστημάτων σε ολόκληρο τον αμερικανικό εμπορικό στόλο. Οι αεροπορικές εταιρείες υποστήριζαν ότι το κόστος ήταν απαγορευτικό και ο αμερικανικός προϋπολογισμός για το οικονομικό έτος 2010 δεν ζητούσε πλέον χρηματοδότηση για τη συνέχισή του.
Αυτό, ωστόσο, δεν σήμαινε ότι η ίδια η τεχνολογία ήταν αποτυχημένη.
Το Ισραήλ απέδειξε αργότερα το αντίθετο. Το σύστημα C-MUSIC της Elbit Systems χρησιμοποιείται πλέον από ισραηλινές εμπορικές αεροπορικές εταιρείες, έχει πιστοποιηθεί σε πολλούς τύπους Boeing και Airbus και έχει συγκεντρώσει δεκάδες χιλιάδες ώρες επιχειρησιακής λειτουργίας. Όταν ενεργοποιείται απέναντι σε απειλή, λειτουργεί πλήρως αυτόματα.
Η ίδια ευρύτερη κατηγορία τεχνολογίας που δεν κατάφερε να δημιουργήσει ένα βιώσιμο επιχειρηματικό μοντέλο για ολόκληρο τον εμπορικό στόλο των ΗΠΑ έγινε επομένως εφαρμόσιμη σε διαφορετικό περιβάλλον, με διαφορετική αντίληψη απειλής, διαφορετική δομή στόλου, διαφορετική χρηματοδότηση, διαφορετική διαδικασία πιστοποίησης και διαφορετική εθνική ανοχή στο κόστος.
Αυτό ακριβώς αποτελεί και ένα από τα βασικά μαθήματα για τις σημερινές αγορές στρατιωτικής τεχνητής νοημοσύνης: η δυνατότητα πραγματικής επιχειρησιακής αξιοποίησης εξαρτάται από το περιβάλλον στο οποίο καλείται να λειτουργήσει ένα σύστημα.
Το ίδιο μοντέλο AI μπορεί να αποτελέσει στρατηγικό πλεονέκτημα για μία χώρα και δαπανηρή εξάρτηση για μια άλλη.
Ένα κράτος με μεγάλη εγχώρια υπολογιστική ισχύ, ασφαλείς υποδομές cloud, εξειδικευμένο προσωπικό, δεδομένα στρατιωτικών αποστολών και πρόσβαση σε ανταλλακτικό εξοπλισμό μπορεί να υποστηρίξει ένα σύστημα το οποίο θα ήταν πολύ πιο εύθραυστο σε διαφορετικές συνθήκες.
Ένας μικρότερος σύμμαχος μπορεί αντιθέτως να έχει λόγους να επιλέξει ένα λιγότερο προηγμένο AI μοντέλο, εφόσον αυτό μπορεί να λειτουργεί σε εθνικές υποδομές, να συντηρείται από εγχώριο προσωπικό, να συνεχίζει να επιχειρεί όταν υποβαθμίζονται οι επικοινωνίες και να μεταφέρεται σε νέο hardware χωρίς να απαιτείται ανακατασκευή ολόκληρου του λογισμικού.
Όταν η εξάρτηση από μια εταιρεία γίνεται στρατηγική εξάρτηση
Με αυτά τα δεδομένα, η κούρσα της στρατιωτικής τεχνητής νοημοσύνης δεν μπορεί να αξιολογείται μόνο από τις επιδόσεις των μοντέλων.
Η ακρίβεια εξακολουθεί να έχει σημασία, αλλά εξίσου κρίσιμο είναι πόσο κοστίζει η διατήρηση αυτής της ακρίβειας μέχρι τη χιλιοστή επιχειρησιακή αποστολή.
Το πραγματικό κόστος δεν περιορίζεται στην τιμή αγοράς. Περιλαμβάνει την ενσωμάτωση, τη συντήρηση, την επανεκπαίδευση, την επικύρωση, την παρακολούθηση ασφαλείας και την αποκατάσταση έπειτα από αστοχίες.
Το GAO έχει προειδοποιήσει και σε άλλες περιπτώσεις αμυντικών προμηθειών ότι μεγάλο μέρος του κόστους του κύκλου ζωής ενός συστήματος μπορεί να εμφανιστεί μετά την ανάπτυξή του. Στην τεχνητή νοημοσύνη αυτή η παράμετρος γίνεται ακόμη πιο σύνθετη, επειδή το ίδιο το σύστημα μπορεί να μεταβάλλεται μέσα από νέα δεδομένα, νέες εκδόσεις των μοντέλων, νέες τεχνολογικές εξαρτήσεις και διαφορετικές συνθήκες απειλής.
Και εδώ προκύπτει μια ευρύτερη γεωπολιτική διάσταση: η εξάρτηση από τον προμηθευτή μπορεί να εξελιχθεί σε στρατηγική εξάρτηση.
Εάν οι ένοπλες δυνάμεις μιας χώρας δεν μπορούν να επανεκπαιδεύσουν ένα μοντέλο χωρίς πρόσβαση σε ξένο cloud, δεν μπορούν να το αναβαθμίσουν χωρίς ιδιόκτητα εργαλεία μιας εταιρείας, δεν μπορούν να επικυρώσουν μια νέα έκδοση χωρίς εξωτερική τεχνική υποστήριξη ή αδυνατούν να μεταφέρουν το σύστημα αλλού όταν αλλάζουν οι περιορισμοί στις εξαγωγές, τότε οι εντυπωσιακές επιδόσεις του AI δεν αντικατοπτρίζουν το πραγματικό επίπεδο τεχνολογικής και στρατιωτικής κυριαρχίας που προσφέρει.
Έτσι, δύο σύμμαχοι μπορούν να αγοράσουν φαινομενικά παρόμοια συστήματα τεχνητής νοημοσύνης και τελικά να αποκτήσουν εντελώς διαφορετικό βαθμό ανθεκτικότητας σε συνθήκες πολέμου, επειδή μόνο ο ένας έχει τη δυνατότητα να συντηρεί αυτόνομα ολόκληρο το οικοσύστημα που βρίσκεται πίσω από το AI.
Αντίστοιχο πρόβλημα εμφανίζεται και στη διαλειτουργικότητα του ΝΑΤΟ. Η Συμμαχία μπορεί να δημιουργήσει κοινά πρότυπα για τις διεπαφές και τα δεδομένα, αλλά αυτό δεν λύνει το πρόβλημα εάν μία χώρα μπορεί να αναβαθμίσει και να επανεπικυρώσει ένα μοντέλο μέσα σε λίγες ημέρες, ενώ μια άλλη χρειάζεται μήνες, εξωτερικούς εργολάβους και έναν νέο κύκλο πιστοποίησης.
Το αποτέλεσμα θα μπορούσε να είναι μια δύναμη που είναι τεχνικά διασυνδεδεμένη αλλά επιχειρησιακά ασύγχρονη. Και σε μια σύγκρουση που εξελίσσεται γρήγορα, αυτή η διαφορά μπορεί να αποδειχθεί σημαντικότερη από μερικές επιπλέον μονάδες στην ακρίβεια ενός AI μοντέλου.
Για τον λόγο αυτό, οι διαδικασίες προμηθειών θα πρέπει να εξετάζουν εξαρχής ολόκληρη την αρχιτεκτονική ιδιοκτησίας και λειτουργίας ενός συστήματος. Τα υπουργεία Άμυνας θα πρέπει να γνωρίζουν το εκτιμώμενο κόστος ανά επιχειρησιακή ώρα, τη διαθεσιμότητα του συστήματος όταν υποβαθμίζονται οι επικοινωνίες ή η διαθέσιμη υπολογιστική ισχύς, τον χρόνο και το κόστος που απαιτούνται για την επανεκπαίδευση και την επανεπικύρωσή του, κάθε κρίσιμη ξένη εξάρτηση και, τέλος, το κόστος μετάβασης σε διαφορετικό προμηθευτή.
Μια προσφορά που δεν απαντά σε αυτά τα ερωτήματα ουσιαστικά κοστολογεί την επίδειξη της τεχνολογίας και όχι την πραγματική κατοχή της δυνατότητας σε βάθος χρόνου.
Η νέα βιομηχανική στρατηγική του ΝΑΤΟ δημιουργεί μια ευκαιρία ώστε αυτή η λογική να περάσει στις πραγματικές διαδικασίες προμηθειών. Η έμφαση στην αύξηση της παραγωγής και, κυρίως, στη δυνατότητα διατήρησής της αποτελεί το κατάλληλο πλαίσιο και για τις αναδυόμενες στρατιωτικές τεχνολογίες.
Η ταχύτερη αγορά ενός συστήματος έχει αξία μόνο εφόσον αυτό μπορεί στη συνέχεια να υποστηρίζεται, να αναβαθμίζεται, να προστατεύεται και τελικά να αντικαθίσταται, χωρίς να δημιουργεί μια νέα στρατηγική ευπάθεια για τη χώρα που το χρησιμοποιεί.
Γι’ αυτό και η χώρα με την καλύτερη στρατιωτική τεχνητή νοημοσύνη ενδέχεται να μην είναι εκείνη που βρίσκεται πρώτη στους πίνακες επιδόσεων. Το ουσιαστικότερο τεστ έρχεται αργότερα: μετά την πρώτη αντικατάσταση hardware, την πρώτη υποβάθμιση της απόδοσης του μοντέλου, την πρώτη διακοπή στην αλυσίδα προμηθειών και την πρώτη πραγματική ανάπτυξη σε ένα αμφισβητούμενο επιχειρησιακό περιβάλλον.
Ένα λιγότερο εντυπωσιακό σύστημα, το οποίο όμως οι ένοπλες δυνάμεις μπορούν να διατηρήσουν σε λειτουργία, να κατανοήσουν, να επισκευάσουν και κάποια στιγμή να αντικαταστήσουν, μπορεί τελικά να παράγει μεγαλύτερη πραγματική στρατιωτική ισχύ από ένα ανώτερο τεχνολογικά μοντέλο που περιβάλλεται από εύθραυστες εξαρτήσεις.
Ο πρώτος χρόνος αγοράζει τη δυνατότητα. Ο δεύτερος αποκαλύπτει ποιος πραγματικά την ελέγχει.
