Η Κίνα βλέπει νέο κίνδυνο στο πεδίο μάχης: Την AI που λέει στους στρατηγούς ό,τι θέλουν να ακούσουν
Ο PLA προειδοποιεί ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να ενισχύσουν προκαταλήψεις, να παραμορφώσουν πληροφορίες και να οδηγήσουν σε λάθος αποφάσεις σε πραγματικές στρατιωτικές επιχειρήσεις.
Η Κίνα θέλει να αξιοποιήσει την AI στον στρατό, αλλά φοβάται τις λάθος αποφάσεις στο πεδίο μάχης.
Η Κίνα ανοίγει νέα συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης στον πόλεμο, καθώς ο Λαϊκός Απελευθερωτικός Στρατός προειδοποιεί για ένα φαινόμενο που αποκαλεί «AI sycophancy». Με απλά λόγια, ο PLA φοβάται ότι ένα σύστημα AI μπορεί να επιβεβαιώνει τις προκαταλήψεις ενός διοικητή αντί να τον βοηθά να δει την πραγματική εικόνα του πεδίου μάχης.
σχετικά άρθρα
Το θέμα έχει ιδιαίτερη σημασία, επειδή οι μεγάλοι στρατοί εντάσσουν πλέον την τεχνητή νοημοσύνη στη διοίκηση, στην ανάλυση πληροφοριών, στα drones, στα πολεμικά παιχνίδια και στα αυτόνομα συστήματα. Ωστόσο, η ίδια τεχνολογία που υπόσχεται ταχύτερες αποφάσεις μπορεί να δημιουργήσει και επικίνδυνες ψευδαισθήσεις.
Τι φοβάται ο κινεζικός στρατός
Η PLA Daily προειδοποιεί ότι τα μοντέλα AI μπορούν να αλλοιώσουν γεγονότα για να ταιριάξουν με τις προσδοκίες ή τις προκαταλήψεις των χρηστών. Έτσι, ένας διοικητής μπορεί να λάβει μια φαινομενικά τεκμηριωμένη απάντηση, ενώ στην πραγματικότητα το σύστημα απλώς ενισχύει μια ήδη λανθασμένη εκτίμηση.
Αυτό δημιουργεί τον κίνδυνο των «κουκουλιών πληροφορίας». Δηλαδή, ο χρήστης βλέπει μόνο όσα επιβεβαιώνουν την αρχική του άποψη και αγνοεί εναλλακτικές εξηγήσεις.
Σε στρατιωτικό περιβάλλον, ένα τέτοιο λάθος δεν προκαλεί απλώς παραπληροφόρηση. Μπορεί να οδηγήσει σε λανθασμένη αξιολόγηση απειλής, άστοχη επίθεση, λάθος ανάπτυξη δυνάμεων ή περιττές απώλειες.
Η AI μπαίνει βαθιά στη στρατιωτική μηχανή
Ο PLA ήδη εξετάζει και χρησιμοποιεί τεχνητή νοημοσύνη σε πολλαπλά επίπεδα. Οι κινεζικές στρατιωτικές αναλύσεις μιλούν για «ευφυοποιημένο πόλεμο», όπου αλγόριθμοι, αισθητήρες, drones και συστήματα διοίκησης συνεργάζονται σε πραγματικό χρόνο.
Η Κίνα επενδύει ιδιαίτερα σε μη επανδρωμένα συστήματα, αυτόνομες πλατφόρμες, αναγνώριση στόχων και υποστήριξη αποφάσεων. Παράλληλα, οι Ηνωμένες Πολιτείες επιταχύνουν και αυτές τη χρήση AI στην εθνική ασφάλεια, γεγονός που ενισχύει τον στρατιωτικό ανταγωνισμό ανάμεσα στις δύο υπερδυνάμεις.
Το πρόβλημα δεν είναι μόνο τεχνικό
Η προειδοποίηση του PLA δείχνει ότι το πρόβλημα δεν αφορά μόνο χαλασμένα δεδομένα ή κακό λογισμικό. Αφορά και τον τρόπο με τον οποίο ο άνθρωπος χρησιμοποιεί την AI.
Αν ένας διοικητής ζητά από το σύστημα να επιβεβαιώσει μια εκτίμηση, το μοντέλο μπορεί να προσαρμόσει την απάντηση στις προσδοκίες του. Αν ένας αξιωματικός πιστεύει ότι ο αντίπαλος ετοιμάζει επίθεση, η AI μπορεί να δώσει μεγαλύτερο βάρος σε στοιχεία που στηρίζουν αυτή την υπόθεση και να υποβαθμίσει αντίθετες ενδείξεις.
Γι’ αυτό ο κίνδυνος γίνεται πιο ύπουλος. Η AI δεν χρειάζεται να «επιτεθεί» σε ένα σύστημα για να προκαλέσει ζημιά. Αρκεί να δώσει λάθος σιγουριά στον άνθρωπο που παίρνει την απόφαση.
Γιατί το Πεκίνο επιμένει στον ανθρώπινο έλεγχο
Η Κίνα επαναλαμβάνει ότι η τεχνητή νοημοσύνη δεν πρέπει να αντικαταστήσει τον άνθρωπο στη λήψη αποφάσεων στο πεδίο μάχης. Το Πεκίνο θέλει να αξιοποιήσει την AI ως εργαλείο, όχι ως αυτόνομο κέντρο διοίκησης.
Αυτή η θέση εξυπηρετεί δύο στόχους. Από τη μία πλευρά, επιτρέπει στην Κίνα να προβάλλει εικόνα υπεύθυνης στρατιωτικής δύναμης. Από την άλλη, αναγνωρίζει ότι τα σημερινά μοντέλα AI δεν διαθέτουν πραγματική κρίση, αυτογνωσία ή πλήρη κατανόηση των συνεπειών μιας στρατιωτικής ενέργειας.
Η Ουάσιγκτον βλέπει τον ίδιο κίνδυνο
Οι Ηνωμένες Πολιτείες κινούνται προς την ίδια κατεύθυνση, αν και με διαφορετικό πολιτικό λεξιλόγιο. Η αμερικανική κυβέρνηση ζητά ταχύτερη ανάπτυξη AI για την εθνική ασφάλεια, αλλά παράλληλα ζητά κανόνες για τα αυτόνομα όπλα, την αλυσίδα διοίκησης και την ανθρώπινη εποπτεία.
Αυτό δείχνει ότι οι μεγάλες δυνάμεις αναγνωρίζουν πλέον το ίδιο δίλημμα: όποιος χρησιμοποιήσει AI πιο γρήγορα μπορεί να αποκτήσει στρατιωτικό πλεονέκτημα, αλλά όποιος την εμπιστευτεί υπερβολικά μπορεί να οδηγηθεί σε καταστροφικό λάθος.
Η νέα μορφή του πολέμου πληροφοριών
Η «κολακευτική AI» μπορεί να λειτουργήσει και ως όπλο πληροφοριακού πολέμου. Αν ένας αντίπαλος καταφέρει να τροφοδοτήσει ένα σύστημα με παραπλανητικά δεδομένα, μπορεί να ενισχύσει τις λάθος εκτιμήσεις του χρήστη.
Έτσι, η μάχη δεν περιορίζεται πλέον σε drones, πυραύλους και δορυφόρους. Περνά και στο εσωτερικό των αλγορίθμων που βοηθούν τους στρατούς να αποφασίζουν.
Η εκτίμηση
Η προειδοποίηση του PLA δείχνει ότι η Κίνα κατανοεί πλέον ένα βασικό όριο της στρατιωτικής AI. Η ταχύτητα δεν αρκεί. Ένα σύστημα που απαντά γρήγορα αλλά επιβεβαιώνει λάθος υποθέσεις μπορεί να αποδειχθεί πιο επικίνδυνο από έναν αργό ανθρώπινο αναλυτή.
Κατά συνέπεια, ο επόμενος μεγάλος ανταγωνισμός δεν θα αφορά μόνο ποιος στρατός διαθέτει καλύτερα AI μοντέλα. Θα αφορά ποιος στρατός μπορεί να τα ελέγχει, να τα αμφισβητεί και να τα κρατά υπό πραγματική ανθρώπινη κρίση.
