Η κούρσα ΗΠΑ και Κίνας στην τεχνητή νοημοσύνη απειλεί την ασφάλεια των χρηστών – Ο κίνδυνος από τα ολοένα ισχυρότερα μοντέλα
Οι προειδοποιήσεις των επικεφαλής της OpenAI και της Anthropic για τους κινδύνους της τεχνητής νοημοσύνης – Πώς ο ανταγωνισμός με την Κίνα επηρεάζει τις αποφάσεις των αμερικανικών εταιρειών και γιατί οι ειδικοί ζητούν ανεξάρτητους ελέγχους
Ο ολοένα εντονότερος ανταγωνισμός ανάμεσα στις Ηνωμένες Πολιτείες και την Κίνα για την κυριαρχία στην τεχνητή νοημοσύνη δημιουργεί ένα σοβαρό δίλημμα για τις μεγαλύτερες αμερικανικές εταιρείες του κλάδου: πόσο γρήγορα πρέπει να αναπτύσσουν και να διαθέτουν νέα, ισχυρότερα μοντέλα, όταν η ασφάλειά τους δεν έχει ακόμη διασφαλιστεί πλήρως;
σχετικά άρθρα
Το ερώτημα αποκτά ιδιαίτερη σημασία καθώς οι επικεφαλής εταιρειών όπως η OpenAI και η Anthropic αναγνωρίζουν την ανάγκη αυστηρότερων ελέγχων, την ίδια στιγμή που η Ουάσινγκτον αντιμετωπίζει την τεχνολογική υπεροχή απέναντι στο Πεκίνο ως ζήτημα οικονομικής και στρατιωτικής ισχύος.
Τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε να επιβραδυνθεί η ανάπτυξη των ισχυρότερων συστημάτων τεχνητής νοημοσύνης, ώστε οι εταιρείες να διαθέτουν περισσότερο χρόνο για να ελέγχουν τη συμπεριφορά τους και να βελτιώνουν την αξιοπιστία τους.
Αντίστοιχα, ο επικεφαλής της OpenAI, Σαμ Άλτμαν, δήλωσε ενώπιον του Συμβουλίου Ασφαλείας των Ηνωμένων Εθνών ότι οι εταιρείες δεν θα πρέπει να εκπαιδεύουν νέα μοντέλα χωρίς ισχυρές αποδείξεις ότι αυτά θα παραμείνουν υπό ανθρώπινο έλεγχο.
Ο Άλτμαν ανέφερε επίσης ότι η εταιρεία του θα επιβραδύνει την ανάπτυξη των συστημάτων της όταν αυτό κρίνεται απαραίτητο.
Ωστόσο, οι συγκεκριμένες δεσμεύσεις έρχονται αντιμέτωπες με την αμερικανική στρατηγική για τη διατήρηση της παγκόσμιας πρωτοκαθεδρίας στην τεχνητή νοημοσύνη.
Το Σχέδιο Δράσης των ΗΠΑ για την Τεχνητή Νοημοσύνη αντιμετωπίζει την τεχνολογική κυριαρχία ως βασικό παράγοντα οικονομικής και στρατιωτικής ισχύος.
Ακόμη και η πρόταση του Αμοντέι για συντονισμένη επιβράδυνση της ανάπτυξης συνδέεται με την προϋπόθεση ότι οι δημοκρατικές χώρες θα εξακολουθήσουν να διατηρούν το προβάδισμά τους έναντι της Κίνας.
Αυτό δημιουργεί έναν ιδιαίτερο κίνδυνο. Εάν μια τεχνολογική επιτυχία της Κίνας οδηγήσει μια αμερικανική εταιρεία να κυκλοφορήσει ένα μοντέλο που προηγουμένως θεωρούσε υπερβολικά επικίνδυνο, το μοντέλο δεν θα έχει γίνει ασφαλέστερο.
Απλώς, ο φόβος ότι η εταιρεία θα μείνει πίσω στον ανταγωνισμό θα έχει καταστήσει τους κινδύνους του περισσότερο αποδεκτούς.
Με αυτόν τον τρόπο, η πρόοδος των κινεζικών εταιρειών θα μπορούσε να επηρεάζει έμμεσα το επίπεδο κινδύνου στο οποίο εκτίθενται οι Αμερικανοί χρήστες, ακόμη και χωρίς η Κίνα να έχει κατακτήσει την πρώτη θέση στον κλάδο.
Οι συνέπειες θα αφορούσαν και τις υπόλοιπες χώρες που χρησιμοποιούν αμερικανικά συστήματα τεχνητής νοημοσύνης.
Πώς ο ανταγωνισμός με την Κίνα επηρεάζει τους κανόνες ασφαλείας
Οι πολιτικές ασφαλείας των μεγαλύτερων αμερικανικών εταιρειών τεχνητής νοημοσύνης περιλαμβάνουν ήδη προβλέψεις που συνδέουν ορισμένες αποφάσεις με τις δυνατότητες των ανταγωνιστών τους.
Η Anthropic δεσμεύεται να καθυστερεί την ανάπτυξη ή διάθεση ενός ιδιαίτερα ισχυρού μοντέλου όταν χρειάζεται περισσότερο χρόνο για να διαπιστώσει ότι έχει περιορίσει τον κίνδυνο καταστροφικών συνεπειών.
Ωστόσο, η συγκεκριμένη υποχρέωση ισχύει υπό την προϋπόθεση ότι η εταιρεία θεωρεί πως διαθέτει σημαντικό τεχνολογικό προβάδισμα.
Εάν η Anthropic εκτιμήσει ότι έχει χάσει αυτό το προβάδισμα, η υποχρέωση καθυστέρησης παύει να ισχύει.
Η εταιρεία εξακολουθεί να έχει τη δυνατότητα να αναστείλει την ανάπτυξη ή διάθεση ενός μοντέλου και υπό άλλες συνθήκες, αλλά η θέση των ανταγωνιστών της επηρεάζει άμεσα το πότε εφαρμόζεται η συγκεκριμένη δέσμευση.
Αντίστοιχες προβλέψεις περιλαμβάνονται και στο Preparedness Framework της OpenAI, το πλαίσιο αξιολόγησης και αντιμετώπισης κινδύνων που δημοσιεύθηκε τον Απρίλιο του 2025.
Το συγκεκριμένο πλαίσιο επιτρέπει προσαρμογές στα μέτρα προστασίας εάν κάποιος άλλος κατασκευαστής αναπτύξει μοντέλο που φτάνει σε καθορισμένα επίπεδα επικίνδυνων δυνατοτήτων, χωρίς να εφαρμόζει αντίστοιχες δικλίδες ασφαλείας.
Για να προχωρήσει σε μια τέτοια αλλαγή, η OpenAI πρέπει να επαληθεύσει τις συνθήκες και να αναγνωρίσει δημόσια την προσαρμογή.
Παράλληλα, ο συνολικός κίνδυνος σοβαρής βλάβης δεν πρέπει να αυξηθεί ουσιαστικά, ενώ τα μέτρα προστασίας της εταιρείας πρέπει να παραμένουν ισχυρότερα από εκείνα του ανταγωνιστή.
Οι προβλέψεις αυτές αφορούν ανταγωνιστές από οποιαδήποτε χώρα και αποτελούν εταιρικές πολιτικές, όχι κανόνες της αμερικανικής ομοσπονδιακής κυβέρνησης.
Ωστόσο, αποδεικνύουν ότι οι τεχνολογικές δυνατότητες ξένων εταιρειών μπορούν να επηρεάζουν τις αποφάσεις ασφαλείας των αμερικανικών επιχειρήσεων.
Ο ανταγωνισμός με την Κίνα έχει ήδη επηρεάσει και τις προσπάθειες των εταιρειών να διαμορφώσουν την αμερικανική πολιτική.
Τον Μάρτιο του 2025, η OpenAI επικαλέστηκε την κινεζική εταιρεία DeepSeek, υποστηρίζοντας ότι η ρύθμιση της τεχνητής νοημοσύνης σε επίπεδο αμερικανικών πολιτειών θα μπορούσε να υπονομεύσει την ανταγωνιστικότητα των Ηνωμένων Πολιτειών.
Δύο μήνες αργότερα, ο διευθύνων σύμβουλος της NVIDIA, Τζένσεν Χουάνγκ, υποστήριξε ότι οι περιορισμοί στις πωλήσεις αμερικανικών μικροκυκλωμάτων προς την Κίνα θα ενίσχυαν τους κινεζικούς ανταγωνιστές.
Η τοποθέτησή του έγινε λίγο αφότου η NVIDIA είχε καταγράψει επιβάρυνση 4,5 δισεκατομμυρίων δολαρίων, εξαιτίας των περιορισμών στις εξαγωγές των μικροκυκλωμάτων τεχνητής νοημοσύνης H20 προς την κινεζική αγορά.
Οι δύο περιπτώσεις αφορούσαν διαφορετικά ζητήματα, τη ρύθμιση της τεχνητής νοημοσύνης και την πρόσβαση σε προηγμένα μικροκυκλώματα.
Αναδεικνύουν, όμως, ότι οι αμερικανικές εταιρείες έχουν και εμπορικά κίνητρα να πιέζουν την Ουάσινγκτον, επικαλούμενες τις τεχνολογικές εξελίξεις στην Κίνα.
Το Πεκίνο δεν θα χρειαζόταν απαραίτητα να συντονίσει αυτές τις πιέσεις για να επωφεληθεί από τις συνέπειές τους.
Ένα ακόμη κρίσιμο ζήτημα είναι ο τρόπος με τον οποίο αξιολογείται η πραγματική πρόοδος των κινεζικών μοντέλων.
Οι αμερικανικές αρχές χρειάζονται αξιόπιστα στοιχεία για τις δυνατότητές τους, προκειμένου να αποφασίζουν εάν απαιτείται ταχύτερη ανάπτυξη ή αλλαγή πολιτικής.
Ωστόσο, οι συγκρίσεις μεταξύ διαφορετικών συστημάτων μπορούν να παρουσιάζουν σημαντικές αποκλίσεις, ανάλογα με τις δοκιμές που χρησιμοποιούνται.
Τον Μάιο, το αμερικανικό κυβερνητικό Κέντρο Προτύπων και Καινοτομίας Τεχνητής Νοημοσύνης εξέτασε το κινεζικό μοντέλο DeepSeek V4 Pro.
Τα αποτελέσματα που είχε δημοσιεύσει η ίδια η DeepSeek υποδείκνυαν ότι το μοντέλο της είχε επιδόσεις συγκρίσιμες με κορυφαία αμερικανικά συστήματα που είχαν κυκλοφορήσει περίπου δύο μήνες νωρίτερα.
Ωστόσο, οι δοκιμές του αμερικανικού κέντρου κατέταξαν τη συνολική απόδοσή του πιο κοντά σε εκείνη ενός αμερικανικού μοντέλου που είχε κυκλοφορήσει περίπου οκτώ μήνες νωρίτερα.
Η διαφορά δεν αποδεικνύει ότι η κινεζική εταιρεία παρουσίασε παραπλανητικά στοιχεία, καθώς οι δύο αξιολογήσεις εξέταζαν διαφορετικές δυνατότητες.
Δείχνει, όμως, ότι οι αρμόδιοι αξιωματούχοι πρέπει να εξετάζουν προσεκτικά τι ακριβώς μετρά κάθε δοκιμή, προτού χρησιμοποιήσουν τα αποτελέσματα για να δικαιολογήσουν αλλαγές στην πολιτική ασφαλείας.
Εάν κινεζικοί φορείς επέλεγαν να προβάλλουν αποκλειστικά τα καλύτερα αποτελέσματα, αμερικανικές εταιρείες θα μπορούσαν να επικαλεστούν αυτά τα στοιχεία για να υποστηρίξουν ότι οι περιορισμοί των ΗΠΑ επιτρέπουν στην Κίνα να τις ξεπεράσει.
Η αντιπαράθεση γύρω από τη DeepSeek και τους περιορισμούς στις εξαγωγές μικροκυκλωμάτων δείχνει πώς τα επιχειρήματα περί κινεζικού ανταγωνισμού μπορούν να επηρεάζουν την αμερικανική πολιτική.
Ωστόσο, η ακρίβεια κάθε ισχυρισμού σχετικά με τις δυνατότητες της Κίνας απαιτεί ξεχωριστή τεχνική αξιολόγηση.
Το ίδιο ισχύει και για τις αναφορές σε περιστατικά αποτυχίας ή επικίνδυνης συμπεριφοράς συστημάτων τεχνητής νοημοσύνης.
Ένα πραγματικό και επιβεβαιωμένο περιστατικό στην Κίνα θα μπορούσε να αποκαλύψει αδυναμία που υπάρχει και σε αμερικανικά μοντέλα, δικαιολογώντας πρόσθετες δοκιμές πριν από τη διάθεσή τους.
Αντίθετα, μια υπερβολική ή κατασκευασμένη αναφορά θα μπορούσε να προκαλέσει καθυστερήσεις χωρίς να αποδεικνύεται ότι ο ίδιος κίνδυνος υφίσταται.
Το ενδεχόμενο σκόπιμης κατασκευής τέτοιων περιστατικών από το Πεκίνο παραμένει υποθετικό και δεν παρουσιάζεται ως επιβεβαιωμένη πρακτική.
Για τον λόγο αυτό, οι αρχές θα πρέπει να αναζητούν ανεξάρτητες αποδείξεις προτού χρησιμοποιήσουν τέτοιες αναφορές ως βάση για αλλαγές στα αμερικανικά προγράμματα ανάπτυξης.
Οι κυβερνοεπιθέσεις από μοντέλα AI και η ανάγκη για ανεξάρτητους ελέγχους
Οι κίνδυνοι από τις δυνατότητες των προηγμένων συστημάτων τεχνητής νοημοσύνης δεν είναι μόνο θεωρητικοί.
Τον Ιούλιο, αξιολογητές της βρετανικής και της αμερικανικής κυβέρνησης κατέγραψαν ένα συγκεκριμένο ζήτημα κυβερνοασφάλειας κατά τη δοκιμή του κινεζικού μοντέλου Kimi K3, που αναπτύχθηκε από την εταιρεία Moonshot AI.
Το μοντέλο κατάφερε να ολοκληρώσει μια προσομοιωμένη επίθεση σε δίκτυο σε μία από τις δέκα προσπάθειες.
Η δοκιμή πραγματοποιήθηκε σε περιβάλλον όπου το σύστημα είχε ήδη αρχική πρόσβαση στο δίκτυο και δεν υπήρχαν ενεργοί αμυντικοί μηχανισμοί που να επιχειρούν να το σταματήσουν.
Παρά τους περιορισμούς αυτούς, το αποτέλεσμα έδειξε ότι ακόμη και ένα μοντέλο που υπολείπεται των κορυφαίων αμερικανικών συστημάτων μπορεί να διαθέτει δυνατότητες σχετικές με την πραγματική κυβερνοασφάλεια.
Το συγκεκριμένο εύρημα δημιουργεί ένα ακόμη δίλημμα.
Η ταχύτερη πρόσβαση αξιόπιστων ειδικών κυβερνοάμυνας σε ισχυρότερα αμερικανικά εργαλεία τεχνητής νοημοσύνης θα μπορούσε να τους βοηθήσει να αντιμετωπίσουν τέτοιες απειλές.
Ωστόσο, η ευρύτερη διάθεση των ίδιων εργαλείων θα μπορούσε να διευκολύνει και όσους επιδιώκουν να πραγματοποιήσουν κυβερνοεπιθέσεις.
Επομένως, μια εταιρεία που προτείνει την ταχύτερη πρόσβαση σε προηγμένα μοντέλα θα πρέπει να εξηγεί με ποιον τρόπο οι χρήστες στους οποίους απευθύνεται θα ενισχύσουν την ασφάλεια, αλλά και ποια μέτρα θα εμποδίζουν την κακόβουλη χρήση.
Η κατάλληλη αντιμετώπιση εξαρτάται από τις συγκεκριμένες δυνατότητες του συστήματος και από τον τρόπο με τον οποίο πρόκειται να χρησιμοποιηθεί.
Οι αμερικανικές εταιρείες έχουν ήδη δείξει ότι μπορούν να περιορίζουν συγκεκριμένες δραστηριότητες όταν εντοπίζουν κινδύνους, χωρίς να διακόπτουν συνολικά την ανάπτυξη της τεχνολογίας.
Η OpenAI ανέφερε ότι ανέστειλε για περίπου δύο εβδομάδες ορισμένες διαδικασίες εκπαίδευσης προηγμένων μοντέλων, προκειμένου να ενισχύσει τα μέτρα προστασίας.
Αντίστοιχα, στις 9 Οκτωβρίου, η Anthropic ανακοίνωσε σχέδια για περιορισμό της ζωντανής πρόσβασης στο διαδίκτυο σε όλες τις εσωτερικές αξιολογήσεις της.
Η απόφαση ακολούθησε τον εντοπισμό ανεπιθύμητων ενεργειών από συστήματα τεχνητής νοημοσύνης, μεταξύ των οποίων και η πρόσβαση σε συστήματα μέσω ευπαθειών λογισμικού.
Η εταιρεία διευκρίνισε ότι οι επιπτώσεις που παρατηρήθηκαν ήταν ελάχιστες.
Και στις δύο περιπτώσεις, οι περιορισμοί αφορούσαν συγκεκριμένες δραστηριότητες, ενώ οι υπόλοιπες διαδικασίες ανάπτυξης μπορούσαν να συνεχιστούν.
Τα παραδείγματα αυτά δείχνουν ότι η ασφάλεια δεν απαιτεί απαραίτητα την πλήρη διακοπή της τεχνολογικής προόδου, αλλά μπορεί να επιτευχθεί και μέσω στοχευμένων παρεμβάσεων.
Στο μεταξύ, Ουάσινγκτον και Πεκίνο συμφώνησαν τον Σεπτέμβριο να δημιουργήσουν έναν δίαυλο επικοινωνίας για περιστατικά που αφορούν την τεχνητή νοημοσύνη, με νέα ανταλλαγή απόψεων να αναμένεται έως τον Νοέμβριο.
Η συγκεκριμένη διαδικασία θα μπορούσε να χρησιμοποιηθεί για τον καθορισμό τρόπων επαλήθευσης των αναφορών σχετικά με επικίνδυνα περιστατικά, αλλά και για να συμφωνηθεί ποιες τεχνικές πληροφορίες μπορούν να κοινοποιούνται σε ανεξάρτητους αξιολογητές.
Το βασικό ζητούμενο είναι οι αποφάσεις ασφαλείας να στηρίζονται σε επαληθευμένες τεχνολογικές δυνατότητες και πραγματικούς κινδύνους, όχι αποκλειστικά στον φόβο ότι κάποια χώρα ή εταιρεία θα αποκτήσει προβάδισμα.
Όταν Αμερικανοί αξιωματούχοι ή εταιρείες επικαλούνται την πρόοδο της Κίνας για να δικαιολογήσουν τη χαλάρωση ενός μέτρου προστασίας, θα πρέπει να προσδιορίζουν ποια ακριβώς επιβεβαιωμένη δυνατότητα απαιτεί αντίδραση.
Παράλληλα, θα πρέπει να εξηγούν γιατί η προτεινόμενη αλλαγή ενισχύει την ασφάλεια σε βαθμό που δικαιολογεί τους πρόσθετους κινδύνους και εάν μια πιο περιορισμένη παρέμβαση θα μπορούσε να επιτύχει το ίδιο αποτέλεσμα.
Οι εξηγήσεις αυτές θα πρέπει να υπόκεινται σε ανεξάρτητο έλεγχο προτού οι χρήστες εκτεθούν σε κινδύνους που προηγουμένως είχαν κριθεί μη αποδεκτοί.
Το κρίσιμο ζήτημα, επομένως, δεν είναι μόνο ποια χώρα θα αναπτύξει πρώτη το ισχυρότερο σύστημα τεχνητής νοημοσύνης, αλλά και εάν ο ανταγωνισμός θα οδηγήσει τις εταιρείες να αποδεχθούν κινδύνους που διαφορετικά θα επιχειρούσαν να περιορίσουν.
