Η κυβέρνηση των ΗΠΑ «πάτησε τον διακόπτη» στην AI – Πώς η Anthropic βρέθηκε μέσα σε 90 λεπτά να κλείνει το ισχυρότερο μοντέλο της
Η αιφνιδιαστική παρέμβαση της Ουάσινγκτον, η κόντρα με την Amazon, οι φόβοι για την εθνική ασφάλεια και οι συνέπειες που μπορεί να αλλάξουν ολόκληρη τη βιομηχανία της AI
Μέχρι πριν από λίγους μήνες, η Anthropic ήταν γνωστή κυρίως ως μία από τις εταιρείες που έδιναν ιδιαίτερη έμφαση στην ασφάλεια της τεχνητής νοημοσύνης. Σήμερα, όμως, βρίσκεται στο επίκεντρο μιας υπόθεσης που πολλοί χαρακτηρίζουν ως πρωτοφανή παρέμβαση της αμερικανικής κυβέρνησης στην αγορά της AI.
σχετικά άρθρα
Η εταιρεία, η οποία είχε ήδη καταθέσει εμπιστευτικά έγγραφα για μία από τις μεγαλύτερες δημόσιες εγγραφές (IPO) στην ιστορία της τεχνολογίας, με εκτιμώμενη αποτίμηση που αγγίζει τα 965 δισεκατομμύρια δολάρια, είδε ξαφνικά την κυβέρνηση των ΗΠΑ να απαιτεί να διακόψει τη λειτουργία των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης που είχε αναπτύξει.
Η ειδοποίηση έφτασε Παρασκευή στις 17:21, αφήνοντας στην εταιρεία μόλις 90 λεπτά για να συμμορφωθεί. Το έγγραφο προερχόταν από το Υπουργείο Εμπορίου των ΗΠΑ και απαιτούσε να σταματήσει κάθε πρόσβαση στα μοντέλα Fable 5 και Mythos 5 για οποιονδήποτε θεωρείται «αλλοδαπός», ανεξάρτητα από το πού βρίσκεται στον κόσμο. Η εταιρεία υποστήριξε ότι ήταν πρακτικά αδύνατο μέσα σε τόσο μικρό χρονικό διάστημα να εξακριβώσει ποιοι χρήστες πληρούσαν αυτό το κριτήριο. Έτσι, προχώρησε στη μόνη λύση που θεωρούσε ασφαλή: έκλεισε προσωρινά την πρόσβαση για όλους τους χρήστες παγκοσμίως.
Οι φόβοι για την εθνική ασφάλεια και η διαφωνία για το πραγματικό πρόβλημα
Η κυβέρνηση υποστήριξε ότι η απόφαση ελήφθη για λόγους εθνικής ασφάλειας, επικαλούμενη τη δυνατότητα επιβολής περιορισμών σε τεχνολογίες που θα μπορούσαν να αξιοποιηθούν για σκοπούς πληροφοριών ή κυβερνοεπιθέσεων.
Ο σύμβουλος του Λευκού Οίκου για την τεχνητή νοημοσύνη, David Sacks, υποστήριξε δημόσια ότι είχε εντοπιστεί ένας ιδιαίτερα επικίνδυνος τρόπος παράκαμψης των συστημάτων ασφαλείας του μοντέλου και ότι η κυβέρνηση είχε ζητήσει από την Anthropic είτε να διορθώσει το πρόβλημα είτε να αποσύρει το προϊόν.
Η εταιρεία, όμως, παρουσίασε εντελώς διαφορετική εικόνα. Δήλωσε ότι δεν είχε λάβει συγκεκριμένες τεχνικές πληροφορίες πριν από την εντολή, ούτε είχε αρνηθεί να επιδιορθώσει οποιοδήποτε πρόβλημα. Μάλιστα, ανέφερε ότι η τεχνική που προκάλεσε τον συναγερμό ουσιαστικά περιοριζόταν στο να ζητά κανείς από το μοντέλο να διαβάσει κώδικα λογισμικού και να εντοπίσει σφάλματα, κάτι που αποτελεί βασική λειτουργία ενός εργαλείου προγραμματισμού.
Η υπόθεση προκάλεσε έντονες αντιδράσεις ακόμη και στον χώρο της κυβερνοασφάλειας. Περισσότεροι από 100 κορυφαίοι ειδικοί από εταιρείες όπως οι Google, Zoom και Sophos υπέγραψαν ανοικτή επιστολή, επισημαίνοντας ότι η κυβέρνηση είχε ουσιαστικά στερήσει από τον κλάδο ένα από τα σημαντικότερα εργαλεία άμυνας απέναντι στις κυβερνοαπειλές. Οι ίδιοι τόνισαν ότι τα μοντέλα της Anthropic διέθεταν ήδη εξαιρετικά αυστηρούς μηχανισμούς ασφαλείας, σε βαθμό που πολλές φορές αρνούνταν ακόμη και απολύτως φυσιολογικές εργασίες, επειδή θεωρούσαν λανθασμένα ότι σχετίζονταν με επιθετικές κυβερνοενέργειες.
Παράλληλα, η εταιρεία υποστήριξε ότι καμία σημερινή πλατφόρμα τεχνητής νοημοσύνης δεν είναι απολύτως απρόσβλητη από κάθε πιθανή προσπάθεια παράκαμψης των περιορισμών της και ότι η λύση βρίσκεται στη συνεχή παρακολούθηση και βελτίωση των συστημάτων ασφαλείας, όχι στην πλήρη απαγόρευση χρήσης.
Ο ρόλος της Amazon, οι αντιδράσεις της Ευρώπης και ο φόβος για το μέλλον της AI
Ακόμη μεγαλύτερη αίσθηση προκάλεσε η αποκάλυψη ότι η πληροφορία που οδήγησε στην κυβερνητική παρέμβαση προήλθε από τον διευθύνοντα σύμβουλο της Amazon, Andy Jassy.
Το γεγονός απέκτησε ιδιαίτερο ενδιαφέρον, καθώς η Amazon αποτελεί έναν από τους μεγαλύτερους επενδυτές της Anthropic, έχοντας επενδύσει ήδη 13 δισεκατομμύρια δολάρια, ενώ έχει δεσμευθεί να διαθέσει συνολικά έως και 25 δισεκατομμύρια. Παράλληλα, η Anthropic έχει συμφωνήσει να δαπανήσει πάνω από 100 δισεκατομμύρια δολάρια στις υπηρεσίες cloud της Amazon για την εκπαίδευση και λειτουργία των μοντέλων της.
Την ίδια στιγμή, όμως, η Amazon αναπτύσσει και δικά της ανταγωνιστικά μοντέλα τεχνητής νοημοσύνης, γεγονός που οδήγησε αρκετούς να σχολιάσουν ότι η υπόθεση δημιουργεί εύλογα ερωτήματα για τις ισορροπίες στον χώρο της AI. Η Amazon περιορίστηκε να δηλώσει ότι είναι φυσιολογικό οι κυβερνήσεις να ζητούν τη γνώμη της για ζητήματα ασφαλείας και ότι δεν σχολιάζει το περιεχόμενο τέτοιων συνομιλιών.
Η υπόθεση έφτασε μέχρι και στη σύνοδο κορυφής της G7 στη Γαλλία, όπου η τεχνητή νοημοσύνη αποτέλεσε βασικό θέμα συζήτησης. Ο Εμανουέλ Μακρόν προειδοποίησε ότι, αν οι Ηνωμένες Πολιτείες μπορούν να «κλείνουν τον διακόπτη» μιας υπηρεσίας από τη μία στιγμή στην άλλη, τότε δημιουργείται σοβαρό πρόβλημα για ολόκληρη τη διεθνή αγορά τεχνολογίας. Παράλληλα, ευρωπαϊκές κυβερνήσεις άρχισαν να συζητούν σχέδια ενίσχυσης της τεχνολογικής αυτονομίας της Ευρώπης, με επενδύσεις εκατοντάδων δισεκατομμυρίων ευρώ σε υποδομές τεχνητής νοημοσύνης και κέντρα δεδομένων.
Την ίδια ώρα, οι εξελίξεις φαίνεται να ευνοούν τους κινεζικούς ανοιχτού κώδικα (open source) αλγορίθμους, οι οποίοι δεν μπορούν να απενεργοποιηθούν από αμερικανικές αρχές και προσφέρονται με πολύ χαμηλότερο κόστος. Σύμφωνα με τον οικονομολόγο Patrick Boyle, αρκετά από τα δημοφιλέστερα μοντέλα τεχνητής νοημοσύνης διεθνώς προέρχονται πλέον από κινεζικές εταιρείες, ενώ το κόστος χρήσης τους είναι έως και 60 φορές χαμηλότερο σε σχέση με αντίστοιχα αμερικανικά συστήματα.
Η υπόθεση ανοίγει έτσι μια πολύ ευρύτερη συζήτηση για το μέλλον της παγκόσμιας αγοράς AI. Οι αποτιμήσεις εταιρειών όπως η Anthropic βασίζονται στην υπόθεση ότι θα κυριαρχήσουν διεθνώς προσφέροντας τις υπηρεσίες τους σε ολόκληρο τον κόσμο. Αν όμως τα πιο προηγμένα μοντέλα αντιμετωπίζονται πλέον ως τεχνολογία στρατηγικής σημασίας και υπόκεινται σε κρατικούς περιορισμούς, τότε η δυνατότητα επέκτασης αυτών των εταιρειών ενδέχεται να αλλάξει ριζικά.
Η ίδια η Anthropic βρίσκεται πλέον σε μια ιδιαίτερα δύσκολη θέση. Η εταιρεία είχε επανειλημμένα προειδοποιήσει για τους κινδύνους που μπορεί να δημιουργήσει η ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης και είχε επενδύσει σημαντικά στην ενίσχυση της ασφάλειας των μοντέλων της. Ωστόσο, αυτή ακριβώς η επιχειρηματολογία φαίνεται πως χρησιμοποιήθηκε τελικά από τις αμερικανικές αρχές ως βάση για την επιβολή των περιορισμών, δημιουργώντας ένα προηγούμενο που ενδέχεται να επηρεάσει ολόκληρη τη βιομηχανία της AI τα επόμενα χρόνια.
