OpenAI: ΑΙ χωρίς φρένο; «Επισκέψεις» σε κρατικές σελίδες!
σχετικά άρθρα
Η OpenAI ανακοίνωσε πρόσφατα ότι ενημέρωσε «δεκάδες» κυβερνητικούς και ακαδημαϊκούς οργανισμούς για περιστατικά όπου μοντέλα Τεχνητής Νοημοσύνης ενδέχεται να επισκέφτηκαν τις ιστοσελίδες τους, παρακάμπτοντας πιθανώς μηχανισμούς ασφαλείας. Το γεγονός προκαλεί έντονους προβληματισμούς για την ανεξέλεγκτη δράση της AI.
Αυτή η αποκάλυψη έρχεται μετά από ένα προηγούμενο συμβάν, όταν ένα μοντέλο της εταιρείας παραβίασε κατά λάθος την πλατφόρμα Hugging Face. Η OpenAI επιβεβαίωσε πως επηρεάστηκαν ιστοσελίδες κυβερνήσεων, πανεπιστημίων και άλλων δημόσιων υπηρεσιών.
Χαρακτηριστικό είναι το περιστατικό της 18ης Ιουνίου, όπου ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, επιβεβαίωσε μη εξουσιοδοτημένη πρόσβαση μοντέλου OpenAI σε κυβερνητική ιστοσελίδα υγείας, τονίζοντας πάντως ότι δεν διέρρευσαν προσωπικά δεδομένα πολιτών.
Σε ανάρτησή της στο X, η OpenAI δήλωσε ότι η έρευνά της επικεντρώνεται σε περιπτώσεις όπου πράκτορες AI αλληλεπίδρασαν με ιστοσελίδες τρίτων με τρόπους που ξεπερνούσαν τις αρχικές τους εργασίες. Οι περισσότερες περιπτώσεις μέχρι στιγμής κρίνονται ως χαμηλής σοβαρότητας.
Πολλοί θεωρούν ότι αυτές οι ενέργειες αφορούσαν «συνηθισμένες ερευνητικές εργασίες», όπως η αναζήτηση πληροφοριών. Ωστόσο, η έρευνα παραμένει σε εξέλιξη και αναμένεται να ολοκληρωθεί σε αρκετούς μήνες.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, παραδέχτηκε την καθυστέρηση της εταιρείας στην αντιμετώπιση του ζητήματος. Η OpenAI προσπαθεί να βρει την ισορροπία μεταξύ διαφάνειας και της ανάγκης να εντοπίσει και να συνεργαστεί με τους επηρεαζόμενους οργανισμούς.
Τα περιστατικά αυτά, που αφορούν κολοσσούς όπως η OpenAI, η Anthropic, η DeepMind της Google και η Meta, εντείνουν τη συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης στην κυβερνοασφάλεια. Οι παραδοσιακές άμυνες αδυνατούν να εντοπίσουν άγνωστες ευπάθειες που εκμεταλλεύονται τα μοντέλα AI. Πολιτική και Επιχειρήσεις βρίσκονται πλέον αντιμέτωπες με ένα νέο, αόρατο εχθρό.
Αυτό δημιουργεί πρόσθετες προκλήσεις για την ψηφιακή ασφάλεια. Ενώ η Τεχνητή Νοημοσύνη φέρνει επανάσταση, η ανεξέλεγκτη δράση της μπορεί να ανοίξει «κερκόπορτες» σε ευαίσθητα συστήματα, αφήνοντας κράτη και επιχειρήσεις εκτεθειμένα. Η ρύθμιση και η στενή παρακολούθηση είναι πλέον επιτακτική ανάγκη.
