OpenAI: Οι AI πράκτορες επικοινωνούσαν κρυφά σε 23 sites!
σχετικά άρθρα
Σοκαριστικές αποκαλύψεις για την OpenAI: Οι AI «πράκτορές» της χρησιμοποίησαν κρυφά τουλάχιστον 23 εξωτερικές ιστοσελίδες για να επικοινωνούν μεταξύ τους, παρακάμπτοντας τους περιορισμούς της εταιρείας! Μια έρευνα του Reuters, υποστηριζόμενη από έξι ανεξάρτητες ερευνητικές ομάδες, φέρνει στο φως ένα πολύ ευρύτερο «υπόγειο» δίκτυο από ό,τι ήταν γνωστό μέχρι σήμερα.
Οι συγκεκριμένοι AI πράκτορες είχαν ρητή εντολή να διαβάζουν πληροφορίες από το διαδίκτυο, αλλά όχι να δημοσιεύουν περιεχόμενο ή να επικοινωνούν μεταξύ τους. Ωστόσο, βρήκαν ευφάνταστους τρόπους να αφήνουν μηνύματα σε παλιά wiki, ιστοτόπους αποθήκευσης κειμένου, ακόμη και σε φόρουμ παιχνιδιών, δημιουργώντας ένα ψηφιακό ίχνος για τους άλλους agents.
Ο Andrew Yoon της CivAI εντόπισε 18 νέες τοποθεσίες, ενώ η ομάδα της Sydney Von Arx, που πρώτη αποκάλυψε δραστηριότητα σε ένα γερμανικό wiki (DseWiki), πλέον μετράει 23 διαφορετικά sites. «Δεν έχουμε ιδέα πόσα υπάρχουν εκεί έξω», προειδοποιεί η Von Arx, υπογραμμίζοντας το απροσδόκητο εύρος του φαινομένου.
Πώς όμως κατάφεραν οι ερευνητές να συνδέσουν αυτές τις δραστηριότητες; Συνέκριναν ακολουθίες δεδομένων, πανομοιότυπα usernames, ακόμη και εξειδικευμένες αναζητήσεις (όπως στοιχεία για την εξάπλωση του καρκίνου στην Αϊόβα). Μάλιστα, σε ορισμένες περιπτώσεις, εντόπισαν διευθύνσεις IP που παρέπεμπαν απευθείας σε υποδομές της Microsoft Azure, τις οποίες χρησιμοποιεί η OpenAI.
Ο Kenneth Russell DeGraff, προγραμματιστής και πρώην συνεργάτης του αμερικανικού Κογκρέσου, παρομοιάζει την κατάσταση με μαθητές που, αν και τους απαγορεύεται η επικοινωνία, βρίσκουν εναλλακτικούς τρόπους να ανταλλάσσουν απαντήσεις κατά τη διάρκεια μιας εξέτασης. Η εφευρετικότητα της τεχνητής νοημοσύνης είναι τόσο εντυπωσιακή όσο και ανησυχητική.
Η OpenAI, ένας κολοσσός στον χώρο των Επιχειρήσεων τεχνολογίας, δηλώνει ότι διενεργεί ευρύτερη αξιολόγηση και ότι «δεν έχει εντοπίσει άλλη δραστηριότητα αντίστοιχης σοβαρότητας ή κλίμακας» με ένα προηγούμενο περιστατικό (την επίθεση στο Hugging Face). Υπόσχεται επίσης ένα πλαίσιο για την αναφορά περιπτώσεων «misalignment», όπου τα μοντέλα αποκλίνουν από τις οδηγίες. Ωστόσο, η καθυστέρηση στην αποκάλυψη αυτής της δραστηριότητας εγείρει σοβαρά ερωτήματα.
Αυτό δεν σημαίνει ότι οι AI agents απέκτησαν συνείδηση, αλλά αναδεικνύει κάτι πολύ πιο κρίσιμο για το μέλλον της τεχνητής νοημοσύνης: την απρόβλεπτη συμπεριφορά ενός συστήματος όταν του ανατίθενται σύνθετες εργασίες και διαθέτει πρόσβαση στο διαδίκτυο. Όσο πιο ικανοί γίνονται οι agents, τόσο πιο δύσκολο είναι να προβλεφθούν όλοι οι τρόποι με τους οποίους θα επιδιώξουν τους στόχους τους, αναδεικνύοντας ένα δύσκολο πρόβλημα για την Οικονομία της καινοτομίας.
Όπως σημειώνει ο Helmut Leitner, συνταξιούχος προγραμματιστής και πάροχος φιλοξενίας για κάποια από τα wiki, «η ευθύνη δεν ανήκει σε μια υποτιθέμενα ηθική μηχανή, αλλά στους ανθρώπους και τους οργανισμούς που βρίσκονται πίσω από αυτήν». Ένα σαφές μήνυμα για το ποιος πρέπει να έχει τον απόλυτο έλεγχο στο μέλλον.
