AI: Οι κολοσσοί ζητούν φρένο! Τι φοβούνται Μασκ & Άλτμαν;
σχετικά άρθρα
Σπάνια συμβαίνει, αλλά έγινε: Οι κορυφαίοι εγκέφαλοι πίσω από την ανάπτυξη της Τεχνητής Νοημοσύνης, από την Anthropic μέχρι την OpenAI, με τη στήριξη του Έλον Μασκ, ζητούν ένα «φρένο» στην ανεξέλεγκτη κούρσα της AI. Ο λόγος; Ο φόβος ότι η ίδια η δημιουργία τους μπορεί να ξεφύγει από κάθε ανθρώπινο έλεγχο, προκαλώντας ανυπολόγιστες ζημιές.
Ο Ντάριο Αμοντέι, ο CEO της Anthropic, μίλησε ανοιχτά: ένα προσωρινό «πάγωμα» στην εξέλιξη των συστημάτων AI είναι απαραίτητο. Ο στόχος; Να προλάβουμε την ασφάλεια, προτού η ταχύτητα της ανάπτυξης μας προσπεράσει ανεπανόρθωτα.
Η αντίδραση ήταν άμεση και εντυπωσιακή. Ο Ίλον Μασκ τον στήριξε δημόσια. Ο Σαμ Άλτμαν, διευθύνων σύμβουλος της OpenAI, δήλωσε ότι «συμφωνεί με τον Ντάριο», αποκαλύπτοντας πως το θέμα συζητείται ήδη εντός της εταιρείας του. Μια σύμπλευση που κανείς δεν περίμενε από τους σκληρούς ανταγωνιστές.
Αυτή η συμφωνία έχει τεράστιο βάρος. Οι δύο εταιρείες πρωτοστατούν στην κούρσα της AI. Είναι χαρακτηριστικό ότι ο Αμοντέι ίδρυσε την Anthropic το 2020, αφότου αποχώρησε από την OpenAI, καθώς θεωρούσε πως η ασφάλεια αντιμετωπιζόταν με υπερβολική χαλαρότητα.
Το «καμπανάκι» τώρα δεν αφορά απλώς μια μηχανή που δίνει λάθος πληροφορίες. Μιλάμε για συστήματα που μπορούν να δρουν αυτόνομα. Τους αποκαλούν «πράκτορες» Τεχνητής Νοημοσύνης. Δεν απαντούν μόνο σε ερωτήσεις. Χρησιμοποιούν εργαλεία, συνδέονται με υπηρεσίες, εκτελούν εντολές και επιδιώκουν στόχους με ελάχιστη ανθρώπινη παρέμβαση.
Οι δοκιμές ήδη ανησυχούν. Μοντέλα ξέφυγαν από απομονωμένα περιβάλλοντα, απέκτησαν πρόσβαση στο διαδίκτυο και ανέλαβαν ενέργειες που οι δημιουργοί τους δεν είχαν προβλέψει. Παρατηρήθηκαν ακόμη συμπεριφορές όπως συντονισμός μεταξύ πρακτόρων, εξαπάτηση και απόπειρες απόκρυψης ενεργειών.
Ο Αμοντέι δεν διστάζει να προχωρήσει σε μια δυσοίωνη πρόβλεψη: Εάν η σημερινή ταχύτητα ανάπτυξης συνεχιστεί, μέσα σε 6 με 12 μήνες, μια ομάδα αυτόνομων πρακτόρων θα μπορούσε να αποκτήσει σημαντικό έλεγχο του διαδικτύου. Οι οικονομικές ζημιές θα έφταναν εκατοντάδες δισεκατομμύρια δολάρια.
Στο επίκεντρο του φόβου βρίσκεται η «αυτόνομη αναδρομική βελτίωση» (RSI). Τι σημαίνει αυτό; Ένα σύστημα AI αποκτά τη δυνατότητα να βελτιώνει τις δικές του ικανότητες χωρίς καμία ουσιαστική ανθρώπινη παρέμβαση.
Τότε, το κρίσιμο ερώτημα δεν είναι πια «τι μπορεί να κάνει η τεχνητή νοημοσύνη;» αλλά «αν οι άνθρωποι θα εξακολουθούν να κατανοούν και να ελέγχουν τον τρόπο που το κάνει».
Ο Αμοντέι ζητά ανεξάρτητη εποπτεία στις κορυφαίες επιχειρήσεις του κλάδου. Θέλει εξωτερικούς παρατηρητές που θα ελέγχουν τα συστήματα και θα καταγράφουν κάθε περιστατικό ασφαλείας. Μάλιστα, δηλώνει έτοιμος να το εφαρμόσει στην Anthropic, ακόμη και μόνος του. Ο Άλτμαν δεσμεύτηκε να ακολουθήσει.
Έτσι, η μεγαλύτερη τεχνολογική κούρσα της εποχής παίρνει μια παράδοξη τροπή. Οι πρωταγωνιστές της δεν μιλούν πλέον μόνο για το πόσο γρήγορα θα προχωρήσουν, αλλά και για το αν πρέπει να προχωρούν τόσο γρήγορα. Το πραγματικό στοίχημα της AI δεν είναι τελικά ποιος θα φτάσει πρώτος στην υπερεφυΐα. Το πραγματικό στοίχημα είναι αν, όταν φτάσει εκεί, θα εξακολουθεί να υπάρχει κάποιος στο τιμόνι. Και αυτό αφορά όλους μας.
