Η Anthropic προειδοποιεί για «κράτος ιδιοφυιών» από την ΤΝ
Μία από τις πλέον επιδραστικές προειδοποιήσεις προήλθε από τον Dario Amodei, επικεφαλής της Anthropic.
Η Anthropic προειδοποιεί για «κράτος ιδιοφυιών» από την ΤΝ
Η συζήτηση σχετικά με την Τεχνητή Νοημοσύνη έχει εισέλθει σε μία νέα φάση. Ενώ παλαιότερα οι κύριες ανησυχίες εστιάζονταν στην απώλεια θέσεων εργασίας, την παραπληροφόρηση ή τις κυβερνοεπιθέσεις, πλέον κορυφαίοι παράγοντες του κλάδου εκφράζουν ανοιχτά φόβους για δυνητικούς κινδύνους που θα μπορούσαν να απειλήσουν την ανθρωπότητα.
σχετικά άρθρα
Μία από τις πλέον επιδραστικές προειδοποιήσεις προήλθε από τον Dario Amodei, επικεφαλής της Anthropic, μίας εκ των κορυφαίων εταιρειών στον τομέα της τεχνητής νοημοσύνης, ανταγωνίστριας της OpenAI και της Google DeepMind.
Σε πρόσφατη δημόσια τοποθέτησή του, ο κ. Amodei σκιαγράφησε ένα μέλλον όπου η Τεχνητή Νοημοσύνη ενδέχεται να εξελιχθεί με πρωτοφανείς ρυθμούς, υπερβαίνοντας κάθε προηγούμενο τεχνολογικό ορόσημο. Επισήμανε ότι, εντός τεσσάρων ετών, τα μοντέλα AI από την ικανότητα να παράγουν απλές γραμμές κώδικα, έφτασαν στο σημείο να δημιουργούν σημαντικό μέρος του λογισμικού που χρησιμοποιείται από κορυφαίες εταιρείες τεχνολογίας.
Σύμφωνα με την εκτίμησή του, εάν οι τρέχοντες ρυθμοί εξέλιξης διατηρηθούν για ένα ή δύο επιπλέον έτη, η ανθρωπότητα ενδέχεται να αντιμετωπίσει μία μορφή νοημοσύνης που θα περιγραφόταν ως «ένα κράτος γεμάτο ιδιοφυΐες μέσα σε ένα κέντρο δεδομένων». Αυτή η περιγραφή υπογραμμίζει το μέγεθος της υπολογιστικής και πνευματικής ισχύος που προβλέπεται για τα μελλοντικά συστήματα τεχνητής νοημοσύνης.
Η Anthropic εκτιμά ότι οι μείζονες κίνδυνοι πιθανώς δεν θα προέλθουν από τις κυβερνοεπιθέσεις, αλλά από τον τομέα της βιολογίας. Η εταιρεία προειδοποιεί ότι προηγμένα μοντέλα AI θα μπορούσαν μελλοντικά να παρέχουν γνώσεις και δυνατότητες για τον σχεδιασμό βιολογικών όπλων, απειλώντας την παγκόσμια ασφάλεια.
Αυτή η ανησυχία είναι ιδιαίτερα σημαντική, καθώς εκφράζεται από μία εταιρεία που αναπτύσσει τα πλέον προηγμένα μοντέλα AI. Ο κ. Amodei υποστηρίζει ότι οι κυβερνήσεις οφείλουν να διαχειριστούν τα συστήματα τεχνητής νοημοσύνης με τρόπο ανάλογο των αεροσκαφών, των φαρμάκων ή ακόμα και των πυρηνικών υλικών: ως τεχνολογίες με μεγάλη χρησιμότητα, αλλά και δυνητικά καταστροφικές εάν χρησιμοποιηθούν εσφαλμένα.
Για τον λόγο αυτό, προτείνει τη σύσταση ενός ανεξάρτητου ρυθμιστικού οργανισμού με αρμοδιότητες αντίστοιχες εκείνων της Ομοσπονδιακής Υπηρεσίας Αεροπορίας των ΗΠΑ. Σύμφωνα με την πρόταση, κάθε προηγμένο μοντέλο τεχνητής νοημοσύνης θα πρέπει να υπόκειται σε υποχρεωτικούς ελέγχους και εξωτερικές αξιολογήσεις πριν τη δημόσια διάθεσή του.
Οι προτεινόμενοι έλεγχοι θα επικεντρώνονται σε τέσσερις βασικούς τομείς: την κυβερνοασφάλεια, τους βιολογικούς κινδύνους, την πιθανή απώλεια ανθρώπινου ελέγχου επί των συστημάτων και την αυτοματοποιημένη έρευνα που ενδέχεται να επιταχύνει τους προαναφερθέντες κινδύνους. Σε περίπτωση που ένα μοντέλο κριθεί επικίνδυνο, οι κυβερνήσεις θα πρέπει να διαθέτουν τη δυνατότητα να αναστέλλουν την ανάπτυξή του.
Ο κ. Amodei προχωρά ακόμα περαιτέρω, εκτιμώντας ότι η Τεχνητή Νοημοσύνη ενδέχεται σύντομα να μην παρομοιάζεται πλέον με αεροσκάφη ή φάρμακα, αλλά με πυρηνική τεχνολογία. Πρόκειται για ένα εργαλείο τόσο ισχυρό που θα μπορούσε να συνιστά υπαρξιακή απειλή για την ανθρωπότητα, εάν εκφύγει του ελέγχου.
Εξίσου κρίσιμες είναι οι εκτιμήσεις του κ. Amodei για την αγορά εργασίας. Η Anthropic προβλέπει ότι σύντομα, μικρές ομάδες εργαζομένων θα είναι σε θέση να επιτύχουν επίπεδα παραγωγικότητας που σήμερα απαιτούν χιλιάδες, ή ακόμα και εκατοντάδες χιλιάδες, εργαζομένους.
Το περιγραφόμενο σενάριο είναι εντυπωσιακό: μία ομάδα μόλις 100 εργαζομένων, υποστηριζόμενη από προηγμένα συστήματα AI, θα μπορούσε να παράγει έργο ισοδύναμο με αυτό που σήμερα απαιτεί 100.000 άτομα. Ενώ η παραγωγικότητα θα εκτοξευθεί, το ίδιο ενδέχεται να συμβεί και με τις κοινωνικές ανισότητες.
Ο κ. Amodei δεν αμφισβητεί ότι η Τεχνητή Νοημοσύνη θα δημιουργήσει τεράστιο οικονομικό πλούτο. Αντιθέτως, θεωρεί σχεδόν βέβαιο ότι η παγκόσμια οικονομία θα σημειώσει πρωτοφανείς ρυθμούς ανάπτυξης. Το ζήτημα εντοπίζεται στην κατανομή αυτού του πλούτου. Όπως προειδοποιεί, ο κόσμος κινδυνεύει να οδηγηθεί σε μία κατάσταση «υπερ-ανάπτυξης και υπερ-ανισότητας», όπου η παραγωγή θα αυξάνεται ραγδαία, αλλά τα οφέλη θα συγκεντρώνονται σε περιορισμένο αριθμό ατόμων.
Οι γεωπολιτικές προεκτάσεις κρίνονται εξίσου σημαντικές. Ο επικεφαλής της Anthropic παρομοιάζει το χάσμα μεταξύ μίας χώρας που διαθέτει πανίσχυρη AI και μίας που δεν διαθέτει, με τη διαφορά μεταξύ ενός στρατού πεζοναυτών του Β’ Παγκοσμίου Πολέμου και ενός στρατού μεσαιωνικών ξιφομάχων.
Σύμφωνα με την ανάλυσή του, ένα προηγμένο σύστημα τεχνητής νοημοσύνης θα μπορούσε να λειτουργεί ως ένα εικονικό κράτος εκατοντάδων εκατομμυρίων ιδιοφυών επιστημόνων. Εκατομμύρια «ψηφιακοί εγκέφαλοι» θα μπορούσαν να ασχολούνται ταυτόχρονα με στρατηγικό σχεδιασμό, ανάπτυξη όπλων, κατασκευή drones, συλλογή πληροφοριών, κυβερνοάμυνα και επιστημονική έρευνα.
Σε αυτό το πλαίσιο, η Anthropic ζητά ακόμη και μία προσωρινή επιβράδυνση στην ανάπτυξη της AI. Ωστόμως, η πρόταση αυτή συνοδεύεται από ένα σημαντικό πρακτικό πρόβλημα: ποιος θα συμφωνήσει να σταματήσει πρώτος;
Η εταιρεία αναγνωρίζει ότι η κατάσταση θυμίζει το περίφημο «δίλημμα του φυλακισμένου». Εάν μία εταιρεία ή μία χώρα επιβραδύνει την ανάπτυξη της AI, οι ανταγωνιστές της μπορούν να αποκτήσουν σημαντικό πλεονέκτημα. Αυτό καθιστά εξαιρετικά δύσκολη οποιαδήποτε διεθνή συμφωνία μεταξύ εταιρειών όπως οι OpenAI, Anthropic, Google, xAI ή οι κινεζικοί κολοσσοί DeepSeek, Alibaba, Tencent και ByteDance.
Και ενώ οι προαναφερθείσες ανησυχίες αφορούν κυρίως το λογισμικό, η Anthropic εκτιμά ότι η επόμενη μεγάλη επανάσταση θα είναι η ρομποτική. Η λεγόμενη «ενσωματωμένη νοημοσύνη» αναμένεται να ακολουθήσει την ίδια εκθετική πορεία ανάπτυξης. Τα ρομπότ θα είναι σε θέση να παρέχουν φροντίδα σε ηλικιωμένους, να εργάζονται σε εργοστάσια, να διεξάγουν επιστημονικές έρευνες, να συμμετέχουν σε στρατιωτικές επιχειρήσεις και να αντικαθιστούν σταδιακά τους ανθρώπους σε ολοένα και περισσότερους τομείς.
Για πολλούς αναλυτές, οι τοποθετήσεις του κ. Amodei δεν συνιστούν απλώς μία ακόμη τεχνολογική προειδοποίηση. Αντικατοπτρίζουν τη βαθιά ανησυχία που επικρατεί πλέον ακόμα και εντός του ίδιου του κλάδου της τεχνητής νοημοσύνης, καθώς οι εταιρείες που αναπτύσσουν τα ισχυρότερα μοντέλα παγκοσμίως αρχίζουν να προβληματίζονται από την ταχύτητα της ίδιας τους της δημιουργίας.
Αυτό ενδεχομένως να αποτελεί το πλέον ανησυχητικό μήνυμα.
