H φούσκα της Τεχνητής Νοημοσύνης: Τα σενάρια καταστροφής, οι «αλγόριθμοί» και το κυνήγι του χρήματος

Εάν αισθάνεστε ότι σας έχει κατακλύσει το τελευταίο διάστημα μια ατελείωτη ροή ειδήσεων που προαναγγέλλουν την επερχόμενη καταστροφή από την τεχνητή νοημοσύνη, δεν είστε οι μόνοι. Οι διεθνείς τίτλοι είναι σχεδόν αποκαλυπτικοί: πειραματικά εργαστήρια παραβιάζονται, μοντέλα δραπετεύουν και οι διευθύνοντες σύμβουλοι της Σίλικον Βάλεϊ υπογράφουν δραματικές κοινές δηλώσεις, ζητώντας την υποτιθέμενη επιβράδυνση της βιομηχανίας. Ήρθε η ώρα να βάλουμε τα πράγματα στη θέση τους, κοιτάζοντας πίσω από τη βιτρίνα. Αυτό που συχνά περιγράφεται ως «πολιτισμός αυτόνομων πρακτόρων» δεν είναι τίποτα περισσότερο από συμβατικό λογισμικό. Για την ακρίβεια, είναι ένα εξαιρετικά εξελιγμένο μαθηματικό κομπιουτεράκι που τρέχει συνεχώς σε έναν ατέρμονο βρόχο επανάληψης.

σχετικά άρθρα

Η ώρα της αλήθειας για την Ευρωπαϊκή Ένωση – Άμυνα, οικονομία και η έκπληξη του Καναδά

Ο πήλινος γίγαντας: Γιατί καταρρέει ο μύθος του ανίκητου τουρκικού στρατού

Το «κυνήγι» των ρωσικών υποβρυχίων στην Αρκτική – Πόσα μπορεί πραγματικά να βλέπει το ΝΑΤΟ κάτω από τη θάλασσα

Η κατανόηση του λόγου για τον οποίο οι μηχανικοί σε αυτόν τον τομέα λαμβάνουν σήμερα αστρονομικά πακέτα αποδοχών, κρύβει την πραγματική απάντηση στο γιατί αυτοί οι ισχυρισμοί είναι εξωφρενικά υπερβολικοί. Κατανοώντας την αρχιτεκτονική αυτών των συστημάτων, αποκτούμε το απαραίτητο φίλτρο για να αξιολογούμε ψύχραιμα όχι μόνο τις σημερινές αναλύσεις των αγορών, αλλά και τη μελλοντική κατεύθυνση της παγκόσμιας ψηφιακής οικονομίας.

Ο μύθος του αλγορίθμου και η εμπορική του εκμετάλλευση

Πριν από μερικά χρόνια, στο χώρο του real estate, μια startup υποσχόταν ένα επαναστατικό σύστημα που θα ταίριαζε εμπορικούς ενοικιαστές με διαθέσιμους χώρους. Ο ιδρυτής της, προερχόμενος από τον κλάδο των ακινήτων, υποστήριζε με βεβαιότητα πως κατείχε τη μυστική συνταγή. Η υπόσχεσή του στηριζόταν σε μια μαγική, σχεδόν ιερή λέξη της εποχής μας: τον αλγόριθμο. Η λέξη αυτή λειτουργεί συχνά ως το απόλυτο κάλυμμα, ως το αδιαπέραστο μαύρο κουτί που μαγικά θα επιλύσει κάθε επιχειρηματικό πρόβλημα. Είναι ο ίδιος ακριβώς λόγος που οι δημιουργοί στο διαδίκτυο πασχίζουν καθημερινά να «αποκρυπτογραφήσουν» τον αλγόριθμο.

Όμως, τι είναι στην πραγματικότητα ένας αλγόριθμος; Δεν είναι τίποτα παραπάνω από ένα αυστηρό σύνολο από οδηγίες βήμα προς βήμα. Για παράδειγμα, το YouTube έχει έναν μετρήσιμο στόχο: τη μεγιστοποίηση του χρόνου παραμονής στην πλατφόρμα. Ο αλγόριθμός του είναι απλώς μια εκτεταμένη σειρά από εντολές υπό όρους (εάν/τότε). Εάν ένα βίντεο συγκεντρώνει κλικ και ο χρήστης παραμένει για πάνω από τριάντα δευτερόλεπτα, ο κώδικας δίνει εντολή για ευρύτερη διανομή. Σε ελεγχόμενα περιβάλλοντα με απόλυτα μετρήσιμα αποτελέσματα, αυτοί οι κανόνες λειτουργούν ικανοποιητικά. Στον πραγματικό κόσμο όμως, με τις αμέτρητες απρόβλεπτες μεταβλητές, οι αλγόριθμοι συχνά αποτυγχάνουν παταγωδώς. Στην περίπτωση της προαναφερθείσας startup, ο περίφημος «αλγόριθμος» κατέληξε να είναι ένας νεαρός ασκούμενος που αξιολογούσε χειροκίνητα τις αγγελίες, αποδεικνύοντας ότι αυτό που φαντάζει ως μαγεία, συχνά κρύβει τεράστιες υπερβολές μάρκετινγκ.

Κώδικας, μικροσκοπικοί διακόπτες και γλώσσα

Για να κατανοήσουμε την τρέχουσα φρενίτιδα, οφείλουμε να επιστρέψουμε στη βάση της τεχνολογίας, στον ίδιο τον κώδικα. Ο κώδικας είναι απλώς εντολές προς ένα μηχάνημα. Εάν αναλύσουμε ογδόντα χρόνια υπολογιστικής εξέλιξης, καταλήγουμε πάντα στο ίδιο θεμελιώδες σημείο: οδηγίες που καθορίζουν εάν το σύστημα θα πρέπει να ανοίξει ή να κλείσει μικροσκοπικούς διακόπτες. Ξεκινήσαμε με το δυαδικό σύστημα, και κάθε καινοτομία έκτοτε –από τη συμβολική γλώσσα μέχρι τις σύγχρονες γλώσσες προγραμματισμού– είχε ως μοναδικό στόχο να κάνει αυτές τις εντολές πιο φιλικές προς τον άνθρωπο, κρύβοντας την πολυπλοκότητα.

Ο κώδικας φυσικής γλώσσας, τον οποίο χρησιμοποιούν σήμερα τα Μεγάλα Γλωσσικά Μοντέλα, αποτελεί απλώς το επόμενο αναμενόμενο βήμα αυτής της εξέλιξης. Η συνομιλία με τον υπολογιστή είναι σαν την εκμάθηση μιας νέας, δομημένης ξένης γλώσσας με αυστηρούς κανόνες λογικής. Δεν αφαιρούμε την αξία της επιστήμης υπολογιστών –απαιτείται τεράστια δεξιότητα για την ανάπτυξη ποιοτικών, κλιμακώσιμων προϊόντων–, όμως στο τέλος της ημέρας, ο προγραμματισμός δεν περιέχει ίχνος μαγείας.

Ένα υπερμεγέθες κομπιουτεράκι στατιστικής

Είναι κρίσιμο να διαχωρίσουμε τους όρους. Όταν ο κόσμος μιλάει σήμερα για τεχνητή νοημοσύνη, αναφέρεται σχεδόν αποκλειστικά στα Μεγάλα Γλωσσικά Μοντέλα (LLMs). Όμως ο τομέας είναι ευρύτατος. Συστήματα όπως το AlphaFold, που προσφάτως τιμήθηκε με Νόμπελ για την πρόβλεψη της δομής των πρωτεϊνών, βασίζονται σε διαφορετική αρχιτεκτονική. Η ταύτισή τους είναι παραπλανητική. Ένα γλωσσικό μοντέλο είναι στην ουσία του ένας «υπολογιστής λέξεων».

Ο μηχανισμός λειτουργεί αναλύοντας το κείμενο σε μάρκες (tokens), δηλαδή αριθμούς που αντιπροσωπεύουν κλάσματα λέξεων. Το σύστημα βασίζεται σε αχανή στατιστικά μοντέλα για να προβλέψει, με βάση τις πιθανότητες, ποια λέξη πρέπει να ακολουθήσει. Αυτά τα συστήματα δεν «γνωρίζουν» την απάντηση. Παράγουν απλώς στατιστικά αληθοφανείς ακολουθίες κειμένου. Αυτός είναι ο θεμελιώδης λόγος που επινοούν εντελώς λανθασμένες απαντήσεις, διατυπώνοντάς τες μάλιστα με απόλυτη βεβαιότητα. Η βιομηχανία, σε μια προσπάθεια εξωραϊσμού, ονομάζει το φαινόμενο παραισθήσεις. Όμως η αλήθεια είναι πιο απλή: εφόσον το μοντέλο λειτουργεί αποκλειστικά μέσω στατιστικών πιέσεων, είναι μαθηματικά βέβαιο ότι θα παραγάγει ανακρίβειες, ανεξάρτητα από την ποιότητα των δεδομένων εκπαίδευσης.

Η ψευδαίσθηση της σκέψης και τα σμήνη λογισμικού

Πώς εξηγούνται λοιπόν τα νεότερα μοντέλα που υποτίθεται ότι διαθέτουν την ικανότητα βαθιού συλλογισμού; Στην πραγματικότητα, όταν ένα τέτοιο μοντέλο φαίνεται να «σκέφτεται», αυτό που ουσιαστικά κάνει είναι να επεξεργάζεται μια μεγαλύτερη αλυσίδα ενδιάμεσου κειμένου πριν παρουσιάσει την τελική απάντηση. Καταναλώνει περισσότερα tokens, και συνεπώς απαιτεί μεγαλύτερη υπολογιστική ισχύ, προσφέροντας πιο αξιόπιστο αποτέλεσμα. Δεν υπάρχει κάποια κρυφή γνωστική διεργασία· πρόκειται για γιγαντιαίες μαθηματικές εξισώσεις.

Για να αποκτήσουν αυτά τα μοντέλα χρηστικότητα, οι μηχανικοί δημιουργούν αυτό που αποκαλείται «harness» (εξάρτυση). Είναι ένας απλός κώδικας που περικλείει το μαθηματικό μοντέλο, επιτρέποντάς του να μεταφράζει το παραγόμενο κείμενο σε εκτελέσιμες εντολές, για να ανοίγει ιστοσελίδες ή εφαρμογές. Όταν οι ερευνητές θέλουν να επιταχύνουν τη διαδικασία, τρέχουν πολλαπλά αντίγραφα αυτού του λογισμικού ταυτόχρονα. Ο ακαδημαϊκός όρος είναι «κατανεμημένα συστήματα», αλλά το τμήμα μάρκετινγκ προτιμά τον όρο «σμήνος» (swarm). Δεν μιλάμε για μια μυστική κοινότητα μηχανών που συνωμοτεί στο σκοτάδι. Όταν το μοντέλο παράγει σενάρια τύπου επιστημονικής φαντασίας, το κάνει αποκλειστικά και μόνο επειδή το διαδίκτυο είναι γεμάτο από τέτοιου είδους κείμενα, επηρεάζοντας τις στατιστικές του επιλογές.

Η πραγματική απειλή των δεδομένων και τα κατασκευαστικά λάθη

Αντί να ανησυχούμε για αυτοσυνείδητες μηχανές, θα έπρεπε να εστιάσουμε στους πραγματικούς κινδύνους, όπως οι μεσίτες δεδομένων (data brokers). Η μαζική συλλογή προσωπικών πληροφοριών από εταιρείες που στη συνέχεια τις πωλούν ανεξέλεγκτα, έχει ήδη οδηγήσει σε απάτες δισεκατομμυρίων εις βάρος των καταναλωτών. Η απειλή δεν έρχεται από μια νοήμονα τεχνητή νοημοσύνη, αλλά από την παραβίαση της ψηφιακής μας ασφάλειας μέσω παραδοσιακών πρακτικών εκμετάλλευσης λογισμικού.

Ακόμη και το περίφημο συμβάν όπου ένα αυτόνομο σύστημα υποτίθεται ότι «ξέφυγε» από εργαστήριο, υπήρξε μνημείο κατασκευαστικής ανεπάρκειας. Οι δημιουργοί του άφησαν ένα γλωσσικό μοντέλο να τρέχει διαρκώς, μέσα σε ένα ψηφιακό περιβάλλον με τεράστια κενά ασφαλείας, έχοντας απενεργοποιήσει τα πρωτόκολλα ελέγχου. Όταν το σύστημα άρχισε να παράγει ανεξέλεγκτες, ενίοτε παράνομες, ενέργειες, οι υπεύθυνοι έσπευσαν να κατηγορήσουν τη «δύναμη της τεχνολογίας» αντί για τη δική τους κακή μηχανική. Όπως παραδέχονται νηφάλιοι αναλυτές, το ζήτημα είναι καθαρά μηχανολογικό. Εάν γράψεις κακό κώδικα, θα έχεις κακά και επικίνδυνα αποτελέσματα.

Το δίδαγμα της ατμομηχανής και η έλλειψη λογοδοσίας

Η ιστορία προσφέρει πάντα τις καλύτερες αναλογίες. Όταν ο Τόμας Νιούκομεν κατασκεύασε την ατμομηχανή το 1712, η ανθρωπότητα λειτούργησε αυτά τα μηχανήματα για περισσότερο από έναν αιώνα χωρίς να κατανοεί τους φυσικούς νόμους της θερμοδυναμικής. Το αναπόφευκτο αποτέλεσμα ήταν οι λέβητες συχνά να εκρήγνυνται σε ποταμόπλοια, προκαλώντας τραγωδίες. Η κοινωνία, ωστόσο, δεν πανικοβλήθηκε κηρύσσοντας την ατμομηχανή ως μια απειλή εξωγήινης νοημοσύνης. Οι αρχές επέβαλαν αυστηρούς κανονισμούς, απαιτώντας τη χρήση βαλβίδων ασφαλείας. Δεν χρειάζεται να κατανοούμε σε απόλυτο βαθμό ένα σύστημα για να επιβάλουμε την ασφαλή χρήση του.

Η σημερινή αγορά των Μεγάλων Γλωσσικών Μοντέλων αντιμετωπίζει ακριβώς το ίδιο πρόβλημα. Οι εταιρείες, βρισκόμενες σε έναν ανελέητο αγώνα δρόμου για επικράτηση, ρευστοποιούν τις επενδύσεις τους αποφεύγοντας τα κόστη ασφαλείας. Είναι σαν μια αυτοκινητοβιομηχανία να τοποθετεί έναν πανίσχυρο, θηριώδη κινητήρα σε ένα ελαφρύ, παλιό αμάξωμα και να αγνοεί παντελώς την εγκατάσταση φρένων, επειδή ο ανταγωνισμός ενδιαφέρεται μόνο για την ταχύτητα. Όταν, αναπόφευκτα, το αυτοκίνητο προκαλέσει δυστύχημα, η δικαιολογία της βιομηχανίας δεν μπορεί να είναι «ο κινητήρας μας αποδείχθηκε υπερβολικά δυνατός». Η απάντηση είναι απλή: σχεδιάσατε ένα επικίνδυνο προϊόν και οφείλετε να λογοδοτήσετε νομικά γι’ αυτό.

Το κυνήγι του χρήματος και η αγορά των παραισθήσεων

Ο πραγματικός λόγος πίσω από την υστερία και την υπερβολή της αγοράς αποτυπώνεται καθαρά σε δύο έννοιες: χρήμα και εξουσία. Οι εντυπωσιακές αμοιβές των μηχανικών σε αυτόν τον κλάδο οφείλονται σε μια στρέβλωση της προσφοράς και της ζήτησης. Μέχρι πρόσφατα, η εξειδίκευση στα πολύπλοκα μαθηματικά των γλωσσικών μοντέλων ισοδυναμούσε με μεταπτυχιακό στα Σανσκριτικά. Ήταν ένας εξαιρετικά εξειδικευμένος, μη εμπορικός ακαδημαϊκός τομέας. Όταν ξαφνικά τα συστήματα αυτά μετατράπηκαν σε όχημα για την άντληση δισεκατομμυρίων δολαρίων, οι ελάχιστοι άνθρωποι που διέθεταν αυτή τη σπάνια γνώση βρέθηκαν στην κορυφή της πυραμίδας. Αυτό δεν καθιστά την τεχνολογία ανεξέλεγκτη, αλλά απολύτως ανθρώπινη και καπιταλιστικά ερμηνεύσιμη.

Κορυφαίοι ερευνητές του χώρου επιβεβαιώνουν ότι εάν παρομοιάζαμε την τεχνητή νοημοσύνη με τον ανθρώπινο εγκέφαλο, τα σημερινά μοντέλα δεν αντιπροσωπεύουν τίποτα περισσότερο από ένα μικροσκοπικό, απομονωμένο τμήμα του φλοιώδους ιστού. Λείπουν απολύτως όλες οι υπόλοιπες εγκεφαλικές δομές που δημιουργούν τη λογική, το νόημα και την κριτική ικανότητα. Όπως ένα εξαιρετικό προωστικό σύστημα πυραύλων που σχεδιάστηκε για τη Σελήνη δεν πρόκειται ποτέ, από τη φύση του, να μας ταξιδέψει σε άλλο ηλιακό σύστημα, έτσι και η τρέχουσα αρχιτεκτονική δεν πρόκειται να μας οδηγήσει στην πολυδιαφημισμένη, αυτόνομη Γενική Τεχνητή Νοημοσύνη (AGI).

Αυτό που ζούμε σήμερα, με επίκεντρο τις τεράστιες υπεραξίες σε εταιρείες μικροεπεξεργαστών και τις υποσχέσεις για λύση όλων των παγκόσμιων προβλημάτων, φέρει τα κλασικά χαρακτηριστικά μιας επενδυτικής φούσκας βασισμένης σε έντεχνο μάρκετινγκ. Η τεχνολογία είναι αναμφίβολα χρήσιμη, αποτελεί ένα σημαντικό βήμα, αλλά είναι απλώς ένα εργαλείο. Οφείλουμε, συνεπώς, να σταματήσουμε να αντιμετωπίζουμε το λογισμικό με μεταφυσικό δέος, απαιτώντας αντίθετα την αυστηρή λογοδοσία των κατασκευαστών του απέναντι στο νόμο, για τους κινδύνους που οι ίδιοι, συνειδητά, δημιουργούν.