Η φούσκα της τεχνητής νοημοσύνης, οι παραισθήσεις των δισεκατομμυριούχων και η καταστροφή της εργασίας
Ο συγγραφέας και αναλυτής Cory Doctorow εξηγεί γιατί η νέα τεχνολογία δεν αποτελεί πανάκεια, αλλά ένα εξαιρετικά επικίνδυνο οικονομικό στοίχημα τρισεκατομμυρίων που απειλεί τη σταθερότητα των αγορών.
Το αφήγημα γύρω από την τεχνητή νοημοσύνη έχει κυριαρχήσει στον δημόσιο διάλογο και στις αγορές κεφαλαίου, παρουσιαζόμενο ως μια αναπόδραστη, μετασχηματιστική δύναμη που θα αλλάξει τα πάντα. Πίσω όμως από τη βιτρίνα της απόλυτης τεχνολογικής υπεροχής, κρύβεται μια πολύ διαφορετική πραγματικότητα. Δεν πρόκειται απλώς για την έλευση μιας νέας εποχής, αλλά για την ενορχήστρωση ενός τεράστιου αφηγήματος που εξυπηρετεί συγκεκριμένα επιχειρηματικά μοντέλα. Η τεχνολογία αυτή καθαυτή, η οποία ουσιαστικά παράγει αντικείμενα που μοιάζουν με εργασία βασισμένα σε στατιστικές πιθανότητες, έχει αιχμαλωτίσει την προσοχή του πλανήτη.
σχετικά άρθρα
Γιατί, όμως, το αφήγημα έχει πετύχει τόσο πολύ; Ο συγγραφέας και ερευνητής Cory Doctorow, γνωστός για την έννοια της «ποιοτικής υποβάθμισης» (enshittification) των ψηφιακών πλατφορμών, αποδομεί τον μύθο. Το βασικό κίνητρο, σύμφωνα με την ανάλυσή του, προέρχεται από την ελίτ του πλούτου, η οποία έχει εθιστεί στην ιδέα ενός κόσμου χωρίς ανθρώπινο εργατικό δυναμικό. Ενός κόσμου όπου οι απρόβλεπτοι, απαιτητικοί εργαζόμενοι αντικαθίστανται από πειθήνια στατιστικά μοντέλα, ανοίγοντας τον δρόμο για τη μεγαλύτερη φούσκα στην ιστορία της τεχνολογίας.
Ο αποκομμένος κόσμος των δισεκατομμυριούχων
Η επιθετική χρηματοδότηση της τεχνητής νοημοσύνης προέρχεται κατά κύριο λόγο από ένα εξαιρετικά στενό κλαμπ δισεκατομμυριούχων. Αυτοί οι άνθρωποι αντιμετωπίζουν τον κόσμο μέσα από ένα πρίσμα βαθιάς αποξένωσης. Όταν κάποιος διαθέτει αμύθητο πλούτο και περιβάλλεται διαρκώς από κόλακες, αρχίζει να αντιμετωπίζει τους υπόλοιπους ανθρώπους ως απλές στατιστικές αφαιρέσεις ή απλά «μη παίκτες» (NPCs), όπως χαρακτηριστικά αποκαλεί ο Ίλον Μασκ όσους διαφωνούν μαζί του.
Είναι ενδεικτική η περίπτωση του Τζεφ Μπέζος, ο οποίος διοικεί μια αυτοκρατορία εκατοντάδων χιλιάδων εργαζομένων σε αποθήκες, οι οποίοι υφίστανται αυστηρότατους περιορισμούς ακόμα και για τις βασικές βιολογικές τους ανάγκες. Η νοοτροπία αυτή καλλιεργεί την επιθυμία για έναν «κόσμο χωρίς ανθρώπους». Ομοίως, ο Μαρκ Ζούκερμπεργκ, στην προσπάθειά του να μεγιστοποιήσει τον χρόνο παραμονής των χρηστών στο Facebook, συνειδητοποίησε ότι οι πραγματικές ανθρώπινες σχέσεις είναι δύσκολο να ελεγχθούν. Η λύση του; Να γεμίσει τις πλατφόρμες με προγράμματα που προσομοιώνουν την ανθρώπινη συμπεριφορά, εξασφαλίζοντας αλληλεπίδραση χωρίς τις απαιτήσεις ή τις ηθικές δεσμεύσεις που φέρουν οι πραγματικοί άνθρωποι. Πρόκειται για την απόλυτη φαντασίωση των τεχνολογικών κολοσσών: πλατφόρμες χωρίς κοινωνικοποίηση και εργασία χωρίς εργαζομένους.
Ο μύθος της κατανόησης και τα όρια των μοντέλων
Παρά τις μεγαλεπήβολες υποσχέσεις των δημιουργών τους, τα γλωσσικά μοντέλα δεν είναι στο κατώφλι της απόκτησης συνείδησης. Αντιθέτως, στηρίζονται σε μια εξαιρετικά επιτυχημένη, αλλά περιορισμένη μέθοδο στατιστικής εξαγωγής συμπερασμάτων. Αντί να μοντελοποιούν τον κόσμο (όπως προσπαθούσε η συμβολική τεχνητή νοημοσύνη περασμένων δεκαετιών), απορροφούν τεράστιους όγκους δεδομένων και μαντεύουν την επόμενη λέξη με βάση τις στατιστικές πιθανότητες.
Το αποτέλεσμα είναι εντυπωσιακό, ωστόσο η πρόβλεψη λέξεων απέχει παρασάγγας από την πραγματική κατανόηση. Όπως ακριβώς η αυτόματη συμπλήρωση (autocorrect) στο κινητό σας μπορεί να μαντέψει τη λέξη που θα γράψετε επειδή επαναλαμβάνεστε, έτσι και τα συστήματα αυτά «μιλάνε» χωρίς να κατανοούν το νόημα. Αυτό θέτει ένα σκληρό όριο στις δυνατότητές τους. Ήδη βρισκόμαστε σε μια φάση έντονα φθινουσών αποδόσεων, όπου τα νέα μοντέλα κοστίζουν πολλαπλάσια, αλλά προσφέρουν οριακές μόνο βελτιώσεις σε σχέση με τους προκατόχους τους. Η πεποίθηση ότι προσθέτοντας περισσότερες λέξεις σε ένα πρόγραμμα μαντεψιάς θα προκύψει τελικά νοημοσύνη, είναι το ίδιο παράλογη με το να πιστεύει κανείς ότι αναπαράγοντας γρηγορότερα άλογα, θα γεννηθούν τελικά ατμομηχανές τρένων.
Η οικονομική άβυσσος των λειτουργικών εξόδων
Η κεφαλαιουχική δαπάνη για τη συντήρηση αυτής της ψευδαίσθησης είναι ιλιγγιώδης. Σε αντίθεση με παλαιότερες φούσκες – όπως αυτή των σιδηροδρόμων ή του dot-com – οι αριθμοί εδώ προκαλούν ίλιγγο. Η αγορά επενδύει περίπου ένα τρισεκατομμύριο δολάρια ετησίως για να δημιουργήσει έσοδα της τάξης των 50 δισεκατομμυρίων. Αν κάποιος σας ζητούσε ένα τρισεκατομμύριο δολάρια για να σας επιστρέψει μόλις 50 δισεκατομμύρια, η απάντηση θα ήταν αυτονόητη. Στη Silicon Valley, όμως, αυτό βαφτίζεται «επένδυση στο μέλλον».
Το τεράστιο πρόβλημα έγκειται στα λειτουργικά κόστη, αυτό που ο κλάδος ονομάζει «κόστος συμπερασμού» (inference costs). Όταν ζητάτε από ένα μοντέλο να παράγει μια εικόνα ή ένα κείμενο, η υπολογιστική ισχύς που απαιτείται είναι τεράστια και δεν φαίνεται να μειώνεται. Σύμφωνα με αποκαλύψεις του τεχνολογικού αναλυτή Ed Zitron γύρω από τα οικονομικά στοιχεία της OpenAI, η εταιρεία έχει κατηγοριοποιήσει τεράστια κόστη συμπερασμού κάτω από την ομπρέλα του «μάρκετινγκ», δημιουργώντας την πλασματική εικόνα ότι βαδίζει προς την κερδοφορία. Στην πραγματικότητα, χαρίζουν υπολογιστική ισχύ για να διατηρήσουν τη βάση χρηστών, «καίγοντας» χρήματα σε έναν μη βιώσιμο ρυθμό.
Η αέναη ανάπτυξη και η αναπόφευκτη «σαλαμοποίηση»
Γιατί όμως ρισκάρουν τόσο πολύ; Η απάντηση κρύβεται στη δομή της σύγχρονης χρηματιστηριακής αγοράς. Οι εταιρείες τεχνολογίας, έχοντας κορεστεί στις βασικές τους αγορές, πρέπει να διατηρήσουν τον μύθο της αέναης ανάπτυξης. Μια εταιρεία που δεν αναπτύσσεται θεωρείται στάσιμη, οι μετοχές της κατακρημνίζονται και αδυνατεί να χρησιμοποιήσει την υπεραξία της για να εξαγοράσει ανταγωνιστές ή να προσελκύσει ταλέντα.
Όταν ο χώρος ανάπτυξης στερεύει, οι εταιρείες καταφεύγουν στην πρακτική της ποιοτικής υποβάθμισης των υπηρεσιών τους (enshittification). Στύβουν τους χρήστες τους, γεμίζοντας με διαφημίσεις τις πλατφόρμες και υποβαθμίζοντας την εμπειρία. Όμως, και αυτή η τακτική έχει ταβάνι. Η τεχνητή νοημοσύνη είναι το νέο αφήγημα που εφευρέθηκε για να πείσει τους επενδυτές ότι υπάρχει ένας νέος, απέραντος ορίζοντας κερδών. Μετά τις φούσκες του Metaverse, του Web 3.0 και των NFTs, το AI προσφέρει κάτι που δείχνει αληθινό – έστω και αν η παραγωγική του αξία υπολείπεται κατά πολύ των επενδεδυμένων κεφαλαίων.
Η καταστροφή της διαδικαστικής γνώσης
Η πιο άμεση απειλή, ωστόσο, δεν είναι το οικονομικό κραχ, αλλά η υποβάθμιση της εργασίας και η καταστροφή της διαδικαστικής γνώσης (process knowledge). Όταν οι εταιρείες απολύουν έμπειρους εργαζομένους για να τους αντικαταστήσουν με «ελαττωματικά chatbots», δεν εξοικονομούν απλώς μισθούς. Καταστρέφουν τη συσσωρευμένη εμπειρία που κρατά μια επιχείρηση όρθια.
Η διαδικαστική γνώση είναι ο άγραφος κανόνας της δουλειάς. Είναι η ικανότητα του υπαλλήλου να ξέρει ποιο μηχάνημα κολλάει και πώς φτιάχνεται, να κατανοεί το ιστορικό ενός πελάτη ή ακόμα και να μετατρέπει τα λάθη σε ευκαιρίες. Χαρακτηριστικό είναι το παράδειγμα της Apple, η οποία πριν χρόνια, αντιμετωπίζοντας μια παρτίδα ελαττωματικών τσιπ που λειτουργούσαν μόνο στη μισή ταχύτητα, βασίστηκε στην εμπειρία και τη διαίσθηση των στελεχών της για να τα αξιοποιήσει. Δημιούργησαν έναν φθηνότερο φορητό υπολογιστή, προσαρμοσμένο στις ανάγκες μιας συγκεκριμένης αγοράς, μετατρέποντας τη ζημιά σε ένα προϊόν δισεκατομμυρίων. Ένα γλωσσικό μοντέλο δεν έχει αυτή την ευελιξία. Η διαγραφή της ανθρώπινης εμπειρίας από τους χώρους εργασίας θα αφήσει ένα κενό παραγωγικότητας που θα χρειαστεί δεκαετίες για να αναπληρωθεί.
Η αλγοριθμική εκμετάλλευση και το άλλοθι
Η χρήση της τεχνητής νοημοσύνης από τις επιχειρήσεις δεν αποσκοπεί απλώς στη μείωση του κόστους, αλλά στην επιθετική εκμετάλλευση των δεδομένων των χρηστών. Μέσω της ανάλυσης δεδομένων μεγάλου όγκου, οι εταιρείες εφαρμόζουν τακτικές αλγοριθμικής μισθολογικής διάκρισης. Στις ΗΠΑ, οι μισθοί κάποιων νοσηλευτών που εργάζονται μέσω πλατφορμών υπολογίζονται σε πραγματικό χρόνο ανάλογα με το χρέος των πιστωτικών τους καρτών. Όσο πιο απελπισμένος είσαι οικονομικά, τόσο μικρότερη αμοιβή σου προσφέρει ο αλγόριθμος.
Ταυτόχρονα, τα διαβόητα λάθη του AI – οι λεγόμενες παραισθήσεις – προσφέρουν το τέλειο άλλοθι. Αν ένας αλγόριθμος σας κατευθύνει σε ένα ακριβότερο προϊόν που αποφέρει μεγαλύτερη προμήθεια στην εταιρεία, η δικαιολογία είναι έτοιμη: «Λάθος της μηχανής, είχε παραίσθηση». Η τεχνητή νοημοσύνη αναδεικνύεται στο απόλυτο εργαλείο συγκαλυμμένης αισχροκέρδειας.
Όταν ξεφουσκώσει το αφήγημα
Οι φούσκες είναι εκ φύσεως εύθραυστες μηχανές. Η δομή της αγοράς σήμερα εξαρτάται από έναν επικίνδυνο δανεισμό, όπου εταιρείες που χάνουν χρήματα δανείζονται για να αγοράσουν ακριβό εξοπλισμό από μια χούφτα προμηθευτών (όπως η Nvidia). Ολόκληρο το οικοδόμημα στηρίζεται σε συμφωνίες υψηλού ρίσκου και στην παροχή ενέργειας από χώρες και επενδυτές που μπορεί ανά πάσα στιγμή να αλλάξουν προτεραιότητες. Αν, για παράδειγμα, τα αραβικά κεφάλαια που χρηματοδοτούν κέντρα δεδομένων χρειαστούν πόρους για την ανοικοδόμηση δικών τους υποδομών ενέργειας, η κάνουλα της ρευστότητας θα κλείσει βίαια.
Όταν η σκόνη κατακαθίσει, θα απομείνουν χιλιάδες εξειδικευμένοι, πανάκριβοι διακομιστές και μικροτσίπ που ίσως αποδειχθούν άχρηστα για γενικές εφαρμογές. Η στατιστική τεχνητή νοημοσύνη δεν θα εξαφανιστεί – παραμένει ένα χρήσιμο επιστημονικό εργαλείο. Ωστόσο, η ιδέα ότι θα χρησιμοποιούμε τεράστια κέντρα δεδομένων και έναν στρατό από chatbots για να απαντάμε σε απλά ερωτήματα, θα φαντάζει στο μέλλον τόσο παράλογη όσο το να χρησιμοποιεί κανείς ένα φλογοβόλο για να λιώσει το χιόνι στην αυλή του. Το στοίχημα τώρα δεν είναι πώς θα ενσωματώσουμε την τεχνητή νοημοσύνη παντού, αλλά πώς θα προστατεύσουμε την παραγωγική οικονομία από τις συνέπειες της βέβαιης κατάρρευσης αυτής της πολυδάπανης φαντασίωσης.
