Η Palantir έχει χαρακτηριστεί περισσότερες από μία φορές ως η «πιο διαβολική εταιρεία στον κόσμο». Δεν πρόκειται για έναν τυχαίο τίτλο που της απέδωσαν κάποιοι ακτιβιστές, αλλά για το αποτέλεσμα μιας δράσης που ακροβατεί ανάμεσα στην τεχνολογική υπεροχή και τον απόλυτο ηθικό ξεπεσμό. Η εταιρεία κατηγορείται για την παροχή τεχνολογίας στο ισραηλινό σύστημα AI «Lamar», το οποίο φέρεται να έχει στοχοποιήσει δεκάδες χιλιάδες Παλαιστίνιους στη Γάζα για δολοφονίες μέσω drones και πυραύλων. Παρομοίως, το σύστημα «Gospel» επέτρεψε στον ισραηλινό στρατό να αυξήσει την παραγωγή στόχων από 50 το χρόνο σε 100 την ημέρα.
σχετικά άρθρα
Αν και η Palantir αρνείται τη χρήση των λογισμικών της σε αυτά τα συγκεκριμένα εργαλεία, η υπερηφάνεια της για τη στήριξη των αμυντικών αποστολών του Ισραήλ είναι καταγεγραμμένη. Στις αρχές του 2024, εν μέσω της επίθεσης στη Γάζα, η εταιρεία υπέγραψε νέα συμβόλαια για την παροχή τεχνολογίας πεδίου μάχης. Στην Ελλάδα, όπου συχνά παρακολουθούμε τις τεχνολογικές εξελίξεις με μια αίσθηση ασφάλειας από απόσταση, η περίπτωση της Palantir πρέπει να μας αφυπνίσει: η Τεχνητή Νοημοσύνη δεν είναι πλέον ένα εργαλείο διευκόλυνσης, αλλά ένας μηχανισμός που μετατρέπει τον θάνατο σε γραφειοκρατική διαδικασία.
Η φρικιαστική αναλογία: Κοτόπουλα και ανθρώπινες ζωές
Ο Chief Technological Officer της εταιρείας, Shyam Sankar, προχώρησε πρόσφατα σε μια δήλωση που προκαλεί ανατριχίλα. Συνέκρινε τη διαδικασία στοχοποίησης ανθρώπων στο πεδίο της μάχης με τη διαχείριση της εφοδιαστικής αλυσίδας… κατεψυγμένων κοτόπουλων. Για την Palantir, η μεταφορά nuggets κοτόπουλου εκεί που υπάρχει ζήτηση και η επιλογή στόχων προς εξόντωση είναι ακριβώς η ίδια διαδικασία: μια αναζήτηση μέγιστης αποτελεσματικότητας.
Αυτή η ισοπέδωση της ανθρώπινης αξίας στο βωμό των αλγορίθμων είναι ο πυρήνας αυτού που ονομάζουμε τεχνοφασισμό. Στο Ιράν, ο πόλεμος που διεξάγεται θεωρείται ο πρώτος πραγματικός AI πόλεμος, με το σύστημα «Maven» (με τις ευλογίες της CIA) να επιτρέπει στους στρατιωτικούς να επιλέγουν έως και 80 στόχους την ώρα με μόλις τέσσερα κλικ. Η ταχύτητα αυτή, όμως, έχει κόστος. Την πρώτη μέρα των πληγμάτων, ένας από τους 10.000 στόχους ήταν ένα σχολείο, με αποτέλεσμα τον θάνατο 180 ατόμων, στην πλειονότητά τους κοριτσιών κάτω των 13 ετών.
Το Μανιφέστο του Τεχνολογικού Αυταρχισμού
Η Palantir δεν κρύβει πλέον τις προθέσεις της. Μέσω ενός κειμένου 22 σημείων στα μέσα κοινωνικής δικτύωσης, παρουσίασε ένα μανιφέστο που θυμίζει ολοκληρωτικά καθεστώτα. Η κεντρική ιδέα είναι απλή: η «μαλακή ισχύς» πέθανε και η επιβίωση της Δύσης εξαρτάται από τη σκληρή ισχύ του λογισμικού. Η εταιρεία υποστηρίζει ότι οι τεχνολογικές ελίτ έχουν ηθική υποχρέωση να συμμετέχουν στην άμυνα του έθνους και ότι η εθνική θητεία πρέπει να είναι καθολική και υποχρεωτική.
Στην πραγματικότητα, πρόκειται για μια προσπάθεια νομιμοποίησης της απόλυτης σύνδεσης κράτους και τεχνολογικών κολοσσών. Ο Alex Karp, συνιδρυτής της Palantir, προωθεί την ιδέα ότι η εποχή της πυρηνικής αποτροπής τελειώνει και ξεκινά η εποχή της AI αποτροπής. Με άλλα λόγια, η ειρήνη θα διατηρείται μόνο αν δείξεις στον εχθρό ότι μπορείς να τον εξοντώσεις με χειρουργική (;) ακρίβεια και αλγοριθμική ταχύτητα.
Από το πεδίο της μάχης στο εθνικό σύστημα υγείας
Το πιο ανησυχητικό, ωστόσο, είναι η διείσδυση της Palantir σε τομείς που αφορούν την καθημερινότητα των πολιτών, όπως η υγεία. Στη Μεγάλη Βρετανία, η εταιρεία έχει ήδη αποκτήσει πρόσβαση στα δεδομένα του NHS (Εθνικό Σύστημα Υγείας). Παρά τις διαβεβαιώσεις για την προστασία της ιδιωτικότητας, οι επικριτές προειδοποιούν ότι οι υπάλληλοι της Palantir μπορούν να έχουν πρόσβαση σε ταυτοποιήσιμα δεδομένα υγείας εκατομμυρίων πολιτών.
Η στρατηγική είναι κλασική: «μπες από το παράθυρο» μέσω κρίσεων, όπως η πανδημία του COVID-19, πρόσφερε χαμηλές τιμές αρχικά και μετά δημιούργησε μια κατάσταση εξάρτησης (vendor lock-in). Το γεγονός ότι ο έτερος συνιδρυτής, Peter Thiel, έχει δηλώσει ότι η αγάπη των Βρετανών για το δημόσιο σύστημα υγείας είναι «σύνδρομο της Στοκχόλμης», δείχνει την περιφρόνηση της εταιρείας για τα δημόσια αγαθά.
Η ελληνική ματιά και ο κίνδυνος του «αυτόματου πιλότου»
Ενώ η ευκολία που προσφέρουν οι νέες τεχνολογίες είναι αδιαμφισβήτητη, η περίπτωση της Palantir μας διδάσκει ότι το λογισμικό δεν είναι ποτέ ουδέτερο. Όταν παραδίδουμε τα κλειδιά της εθνικής άμυνας ή των ιατρικών μας αρχείων σε εταιρείες με τέτοια ιδεολογική ατζέντα, χάνουμε τον έλεγχο.
Ο κίνδυνος είναι να καταλήξουμε σε μια κοινωνία όπου οι αποφάσεις λαμβάνονται από συστήματα που «τρέχουν» τόσο γρήγορα, που ο ανθρώπινος έλεγχος καθίσταται αδύνατος. Όπως επισημαίνουν οι αναλυτές, αν ένα AI σύστημα υποδείξει έναν λάθος στόχο, η ευθύνη μετακυλίεται στον στρατιωτικό οργανισμό και όχι στην εταιρεία. Αυτή η μεταφορά ευθύνης σε συνδυασμό με την αδιαφάνεια των αλγορίθμων, δημιουργεί ένα εκρηκτικό μείγμα αυταρχισμού.
Δεν είναι «συναισθηματική» η κριτική απέναντι στην Palantir, όπως ισχυρίζονται τα στελέχη της. Είναι βαθιά πολιτική και ηθική. Η ιδεολογία της εταιρείας δεν κρύβεται πια: ένας κόσμος όπου η ισχύς είναι το δίκαιο και η τεχνολογία ο εκτελεστής. Η εγρήγορση των πολιτών και των κοινοβουλίων είναι η μόνη δικλείδα ασφαλείας απέναντι σε έναν τεχνοφασισμό που υπόσχεται ασφάλεια, αλλά παραδίδει απόλυτο έλεγχο.
