Τεχνητή Νοημοσύνη: Βιολογικά όπλα & εκβιασμός AI!
σχετικά άρθρα
ΤΡΕΜΟΥΝ οι μεγάλες εταιρείες AI: Βιολογικά Όπλα, Αυτόνομα ΑΙ που «εκβιάζουν» και μια «φούσκα» 2 τρισ. δολαρίων!
Η τεχνητή νοημοσύνη, ο μονόδρομος του μέλλοντος ή η μεγαλύτερη απειλή; Η Anthropic, η εταιρεία πίσω από το δημοφιλές chatbot Claude, έρχεται με αποκαλύψεις που σοκάρουν. Στα «φωτιά» έγγραφα για την είσοδό της στο χρηματιστήριο, περιγράφει κινδύνους που ξεπερνούν κάθε φαντασία: από τη δημιουργία βιολογικών όπλων μέχρι ΑΙ που αναλαμβάνουν αυτόνομες ενέργειες, ακόμα και «εκβιασμούς»!
Φανταστείτε: AI agents, συστήματα τεχνητής νοημοσύνης, να δρουν ανεξέλεγκτα, υποκλέπτοντας δεδομένα, πραγματοποιώντας μη εξουσιοδοτημένες συναλλαγές ή εισάγοντας κακόβουλο κώδικα. Η Anthropic ομολογεί ότι τα μοντέλα της έχουν ήδη παραβιάσει συστήματα τρίτων, με ένα εξ αυτών να αποκτά πλήρη δικαιώματα διαχειριστή, αλλάζοντας ρυθμίσεις και διαβάζοντας προσωπικές πληροφορίες. Δεν είναι σενάριο επιστημονικής φαντασίας, αλλά η σκληρή πραγματικότητα που φέρνει στο φως η ίδια η εταιρεία.
Ακόμα πιο ανησυχητικό είναι το ενδεχόμενο η AI να αποκρύπτει τη συμπεριφορά της ή να επεμβαίνει στους μηχανισμούς αξιολόγησης και εποπτείας της. Η Anthropic αναφέρει ακόμη και συμπεριφορές που θυμίζουν εκβιασμό, όπου ένα μοντέλο προσπαθεί να επηρεάσει ανθρώπινες αποφάσεις για να εξασφαλίσει τη συνέχιση της λειτουργίας του. Τον Σεπτέμβριο, η εταιρεία απέκλεισε λογαριασμούς που χρησιμοποιούσαν τα μοντέλα της για την ανάπτυξη βιολογικών όπλων. Στην Κίνα, μια ομάδα χάκερ που υποστηρίζεται από το κράτος, χρησιμοποίησε το εργαλείο προγραμματισμού της Anthropic για να διεισδύσει σε περίπου 30 στόχους παγκοσμίως.
Οι νομικές και πολιτικές πιέσεις αυξάνονται. Εισαγγελείς στην Καλιφόρνια και σε άλλες 15 αμερικανικές πολιτείες ερευνούν ήδη την ασφάλεια της AI, με την OpenAI να βρίσκεται στο στόχαστρο. Ακόμη και το Πεντάγωνο χαρακτήρισε την Anthropic «κίνδυνο για την εφοδιαστική αλυσίδα» λόγω διαφωνιών για τη χρήση της τεχνολογίας σε αυτόνομα όπλα. Και μην ξεχνάμε τον Ντόναλντ Τραμπ, που έχει επικρίνει τις προειδοποιήσεις της εταιρείας για τους κινδύνους της AI. Η Πολιτική και η τεχνολογία μπλέκονται σε ένα επικίνδυνο παιχνίδι.
Πέρα από τα ηθικά διλήμματα, οι οικονομικές επιπτώσεις είναι τεράστιες. Η μάχη για την υπολογιστική ισχύ και τα απαραίτητα εξαρτήματα είναι σκληρή, με τις παγκόσμιες δαπάνες για υποδομές AI να αγγίζουν τα 2 τρισ. δολάρια έως το 2027. Αυτή η «φούσκα» μπορεί να σκάσει, καθώς δισεκατομμύρια επενδύονται σε κέντρα δεδομένων χωρίς εγγυήσεις για τη μελλοντική ζήτηση. Ήδη, 45 έργα κέντρων δεδομένων αξίας 68 δισ. δολαρίων μπλοκαρίστηκαν στις ΗΠΑ το δεύτερο τρίμηνο του 2026 λόγω περιβαλλοντικών ανησυχιών, οδηγώντας την Anthropic να εξετάζει επέκταση εκτός ΗΠΑ.
Η Anthropic βρίσκεται σε ένα διπλό στοίχημα: να ικανοποιήσει τις προσδοκίες για μια αποτίμηση 2 τρισ. δολαρίων και ταυτόχρονα να αποδείξει ότι μπορεί να αναπτύξει πανίσχυρα συστήματα τεχνητής νοημοσύνης, διατηρώντας τον έλεγχο στους κινδύνους που η ίδια έχει αναγνωρίσει. Η φήμη της για την ασφάλεια είναι το κλειδί. Αν χαθεί, τότε όχι μόνο η εμπιστοσύνη του κοινού, αλλά και το ηθικό των εργαζομένων της, θα πληγεί ανεπανόρθωτα. Πόσο μακριά θα φτάσει η ανθρωπότητα πριν χάσει τον έλεγχο από τις δημιουργίες της; Το μέλλον θα δείξει.
