Η Anthropic έδειξε ότι το AI γίνεται εργαλείο επίθεσης
Η χρήση Claude σε cyber, όπλα και distillation αυξάνει την πίεση για AI κανόνες.
Από βιολογικά όπλα έως cyber espionage, η έκθεση για Claude μετατρέπει την AI ασφάλεια σε οικονομικό και ρυθμιστικό ρίσκο.
σχετικά άρθρα
The news: Η Anthropic ανακοίνωσε ότι διέκοψε προσπάθειες χρήσης των μοντέλων Claude για υποστήριξη βιολογικών όπλων, ανάπτυξη λογισμικού για συμβατικά όπλα και ύποπτη ρωσική cyber espionage καμπάνια κατά ουκρανικών στόχων. Η εταιρεία ανέφερε ότι χάκερς χρησιμοποιούν πλέον AI όχι μόνο για απλές απαντήσεις, αλλά για multi-agent frameworks που εκτελούν μεγάλα τμήματα επιθέσεων. Στην ίδια έκθεση, η Anthropic κατηγόρησε κινεζικά AI labs για προσπάθειες distillation των Claude capabilities. Ειδικά για δραστηριότητα που συνέδεσε με την Alibaba, ανέφερε πάνω από 151 εκατ. exchanges μεταξύ Μαΐου και Ιουλίου 2026, peak σχεδόν 3 εκατ. την ημέρα από πάνω από 3.500 λογαριασμούς που χαρακτήρισε fraudulent.
The backstage: Το παρασκήνιο είναι ότι η AI ασφάλεια περνά από το στάδιο της φιλοσοφικής συζήτησης στο στάδιο του operational risk. Όταν ένα frontier model μπορεί να χρησιμοποιηθεί για cyberattacks, weapons design ή illicit distillation, τότε οι εταιρείες AI δεν είναι απλώς τεχνολογικές πλατφόρμες. Γίνονται υποδομές με συστημικό ρίσκο.
Για τους επενδυτές, αυτό έχει τρεις συνέπειες. Πρώτον, αυξάνει το regulatory risk: οι κυβερνήσεις δύσκολα θα αφήσουν ανεξέλεγκτα μοντέλα που μπορούν να επιταχύνουν επιθέσεις. Δεύτερον, αυξάνει το compliance cost: monitoring, red teaming, identity controls και incident disclosure θα γίνουν μόνιμες δαπάνες. Τρίτον, μετατρέπει την ασφάλεια σε ανταγωνιστικό πλεονέκτημα. Η εταιρεία που πείθει ότι μπορεί να εντοπίζει και να κόβει κατάχρηση ίσως αξίζει περισσότερο από εκείνη που απλώς τρέχει γρηγορότερο model.
Το μεγάλο μήνυμα είναι σκληρό: η AI αγορά δεν πουλά μόνο παραγωγικότητα. Πουλά και μια νέα κατηγορία κινδύνου που θα μπει στους ισολογισμούς, στις ασφάλειες και στις ρυθμιστικές αρχές.
