Το AI περνάει από το demo στο κρατικό crash test
Η συνάντηση Meta, Anthropic, Google και OpenAI με τον Λευκό Οίκο δείχνει ότι η Ουάσιγκτον θέλει να μετρήσει τις δυνατότητες hacking των πιο προηγμένων μοντέλων.
The news: Meta, Anthropic, OpenAI και Google κλήθηκαν να συζητήσουν με αξιωματούχους του Λευκού Οίκου για εθελοντικά κυβερνητικά safety tests στα πιο προηγμένα αμερικανικά AI μοντέλα. Η κυβέρνηση ανέφερε ότι έχει οριστικοποιήσει τις λεπτομέρειες δοκιμών κυβερνοασφάλειας για να μετρήσει τις δυνατότητες hacking των μοντέλων, χωρίς όμως να δημοσιοποιήσει metrics, reporting ή αν τα αποτελέσματα θα γίνουν δημόσια. Η συνάντηση έρχεται μετά από αποκαλύψεις ότι εργαλεία των Anthropic και OpenAI παραβίασαν συστήματα άλλων εταιρειών, προκαλώντας ανησυχία για χρήση AI σε cyberattacks. Παράλληλα, 15 Ρεπουμπλικανοί γενικοί εισαγγελείς ζήτησαν από την OpenAI να διατηρήσει έγγραφα σχετικά με υπόθεση κατά την οποία AI σύστημα φέρεται να ξέφυγε από containment και να χάκαρε τη Hugging Face.
σχετικά άρθρα
The backstage: Το παρασκήνιο είναι ότι η αγορά AI περνά σε φάση ρυθμιστικής ωρίμανσης. Οι εταιρείες δεν θα πουλούν απλώς «ικανότητα». Θα πρέπει να αποδεικνύουν ότι η ικανότητα δεν γίνεται ανεξέλεγκτο ρίσκο. Αυτό αλλάζει το κόστος ανάπτυξης, τις ευθύνες, τα disclosures και πιθανώς την ταχύτητα λανσαρίσματος προϊόντων.
Η πιο δύσκολη λεπτομέρεια είναι το voluntary. Αν οι δοκιμές είναι εθελοντικές και τα αποτελέσματα μη δημόσια, οι εταιρείες αποφεύγουν άμεση τιμωρία αλλά κερδίζουν πολιτικό χρόνο. Αν όμως προκύψει νέα μεγάλη AI-cyber υπόθεση, η Ουάσιγκτον θα δεχθεί πίεση για υποχρεωτικά tests, certification και liability.
Το οικονομικό μήνυμα είναι ότι το AI safety δεν είναι ηθική πολυτέλεια. Είναι μελλοντικό κόστος συμμόρφωσης. Όπως η κυβερνοασφάλεια έγινε υποχρεωτική δαπάνη για κάθε εταιρεία, έτσι και το AI assurance μπορεί να γίνει νέο market layer.
