Η νέα μάχη για την ακρίβεια
Η Κάμπελ Μπράουν, πρώην επικεφαλής ειδήσεων του Φέισμπουκ, παρουσίασε στο Σαν Φρανσίσκο, στις 13 Μαΐου, το Forum AI. Συγκεκριμένα, εξήγησε πώς το σχήμα ελέγχει μοντέλα Τεχνητής Νοημοσύνης, επειδή οι πολίτες ζητούν ακριβείς απαντήσεις σε κρίσιμα ζητήματα.
σχετικά άρθρα
Η Μπράουν μίλησε στον Τιμ Φέρνχολζ του ΤεκΚραντς, σε εκδήλωση του StrictlyVC, και περιέγραψε έναν νέο κίνδυνο ενημέρωσης. Έτσι, συνέδεσε την εμπειρία της στη Meta με την ανάγκη για πιο αξιόπιστα συστήματα πληροφόρησης στο διαδίκτυο σήμερα.
Το Forum AI και οι ειδικοί
Το Forum AI ελέγχει μοντέλα σε πεδία υψηλού ρίσκου, όπως γεωπολιτική, ψυχική υγεία, χρηματοοικονομικά και προσλήψεις. Ωστόσο, η Μπράουν τονίζει ότι αυτά τα θέματα δεν έχουν πάντα μία σαφή απάντηση ή απλή τεχνική λύση.
Το σχήμα κάνει συνεργασίες με ειδικούς, τους οποίους χρησιμοποιεί ως αρχιτέκτονες αναφοράς για τον έλεγχο των απαντήσεων. Παράλληλα, εκπαιδεύει κριτές Τεχνητής Νοημοσύνης, με στόχο να συγκρίνουν μοντέλα με ανθρώπινη κρίση σε μεγάλη κλίμακα.
Τα ονόματα πίσω από τον έλεγχο
Στο γεωπολιτικό έργο παίρνουν μέρος ο Νάιαλ Φέργκιουσον, ο Φαρίντ Ζακάρια, ο Τόνι Μπλίνκεν και ο Κέβιν Μακάρθι. Επιπλέον, η Αν Νόιμπεργκερ προσφέρει εμπειρία κυβερνοασφάλειας, μετά τον ρόλο της σε κυβερνητική ομάδα των ΗΠΑ.
Η Μπράουν θέτει στόχο συναίνεσης περίπου 90% ανάμεσα στους κριτές Τεχνητής Νοημοσύνης και στους ανθρώπινους ειδικούς. Ως αποτέλεσμα, το Forum AI υποστηρίζει ότι έχει φτάσει αυτό το επίπεδο σε μέρος των ελέγχων του.
Τα λάθη που ανησυχούν την Μπράουν
Η Μπράουν συνδέει την ιδέα με την πρώτη δημόσια εμφάνιση του ChatGPT, την περίοδο του ρόλου της στη Meta. Συγκεκριμένα, λέει ότι κατάλαβε γρήγορα πως τα chatbot περνούν τεράστιο μέρος της πληροφορίας προς τους πολίτες καθημερινά.
Κατά την ίδια, οι μεγάλοι τεχνολογικοί όμιλοι δίνουν βάρος στον προγραμματισμό και στα μαθηματικά, όχι στην ακρίβεια ειδήσεων. Από την άλλη, τα λάθη σε πολιτική, υγεία, χρήμα και εργασία έχουν άμεσο κόστος για ανθρώπους και επιχειρήσεις.
Συμμόρφωση, αγορά και εμπιστοσύνη
Η Μπράουν χαρακτηρίζει ανεπαρκείς πολλούς ελέγχους συμμόρφωσης και ζητά βαθύτερη γνώση κάθε πεδίου. Για παράδειγμα, αναφέρει νόμο της Νέας Υόρκης για μεροληψία στις προσλήψεις και ευρήματα με πολλές παραβάσεις.
Η ίδια θεωρεί ότι οι επιχειρήσεις πιέζουν για καλύτερη αξιολόγηση, επειδή χρησιμοποιούν Τεχνητή Νοημοσύνη σε δάνεια, ασφάλιση και προσλήψεις. Τέλος, σημειώνει ότι η χαμηλή εμπιστοσύνη των πολιτών δείχνει πραγματικό πρόβλημα, όχι απλή τεχνολογική φοβία.
