Βόμβα στην Anthropic: Η AI θα μας εξοντώσει! 10% πιθανότητες;
Συναγερμός στον κόσμο της τεχνητής νοημοσύνης: Ο Jacob Coxon, ανώτερος ερευνητής της Anthropic, παραιτήθηκε με βαρύτατες καταγγελίες, προειδοποιώντας ότι η ανεξέλεγκτη AI θα μπορούσε να οδηγήσει στην εξόντωση της ανθρωπότητας. Η αποκάλυψη έρχεται σαν κεραυνός εν αιθρία και φέρνει στο προσκήνιο τους φόβους για το μέλλον της τεχνολογίας.
σχετικά άρθρα
Ο Coxon, με θητεία σε κορυφαίες εταιρείες όπως η OpenAI και η Anthropic, κατηγόρησε την Anthropic ότι δεν ενεργεί με επαρκή υπευθυνότητα. Τόνισε ότι οι κολοσσοί του χώρου «τρέχουν» επικίνδυνα προς την ανάπτυξη αυτοβελτιούμενης υπερνοημοσύνης, «παίζοντας με τις ζωές των ανθρώπων».
Οι δηλώσεις του Evan Hubinger, επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic, ήρθαν να επιβεβαιώσουν τους χειρότερους φόβους. Ο Hubinger ανέφερε δημόσια ότι πολλοί συνάδελφοί του πιστεύουν ειλικρινά ότι η AI θα μπορούσε να «εξοντώσει όλους τους ανθρώπους», εκτιμώντας μάλιστα την πιθανότητα να συμβεί αυτό σε πάνω από 10% μέσα στην επόμενη δεκαετία. Παρά τις προσπάθειες της εταιρείας, δεν υπάρχει ακόμη σαφές σχέδιο για την «ευθυγράμμιση για την υπερνοημοσύνη».
Ο Coxon ξεκαθάρισε ότι ο κίνδυνος αυτός δεν είναι «διαφημιστικό τέχνασμα». Ανέδειξε τις αδυναμίες τόσο της OpenAI στην κατανόηση των διακυβεύσεων για τον πολιτισμό όσο και της Anthropic, η οποία παραμένει εγκλωβισμένη σε έναν σκληρό ανταγωνιστικό αγώνα δρόμου στον τομέα των Επιχειρήσεων.
Η αγωνία εντείνεται από το γεγονός ότι οι σημερινές εξελίξεις στην AI, αν και χαμηλού κινδύνου, οδηγούν με ταχύτητα στη δημιουργία υπερνοημοσύνης μέσω αναδρομικής αυτοβελτίωσης, μια διαδικασία που προχωρά ταχύτερα από τις αρχικές προβλέψεις.
Αυτές οι ανησυχητικές εξελίξεις υπογραμμίζουν την επείγουσα ανάγκη για διεθνή συνεργασία και κυβερνητική παρέμβαση, ώστε να τεθούν επιτέλους όρια στην ανεξέλεγκτη ανάπτυξη αυτοματοποιημένων συστημάτων AI. Κορυφαίοι ερευνητές, όπως οι Dario Amodei και Jared Kaplan της Anthropic, ο Jakub Pachocki της OpenAI και ο Shengjia Zhao της Meta AI, ζητούν επιβράδυνση για την ανάπτυξη μέτρων ασφαλείας και εποπτείας. Το μέλλον της ανθρωπότητας, όπως φαίνεται, κρέμεται από μια κλωστή, και η συζήτηση για Διεθνή ρυθμιστικά πλαίσια είναι πλέον πιο επιτακτική από ποτέ. Τι θα κάνουμε γι’ αυτό;
