Ένα δικαστήριο του Άμστερνταμ εξέδωσε απόφαση που απαγορεύει στο chatbot Grok της εταιρείας xAI, ιδιοκτησίας του Έλον Μασκ, να δημιουργεί μη συναινετικές γυμνές εικόνες και υλικό σεξουαλικής κακοποίησης παιδιών. Η απόφαση συνοδεύεται από την απειλή επιβολής προστίμου 100.000 ευρώ για κάθε ημέρα μη συμμόρφωσης, με ανώτατο όριο τα 10 εκατομμύρια ευρώ.
σχετικά άρθρα
Η δικαστική εντολή, η οποία δημοσιεύθηκε την Πέμπτη, καθιστά σαφές ότι απαγορεύεται η δημιουργία και διασπορά σεξουαλικού περιεχομένου «όταν η λειτουργία για να απογυμνώνει ανθρώπους εν μέρει ή πλήρως χρησιμοποιείται χωρίς τη ρητή συγκατάθεση αυτών των ατόμων». Παράλληλα, απαγορεύεται ρητά η παραγωγή εικόνων που, σύμφωνα με την ολλανδική νομοθεσία, «χαρακτηρίζονται ως υλικό παιδικής σεξουαλικής κακοποίησης».
Αν και η απαγόρευση ισχύει αρχικά μόνο στην Ολλανδία, οι οργανώσεις που προσέφυγαν στη δικαιοσύνη επισημαίνουν ότι η απόφαση μπορεί να έχει ευρύτερες συνέπειες, καθώς το Grok δεν είναι σε θέση να διακρίνει τη χώρα διαμονής του χρήστη. Η πλατφόρμα X, μητρική εταιρεία της xAI, δεν ανταποκρίθηκε άμεσα σε αίτημα για σχόλια.
Τον Ιανουάριο, η X είχε ήδη λάβει μέτρα για να περιορίσει τις λειτουργίες του Grok, μετά από αναφορές ότι το chatbot παρήγαγε εικόνες πραγματικών προσώπων με μπικίνι ή γυμνά. Εκτιμήσεις ανέφεραν τότε ότι περίπου 3 εκατομμύρια τέτοιες εικόνες δημιουργήθηκαν μέσα σε 11 ημέρες. Παρόλο που το δικαστήριο αναγνώρισε τις προσπάθειες της X και της xAI να αντιμετωπίσουν το πρόβλημα, εξέφρασε αμφιβολίες για την αποτελεσματικότητα των μέτρων που έχουν ληφθεί.
Η αγωγή κατατέθηκε στα τέλη Φεβρουαρίου από την Offlimits, μια οργάνωση που καταπολεμά την διαδικτυακή κακοποίηση, και το Fonds Slachtofferhulp, το οποίο παρέχει βοήθεια σε θύματα εγκλημάτων. Ο πρόεδρος της Offlimits, Robbert Hoving, χαιρέτισε την απόφαση ως «φανταστικά νέα», τονίζοντας ότι «η τεχνολογία δεν μπορεί ποτέ να είναι η αιτία για θύματα».
Η εξέλιξη αυτή έρχεται σε μια περίοδο που η Ευρωπαϊκή Επιτροπή έχει ξεκινήσει έρευνα στην X από τα τέλη Ιανουαρίου, ενώ ευρωβουλευτές και κράτη-μέλη της ΕΕ πιέζουν για την απαγόρευση εφαρμογών τεχνητής νοημοσύνης που μπορούν να δημιουργούν τέτοιου είδους εικόνες, με μια τέτοια απαγόρευση να είναι πιθανή μέχρι το καλοκαίρι.
