Ολλανδικό δικαστήριο εξέδωσε πρόσφατα απόφαση που απαγορεύει στην πλατφόρμα τεχνητής νοημοσύνης Grok, ιδιοκτησίας της xAI του Έλον Μασκ, τη δημιουργία μη συναινετικών γυμνών εικόνων και υλικού σεξουαλικής κακοποίησης παιδιών. Η απόφαση αυτή συνοδεύεται από την απειλή ημερήσιων προστίμων ύψους 100.000 ευρώ, με ανώτατο όριο τα 10 εκατομμύρια ευρώ, για κάθε ημέρα μη συμμόρφωσης.
σχετικά άρθρα
Η ετυμηγορία του δικαστηρίου του Άμστερνταμ καθιστά σαφές ότι απαγορεύεται η παραγωγή και διανομή σεξουαλικού υλικού, όταν χρησιμοποιείται η λειτουργικότητα της «απογύμνωσης» ατόμων, είτε μερικώς είτε πλήρως, χωρίς τη ρητή συγκατάθεσή τους. Επιπλέον, απαγορεύεται ρητά η δημιουργία οποιουδήποτε υλικού που, σύμφωνα με την ολλανδική νομοθεσία, συνιστά υλικό σεξουαλικής κακοποίησης παιδιών.
Αξίζει να σημειωθεί ότι, παρά το γεγονός πως η απαγόρευση ισχύει εντός της Ολλανδίας, οι οργανώσεις που προσέφυγαν στη δικαιοσύνη εκτιμούν ότι η απόφαση μπορεί να έχει ευρύτερες επιπτώσεις, δεδομένης της αδυναμίας του Grok να προσδιορίσει τη γεωγραφική τοποθεσία των χρηστών του. Η X, η μητρική εταιρεία, δεν έχει ανταποκριθεί μέχρι στιγμής σε αίτημα για σχολιασμό.
Τον περασμένο Ιανουάριο, η πλατφόρμα είχε λάβει μέτρα για τον περιορισμό λειτουργιών, αφότου διαπιστώθηκε ότι το Grok παρήγαγε εικόνες πραγματικών προσώπων με μπικίνι ή γυμνά. Εκτιμήσεις ανέφεραν ότι περίπου 3 εκατομμύρια τέτοιες εικόνες είχαν δημιουργηθεί μέσα σε μόλις 11 ημέρες. Παρόλο που η δικαστική αρχή αναγνώρισε τα μέτρα που έλαβαν η X και η xAI για την αντιμετώπιση του φαινομένου των πλαστών γυμνών και του υλικού σεξουαλικής κακοποίησης παιδιών, εξέφρασε αμφιβολίες ως προς την αποτελεσματικότητά τους.
Η υπόθεση κινήθηκε από τις οργανώσεις Offlimits, που μάχεται την ηλεκτρονική κακοποίηση, και Fonds Slachtofferhulp, που παρέχει βοήθεια σε θύματα εγκλημάτων. Ο πρόεδρος της Offlimits, Robbert Hoving, χαρακτήρισε την απόφαση «φανταστικά νέα», τονίζοντας ότι «η τεχνολογία δεν μπορεί ποτέ να αποτελεί αιτία για θύματα».
Η συγκεκριμένη απόφαση εντάσσεται σε ένα ευρύτερο πλαίσιο ρυθμιστικών πιέσεων. Η Ευρωπαϊκή Επιτροπή ξεκίνησε έρευνα κατά της X στα τέλη Ιανουαρίου, ενώ τόσο οι ευρωβουλευτές όσο και τα κράτη μέλη της ΕΕ πιέζουν για την απαγόρευση εφαρμογών τεχνητής νοημοσύνης που δημιουργούν «απογυμνωμένες» εικόνες, στο πλαίσιο της αναθεώρησης των κανόνων της ΕΕ για την Τεχνητή Νοημοσύνη, με πιθανή εφαρμογή της απαγόρευσης μέχρι το καλοκαίρι.
