Η Ευρωπαϊκή Ένωση εξετάζει με «απόλυτη σοβαρότητα» το Grok του Έλον Μασκ, έπειτα από καταγγελίες ότι το chatbot τεχνητής νοημοσύνης παρήγαγε σεξουαλικοποιημένες εικόνες ανθρώπων, συμπεριλαμβανομένων ανηλίκων, στην πλατφόρμα κοινωνικής δικτύωσης X.

«Γνωρίζουμε ότι το X ή το Grok προσφέρει πλέον μια λειτουργία “Spicy Mode”, η οποία εμφανίζει ρητό σεξουαλικό περιεχόμενο, με ορισμένες εξόδους να περιλαμβάνουν παιδικής μορφής εικόνες», δήλωσε σε συνέντευξη Τύπου τη Δευτέρα ο εκπρόσωπος της Κομισιόν, Τόμας Ρενιέ, αναφερόμενος στη ρύθμιση που παρουσιάστηκε πέρυσι για τη δημιουργία υπονοούμενου υλικού. «Αυτό δεν είναι “πικάντικο”. Είναι παράνομο».

1

Χρήστες του X προέτρεπαν το Grok να αφαιρεί ψηφιακά ρούχα από φωτογραφίες — συχνά γυναικών — ώστε τα πρόσωπα να εμφανίζονται μόνο με εσώρουχα ή μαγιό. Η εξάπλωση τέτοιων εικόνων σε μια δημοφιλή πλατφόρμα έχει προκαλέσει ανησυχία σε ρυθμιστικές αρχές και υπερασπιστές της ασφάλειας στο διαδίκτυο παγκοσμίως, με αξιωματούχους από την Ινδία, τη Βρετανία και τη Γαλλία να καταγγέλλουν τις αναρτήσεις.

Η xAI, που διαχειρίζεται το X και το Grok, δεν απάντησε σε αίτημα σχολιασμού. Ο Μασκ έγραψε την Κυριακή στο X ότι η πλατφόρμα λαμβάνει μέτρα κατά του παράνομου υλικού, αφαιρώντας το, αναστέλλοντας μόνιμα λογαριασμούς και συνεργαζόμενη με τις αρχές όπου απαιτείται. «Όποιος χρησιμοποιεί το Grok για τη δημιουργία παράνομου περιεχομένου θα υποστεί τις ίδιες συνέπειες σαν να ανέβαζε ο ίδιος παράνομο υλικό», ανέφερε.

Ενώ τα περισσότερα mainstream μοντέλα ΤΝ απαγορεύουν σεξουαλικές εικόνες και βίντεο, η xAI έχει τοποθετήσει το Grok ως πιο επιτρεπτικό. Το σύστημα επιτρέπει απεικονίσεις μερικής γυμνότητας ενηλίκων και σεξουαλικά υπονοούμενες εικόνες, παρότι απαγορεύει ρητή πορνογραφία με πραγματικά πρόσωπα και σεξουαλικό περιεχόμενο που αφορά ανηλίκους. Σε χώρες όπως οι ΗΠΑ και το Ηνωμένο Βασίλειο, η δημοσίευση AI-παραγόμενων ερωτικών deepfakes χωρίς συναίνεση είναι παράνομη. Η χάραξη και επιβολή αυτών των ορίων αποτελεί κρίσιμη δοκιμασία για τα συστήματα ασφαλείας των εργαλείων δημιουργίας εικόνων.

Η φερόμενη αποτυχία της xAI να εφαρμόσει αποτελεσματικά «φράγματα ασφαλείας» έχει προκαλέσει καταδίκες από ρυθμιστικές αρχές διεθνώς.

Η βρετανική ρυθμιστική αρχή μέσων Ofcom δήλωσε τη Δευτέρα ότι γνωρίζει «σοβαρές ανησυχίες» για τα χαρακτηριστικά του Grok και ότι είχε «επείγουσα επικοινωνία με το X και την xAI για να κατανοήσει ποια μέτρα έχουν λάβει ώστε να συμμορφωθούν με τις νομικές τους υποχρεώσεις προστασίας των χρηστών στο Ηνωμένο Βασίλειο».

Η γαλλική κυβέρνηση κατηγόρησε την Παρασκευή το Grok ότι παρήγαγε «σαφώς παράνομο» σεξουαλικό περιεχόμενο στο X χωρίς συναίνεση και επισήμανε πιθανή παραβίαση του Digital Services Act, ο οποίος απαιτεί από τις μεγάλες πλατφόρμες να μετριάζουν τον κίνδυνο διάδοσης παράνομου περιεχομένου.

Το υπουργείο Πληροφορικής της Ινδίας ζήτησε συνολική επανεξέταση των χαρακτηριστικών ασφάλειας του Grok, ενώ οι αρχές της Μαλαισίας ανακοίνωσαν ότι διερευνούν την υπόθεση μετά από καταγγελίες για «άσεμνο» περιεχόμενο.

Το X του Μασκ βρισκόταν ήδη υπό έρευνα στο πλαίσιο του DSA και τον Δεκέμβριο τιμωρήθηκε με πρόστιμο 120 εκατ. ευρώ, το πρώτο που επιβλήθηκε βάσει του αμφιλεγόμενου νόμου για τη διαχείριση περιεχομένου. Η εστίαση της ΕΕ σε αμερικανικές τεχνολογικές εταιρείες, όπως το X, έχει δεχθεί έντονη κριτική από την κυβέρνηση του Ντόναλντ Τραμπ, η οποία υποστηρίζει ότι οι Ευρωπαίοι ρυθμιστές λογοκρίνουν την ελευθερία του λόγου.

Διαβάστε επίσης 

Κύμα αρκτικού αέρα σαρώνει την Ευρώπη – Αυξάνεται η ζήτηση για ενέργεια

UBS: Επιστροφή στην αγορά ομολόγων AT1 με προσφορές ύψους $10 δισ.

Wells Fargo: Σε θέση «κλειδί» ένας βετεράνος του κλάδου – Τι σχεδιάζει ο αμερικανικός τραπεζικός κολοσσός