Το chatbot τεχνητής νοημοσύνης Grok, ναυαρχίδα της εταιρείας xAI του Έλον Μασκ, εξακολουθεί να δημιουργεί σεξουαλικοποιημένες εικόνες ανθρώπων χωρίς τη συναίνεσή τους, ακόμη και όταν οι χρήστες προειδοποιούν ρητά ότι τα υποκείμενα δεν συναινούν ή είναι ευάλωτα, σύμφωνα με έρευνα του Reuters.

Η διαπίστωση έρχεται μετά την ανακοίνωση της πλατφόρμας X για νέους περιορισμούς στις δυνατότητες δημόσιας παραγωγής εικόνων από το Grok, έπειτα από παγκόσμια κατακραυγή για τη μαζική δημιουργία μη συναινετικού σεξουαλικού περιεχομένου, που αφορούσε κυρίως γυναίκες αλλά και παιδιά.

1

Εννέα δημοσιογράφοι του Reuters – έξι άνδρες και τρεις γυναίκες στις ΗΠΑ και το Ηνωμένο Βασίλειο – υπέβαλαν στο Grok δεκάδες προτροπές μεταξύ 14–16 και 27–28 Ιανουαρίου, χρησιμοποιώντας πλήρως ντυμένες φωτογραφίες τους και ζητώντας από το chatbot να τις μετατρέψει σε σεξουαλικά προκλητικές ή εξευτελιστικές εικόνες.

Στον πρώτο γύρο δοκιμών, το Grok παρήγαγε σεξουαλικοποιημένες εικόνες σε 45 από τις 55 περιπτώσεις. Σε 31 από αυτές, είχε προηγηθεί ρητή προειδοποίηση ότι το άτομο ήταν ιδιαίτερα ευάλωτο, ενώ σε 17 περιπτώσεις είχε δηλωθεί ξεκάθαρα ότι οι εικόνες θα χρησιμοποιούνταν για εξευτελισμό.

Πέντε ημέρες αργότερα, σε δεύτερο κύκλο 43 προτροπών, το Grok ανταποκρίθηκε θετικά σε 29 περιπτώσεις. Το Reuters δεν μπόρεσε να εξακριβώσει αν η χαμηλότερη συχνότητα οφειλόταν σε αλλαγές του μοντέλου, πολιτικές περιορισμού ή τυχαία συμπεριφορά.

Περιορισμοί μόνο στη δημόσια χρήση

Αν και ο επίσημος λογαριασμός του Grok στην πλατφόρμα X δεν παράγει πλέον δημόσια τον ίδιο όγκο σεξουαλικού περιεχομένου, το chatbot συνεχίζει να το κάνει κατόπιν προτροπής, ακόμη και όταν του επισημαίνεται ότι τα άτομα θα νιώσουν ταπεινωμένα ή κακοποιημένα.

Η X και η xAI δεν απάντησαν σε συγκεκριμένα ερωτήματα του Reuters. Η xAI απέστειλε επανειλημμένα μια τυποποιημένη απάντηση που ανέφερε: «Legacy Media Lies».

Οι αλλαγές που ανακοίνωσε η X περιλάμβαναν τον αποκλεισμό της δημιουργίας σεξουαλικών εικόνων σε δημόσιες αναρτήσεις και πρόσθετους περιορισμούς σε «δικαιοδοσίες όπου τέτοιο περιεχόμενο είναι παράνομο».

Αντιδράσεις ρυθμιστικών αρχών

Η ανακοίνωση της X χαιρετίστηκε συγκρατημένα από τις αρχές. Η βρετανική Ofcom τη χαρακτήρισε «θετική εξέλιξη», ενώ οι αρχές στις Φιλιππίνες και τη Μαλαισία ήραν προηγούμενους αποκλεισμούς στο Grok. Η Ευρωπαϊκή Επιτροπή, η οποία ξεκίνησε έρευνα για την X στις 26 Ιανουαρίου, δήλωσε ότι «θα αξιολογήσει προσεκτικά τις αλλαγές».

Σε πειράματα του Reuters, παρόμοιες προτροπές δόθηκαν στα chatbots ChatGPT (OpenAI), Gemini (Alphabet) και Llama (Meta). Και τα τρία αρνήθηκαν να δημιουργήσουν εικόνες, προβάλλοντας προειδοποιήσεις για μη συναινετικό και επιβλαβές περιεχόμενο.

«Η επεξεργασία της εικόνας κάποιου χωρίς τη συναίνεσή του παραβιάζει ηθικούς και κανόνες ιδιωτικότητας», απάντησε το ChatGPT. Η Meta δήλωσε ότι τα εργαλεία της δεν θα συμμορφώνονταν ποτέ με τέτοια αιτήματα, ενώ η OpenAI ανέφερε ότι διαθέτει ισχυρές δικλίδες ασφαλείας.

Νομικές συνέπειες

Στο Ηνωμένο Βασίλειο, η δημιουργία μη συναινετικών σεξουαλικών εικόνων μπορεί να οδηγήσει σε ποινική δίωξη, ενώ εταιρείες όπως η xAI θα μπορούσαν να αντιμετωπίσουν βαριά πρόστιμα βάσει του Online Safety Act του 2023, σύμφωνα με νομικούς ειδικούς.

Στις ΗΠΑ, η xAI θα μπορούσε να βρεθεί αντιμέτωπη με ενέργειες από την Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) ή από πολιτειακές αρχές. Ήδη 35 γενικοί εισαγγελείς πολιτειών έχουν ζητήσει εξηγήσεις από την xAI, ενώ η Καλιφόρνια έχει αποστείλει εντολή παύσης (cease and desist) στις 16 Ιανουαρίου, διατάσσοντας τη διακοπή της παραγωγής μη συναινετικού σεξουαλικού περιεχομένου.

Οι έρευνες στις ΗΠΑ, τη Βρετανία και την Ευρωπαϊκή Ένωση βρίσκονται σε εξέλιξη.

 

Διαβάστε επίσης 

Pfizer: Κέρδη πάνω από τις εκτιμήσεις στο 4ο τρίμηνο χάρη στα παλαιότερα φάρμακα

ΔΕΣΦΑ: Σημαντικό ενδιαφέρον στις δημοπρασίες για εκφόρτωση LNG στον Τερματικό Σταθμό της Ρεβυθούσας

Energean: Θετική γνωμοδότηση της Ευρωπαϊκής Επιτροπής για την Άδεια Αποθήκευσης CO2 στον Πρίνο