ΣΧΕΤΙΚΑ ΑΡΘΡΑ
Χιλιάδες διαφημίσεις εφαρμογών τεχνητής νοημοσύνης που δημιουργούν ψεύτικες γυμνές εικόνες και βίντεο («AI nudify apps») προβλήθηκαν τους τελευταίους μήνες στο Facebook και το Instagram, παρά το γεγονός ότι παραβιάζουν τις ίδιες τις πολιτικές της Meta, σύμφωνα με νέα έκθεση του μη κερδοσκοπικού οργανισμού Tech Transparency Project (TTP).
Η έρευνα αποδίδει κεντρικό ρόλο στην κινεζική εταιρεία GatherOne Inc., με έδρα το Πεκίνο, η οποία λειτουργεί ως διαφημιστικός συνεργάτης της Meta, διαμεσολαβώντας για κινεζικές επιχειρήσεις που επιθυμούν να προωθήσουν τα προϊόντα τους στις πλατφόρμες της εταιρείας. Σύμφωνα με το TTP, η GatherOne συνδέεται με περίπου 7.600 διαφημίσεις εφαρμογών που χρησιμοποιούν τεχνητή νοημοσύνη για να τοποθετούν πρόσωπα γυναικών πάνω σε γυμνά σώματα ή να δημιουργούν σεξουαλικοποιημένα βίντεο.
Η έκθεση επισημαίνει ακόμη ότι μία από τις εφαρμογές που διαφημίστηκαν, η οποία αναπτύχθηκε στην Κίνα, επιτρέπει τη διαμοίραση υλικού το οποίο ορισμένοι χρήστες έχουν καταγγείλει ως παιδική πορνογραφία.
Οι κανονισμοί της Meta απαγορεύουν ρητά τόσο τις σεξουαλικά προκλητικές διαφημίσεις όσο και την προώθηση εφαρμογών που ισχυρίζονται ότι μπορούν να «γδύσουν» ψηφιακά τα πρόσωπα που εμφανίζονται στις εικόνες. Ωστόσο, σύμφωνα με το Tech Transparency Project, η υπόθεση αναδεικνύει τις αδυναμίες των μεγάλων τεχνολογικών εταιρειών, όπως η Meta, η Apple και η Google, να περιορίσουν αποτελεσματικά την εξάπλωση τέτοιων υπηρεσιών.
Η διευθύντρια του TTP, Κέιτι Πολ, υποστήριξε ότι η Meta φαίνεται να επιδεικνύει ιδιαίτερη ανοχή απέναντι σε έναν από τους σημαντικότερους διαφημιστικούς συνεργάτες της στην Κίνα. Όπως ανέφερε, τα ευρήματα της έρευνας έρχονται σε αντίθεση με τις δημόσιες δεσμεύσεις της εταιρείας για την καταπολέμηση των εφαρμογών που δημιουργούν ψεύτικο γυμνό περιεχόμενο και δημιουργούν την εντύπωση ότι τα διαφημιστικά έσοδα υπερισχύουν της προστασίας των χρηστών.
Από την πλευρά της, η επικεφαλής Πολιτικής για την Ασφάλεια των Γυναικών στη Meta, Σίντι Σάουθγουορθ, τόνισε ότι η εταιρεία δεν επιτρέπει τη διακίνηση μη συναινετικού προσωπικού περιεχομένου ούτε την προώθηση εφαρμογών «nudify», υπογραμμίζοντας ότι λαμβάνονται αυστηρά μέτρα για τον εντοπισμό και την απομάκρυνσή τους.
Εκπρόσωπος της Meta σημείωσε επίσης ότι όλοι οι διαφημιζόμενοι υποχρεούνται να συμμορφώνονται με τους κανόνες της πλατφόρμας και ότι όσοι παραβιάζουν τις πολιτικές της εταιρείας κινδυνεύουν με διαγραφή διαφημίσεων, οικονομικές κυρώσεις και οριστικό αποκλεισμό των λογαριασμών τους.
Η GatherOne, από την πλευρά της, υποστήριξε ότι τηρεί πλήρως τους κανόνες της Meta και το ισχύον διεθνές νομικό πλαίσιο. Η εταιρεία ανέφερε ότι εφαρμόζει πολιτική μηδενικής ανοχής απέναντι σε παραπλανητικές πρακτικές, περιεχόμενο ενηλίκων, μη συναινετικό υλικό που δημιουργείται με τεχνητή νοημοσύνη, παιδική εκμετάλλευση και απάτες.
Παράλληλα, ανακοίνωσε ότι διακόπτει τη δημιουργία νέων διαφημιστικών λογαριασμών για υπηρεσίες που σχετίζονται με εφαρμογές τεχνητής νοημοσύνης οι οποίες δημιουργούν γυμνές εικόνες ή πραγματοποιούν ανταλλαγή προσώπων (face swap), ενώ προχωρά σε συνολική αναβάθμιση των διαδικασιών συμμόρφωσης.
Η έκθεση του TTP προσφέρει παράλληλα μια σπάνια εικόνα για τα έσοδα που αποκομίζει η Meta από την Κίνα, παρότι το Facebook και το Instagram παραμένουν αποκλεισμένα στη χώρα. Κινεζικές επιχειρήσεις που δραστηριοποιούνται εκτός συνόρων χρησιμοποιούν διαφημιστικούς διαμεσολαβητές, όπως η GatherOne, προκειμένου να αποκτήσουν πρόσβαση στο διεθνές κοινό μέσω των πλατφορμών της Meta.
Σύμφωνα με τα οικονομικά στοιχεία της εταιρείας, οι πωλήσεις της Meta στην Κίνα ανήλθαν σε 18,4 δισ. δολάρια το 2024, αντιπροσωπεύοντας περίπου το 11% των συνολικών εσόδων της, υπερδιπλάσιες σε σχέση με το 2022.
Η πρώην στέλεχος της Meta και πληροφοριοδότρια Σάρα Γουίν-Γουίλιαμς είχε καταθέσει ενώπιον του αμερικανικού Κογκρέσου ότι η εταιρεία είχε στο παρελθόν αναπτύξει εργαλεία λογοκρισίας για την Κίνα και συνέβαλε στην ενίσχυση των δυνατοτήτων της χώρας στον τομέα της τεχνητής νοημοσύνης. Η Meta είχε απορρίψει τότε τους ισχυρισμούς της.
Παράλληλα, δημοσίευμα του Reuters τον Δεκέμβριο του προηγούμενου έτους ανέφερε ότι εσωτερικά έγγραφα της εταιρείας έδειχναν πως περίπου το 19% των διαφημιστικών εσόδων της Meta από την Κίνα το 2024 προερχόταν από διαφημίσεις που σχετίζονταν με απαγορευμένο περιεχόμενο, όπως πορνογραφία, απάτες και παράνομο τζόγο. Η Meta είχε αμφισβητήσει την ακρίβεια των συγκεκριμένων πληροφοριών.
Οι διαφημίσεις που εντόπισε το TTP προβλήθηκαν από τον Απρίλιο έως τον Ιούνιο και αποσύρθηκαν μόνο αφού είχαν ήδη εμφανιστεί στους χρήστες. Πολλές περιλάμβαναν εικόνες νεαρών γυναικών με σεξουαλικό περιεχόμενο και μηνύματα όπως «Create a video with any face».
Μεταξύ των εφαρμογών που αναφέρονται στην έκθεση βρίσκεται και η BAfter για Android. Οι ερευνητές διαπίστωσαν ότι μέσω της ενότητας «ShareZone» προσφέρονταν πορνογραφικές δημιουργίες με τεχνολογία face swap, ενώ αρκετοί χρήστες στο Google Play είχαν καταγγείλει την ύπαρξη υλικού που χαρακτήριζαν ως παράνομη παιδική πορνογραφία και βίντεο με ανηλίκους που δημιουργήθηκαν με τεχνητή νοημοσύνη.
Μετά από ερωτήματα του Bloomberg, η Meta ανακοίνωσε ότι απέκλεισε την εφαρμογή BAfter και απαγόρευσε πλέον τους συνδέσμους προς σειρά αντίστοιχων εφαρμογών. Η GatherOne γνωστοποίησε ότι διέκοψε οριστικά κάθε διαφημιστική συνεργασία με τη συγκεκριμένη εφαρμογή, ενώ η Google δεν προχώρησε σε σχολιασμό της υπόθεσης.
Σύμφωνα με στοιχεία που επικαλείται το TTP από την εταιρεία ερευνών AppMagic, ορισμένες από τις εφαρμογές που εξετάστηκαν έχουν καταγράψει συνολικά περισσότερες από 2,5 εκατομμύρια λήψεις παγκοσμίως.
Την ίδια ώρα, έρευνα του Πανεπιστημίου George Mason στις ΗΠΑ έδειξε ότι περισσότεροι από τους μισούς εφήβους που συμμετείχαν είχαν χρησιμοποιήσει εφαρμογές τεχνητής νοημοσύνης για τη δημιουργία τουλάχιστον μίας τέτοιας εικόνας, ενώ πάνω από το ένα τρίτο δήλωσαν ότι έχουν υπάρξει οι ίδιοι θύματα αντίστοιχων εργαλείων. Οι ειδικοί επισημαίνουν ότι οι νέοι έχουν ήδη πολλούς εναλλακτικούς τρόπους πρόσβασης στις συγκεκριμένες υπηρεσίες, γεγονός που περιορίζει την αποτελεσματικότητα των μέτρων που λαμβάνουν οι πλατφόρμες κοινωνικής δικτύωσης και τα ηλεκτρονικά καταστήματα εφαρμογών.
Διαβάστε επίσης
Άδεια εγκατάστασης και λειτουργίας έλαβε το Deree – Νέα εποχή για το Αμερικανικό Κολλέγιο Ελλάδος
DIMAND: Περισσότερα από 400.000 τ.μ. πράσινων κτηρίων στην Ελλάδα
ΕΙΔΗΣΕΙΣ ΣΗΜΕΡΑ
Μοιραστείτε την άποψή σας
ΣχόλιαΓια να σχολιάσετε χρησιμοποιήστε ένα ψευδώνυμο. Παρακαλούμε σχολιάζετε με σεβασμό. Χρησιμοποιείτε κατανοητή γλώσσα και αποφύγετε διατυπώσεις που θα μπορούσαν να παρερμηνευτούν ή να θεωρηθούν προσβλητικές. Με την ανάρτηση σχολίου, συμφωνείτε να τηρείτε τους Όρους του ιστότοπου contact Δημιουργήστε το account σας εδώ, για να κάνετε like, dislike ή report ακατάλληλα/προσβλητικά σχόλια.