Η χρήση του Grok, του chatbot τεχνητής νοημοσύνης της xAI, έχει ξεφύγει πλέον πολύ πέρα από την απλή επεξεργασία εικόνων. Πολλοί χρήστες το αξιοποιούν για να αλλοιώνουν φωτογραφίες γυναικών και κοριτσιών χωρίς τη συναίνεσή τους, όχι μόνο «γδύνοντάς» τες ή σεξουαλικοποιώντας την εμφάνισή τους, αλλά και παρεμβαίνοντας σε θρησκευτικά και πολιτισμικά σύμβολα.
Συγκεκριμένα, ζητούν να αφαιρεθούν ή να προστεθούν χιτζάμπ, σάρι, ενδυμασίες καλογριών ή άλλα στοιχεία θρησκευτικότητας, μετατρέποντας την εικόνα του σώματος και της ταυτότητας των γυναικών σε πεδίο ψηφιακής κακοποίησης και ιδεολογικής επίθεσης.
Σύμφωνα με έρευνα του WIRED σε 500 εικόνες που δημιουργήθηκαν από το Grok μεταξύ 6 και 9 Ιανουαρίου, περίπου το 5% περιλάμβανε γυναίκες που, κατόπιν εντολών χρηστών, εμφανίζονταν χωρίς τον θρησκευτικό ή πολιτισμικό ρουχισμό τους. Τα πιο συνηθισμένα παραδείγματα ήταν ινδικά σάρι και ισλαμική ενδυμασία, ενώ εμφανίστηκαν επίσης μπούρκες, ιαπωνικές σχολικές στολές και μαγιό παλαιότερων δεκαετιών.
Η Noelle Martin, δικηγόρος και ερευνήτρια της κακοποίησης μέσω deepfakes, επισημαίνει ότι οι έγχρωμες γυναίκες πλήττονται δυσανάλογα από αλλοιωμένες και κατασκευασμένες σεξουαλικές εικόνες, επειδή συχνά αντιμετωπίζονται από την κοινωνία –και ιδιαίτερα από μισογυνικούς κύκλους– ως λιγότερο άξιες σεβασμού. Η ίδια δηλώνει ότι απέφυγε τη χρήση του X, αφού η εικόνα της χρησιμοποιήθηκε σε ψεύτικο λογαριασμό με σεξουαλικό περιεχόμενο.
Στο X, λογαριασμοί με εκατοντάδες χιλιάδες ακολούθους έχουν χρησιμοποιήσει εικόνες που δημιουργήθηκαν από το Grok για να παρενοχλήσουν μουσουλμάνες γυναίκες. Σε χαρακτηριστικό περιστατικό, χρήστης ζήτησε από το Grok να «αφαιρέσει τα χιτζάμπ» από τρεις γυναίκες και να τις ντύσει με αποκαλυπτικά ρούχα. Η παραγόμενη εικόνα προβλήθηκε πάνω από 700.000 φορές. Ο ίδιος χρήστης συνόδευσε τη δημοσίευση με χλευαστικά και ρατσιστικά σχόλια.
Στόχος έχουν γίνει και γνωστές δημιουργοί περιεχομένου που φορούν χιτζάμπ, με χρήστες να ζητούν από το Grok να τις εμφανίσει χωρίς κάλυμμα κεφαλής ή με διαφορετικές ενδυμασίες. Το Συμβούλιο Αμερικανοϊσλαμικών Σχέσεων (CAIR) συνέδεσε το φαινόμενο με ευρύτερη εχθρότητα απέναντι στο Ισλάμ και κάλεσε τον Elon Musk να σταματήσει τη χρήση του Grok για παρενόχληση και δημιουργία σεξουαλικοποιημένων εικόνων γυναικών.
Η εξάπλωση αυτής της μορφής κακοποίησης έχει ενταθεί με τις αυτοματοποιημένες δυνατότητες επεξεργασίας εικόνων του Grok. Σύμφωνα με στοιχεία ερευνητών, το σύστημα παρήγαγε χιλιάδες σεξουαλικοποιημένες εικόνες ανά ώρα. Παρότι το X έχει περιορίσει ορισμένες λειτουργίες για μη συνδρομητές, το περιεχόμενο εξακολουθεί να παράγεται μέσω ιδιωτικών συνομιλιών και της αυτόνομης εφαρμογής Grok.
Νομικοί ειδικοί προειδοποιούν ότι, παρότι πολλές από αυτές τις εικόνες δεν είναι πάντα ρητά σεξουαλικές, αποτελούν μια ύπουλη μορφή ελέγχου και κακοποίησης. Όπως σημειώνουν, η δυνατότητα χειραγώγησης της εικόνας των γυναικών σε πραγματικό χρόνο συνιστά ένα ανησυχητικό τεχνολογικό βήμα, με συνέπειες που ξεπερνούν τα σημερινά νομικά όρια.
