Πορνογραφικές εικόνες τεχνητής νοημοσύνης της Taylor Swift κατέκλυσαν τα μέσα κοινωνικής δικτύωσης αυτή την εβδομάδα, πυροδοτώντας τις εκκλήσεις, μεταξύ άλλων κι από Αμερικανούς πολιτικούς, για την ποινικοποίηση της πρακτικής αυτής, κατά την οποία η τεχνητή νοημοσύνη χρησιμοποιείται για τη σύνθεση ψεύτικων αλλά πειστικών ακατάλληλων φωτογραφιών.
Οι ψεύτικες εικόνες της Αμερικανίδας ποπ σταρ κυκλοφορούσαν κυρίως στον ιστότοπο κοινωνικής δικτύωσης X, παλαιότερα γνωστό ως Twitter αλλά και στο Telegram. Μία φωτογραφία -που δείχνει την τραγουδίστρια να ποζάρει σε σεξουαλικά προκλητική στάση- προβλήθηκε 47 εκατομμύρια φορές πριν κατέβει από τις κοινωνικές πλατφόρμες.
Το Χ ανέφερε σε σχετική δήλωσή: «Οι ομάδες μας αφαιρούν ενεργά όλες τις εικόνες που εντοπίστηκαν και λαμβάνουν τα κατάλληλα μέτρα κατά των λογαριασμών που ευθύνονται για την ανάρτησή τους».
Η Yvette D. Clarke, Δημοκρατική βουλευτής της Νέας Υόρκης, έγραψε στο X: «Αυτό που συνέβη στην Taylor Swift δεν είναι κάτι καινούργιο. Για χρόνια, οι γυναίκες ήταν στόχοι deepfakes [χωρίς] τη συγκατάθεσή τους. Και [με] την πρόοδο της τεχνητής νοημοσύνης, η δημιουργία deepfakes είναι ευκολότερη και φθηνότερη. Αυτό είναι ένα ζήτημα που θαυμαστές και μη της τραγουδίστριας θα πρέπει να συνεργαστούν μαζί για να το λύσουν».
Ορισμένες μεμονωμένες πολιτείες των ΗΠΑ έχουν τη δική τους νομοθεσία κατά των deepfakes, αλλά υπάρχει μια αυξανόμενη πίεση για την αλλαγή του νόμου σε ομοσπονδιακό επίπεδο.
Τον Μάιο του 2023, ο βουλευτής των Δημοκρατικών Joseph Morelle παρουσίασε την προτεινόμενη Πράξη για την πρόληψη των Deepfakes προσωπικών εικόνων, η οποία θα καθιστούσε παράνομη την κοινοποίηση πορνογραφικής deepfake χωρίς συγκατάθεση. Ο Morelle δήλωσε ότι αυτές οι εικόνες και τα βίντεο «μπορούν να προκαλέσουν ανεπανόρθωτη συναισθηματική, οικονομική ζημία και βλάβη της φήμης - και δυστυχώς, οι γυναίκες επηρεάζονται δυσανάλογα».
Σε ένα tweet που καταδίκασε τις ψεύτικες εικόνες Swift, τις χαρακτήρισε ως «σεξουαλική εκμετάλλευση». Η προτεινόμενη νομοθεσία του δεν έχει γίνει ακόμη νόμος.
Ο Ρεπουμπλικανός βουλευτής Τομ Κιν Τζούνιορ δήλωσε: «Είναι σαφές ότι η τεχνολογία τεχνητής νοημοσύνης εξελίσσεται ταχύτερα από τις απαραίτητες προστατευτικές δικλείδες. Είτε το θύμα είναι η Τέιλορ Σουίφτ είτε οποιοσδήποτε νέος σε όλη τη χώρα μας, πρέπει να θεσπίσουμε εγγυήσεις για την καταπολέμηση αυτής της ανησυχητικής τάσης». Έχει συνυποστηρίξει το νομοσχέδιο του Morelle ενώ έχει εισαγάγει το δικό του σχέδιο νόμου για την επισήμανση της τεχνητής νοημοσύνης, το οποίος θα απαιτεί όλο το περιεχόμενο που παράγεται με τεχνητή νοημοσύνη (συμπεριλαμβανομένων των πιο αβλαβών chatbots που χρησιμοποιούνται σε περιβάλλοντα εξυπηρέτησης πελατών, για παράδειγμα) να επισημαίνεται ως τέτοιο.
Η ίδια η Taylor Swift φέρεται να είναι «έξαλλη» με τις εικόνες AI που κυκλοφορούν στο διαδίκτυο και εξετάζει το ενδεχόμενο να κινηθεί νομικά εναντίον συγκεκριμένου deepfake πορνογραφικού ιστότοπου που τις φιλοξενεί, σύμφωνα με τη DailyMail.com.
Μολονότι άνδρες καλλιτέχνες και πολιτικοί, συμπεριλαμβανομένων των Τζο Μπάιντεν και Ντόναλντ Τραμπ έχουν πέσει θύματα deepfake βίντεο, η πρακτική αυτη της ΤΝ στοχεύει σε συντριπτικό βαθμό γυναίκες: μια μελέτη του 2019 από την DeepTrace Labs, η οποία αναφέρεται στην προτεινόμενη νομοθεσία των ΗΠΑ, διαπίστωσε ότι το 96% του περιεχομένου βίντεο deepfake ήταν πορνογραφικό υλικό χωρίς συναίνεση.
Το ζήτημα έχει επιδεινωθεί σημαντικά από το 2019 και μετά. Η ψεύτικη πορνογραφία, όπου χρησιμοποιείται λογισμικό επεξεργασίας φωτογραφιών για την τοποθέτηση του προσώπου ενός ατόμου που δεν συναινεί σε μια υπάρχουσα πορνογραφική εικόνα, αποτελεί ένα μακροχρόνιο πρόβλημα. Όμως, πλέον χάρη στην πολυπλοκότητα της τεχνητής νοημοσύνης, μπορούν να δημιουργηθούν εντελώς νέες και εξαιρετικές πειστικές εικόνων, μεταξύ άλλων με τη χρήση απλών εντολών κειμένου.
Οι γυναίκες υψηλού προφίλ κινδυνεύουν ιδιαίτερα. Το 2018, η Σκάρλετ Γιόχανσον μίλησε για την ευρέως διαδεδομένη ψεύτικη πορνογραφία με ομοίωμά της: «Έχω δυστυχώς ακολουθήσει αυτόν τον δρόμο πολλές, πολλές φορές. Το γεγονός είναι ότι το να προσπαθείς να προστατευτείς από το διαδίκτυο και τη διαφθορά του είναι ουσιαστικά μια χαμένη υπόθεση, ως επί το πλείστον».