Φανταστείτε αν το πρόσωπό σας είχε υποστεί ψηφιακή επεξεργασία σε βίντεο πορνό χωρίς τη συγκατάθεσή σας , και στη συνέχεια μοιραζόταν στο διαδίκτυο.
Μία Βρετανίδα που έπεσε θύμα αυτού του τεχνολογικού εγκλήματος μιλά, στο BBC για τον πόνο και τα προβλήματα που συνόδευσαν τον ηλεκτρονικό εφιάλτη των Deepfake.
Σκρολάροντας ένα βράδυ στο Twitter, η Κέιτ Άιζακς έπεσε πάνω σε ένα άκρως τρομακτικό και ανεξήγητο βίντεο, ανάμεσα στις αναρτήσεις φίλων και γνωστών.
«Ο πανικός με κατέλαβε», θυμάται η Κέιτ, μιλώντας για πρώτη φορά δημόσια για ό,τι συνέβη. «Κάποιος είχε πάρει το πρόσωπό μου, το είχε βάλει σε ένα βίντεο πορνό και έμοιαζε σαν να ήμουν εγώ.»
Η Κέιτ είχε πέσει θύμα deepfake.
Κάποιος είχε χρησιμοποιήσει την βοήθεια ενός συστήματος τεχνητής νοημοσύνης για να επεξεργαστεί ψηφιακά την εικόνα του προσώπου της πάνω στο πρόσωπο κάποιου άλλου - σε αυτή την περίπτωση μιας πορνοστάρ.
Το σύστημα ΑΙ «φρόντιζε» ώστε η τελική εικόνα να είναι άκρως αληθοφανείς ανεξαρτήτως γωνίας λήψης της κάμερας.
Το deepfake βίντεο στο Twitter είχε ενεργό tag στον πραγματικό λογαριασμό της Κέιτ. Κάποιος ήθελε σκόπιμα να βλάψει τη νέα γυναίκα που κάνει εκστρατεία κατά του μη συναινετικού πορνό.
Για το fake βίντεο είχε χρησιμοποιηθεί υλικό από τηλεοπτικές συνεντεύξεις που είχε δώσει κατά τη διάρκεια της εκστρατείας της. Τώρα, εμφανιζόταν να κάνει σεξ.
Στο παρελθόν, σελέμπριτι και πολιτικοί ήταν οι πιο συνηθισμένοι στόχοι των deepfakes και τα βίντεο δεν ήταν πάντα πορνογραφικά, ορισμένα είχαν φτιαχτεί στο πλαίσιο σάτιρας.
Αλλά με τα χρόνια αυτό άλλαξε - σύμφωνα με την εταιρεία κυβερνοασφάλειας Deeptrace, το 96% όλων των deepfakes είναι μη συναινετικό πορνό.
Όπως το revenge porn, η πορνογραφία deepfake είναι γνωστή ως σεξουαλική κακοποίηση με βάση το βιντεοληπτικό υλικό - ένας όρος «ομπρέλα» που περιλαμβάνει τη λήψη, την κατασκευή ή/και την κοινοποίηση προσωπικών φωτογραφικών και βίντεο χωρίς συγκατάθεση.
Η 30χρονη Κέιτ είχε ξεκινήσει την εκστρατεία #NotYourPorn, «Όχι δικό σου πορνό», το 2019. Ένα χρόνο αργότερα, ο ακτιβισμός της συνέβαλε στο να αναγκαστεί ο ιστότοπος ψυχαγωγίας ενηλίκων, Pornhub, να αφαιρέσει όλα τα βίντεο που αναρτούνταν στον ιστότοπο από ανεπιβεβαίωτους χρήστες. Τότε, η πλειονότητα των βίντεο διαγράφηκαν.
Η Κέιτ θεωρεί ότι όποιος βρίσκεται πίσω από το deepfake βίντεο με το πρόσωπό της, έχει ενοχληθεί από την εκστρατεία της. Η δράση της πιθανότατα είχε ως αποτέλεσμα να αφαιρεθεί δικό τους υλικό.
Αλλά δεν είχε ιδέα ποιος ήταν αυτό το άτομο ή ποιοι μπορεί να είχαν δει το βίντεο.
«Έγινα εντελώς παρανοϊκή. ‘Ποιος ξέρει τη διεύθυνσή μου; Είναι κάποιος που γνωρίζω που το έκανε αυτό;» Σκεφτόμουν πως είχα πραγματικό πρόβλημα, δεν ήταν απλώς κάποιοι άνθρωποι στο διαδίκτυο που έγραφαν χυδαιότητες, κινδύνευα στ’ αλήθεια.
Από την εμπειρία της να υποστηρίζει άλλους σε παρόμοιες καταστάσεις, η Κέιτ ήξερε ακριβώς τι πρέπει να κάνει όταν πέφτει θύμα τέτοιας επίθεσης. Όμως ο φόβος την «πάγωσε».
«Δεν ακολούθησα καμία από τις δικές μου συμβουλές», παραδέχεται. «Η Κέιτ η αγωνίστρια ήταν πολύ δυνατή και δεν έδειχνε καθόλου ευάλωτη- και από την άλλη μεριά ήμουν πάλι εγώ, η Κέιτ που φοβόμουν πραγματικά».
«Ήθελα απλώς να εξαφανιστεί αυτό το βίντεο από το διαδίκτυο», λέει η Κέιτ, «αλλά δεν μπορούσα να κάνω τίποτα γι′ αυτό».
Υπάρχει μια αγορά για deepfakes σε διαδικτυακά φόρουμ. Κάποιοι παραγγέλνουν και πληρώνουν αδρά ψεύτικα βίντεο με τις συζύγους τους, τους γείτονες και τους συναδέλφους τους, με τις μητέρες, τις κόρες και τα ξαδέλφια τους.
Οι δημιουργοί του παράνομου περιεχομένου απαντούν με οδηγίες βήμα προς βήμα - τι υλικό θα χρειαστούν, συμβουλές για το ποιες γωνίες λήψης λειτουργούν καλύτερα και τιμολόγια για το deepfake πορνό.
Ένας δημιουργός deepfake με έδρα τη νοτιοανατολική Αγγλία, ο Γκόρκεμ, μίλησε στο BBC ανώνυμα. Ξεκίνησε να φτιάχνει deepfakes με διασημότητες για τη δική του ικανοποίηση. Λέει ότι τέτοια βίντεο «επιτρέπουν στους ανθρώπους να”πραγματοποιήσουν τις φαντασιώσεις τους με τρόπους που πραγματικά δεν ήταν δυνατοί πριν».
Αργότερα, ο Γκόρκεμ επέκτεινε τις εγκληματικές υπηρεσίες του, δημιουργώντας deepfake βίντεο με πρόσωπα γυναικών που τον έλκυαν από τη δουλειά του, και άλλα θύματα που μόλις και μετά βίας γνώριζε.
«Η μία ήταν παντρεμένη, η άλλη σε σχέση», λέει. «Μπαίνοντας στη δουλειά αφού είχα κάνει deepfake σε αυτές τις γυναίκες - ένιωθα περίεργα, αλλά απλώς έλεγξα τα νεύρα μου. Μπορώ να συμπεριφέρομαι σαν να μην τρέχει τίποτα - κανείς δεν θα υποψιαζόταν» τίποτα.
Ο ίδιος αναγνωρίζει ότι «ορισμένες γυναίκες» θα μπορούσαν να υποστούν ψυχολογική βλάβη από το deepfake, αλλά φαίνεται να αδιαφορεί για τις πιθανές φρικτές επιπτώσεις του τρόπου με τον οποίο τις αντικειμενοποιεί.
«Μπορούν απλώς να πουν: «Δεν είμαι εγώ - αυτό είναι πλαστό».
Το επίπεδο και η ευκρίνεια των deepfakes ποικίλλει σε μεγάλο βαθμό και εξαρτάται τόσο από την εμπειρία του ατόμου που δημιούργησε το βίντεο όσο και από την πολυπλοκότητα της τεχνολογίας που χρησιμοποιήθηκε.
Αλλά ο άνθρωπος που βρίσκεται πίσω από τη μεγαλύτερη ιστοσελίδα πορνό με deepfake παραδέχεται ότι δεν είναι πλέον εύκολο να ξέρεις με βεβαιότητα αν βλέπεις παραποιημένες εικόνες ή όχι. Ο ιστότοπός του προσελκύει περίπου 13 εκατομμύρια επισκέπτες το μήνα και φιλοξενεί περίπου 20.000 βίντεο. Έχει την έδρα του στις ΗΠΑ και σπάνια μιλάει στα μέσα ενημέρωσης - αλλά δέχτηκε να μιλήσει στο BBC ανώνυμα.
Τα deepfake «συνηθισμένων γυναικών» είναι μια κόκκινη γραμμή για τον ίδιο, υποστηρίζει, αλλά κατά την άποψή του, η δημιουργεία πορνογραφικών deepfake βίντεο με διασημότητες και πολιτικών είναι «δικαιολογημένη», κατά τον ίδιο, που φαίνεται να αγνοεί ή να αδιαφορεί για τις εγκληματικές προεκτάσεις.
Μέχρι πρόσφατα, το λογισμικό deepfake δεν ήταν εύκολα διαθέσιμο και ο μέσος χρήστης δεν θα μπορούσε να φτιάξει τέτοιο υλικό. Τώρα όμως, οποιοσδήποτε άνω των 12 ετών μπορεί να κατεβάσει νόμιμα δεκάδες εφαρμογές και να φτιάξει πειστικά deepfakes με μερικά κλικ, σχολιάζει το BBC.
Για την Κέτι, αυτό είναι ανησυχητικό και «πραγματικά τρομακτικό». «Δεν είναι στον σκοτεινό ιστό, είναι στα καταστήματα εφαρμογών - ακριβώς μπροστά στα μάτια μας».
Έχουν περάσει χρόνια και το περιεχόμενο του προτεινόμενου νομοσχεδίου «είναι ξεπερασμένο - λείπουν τόσα πολλά», λέει.
Αλλά για τον Γκόρκεμ, η ποινικοποίηση του deepfaking θα άλλαζε τα πράγματα. «Αν μπορούσαν να με εντοπίσουν στο διαδίκτυο, θα σταματούσα εκεί και πιθανότατα θα έβρισκα άλλο χόμπι». Επιμένει να το αποκαλεί χόμπι, κι ας είναι καταστροφικό για τα θύματά του.
Αλλά τώρα, είναι ακόμη πιο αγωνιστική. Συνειδητοποίησε ότι νοιαζόταν πάρα πολύ για να τα παρατήσει. «Δεν θα τους αφήσω να κερδίσουν».
Τα deepfakes μπορούν να χρησιμοποιηθούν για την χειραγώγηση γυναικών-θυμάτων, και οι εταιρείες τεχνολογίας - συμπεριλαμβανομένων εκείνων που κατασκευάζουν εφαρμογές που επιτρέπουν την αλλαγή προσώπων - θα πρέπει να παρέχουν δικλείδες ασφαλείες.