Καθώς το διαδίκτυο καταλαμβάνει όλο και σημαντικότερο μέρος της καθημερινότητας μας, οι αλγόριθμοι καταλήγουν να παίζουν σημαντικό ρόλο στην κατασκευή του φύλου και στο σχηματισμό της σεξουαλικότητας μας. Αυτό σημαίνει ότι οι αλγόριθμοι έχουν πολιτική διάσταση και πρέπει να τους κατανοήσουμε με αυτόν τον τρόπο.
Πόσο καλά μας γνωρίζουν οι αλγόριθμοι που χρησιμοποιούμε;
Το TiVo είναι μια συσκευή που επιτρέπει στους χρήστες της να καταγράφουν τα τηλεοπτικά προγράμματα της αρεσκείας τους. Στη συνέχεια στηρίζεται στο ιστορικό των επιλογών τους και καταγράψει ορισμένα τηλεοπτικά προγράμματα βασιζόμενο στην υπόθεση ότι θα αρέσουν στο χρήστη. Η ερώτηση που προκύπτει είναι πόσο καλά μας γνωρίζει η συσκευή TiVo που χρησιμοποιούμε και πόσο ικανή είναι να προβλέπει τι μας αρέσει και τι όχι;
Ο κ. Ιβάνυκ έφτασε στο συμπέρασμα ότι η συσκευή TiVo που χρησιμοποιούσε μπορεί να μην τον γνώριζε και τόσο καλά (καθώς δεν μπορούσε να προβλέψει τα τηλεοπτικά προγράμματα της αρεσκείας του), αλλά μπορούσε να επηρεάζει τη ζωή του (επί του παρόντος ας πούμε...) σε κάποια θέματα δευτερεύουσας σημασίας. Ο κ. Ιβάνυκ χρησιμοποιούσε τη συσκευή TiVo για να καταγράψει τα προγράμματα της αρεσκείας του. Στη συνέχεια η συσκευή κατέγραφε προγράμματα με γκέι θεματολογία. Αυτό τον οδήγησε στο συμπέρασμα ότι η συσκευή του πίστευε ότι είναι ομοφυλόφιλος. Για να λύσει αυτήν την «παρεξήγηση» άρχισε να καταγράφει πολεμικές ταινίες. Ωστόσο, αυτό δεν πήγε όπως θα ήθελε και η συσκευή του άρχισε να πιστεύει ότι αναπολεί το Τρίτο Ράιχ (Zaslow, 2002).
Το παραπάνω είναι ένα ακόμη παράδειγμα τεχνολογιών εξατομίκευσης (Spirin, 2018). Η συσκευή TiVo χρησιμοποιεί αλγορίθμους έτσι ώστε να κατηγοριοποιήσει τα τηλεοπτικά προγράμματα και τους χρήστες της. Στη συνέχεια, γνωρίζοντας τι παρακολουθεί περισσότερο ο κάθε χρήστης είναι σε θέση να προσδιορίσει τις βασικές του προτιμήσεις και να του προτείνει ορισμένα τηλεοπτικά προγράμματα. Στην ίδια λογική, οι εταιρείες του διαδικτύου συγκεντρώνουν τεράστιες ποσότητες δεδομένων (τα οποία και χαρακτηρίζονται ως Μεγάλα Δεδομένα), κατηγοριοποιούν τους πελάτες τους και προβλέπουν τι θα επιλέξουν στο μέλλον (ή βρίσκονται πολύ κοντά στο να αποκτήσουν αυτή τη δυνατότητα).
Η δυνατότητα των αλγορίθμων να προβλέπουν την ανθρώπινη συμπεριφορά είναι ένα θέμα μεγάλου ενδιαφέροντος. Παρόλα αυτά στο παρόν άρθρο δεν θα προσπαθήσουμε να το αναλύσουμε. Θα περιοριστούμε στο να αναλύσουμε και να κατανοήσουμε την ανάγκη ορισμένων χρηστών να τροποποιήσουν σκόπιμα τις προτιμήσεις τους, προκειμένου να αποφευχθεί η κατηγοριοποίηση τους από τους αλγόριθμους που χρησιμοποιούν. Επίσης, θα επικεντρωθούμε στη συλλογή δεδομένων με σκοπό την κατηγοριοποίηση των χρηστών με βάση το φύλο και τις σεξουαλικές τους προτιμήσεις, έτσι ώστε να συμπληρώσουμε την ανάλυσή μας με παραδείγματα από την καθημερινότητά μας.
Το πρώτο βήμα μας προς την κατεύθυνση αυτή θα είναι να καταδείξουμε γιατί οι πληροφορίες που βρίσκουμε στο διαδίκτυο παίζουν σημαντικό ρόλο στη διαμόρφωση του φύλου και της σεξουαλικότητας μας. Αυτή θα είναι η στόχευση των παραγράφων που ακολουθούν.
Η μετατροπή της πληροφορίας σε γνώση
Αρχικά, στη σημερινή εποχή το βασικό ζήτημα δεν είναι ότι δεν έχουμε πρόσβαση στις πληροφορίες που είναι απαραίτητες για τη διαμόρφωση του φύλου και της σεξουαλικότητας μας. Το βασικό ζήτημα είναι ότι πρέπει να περιηγηθούμε μεταξύ διαφορετικών πηγών, καθώς και τεραστίου όγκου πληροφοριών. Τέτοιες πληροφορίες μπορεί να είναι επιστημονικά ακριβείς. Αλλά υπάρχουν και πηγές που παράγουν πληροφορίες γύρω από τη διαμόρφωση του φύλου και της σεξουαλικότητας μας, όπως περιοδικά (Nikunen, 2007), τηλεοπτικές σειρές (Arthurs, 2003), η πορνογραφία (Coleman & Held, 2014), διασημότητες (influencers) στα μέσα κοινωνικής δικτύωσης (Torres, 2019)· και αυτές οι πηγές απέχουν πολύ από το να είναι επιστημονικές. Στη συνέχεια, χρησιμοποιούμε αυτές τις πληροφορίες ως βάση για την απόκτηση γνώσης και μέσω της διαδικασίας αυτής καταλήγουμε στο να διαμορφώσουμε το φύλο και τη σεξουαλικότητα μας. Σύμφωνα με τον Γκέρνοτ Μπούμε, προκειμένου να «μετασχηματιστούν οι πληροφορίες τις οποίες αποκτήσαμε σε γνώση, πρέπει να γίνουν η βάση των σχέσεων μας με την πραγματικότητα» (Böhme, 2012, σελ. 196), όπως αυτή διαμορφώνεται γύρω μας. Το γεγονός ότι η διαδικασία αυτή στηρίζεται στις προσωπικές μας επιλογές σημαίνει ότι κανείς και τίποτα άλλο δεν φέρει καμία ευθύνη για το αποτέλεσμα της διαδικασίας αυτής.
Με άλλα λόγια, στη σημερινή πραγματικότητα δεν έχουμε παρά μόνο μία επιλογή· να περιηγηθούμε μεταξύ διαφορετικών πηγών και μεγάλου όγκου πληροφοριών για να καταλήξουμε στη διαμόρφωση του φύλου και της σεξουαλικότητας μας. Χρησιμοποιούμε αυτές τις πληροφορίες ως τη βάση των σχέσεων μας με τα άτομα γύρω μας, καθώς και με τον ίδιο μας τον εαυτό. Με αυτόν τον τρόπο, οι πληροφορίες που «συλλέξαμε» μετατρέπονται σε γνώση για εμάς και για τα άτομα γύρω μας. Οι επιλογές που έγιναν για την απόκτηση αυτής της γνώσης έγιναν από εμάς και ως αποτέλεσμα πρέπει να αποδεχθούμε την ευθύνη που απορρέει από αυτές τις επιλογές, τον κίνδυνο των επιλογών μας και τα αισθήματα ενοχής που μπορεί να προκύψουν από οποιαδήποτε αποτυχία μας. Επαφίεται στη διακριτική ευχέρεια του αναγνώστη να αποφασίσει εάν ο κ. Ιβάνυκ θα πρέπει να ερμηνεύσει την κατηγοριοποίηση του ως γκέι ως προσωπική του αποτυχία και αν η προσπάθεια του να αλλάξει αυτή την κατηγοριοποίηση παρακολουθώντας πολεμικές ταινίες δηλώνει κάποιου είδους ενοχή.
Το επόμενο μας βήμα θα είναι να εξετάσουμε τι συμβαίνει όταν λαμβάνουμε εξατομικευμένες πληροφορίες κατά τη περιήγηση μας στο διαδίκτυο, πως αυτές οι εξατομικευμένες πληροφορίες μπορούν να επηρεάσουν τον τρόπο που αντιλαμβανόμαστε το φύλο, τη σεξουαλικότητα και τον ίδιο μας τον εαυτό.
Queer Θεωρία και η Επιτήρηση των επιλογών μας στο Διαδίκτυο
Η Queer Θεωρία είναι μια θεωρία που υποστηρίζει ότι «όλες οι κατηγοριοποιήσεις μέσω των οποίων γίνεται κατανοητή η ανθρώπινη ταυτότητα είναι αποτέλεσμα των κοινωνικών συνθηκών και όχι αποτέλεσμα της ανθρώπινης φύσης» (Pickett, 2018). Αν αποδεχτούμε αυτό το συμπέρασμα, μπορούμε να πούμε ότι το φύλο και η σεξουαλικότητά μας δεν είναι αποτέλεσμα μιας «φυσικής» κατάστασης μέσα στην οποία έτυχε να γεννηθούμε. Αντιθέτως, το τι σημαίνει να είσαι άνδρας ή γυναίκα είναι ένα φαινόμενο που παράγεται και αναπαράγεται συνεχώς κατά τη διάρκεια της ζωής μας και αυτό το φαινόμενο διαμορφώνεται από τις κοινωνικές και πολιτισμικές συνθήκες μέσα στις οποίες ζούμε (Butler, 2011).
Στις πρόσωπο με πρόσωπο επαφές μας υπάρχουν πολλοί τρόποι μέσω των οποίων το φύλο και η σεξουαλικότητα μας παράγονται και αναπαράγονται. Ο τρόπος με τον οποίο ντυνόμαστε, τα κοσμήματα που χρησιμοποιούμε (στην περίπτωση που χρησιμοποιούμε κάποια), ο τρόπος με τον οποίο χρησιμοποιούμε την εμφάνισή μας, οι κινήσεις του σώματος μας, η ομιλία μας είναι μερικά χαρακτηριστικά παραδείγματα συμπεριφοράς και εμφάνισης μέσω των οποίων παράγονται και αναπαράγονται οι έμφυλες ταυτότητες και η σεξουαλικότητα μας. Αυτά τα παραδείγματα εμφάνισης και συμπεριφοράς είναι πολιτισμικά και κοινωνικά κατασκευασμένες συμβάσεις της καθημερινότητας μας.
Ως παράδειγμα μπορούμε να σκεφτούμε το πως συμπεριφερόμαστε όταν συναντήσουμε ένα/μία φίλο/η με τον/την οποίο/α νιώθουμε άνετα να εκφραστούμε όπως θέλουμε. Σε αυτή την περίπτωση κινούμαστε, μιλάμε και εκφράζουμε το φύλο και τη σεξουαλικότητα μας όπως ακριβώς τα νιώθουμε. Αλλά τι συμβαίνει όταν συναντήσουμε έναν/μία καθηγητή/ήτρια με τον/την οποίο/α δεν έχουμε την ίδια άνεση; Σε αυτή την περίπτωση αλλάζουμε τον τρόπο συμπεριφοράς μας. Κινούμαστε και μιλάμε προσδοκώντας την κατηγοριοποίηση μας, ως προς την έμφυλη και σεξουαλική μας ταυτότητα, όπως θα θέλαμε αυτόν/ή να τις αντιληφθούν, όχι όπως πραγματικά τις βιώνουμε. Στην προκειμένη περίπτωση, χρησιμοποιούμε τη συσκευή TiVo για να παρακολουθήσουμε οποιαδήποτε ταινία μας αρέσει, χωρίς να νοιαζόμαστε για το αν μας κατηγοριοποιήσει ως γκέι. Από την άλλη πλευρά, παρακολουθούμε ορισμένες ταινίες και αποφεύγουμε κάποιες άλλες για να βεβαιωθούμε ότι θα κατηγοριοποιηθούμε ως ετερόφυλοι/ες.
Η σημαντική παράμετρος που πρέπει να εισάγουμε στην ανάλυση μας είναι η έννοια της επιτήρησης (surveillance), με την έννοια της στενής παρακολούθησης της συμπεριφοράς ενός ατόμου ή ενός πληθυσμού με σκοπό την εξαγωγή γνώσης, η οποία και θα χρησιμοποιηθεί για την «αναμόρφωση» του επιτηρούμενο ατόμου ή πληθυσμού. Και στις δύο περιπτώσεις που αναφέραμε υπάρχει μια μορφή επιτήρησης. Ο/Η καθηγητής/γήτρια και η συσκευή TiVo παίρνουν τη θέση του επιτηρητή και έχουν την δυνατότητα να εξάγουν γνώση από τη συμπεριφορά μας. Γνώση η οποία έχει να κάνει με την έμφυλη και σεξουαλική μας ταυτότητα. Και αν το παράδειγμα του κ. Ιβάνυκ έχει ένα χιουμοριστικό στοιχείο, οι μηχανισμοί επιτήρησης που παρακολουθούν τις επιλογές μας στο διαδίκτυο παραβιάζουν την ιδιωτικότητα μας και την ελευθερία που απαιτείται για τη διαμόρφωση της έμφυλης και σεξουαλικής μας ταυτότητας. Η έννοια της επιτήρησης σε αυτό το πλαίσιο πρέπει να θεωρηθεί ως μια «διαδικασία παραγωγής γνώσης, μέσω της οποίας οι επιτηρούμενες οντότητες αναγνωρίζονται με πλήρη ακρίβεια, οι δραστηριότητες τους παρακολουθούνται και καταγράφονται, τα προϊόντα αυτής της καταγραφής αναλύονται με σκοπό την εξαγωγή συμπερασμάτων· τα συμπεράσματα αυτά οδηγούν σε δράσεις κανονιστικού χαρακτήρα, οι οποίες και εφαρμόζονται στον επιτηρούμενο πληθυσμό» (Phillips & Cunningham, 2007, σελ. 32 [έμφαση προστέθηκε]).
Σύμφωνα με τους Νικ Κούλντρυ και Άντρεας Χεππ:
«Η προσωπική μας ταυτότητα βασίζεται ανά πάσα στιγμή στους πόρους που αποκτούμε κατά τις διαδικασίες κοινωνικοποίησης και της καθημερινής μας ζωής. Με τον όρο ′πόρος′ εννοούμε τις υλικές δομές (είτε πρόκειται για θεσμούς, κοινωνικούς χώρους, κοινωνικούς μηχανισμούς, εγκαταστάσεις, κεφάλαιο), οι οποίες ενισχύουν την ικανότητα μας να ενεργούμε με διάφορους τρόπους... Είναι σαφές ότι τα μίντια αποτελούν σήμερα μέρος των πόρων που απαιτεί η διατήρηση της προσωπικής μας ταυτότητας» (Couldry & Hepp, 2017, σελ. 157 [έμφαση προστέθηκε]).
Αυτό σημαίνει ότι οι αλγόριθμοι δεν είναι απλά κάποιοι πόροι που χρησιμοποιούμε για την διαμόρφωση της προσωπικής μας ταυτότητας, του φύλου και των σεξουαλικών μας προτιμήσεων· οι οποίοι πόροι μπορούν να αντικατασταθούν από κάτι άλλο. Η δομή του διαδικτύου καθιστά τους αλγόριθμους και τους μηχανισμούς επιτήρησης (όσο περίεργο και αν ακούγεται αυτό λόγω του αρνητικού χαρακτήρα των μηχανισμών αυτών) ως απαραίτητα στοιχεία της λειτουργίας του. Έτσι στην εποχή μας οι αλγόριθμοι είναι αναπόσπαστο κομμάτι του σχηματισμού της έμφυλης και σεξουαλικής μας ταυτότητας. Οι αλγόριθμοι διαμορφώνουν τον τρόπο με τον οποίο κατασκευάζουμε την προσωπική μας ταυτότητα, το φύλο και τις σεξουαλικές μας προτιμήσεις. Επίσης, διαμορφώνουν τον τρόπο με τον οποίο βιώνουμε αυτήν την «κατασκευή», το πώς αισθανόμαστε για αυτή τη διαδικασία, τι πιστεύουμε για το αποτέλεσμα της και πώς ενεργούμε για να το αλλάξουμε ή να το αφήσουμε ως έχει.
Από το Πανοπτικόν στις «Δεκαπέντε Εκατομμύρια Χρηματομονάδες» (αντί Επιλόγου).
Η έννοια της επιτήρησης έχει γίνει συνώνυμη με το Πανοπτικόν. Ένα σχέδιο φυλακής το οποίο επιτρέπει τη συνεχή παρακολούθηση των φυλακισμένων από τους φρουρούς, οι οποίοι και καταλαμβάνουν το κέντρο της κυκλικής δομής της (Crimmins, 2019). Παρόλα αυτά η έννοια της επιτήρησης δεν περιορίζεται μόνο σε αυτή τη μορφή. Οι «Δεκαπέντε Εκατομμύρια Χρηματομονάδες» (Fifteen Million Merits) είναι ένα επεισόδιο της διάσημης τηλεοπτικής σειράς «Μαύρος Καθρέφτης» (Black Mirror). Σε αυτό το συγκεκριμένο επεισόδιο, οι πολίτες μιας μελλοντικής δυστοπίας ζουν σε ένα λίγο-πολύ εικονικό περιβάλλον. Πρέπει να εξασκούνται σε ποδήλατα γυμναστικής για να κερδίσουν τις χρηματομονάδες τους, που παίζουν ρόλο νομίσματος. Μια πιθανή διέξοδος από την κατάσταση αυτή είναι να συμμετάσχουν σε ένα διαγωνισμό ταλέντου (Jones, Brooker & Lyn, 2011).
Η σύγκριση αυτών των δυο δυστοπιών μπορεί να μας οδηγήσει σε μια σημαντική λεπτομέρεια. Το πρόβλημα με τη χρήση αλγορίθμων δεν είναι μόνο ότι μας επιτηρούν και είναι σε θέση να κατανοήσουν το φύλο και τις σεξουαλικές μας προτιμήσεις. Ένα ακόμη πρόβλημα, εξίσου σημαντικό, είναι ότι μπορεί να μην μπορέσουν να μας «εντοπίσουν». Για παράδειγμα, το φύλο μας ή οι σεξουαλικές μας προτιμήσεις δεν μπορούν να κατηγοριοποιηθούν από το μηχανισμό επιτήρησης που παρακολουθεί τις δραστηριότητες μας στο διαδίκτυο. Με άλλα λόγια το τι επιλέγουμε να παρακολουθήσουμε ή να διαβάσουμε δεν μας κατηγοριοποιεί ως άτομα που ανήκουν σε κάποια από τις υπάρχουσες φυλετικές και σεξουαλικές κατηγοριοποιήσεις (όπως τις αντιλαμβάνονται οι αλγόριθμοι και οι μηχανισμοί επιτήρησης του διαδικτύου). Επιπρόσθετα, οι αλγόριθμοι μπορεί να τροποποιηθούν προκειμένου να τεθούν ορισμένα άτομα σε αφάνεια λόγω του φύλου τους ή των σεξουαλικών τους προτιμήσεών. Και στις δύο περιπτώσεις, ορισμένα άτομα και «έμφυλες ομάδες» δεν θα είναι ορατά στον κοινωνικό χώρο του διαδικτύου. Με αποτέλεσμα ορισμένα άτομα να δεχθούν πίεση να συμπεριφερθούν με ορισμένο τρόπο στο διαδίκτυο έτσι ώστε «να εναρμονιστούν ως κοινωνικά όντα» (Couldry & Hepp, 2017, σελ. 160 [έμφαση στο πρωτότυπο]). Ακριβώς όπως έκανε και ο Μπινγκ, ο πρωταγωνιστής του επεισοδίου «Δεκαπέντε Εκατομμύρια Χρηματομονάδες».
Στην αρχή της ανάλυσης μας αναφέραμε ότι εμείς και μόνο εμείς είμαστε υπεύθυνοι για τις πράξεις και τις προσωπικές μας αποτυχίες. Σε αυτό το σημείο θα θέλαμε να προσθέσουμε ότι οι αλγόριθμοι παίζουν ρόλο στην κατασκευή του φύλου και των σεξουαλικών μας προτιμήσεων. Δεδομένου ότι δεν μπορούμε να θεωρήσουμε τους αλγόριθμους υπεύθυνους για τυχόν προσωπικές μας αποτυχίες, πρέπει να τους αναλύσουμε και να κατανοήσουμε το ηθικό τους πρόσημο. Επίσης πρέπει να κατανοήσουμε τους αλγόριθμους σαν πολιτικούς και κοινωνικούς παράγοντες που διαμορφώνουν το φύλο μας, τις σεξουαλικές μας προτιμήσεις και τη ζωή μας. Όπως υπάρχει βία εναντίον συγκεκριμένων ατόμων λόγω του φύλου και των σεξουαλικών τους προτιμήσεων στην καθημερινή ζωή (π.χ. εκφοβισμός, διακρίσεις, ανισότητα), υπάρχει επίσης βία που επιβάλλεται κατά τον ίδιο τρόπο στο διαδίκτυο. Οφείλουμε να εντοπίσουμε αυτό το είδος «νέας» βίας, να δημιουργήσουμε ένα νέο είδος διαδικτυακών συλλογικοτήτων και να απαιτήσουμε Queer Αλγόριθμους.
Το παρόν άρθρο πρωτοδημοσιεύθηκε με τον τίτλο «Risk, Surveillance, and Queer Algorithms»: https://medium.com/@ethtropy/risk-surveillance-and-queer-algorithms-edd2540b04af
Βιβλιογραφία.
Arthurs, J. (2003). Sex and the City and Consumer Culture: Remediating Postfeminist Drama. Feminist Media Studies, 3(1), 83-98.
Böhme, G. (2012). Invasive Technification: Critical Essays in the Philosophy of Technology (C. Shingleton, Trans.). London: Bloomsbury.
Butler, J. (2011). Judith Butler: Your Behavior Creates Your Gender [Video File]. Big Think. Ανακτήθηκε στις 13 Νοεμβρίου, 2019, από https://www.youtube.com/watch?v=Bo7o2LYATDc
Coleman, L., & Held, J. M. (2014). Introduction: Why Pornography? In L. Coleman & J. M. Held (Eds.), The Philosophy of Pornography: Contemporary Perspectives (pp. Xi-xvi). London: Rowman & Littlefield.
Couldry, N., & Hepp, A. (2017). The Mediated Construction of Reality. Cambridge, UK: Polity Press.
Crimmins, J. (2019). Jeremy Bentham. The Stanford Encyclopedia of Philosophy (Summer 2019 Edition), Edward N. Zalta (ed.), Ανακτήθηκε στις 15 Νοεμβρίου, 2019, από https://plato.stanford.edu/archives/sum2019/entries/bentham/
Jones, A., Brooker, C., & Lyn, E. (2011). Fifteen Million Merits [Video File]. Black Mirror. United Kingdom: Zeppotron.
Nikunen, K. (2007). Cosmo Girls Talk: Blurring Boundaries of Porn and Sex. In S. Paasonen, K. Nikunen, & L. Saarenmaa (Eds.), Pornification: Sex and Sexuality in Media Culture (pp. 73-85). Oxford: Berg Publishers.
Phillips, D. J., & Cunningham, C. (2007). Queering Surveillance Research. In K. O’Riordan & D. J. Phillips (Eds.), Queer Online: Media, Technology & Sexuality (pp. 31-43). New York: Peter Lang Publishing, Inc.
Pickett, B. (2018). Homosexuality. The Stanford Encyclopedia of Philosophy (Spring 2018 Edition), Edward N. Zalta (ed.). Ανακτήθηκε στις 8 Νοεμβρίου, 2019, από https://plato.stanford.edu/archives/spr2018/entries/homosexuality/
Spirin, N. (2018) An Overview of Personalization Technologies Across the Internet. Medium. Ανακτήθηκε στις 7 Νοεμβρίου, 2019, από https://medium.com/technology-insights/an-overview-of-personalization-technologies-across-the-internet-c641299abfab
Torres, E. (2019). 10 Sex-Positive Influencers to Follow for Frank Conversations & Feminist Perspective. The Good Trade. Ανακτήθηκε στις 13 Νοεμβρίου, 2019, από https://www.thegoodtrade.com/features/sex-positive-influencers-for-feminist-perspective
Zaslow, J. (2002). If TiVo Thinks You Are Gay, Here’s How to Set It Straight. The Wall Street Journal. Ανακτήθηκε στις 7 Νοεμβρίου, 2019, από https://www.wsj.com/articles/SB1038261936872356908
Περαιτέρω Βιβλιογραφία.
Butler, J. (2011). Bodies That Matter: On the Discursive Limits of Sex. London: Routledge Classics.
Butler, J. (2007). Gender Trouble: Feminism and the Subversion of Identity. London: Routledge Classics.
O’Riordan, D. K., & Phillips, D. J. (2007). Queer Online: Media, Technology & Sexuality. New York: Peter Lang Publishing, Inc.
Sedgwick, E. K. (1990). Epistemology of the Closet. Berkeley: University of California Press.
Copyright © ethtropy.com