Ένας συγγραφέας ζητά από μια Τεχνητή Νοημοσύνη να του γράψει ένα μυθιστόρημα με κεντρικό ήρωα έναν συγγραφέα ο οποίος ζητά από μια Τεχνητή Νοημοσύνη να του συνθέσει το σενάριο ενός παιχνιδιού εικονικής πραγματικότητας. Αυτό είναι το σημείο εκκίνησης στο βιβλίο του Μανώλη Ανδριωτάκη «Ο Θάνατος του Συγγραφέα» (εκδόσεις Ψυχογιός), που κυκλοφόρησε πρόσφατα. Μία ιστορία μυθοπλασίας, η οποία διαδραματίζεται στην Ελλάδα ενός όχι και τόσο μακρινού μέλλοντος, που ωστόσο στην εξέλιξη της αφήγησης περιγράφει μία πραγματικότητα που μοιάζει να απέχει έτη φωτός από τη ζωή που γνωρίζουμε. Ή μήπως, δεν είναι ακριβώς έτσι;
Συγγραφέας πολυγραφότατος, σκηνοθέτης ντοκιμαντέρ και δημοσιογράφος που ασχολείται με το τεχνολογικό ρεπορτάζ -πριν από τον Θάνατο του Συγγραφέα κυκλοφόρησε το βιβλίο «Τεχνητή Νοημοσύνη για όλους» (2022) με πρόλογο του υπουργού Παιδείας Κυριάκου Πιερρακάκη- ο Μανώλης Ανδριωτάκης μιλά στη HuffPost για τα μεγάλα διακυβεύματα του νέου κόσμου που ανοίγεται μπροστά μας.
Τα βιβλία που στο μέλλον θα γράφονται με τη βοήθεια των μεγάλων γλωσσικών μοντέλων -τα οποία ωστόσο, σε αυτή τη φάση «εκπαιδεύονται από δεδομένα που έχουν αντληθεί χωρίς τη συγκατάθεσή μας»- και το μεγάλο ερώτημα σε ποιόν θα ανήκει αυτή η αφήγηση.
Η τεχνολογία που «σου δίνει την ψευδαίσθηση ότι έχεις γνώση, ενώ στην πραγματικότητα έχεις μόνο διαθέσιμες πληροφορίες», οι αλλαγές στην αγορά εργασίας, αλλά και η θέση «Δεν με τρομάζει η τεχνολογία, το αντίθετο, όλα επιστρέφουν στον άνθρωπο και στις σχέσεις του, στο πως οριοθετεί και νοηματοδοτεί τη ζωή του».
Όπως υπογραμμίζει με νόημα, «… Η τεχνολογία δεν είναι μια φυσική δύναμη, δεν είναι ένα τσουνάμι ας πούμε, αλλά η δύναμή της είναι πολλαπλάσια ενός τσουνάμι. Πρέπει να είμαστε σε θέση να τη συγκρατούμε όσο είναι δυνατό, όπως κάναμε με την πυρηνική ενέργεια, να δημιουργούμε πρωτόκολλα, ρυθμίσεις, νόμους».
-Κύριε Ανδριωτάκη, υπογράφετε ένα μυθιστόρημα με τίτλο που παραπέμπει στον θεωρητικό και κριτικό λογοτεχνίας Ρολάν Μπαρτ- και φέρει στο εξώφυλλο την προβοκατόρικη «διευκρίνιση», «Αυτό το μυθιστόρημα είναι προϊόν τεχνητής νοημοσύνης».
Με αυτό το βιβλίο θέλησα να σηματοδοτήσω κάτι συγκεκριμένο. Θέλησα να πω ότι αυτό το μυθιστόρημα δημοσιεύθηκε όταν πλέον ήταν δυνατό να γράφονται περίπλοκα μυθιστορήματα από μηχανές. Συμβολικά, ο συγγραφέας όπως τον γνωρίζαμε πεθαίνει και στη θέση του εμφανίζεται μια καινούργια οντότητα.
Η συνάντηση με το δοκίμιο του Μπαρτ ήταν αναπόφευκτη. Εκείνος, βέβαια, μιλούσε για τη γέννηση του αναγνώστη, για τη δημιουργική συμβολή των ανθρώπων πάνω στα κείμενα. Δεν μπορούσε προφανώς να προβλέψει ότι εξήντα περίπου χρόνια μετά, ο επιμελής αναγνώστης θα ήταν ένα στατιστικό μοντέλο.
“Αν κάποιος νομίζει ότι θα κάθεται στον καναπέ του κι απλά θα αναπαράγει τις πληροφορίες που θα του παρέχει ο ψηφιακός του βοηθός, είναι γελασμένος.”
Πιστεύω ότι όλα τα βιβλία στο μέλλον θα γράφονται με τη βοήθεια των μεγάλων γλωσσικών μοντέλων, κι αυτό δεν είναι κάτι απαραίτητα προβληματικό. Όπως σήμερα, οι περισσότεροι συγγραφείς γράφουν στον υπολογιστή, κι όχι σε γραφομηχανή, σύντομα όλοι θα χρησιμοποιούν κι αυτά τα εργαλεία. Τοποθέτησα αυτή τη «διευκρίνιση», όπως την περιγράφετε, στο εξώφυλλο, γι’ αυτό το λόγο. Για ‘μένα, υπάρχει ένα πριν κι ένα μετά απ’ αυτό το γεγονός, κι ήθελα να το πω όσο πιο ξεκάθαρα γινόταν.
-«Καμία αφήγηση δεν είναι πλέον ιδιόκτητη», γράφετε σε ένα σημείο της ιστορίας. Πόσο συχνά χρησιμοποιείτε το ChatGPT και τι σημαίνει η ευρεία χρήση του επαναστατικού αυτού εργαλείου γενετικής νοημοσύνης στις επιστήμες, στα σχολεία, στα ΜΜΕ, στη λογοτεχνία;
Δεν χρησιμοποίησα καθόλου αυτά τα εργαλεία στη συγγραφή του μυθιστορήματος, αλλά τα χρησιμοποιώ διαρκώς στη δημοσιογραφία, και θα τα χρησιμοποιήσω σίγουρα στις επόμενες δουλειές μου, είτε αφορούν στη μυθοπλασία, είτε όχι. Η φράση περί ιδιοκτησίας έχει, νομίζω, μεγάλο ενδιαφέρον σ’ αυτή τη φάση. Πρώτα απ’ όλα, είναι προβληματικό το γεγονός ότι τα μοντέλα αυτά εκπαιδεύονται από δεδομένα που έχουν αντληθεί χωρίς τη συγκατάθεσή μας. Εννοώ ότι όταν έγραφα στο μπλογκ μου δεν είχα στο νου μου ότι εκπαιδεύω ένα στατιστικό μοντέλο στη συγγραφή. Επίσης, επειδή αυτά τα σύνολα δεδομένων δεν προορίζονταν αρχικά για αυτή τη δουλειά, δημιουργούν στρεβλές εικόνες και αποτελέσματα.
Δυστυχώς, οι τεχνολογικές εταιρείες έχουν συνηθίσει να μας φέρνουν προ τετελεσμένων, και τώρα είναι πια αργά για δάκρυα. Όταν ο ήρωάς μου σκέφτεται ότι δεν μπορεί πλέον να κατοχυρωθεί πνευματική ιδιοκτησία ενός αφηγηματικού έργου, εννοεί ότι μετά την έλευση της μηχανής όλα ανήκουν σε όλους. Μπορείτε να τροφοδοτήσετε ένα μοντέλο με όλα τα έργα του Ντοστογιέφκσι και να του ζητήσετε ένα νέο διήγημα. Θα σας το φτιάξει. Σε ποιον θα ανήκει αυτή η αφήγηση; Στο μοντέλο, στην εταιρεία που το έφτιαξε, σε εσάς που έγραψε την εντολή, στον Ντοστογιέφσκι; Η γνώμη μου είναι ότι όλοι θα μπορούσαν να διεκδικήσουν ένα ποσοστό στη δημιουργία του διηγήματος, ακόμα και οι αναγνώστες, όπως λέει ο Μπαρτ.
“Δεν έχω κανένα πρόβλημα με την εκχώρηση αρμοδιοτήτων στη μηχανή, αρκεί να μην της δώσουμε το αποκλειστικό προνόμιο της σκέψης. Πρέπει να είμαστε μέσα στο βρόχο των αποφάσεων.”
Αυτό δεν είναι κάτι καινούργιο. Αν ένας άνθρωπος έγραφε ένα διήγημα στο στυλ του Ντοστογιέφσκι, θα λέγαμε το ίδιο. Απλά η μηχανή μας τρομάζει γιατί μάς είναι άγνωστη, και μας προκαλεί να τη δούμε με τον φακό του ανθρωπομορφισμού. Κατά τ’ άλλα, για να επανέλθω στην ερώτησή σας, είναι βέβαιο ότι ο εκδημοκρατισμός των μεγάλων γλωσσικών μοντέλων θα αλλάξει πολλά. Τη σκέψη, τη δημιουργικότητα, τους θεσμούς μας. Είμαστε ακόμα στην αρχή. Τα τελευταία 20 χρόνια ερευνώ τη σχέση των νέων τεχνολογιών και τις κοινωνικές, πολιτικές κι εν μέρει οικονομικές επιπτώσεις τους και παρατηρώ κάποια μοτίβα. Το πιο ανησυχητικό από αυτά είναι οι ανεπιθύμητες παρενέργειες. Και το πιο ελπιδοφόρο, ότι μέσα στην αναταραχή υπάρχουν πάντα και κάποιες ψύχραιμες φωνές που αναδεικνύουν το καλό, κι ανοίγουν δρόμους.
-Ο Δερτούζος, ο ήρωας σας, περιγράφεται όχι ως τεχνοφοβικός, αλλά ως τεχνοϊδεαλιστής. «Πίστευε στην ανθρωποκεντρική τεχνολογία. Για να είναι ωφέλιμη η τεχνητή νοημοσύνη πρέπει να μη δημιουργεί δυστυχία, σκεφτόταν». Ποια είναι η δική σας στάση απέναντι σε αυτόν νέο, μαγικό, άγνωστο κόσμο;
Νομίζω ότι ο Δερτούζος οριακά είναι Λουδίτης. Η μηχανή του έχει κλέψει τη δουλειά. Δεν την φοβάται, την εχθρεύεται για βάσιμους λόγους. Είναι ωστόσο, κι αυτό που λέτε, ένας τεχνοϊδεαλιστής. Δεν αρνείται την τεχνολογία, απλά θέλει να τη στρέψει σε επωφελείς χρήσεις. Το ερώτημα που θέτω είναι: σε τι βαθμό είναι εφικτό να επηρεάσουμε τις χρήσεις της τεχνολογίας; Με την πυρηνική ενέργεια, τα έχουμε καταφέρει ως τώρα, με κάποια σοβαρά ατυχήματα βέβαια.
“Xρειάζεται επειγόντως εγγραμματισμός στην τεχνητή νοημοσύνη. Το ίδιο εργαλείο που μπορεί να σε κάνει πιο έξυπνο, μπορεί να σε κάνει και πιο ανόητο.”
Η δική μου στάση είναι πιο μετριοπαθής. Φοβάμαι τους εγγενείς περιορισμούς μας, φοβάμαι την ανωριμότητα, και την ύβρη που διαπράττουμε. Αλλά ταυτόχρονα, αναγνωρίζω το μεγαλείο και την ομορφιά μας, τη διάθεσή μας να δημιουργήσουμε κοινά οράματα, κοινούς τόπους, κοινά εργαλεία, να συναντηθούμε τελικά, και να γίνουμε μέρος αυτού του τρομερού αινίγματος που λέγεται ζωή. Δεν με τρομάζει η τεχνολογία, το αντίθετο. Όλα επιστρέφουν στον άνθρωπο και στις σχέσεις του, στο πως οριοθετεί και νοηματοδοτεί τη ζωή του.
-Είστε 50 ετών, που σημαίνει ότι γεννηθήκατε στον αναλογικό κόσμο και βιώσατε τη μετάβαση στον ψηφιακό. Πόσο σημαντικό είναι το γεγονός ότι οι εξελίξεις γύρω από την ΑΙ αξιολογούνται μέσα από το φίλτρο ενός ανθρώπου ο οποίος έχει μέτρο σύγκρισης; Στο εγγύς μέλλον, για το όποιο next best thing, θα ενημερώνουν δημοσιογράφοι και ειδικοί οι οποίοι -όπως συνέβη και σε προηγούμενες ιστορικές περιόδους- θα αντιμετωπίζουν τον παλιό κόσμο με όρους αρχαιολογίας.
Αυτή είναι η ευθύνη μας. Να μεταφέρουμε στις νεότερες γενιές τις αξίες της έρευνας, της ανάγνωσης, της κριτικής σκέψης. Η δική μου γενιά πράγματι ενηλικιώθηκε πριν ακόμα έρθουν οι μηχανές αναζήτησης. Είναι ανησυχητικό ότι παρατηρείται μεγάλο πρόβλημα στην απλή κατανόηση κειμένου στην χώρα μας.
Η τεχνολογία σου δίνει την ψευδαίσθηση ότι έχεις γνώση, ενώ στην πραγματικότητα έχεις μόνο διαθέσιμες πληροφορίες. Για να εξάγεις γνώση, για να κατακτήσεις γνώση, πρέπει να κοπιάσεις. Προς το παρόν δεν υπάρχει άλλος τρόπος. Ερευνούν τη δυνατότητα αναβάθμισης των εγκεφάλων μέσω της συνθετικής βιολογίας, ώστε να ξεκινάς από διαφορετική αφετηρία, αλλά και πάλι θα πρέπει να καταβάλλεις κάποια προσπάθεια για να ανακτήσεις πληροφορίες και σκέψεις. Θα πρέπει να καταναλώνεις ενέργεια. Το ίδιο κάνουν και οι μηχανές. Αν κάποιος νομίζει ότι θα κάθεται στον καναπέ του κι απλά θα αναπαράγει τις πληροφορίες που θα του παρέχει ο ψηφιακός του βοηθός, είναι γελασμένος. Αυτό δεν θα αρκεί. Οι απαιτήσεις από όλους μας αυξάνονται με την έλευση των γλωσσικών μοντέλων. Γι’ αυτό λέω ότι χρειάζεται επειγόντως εγγραμματισμός στην τεχνητή νοημοσύνη. Το ίδιο εργαλείο που μπορεί να σε κάνει πιο έξυπνο, μπορεί να σε κάνει και πιο ανόητο.
-Μπαίνω στον πειρασμό να αλιεύσω τέσσερα μικρά αποσπάσματα από το βιβλίο σας -χωρίς να λησμονώ ότι πρόκειται για μυθοπλασία, αλλά και συνυπολογίζοντας τη δημοσιογραφική σας έρευνα στο ζήτημα- τα οποία θα ήθελα να σχολιάσετε:
«… Ήταν διαπιστωμένα ο μόνος άνθρωπος στο δυτικό ημισφαίριο που μπορούσε να συγκεντρωθεί σε μια απαιτητική διανοητικά δραστηριότητα για πάνω από τριάντα λεπτά».
«… Τους έδιναν γενναιόδωρες αποζημιώσεις και τους πετούσαν από το παράθυρο χωρίς πολλές εξηγήσεις, παραχωρώντας τις έδρες τους σε εικονικούς εκπαιδευτικούς βαθιάς μάθησης».
«… Μπαίνει σε ιστοσελίδα που νοικιάζουν ανθρώπινη εργασία».
«… Τώρα όλοι αναπαράγουν τις απαντήσεις των μηχανών […] Διάλογο κάνουν μεταξύ τους μόνο οι μηχανές. Η εικόνα που χαρακτηρίζει τον πολιτισμό μας είναι δύο μηχανές που συνεννοούνται σε μια άγνωστη γλώσσα για τα ανθρώπινα ζητήματα».
Ξεκινώ απ’ το τελευταίο, και πηγαίνω προς τα πίσω. Πιστεύω ότι τίποτα δεν είναι προδιαγεγραμμένο. Είμαστε μέρος των εξελίξεων και έχουμε όλοι τη δυνατότητα να τις επηρεάσουμε θετικά. Δεν θέλω να προκαλέσω ηθικό πανικό, ούτε να τρομοκρατήσω τον αναγνώστη. Η εικόνα που περιγράφω είναι όντως σκοτεινή, αλλά μπορεί να έχει κι άλλες αναγνώσεις. Δεν καταλαβαίνουμε τη γλώσσα των ζώων, αλλά συμβιώνουμε μαζί τους. Ο φόβος προκύπτει απ’ αυτό που ονομάζεται «μοναδικότητα», απ’ τη στιγμή εκείνη που οι μηχανές θα είναι εξυπνότερες από εμάς. Αυτή είναι μια πολύ αβέβαιη και μακροπρόθεσμη προοπτική, αιώνες μακριά, η οποία μας αποσπά απ’ τα πιο βραχυπρόθεσμα προβλήματα.
Ένα απ’ αυτά είναι η απειλή της απώλειας θέσεων εργασίας. Ήδη συμβαίνει αυτό. Γίνεται σταδιακά, και πολύ σωστά, γιατί δεν ξέρουμε τι θα κάνουμε όταν θα αντιμετωπίσουμε ένα κύμα μαζικής ανεργίας. Το κύμα αυτό είναι δεδομένο. Το θέμα είναι πώς θα διαχειριστούμε τις συνέπειές του. Σύμφωνοι, η τεχνολογία δεν είναι μια φυσική δύναμη, δεν είναι ένα τσουνάμι ας πούμε, αλλά η δύναμή της είναι πολλαπλάσια ενός τσουνάμι. Πρέπει να είμαστε σε θέση να τη συγκρατούμε όσο είναι δυνατό, όπως κάναμε με την πυρηνική ενέργεια, να δημιουργούμε πρωτόκολλα, ρυθμίσεις, νόμους.
Η εκπαίδευση θα αλλάξει σε όλα τα στάδια, κι αυτό είναι βέβαιο. Δεν προβλέπω όμως ότι θα βγει ο άνθρωπος εντελώς απ’ το βρόχο. Θα κινδυνεύσουν σε κάποια φάση όσοι δεν θα προσαρμοστούν.
“Το ζητούμενο είναι να μη νεκρώσει μέσα μας η ανάγκη για σύνδεση, για διάλογο, για αγάπη, για καθαρό μυαλό”
Τέλος, το πρόβλημα της κοινωνίας της ελλειμματικής προσοχής είναι κάτι που με απασχολεί πολύ. Τείνουμε να πριονίζουμε το κλαδί πάνω στο οποίο καθόμαστε. Δημιουργείται αυξανόμενα ένα βαθύ ρήγμα, μεταξύ μιας μάζας ανθρώπων που αδυνατούν να συγκεντρωθούν, και μιας μικρής ομάδας που αντιστέκεται. Ειλικρινά, αυτή η διάσταση με προβληματίζει πολύ.
-Έχετε κάνει συνεντεύξεις από τον πρόεδρο της Microsoft Μπραντ Σμιθ μέχρι την καθηγήτρια Κέιτ Χέιλς, την ερευνήτρια η οποία εισήγαγε την έννοια και τον όρο του «μετα-ανθρώπινου» στις ανθρωπιστικές και κοινωνικές επιστήμες. Σε αυτές και άλλες συνομιλίες σας με σημαντικά πρόσωπα, ποιά τοποθέτηση ή πρόβλεψη που διατύπωσαν σας έκανε μεγαλύτερη εντύπωση;
Έχω μάθει πάρα πολλά αυτά τα χρόνια από πολύ αξιόλογα πρόσωπα. Δεν μπορώ να ξεχωρίσω ένα μόνο πράγμα, δε λειτουργεί έτσι το μυαλό μου. Απ’ όλες αυτές τις συνεντεύξεις, και τα κείμενα και τις έρευνες έχω σχηματίσει τη δική μου εικόνα, έχω διαμορφώσει το δικό μου φίλτρο. Αυτό που μ’ έχει εντυπωσιάσει περισσότερο είναι η ευρύτητα και το βάθος που μπορεί να πάρει ο διάλογος. Η τεχνολογία είναι τόσο συνυφασμένη με τον άνθρωπο, που είναι αδύνατο να μιλήσεις για αυτόν χωρίς να αναφερθείς σ’ εκείνη, και αντιστρόφως. Καθένας μας λοιπόν, μιλά για την τεχνολογία μέσα απ’ το ανθρώπινο πρίσμα του, και μιλά για τον άνθρωπο μέσα απ’ το τεχνολογικό του πρίσμα. Ακούω με προσοχή όσους με κάποιο τρόπο διαπραγματεύονται αυτή τη σχέση, όσους την ερευνούν πιο συστηματικά, κι όσους έχουν κάτι πρωτότυπο να πουν. Η τεχνολογία είναι ένας ακόμα δρόμος για να κατανοήσουμε τον κόσμο και τον άνθρωπο.
-Έχετε δηλώσει ότι πρώτα κινδυνεύουμε από την κλιματική κρίση και μετά από τις ευφυείς μηχανές που θα μας «καταστρέψουν». Ωστόσο, οι εξελίξεις στον τομέα είναι ραγδαίες και τις πληροφορούμαστε ως τετελεσμένα -όταν γίνονται πια πρωτοσέλιδο επειδή λανσάρονται στις αγορές και οι εταιρείες μέσω των ΜΜΕ σπεύδουν να ενημερώσουν τους καταναλωτές (τους καταναλωτές, όχι τους πολίτες).
Επαναλαμβάνω, ότι το παιχνίδι είναι εν εξελίξει. Σύμφωνοι, εμείς οι δυο, δεν έχουμε την ίδια δύναμη, κι άρα την ίδια ευθύνη, που έχει η OpenAI ή η Google, αλλά πρέπει να έχουμε καθαρό μυαλό, και το θάρρος της (τεκμηριωμένης) γνώμης μας. Νομίζω ότι η κλιματική κρίση είναι αμεσότερος κίνδυνος από υπαρξιακής σκοπιάς. Και η τεχνολογία συμβάλλει τόσο αρνητικά όσο και θετικά στο πρόβλημα. Ισχύει κι εδώ αυτό που έλεγα για τον άνθρωπο και την τεχνολογία. Όλες μας οι παρεμβάσεις στο φυσικό περιβάλλον εμπεριέχουν την χρήση κάποιας τεχνολογίας. Η τεχνολογία είναι ένα μέσο που μπορεί να βοηθήσει το περιβάλλον, αλλά και να το καταστρέψει. Πρέπει να προτεραιοποιήσουμε την υγεία του περιβάλλοντός μας. Τι να τις κάνεις τις εξελιγμένες μηχανές όταν δεν θα μπορείς να βγεις να κάνεις έναν περίπατο στην φύση;
-Είστε πατέρας ενός μικρού παιδιού. Όταν ο γιος σας φτάσει στη ηλικία σας, ποιο θα είναι το μεγάλο διακύβευμα (όσο παρακινδυνευμένες κι αν είναι οι μακροπρόθεσμες εκτιμήσεις);
Δεν ασκώ το επίφοβο σπορ της μελλοντολογίας. Επιλέγω να γράψω μυθοπλασία γιατί δεν είμαι ριψοκίνδυνος άνθρωπος. Με απασχολεί πολύ η ηθική διάσταση των πραγμάτων. Στο βιβλίο, ένας ήρωας θυσιάζει μια ανθρώπινη ζωή στο βωμό μιας φιλοδοξίας του, ενός οράματός του. Αυτό συμβαίνει διαρκώς στην ανθρώπινη ιστορία, και θα συνεχίσει να συμβαίνει. Το όραμα, ο στόχος δεν αναμένεται να τίθεται από κάποια μηχανή, αλλά από ανθρώπους. Θα έλεγα λοιπόν ότι ένα απ’ τα μεγάλα διακυβεύματα θα παραμείνει η ελευθερία της βούλησης και η αυτονομία της συνείδησης.
Δεν έχω κανένα πρόβλημα με την εκχώρηση αρμοδιοτήτων στη μηχανή, αρκεί να μην της δώσουμε το αποκλειστικό προνόμιο της σκέψης. Πρέπει να είμαστε μέσα στο βρόχο των αποφάσεων. Ας γράφει βιβλία η μηχανή, ας γυρίζει ταινίες, ας ζωγραφίζει πίνακες, ας σκαρώνει τραγούδια και συμφωνίες για να μας ψυχαγωγεί, κι ας κάνει τα λογιστικά μας, με ασφάλεια και δικαιοσύνη. Το ζητούμενο είναι να μη νεκρώσει μέσα μας η ανάγκη για σύνδεση, για διάλογο, για αγάπη, για καθαρό μυαλό. Να μη γίνουμε αυτόματα, με άλλα λόγια, και να μην παραδοθούμε στην ψηφιακή εκδοχή του Πλατωνικού σπηλαίου.