Η φράση του Πρωταγόρα ότι ο άνθρωπος είναι μέτρο για όλα τα πράγματα -και για όσα υπάρχουν και για όσα δεν υπάρχουν- θα μπορούσε να θεωρηθεί ιδρυτική πράξη του ανθρωποκεντρικού ελληνικού πολιτισμού. Οι Έλληνες -στη μυθολογία, το θέατρο και τη φιλοσοφία- οικοδόμησαν ένα πνευματικό σύμπαν που περιστρεφόταν γύρω από τον άνθρωπο. Παράλληλα, προβληματίστηκαν βαθιά για τους κινδύνους που παραμονεύουν στην απόπειρα διεύρυνσης της ανθρώπινης φύσης. Σε ιστορίες όπως της Μήδειας, του Δαιδάλου και της Πανδώρας τέθηκε εμφατικά το ζήτημα των ορίων μεταξύ ανθρώπου και μηχανής. Στον 21ο αιώνα οι εξελίξεις στη βιοτεχνολογία και την τεχνητή νοημοσύνη επαναφέρουν πιεστικά την πανάρχαια συζήτηση για τη βιοτέχνη, τη σχέση βιολογικού και τεχνολογικού παράγοντα.
Η τέταρτη βιομηχανική επανάσταση συνίσταται κατά βάση στον συνδυασμό της αυτοεκπαίδευσης των μηχανών, της επιστήμης των δεδομένων και της τεχνητής νοημοσύνης. Η τελευταία καθιστά τις μηχανές ικανές να μαθαίνουν από την εμπειρία, να προσαρμόζονται σε νέα δεδομένα, με τελικό στόχο αυτές να εκτελούν ανθρωπομορφικά έργα. Η εισαγωγή και επεξεργασία όλο και μεγαλύτερου όγκου δεδομένων επιτρέπει στα υπολογιστικά συστήματα να αναγνωρίζουν δομή και κανονικότητες στα δεδομένα, ώστε κατόπιν να επιτελούν συγκεκριμένα καθήκοντα.
Στην τεχνητή νοημοσύνη, η μάθηση -ένα από τα βασικά χαρακτηριστικά της ανθρώπινης νοημοσύνης- συντελείται μέσω της αξιοποίησης της ανθρώπινης εμπειρίας και των δεδομένων, προκειμένου οι μηχανές να βελτιώνουν εκθετικά τη γνωστική τους συμπεριφορά. Η μάθηση αυτή μπορεί να επιβλέπεται ή και όχι. Αρχικά, στην εποπτευόμενη μάθηση η μηχανή εκπαιδεύεται, μέσω της εισαγωγής αυστηρά επιλεγμένων δεδομένων, για να πραγματοποιήσει μια προεπιλεγμένη εργασία. Στη μη εποπτευόμενη μάθηση η μηχανή είναι ελεύθερη να βρει τις δικές της συσχετίσεις στα δεδομένα που αξιοποιεί, να δημιουργήσει δηλαδή δικά της γνωστικά συμπλέγματα. Οι μηχανές σήμερα αναλύουν όλο και περισσότερα δεδομένα, ώστε να βρουν στατιστικούς συσχετισμούς. Και το κάνουν σε πολλές περιπτώσεις καλύτερα από τους ανθρώπους, αφού επιτελούν εξαιρετικά περίπλοκες εργασίες. Χρειάζεται να επισημανθεί όμως ότι μέχρι ώρας δεν υπάρχει τρόπος να γνωρίζουμε πώς η μηχανή φτάνει στο συμπέρασμα της και πώς λαμβάνει την απόφασή της. Αυτό είναι ένα κρίσιμο σημείο, το οποίο χρήζει μέγιστης προσοχής.
“Προκειμένου να καταστεί η τεχνητή νοημοσύνη μια υπόσχεση ελευθερίας και όχι μια απειλή νέας δουλείας χρειάζεται να στηριχθούμε στις καταστατικές αρχές και αξίες του κλασικού αρχαιοελληνικού πολιτισμού.”
Συνεπώς, μια μηχανή μπορεί να διδάξει στον εαυτό της τον βέλτιστο τρόπο να παίζει Fortnite με το να παρατηρεί τους τρόπους παιχνιδιού ανθρώπων ή άλλων μηχανών. Δύναται όμως να διδάξει στον εαυτό της και ποια υπηρεσία να προωθήσει στο διαδίκτυο ή ποιες πληροφορίες να διοχετεύσει σε ενημερωτικά δίκτυα. Η συνεχής εισαγωγή νέων δεδομένων αναπροσαρμόζει διαρκώς τα μοντέλα, με ρυθμό εκτός των δυνατοτήτων της ανθρώπινης εποπτείας, και επιτρέπει στη μηχανή να είναι απόλυτα προσαρμοστική.
Ο βασικός περιορισμός της τεχνητής νοημοσύνης, έως σήμερα, είναι ότι μαθαίνει από τα δεδομένα. Οι αλγόριθμοι βασίζονται στη στατιστική συσχέτιση των δεδομένων, δίνοντας στις μηχανές τη δυνατότητα να εκτελούν λειτουργίες υπολογισμού και άλλες δραστηριότητες. Οι υπολογιστές, ανιχνεύοντας και αξιοποιώντας πολύπλοκα δεδομένα, επιτελούν σύνθετα έργα γρηγορότερα και αποτελεσματικότερα από τους ανθρώπους. Είναι προφανές ότι η ποιότητα και το είδος των δεδομένων που αξιοποιεί μια μηχανή αντικατοπτρίζονται στις δράσεις της. Ας αναλογιστούμε ότι όσο η μηχανή μαθαίνει παρατηρώντας τους ανθρώπους, οι ενέργειές της δεν θα διαφέρουν από τις δικές μας όχι μόνο στις καλές εκδοχές τους, αλλά και στις χείριστες.
Στην παρούσα φάση οι μηχανές δρουν με μη ανθρώπινες μεθόδους, αφού δεν διαθέτουν κοινή αίσθηση και βούληση. Η ικανότητα κατανόησης των «κανόνων του κόσμου», των τρόπων δηλαδή που είναι δομημένη και λειτουργεί η κοινωνία, αποτελεί μία βασική δεξιότητα του ανθρώπου, η οποία αναπτύσσεται σταδιακά με την αλληλεπίδραση. Οι μηχανές δεν κατανοούν ακόμα τους κανόνες του κόσμου και τη χρήση των πραγμάτων. Θεωρητικά, η μη εποπτευόμενη μάθηση μπορεί να φέρει τις μηχανές εγγύτερα στην εσωτερίκευση των κανόνων του κόσμου. Γίνεται έτσι κατανοητή η σημασία των δεδομένων που εισάγονται στις μηχανές ή που αυτές ανευρίσκουν.
Η τεχνητή νοημοσύνη επανατοποθετεί τη σχέση ανθρώπου – μηχανής και φέρει στο προσκήνιο τεράστιο αριθμό φιλοσοφικών ζητημάτων που χρήζουν επανεξέτασης.
Η τεχνητή νοημοσύνη μετασχηματίζει την ανθρώπινη υπόσταση. Δεν αργεί η ώρα που οι μηχανές θα αναλάβουν πρωτοβουλίες για τις οποίες απαιτούνται σύνθετες γνωστικές ικανότητες. Ήδη, η λήψη αποφάσεων για βασικά ζητήματα του ψηφιακού σύμπαντος έχει μεταφερθεί αποκλειστικά σε μηχανές. Οι άνθρωποι δεν ελέγχουν τις διαδικασίες αυτές, επειδή τα αυτοματοποιημένα συστήματα είναι πολυπλοκότατα.
Επιπλέον, στα υπολογιστικά συστήματα τεχνητής νοημοσύνης οι ηθικές αξίες και η δεοντολογία δεν τυγχάνουν της προσοχής που τους αναλογεί.
Εάν, για παράδειγμα, δοθεί εντολή σε μηχανές να αντιμετωπίσουν την κλιματική αλλαγή μειώνοντας τις εκπομπές διοξειδίου του άνθρακα, δίχως αυτές να είναι εξοπλισμένες με σαφείς ηθικές αρχές και νομικούς περιορισμούς, ενδέχεται να σκοτώσουν ανθρώπους που ρυπαίνουν.
Στην ισχυρή τεχνητή νοημοσύνη οι μηχανές αναμένεται να εκτελούν διαφορετικά από τα προκαθορισμένα καθήκοντα, να ανταποκρίνονται στις συνθήκες, να επιδεικνύουν δημιουργικότητα, ενώ δεν αποκλείεται να θέτουν και δικούς τους στόχους. Η αυτοβελτίωση των μηχανών αυξάνει εκθετικά την ευφυΐα τους. Στην άκρη του δρόμου της τεχνολογικής προόδου βρίσκεται η υπέρβαση της ανθρώπινης νοημοσύνης, η επονομαζόμενη «τεχνολογική μοναδικότητα»: το να κατανοούν εξελιγμένα συστήματα τεχνητής νοημοσύνης όχι μόνο το τι, αλλά και το γιατί το εκτελούν.
Κάποιοι βλέπουν στην τεχνητή νοημοσύνη τη διεύρυνση των ανθρωπίνων δυνατοτήτων. Άλλοι τη βαθύτερη εξάρτηση των ανθρώπων από τις μηχανές, αφού οι άνθρωποι όλο και συχνότερα δεν θα αναλαμβάνουν πρωτοβουλίες δίχως τη συνδρομή αυτοματοποιημένων συστημάτων. Άλλοι προβληματίζονται για τις αυτόνομες στρατιωτικές μηχανές και τα ευφυή συστήματα διάδοσης προπαγάνδας.
Είναι σαφές ότι στα συστήματα τεχνητής νοημοσύνης τα αποτελέσματα είναι ανάλογα των δεδομένων: «σκουπίδια βάζεις στο σύστημα, σκουπίδια θα σου δώσει». Εάν τα δεδομένα που χρησιμοποιεί μια μηχανή τεχνητής νοημοσύνης είναι μονομερή ή ηθικά προβληματικά, η μηχανή δεν θα αναπαραγάγει τη μεροληψία, αλλά θα την ενισχύσει κιόλας. Είναι γνωστή η περίπτωση της Tay, του chatbot της Microsoft, που τον Μάρτιο του 2016 εμφανίστηκε στο Twitter και άρχισε να αλληλοεπιδρά με και να μαθαίνει από άλλους χρήστες. Μετά δώδεκα ώρες η εταιρεία αναγκάστηκε να σταματήσει το πείραμα, γιατί οι χρήστες του Twitter είχαν μετατρέψει την Tay σε ένα λογαριασμό διάδοσης ρατσισμού και σεξισμού.
“Βρισκόμαστε στην αυγή της ρομποανθρωπότητας”
Φαίνεται ότι τα συστήματα τεχνητής νοημοσύνης εμφανίζουν μεροληπτική στάση προς το φύλο, τη φυλή και άλλα χαρακτηριστικά εάν τα δεδομένα που χρησιμοποιούν είναι μονομερή. Και αν η μάθηση των μηχανών στηριχθεί αποκλειστικά σε δεδομένα που εμείς εισάγουμε, τότε θα μπορούσαν οι κίνδυνοι να περιοριστούν. Αν όμως τα συστήματα τεχνητής νοημοσύνης αυτοδιδάσκονται, από δεδομένα του διαδικτύου ή άλλων δικτύων, τότε είναι σχεδόν βέβαιο ότι οι μηχανές θα μιμηθούν επί τα χείρω τις πλέον αποτρόπαιες πλευρές της ανθρώπινης σκέψης και συμπεριφοράς. Ο λόγος, όπως προανέφερα, είναι η μη κατανόηση των «κανόνων του κόσμου» από τις μηχανές. Για αυτό είναι αναγκαίο να διασφαλιστεί η ποιότητα των χρησιμοποιούμενων δεδομένων, πράγμα καθόλου εύκολο στην περίπτωση της μη μηχανικής μάθησης. Αυτή όμως είναι η μεγαλύτερη πρόκληση που αντιμετωπίζει σήμερα η ανθρωπότητα. Χρειαζόμαστε τάχιστα ένα καλύτερο διαδίκτυο, πιο υπεύθυνο και πεπαιδευμένο, το οποίο θα τροφοδοτεί τα συστήματα τεχνητής νοημοσύνης με ποιότητα.
Παρά ταύτα, οι δυσοίωνες προβλέψεις πολλαπλασιάζονται όσο βασική στόχευση παραμένει το αποτέλεσμα: το τι μπορεί να κάνει μια μηχανή, όχι το πώς το κάνει. Στο πλαίσιο αυτό ο βαθμός αυτονομίας των συστημάτων τεχνητής νοημοσύνης είναι κομβικός. Η ανθρωπότητα χρειάζεται να συνειδητοποιήσει ότι τα συστήματα αυτά είναι απαραίτητο να χρησιμοποιούνται μόνο επικουρικά, για όσο χρόνο συνεχίζουν να μην έχουν αυτεπίγνωση των εργασιών που επιτελούν και δεν κατανοούν -ούτε τα ίδια ούτε και οι άνθρωποι- το πώς καταλήγουν στα συμπεράσματά τους. Αν και η «εξήγηση» -το να μπορεί δηλαδή ένα σύστημα τεχνητής νοημοσύνης να εξηγεί πώς κατέληξε στο συμπέρασμα του- είναι κεφαλαιώδους σημασίας, όλο και μειώνεται η προσοχή που της δίνεται, επειδή πρωτεύει ο ωφελιμιστικός υπολογισμός του αποτελέσματος.
Η ενίσχυση της τεχνητής νοημοσύνης είναι δρόμος που μοιάζει ανεπίστρεπτος, κυρίως επειδή η ανθρωπότητα έχει επιλέξει να τον βαδίσει και εκεί οδηγεί η δυναμική των καιρών. Οι κίνδυνοι όμως που ελλοχεύουν είναι πολλοί. Για την αποφυγή νέων δυστοπιών χρειάζεται επιτακτικά ένα ανθρωποκεντρικό αξιακό πλαίσιο, εντός του οποίου θα εξελιχθεί η τεχνητή νοημοσύνη. Θεωρώ εγκληματική αφέλεια να αφεθεί η βιοτέχνη, τόσο από τη σκοπιά της τεχνητής νοημοσύνης όσο και της βιοτεχνολογίας, στην καλή διάθεση των τεχνολόγων ή στις μηχανές τις ίδιες. Απαιτούνται επαρκείς πολιτικές, οι οποίες θα διασφαλίζουν τον ανθρωπισμό, τα δικαιώματα, την ελευθερία και τη δημοκρατία τόσο στον ψηφιακό όσο και στον πραγματικό κόσμο. Προκειμένου να καταστεί η τεχνητή νοημοσύνη μια υπόσχεση ελευθερίας και όχι μια απειλή νέας δουλείας χρειάζεται να στηριχθούμε στις καταστατικές αρχές και αξίες του κλασικού αρχαιοελληνικού πολιτισμού, του απόλυτου ανθρωποκεντρικού προτύπου.
Μιας και βρισκόμαστε στον ιερό χώρο των Δελφών, ας θυμηθούμε το μύθο του Οιδίποδα. Όταν βρέθηκε αντιμέτωπος με την Σφίγγα, αυτή του έθεσε το γνωστό δίλημμα: ποιο είναι το ζώο που το πρωί περπατά στα τέσσερα, το μεσημέρι στα δύο και το βράδυ στα τρία; Ο Οιδίπους απάντησε ο άνθρωπος και αμέσως η Σφίγγα γκρεμίστηκε από τον βράχο και αυτοκτόνησε. Η λέξη άνθρωπος χάλασε το τέρας, όπως είπε κάποτε ο Σεφέρης. Ο ανθρωπισμός, η πίστη και προσήλωση στον άνθρωπο, δημιουργεί τις προϋποθέσεις για την υπέρβαση κάθε προβλήματος ή απειλής. Είναι το θεμέλιο για την επιβίωση και την ευημερία του ανθρώπου.
Εντός αυστηρά ανθρωποκεντρικού πλαισίου ανέπτυξαν οι Έλληνες τις σκέψεις τους για τη βιοτέχνη, τη σχέση του βιολογικού παράγοντα με την τεχνολογία. Το αποδεικνύουν ορισμένως οι μύθοι τους. Ο Ιάσων και οι σύντροφοί του, στη διάρκεια της παραμονής τους στην Κολχίδα, βρέθηκαν αντιμέτωποι μ’ ένα στρατό τεχνητών στρατιωτών. Επρόκειτο για ανίκητες στρατιωτικές μηχανές, οι οποίες όμως δεν υπάκουαν σε εντολές. Ο Ιάσων πέταξε πέτρες ανάμεσά τους και τους οδήγησε να αλληλοεξοντωθούν, αφού έβλεπαν ο ένας τον άλλο πια ως εχθρό. Η πιθανότητα αντιμετώπισης αυτόνομων πολεμικών μηχανών, που θα διδάσκονται από το αποθετήριο βαρβαρότητας της ανθρώπινης ιστορίας, ανέκαθεν δημιουργούσε περισσό φόβο.
Εξόχως βαθιοί σε προβληματισμό είναι και δύο μύθοι που αναφέρονται στον Ήφαιστο, το αρχέτυπο του τεχνολόγου. Στην πρώτη αφήγηση αναφέρεται ως δημιουργός ανδροειδών, τα οποία έμοιαζαν με πραγματικές γυναίκες. Ήταν προικισμένες με αίσθηση και λογική και κατείχαν όλη την ανθρώπινη γνώση. Η έμφαση στην ιστορία αυτή αποδίδεται σε αυτό που σήμερα ονομάζουμε εποπτευόμενη μηχανική μάθηση. Ο Ήφαιστος επέλεξε να χαρίσει στα ανδροειδή το άνθος του πολιτισμού, όχι τις σκοτεινές πτυχές του, με θριαμβευτικά αποτελέσματα.
Αντίθετα, στο μύθο της Πανδώρας, ο Ήφαιστος δημιουργεί ένα τεχνητό πλάσμα κατ’ εντολή των θεών, οι οποίοι ήθελαν να βλάψουν την ανθρωπότητα. Έμοιαζε με αθάνατη θεά, αλλά διέθετε τη φωνή και τη δύναμη ανθρώπου. Το πλάσμα αυτό προικίστηκε φαινομενικά με όλα τα χαρίσματα, αλλά όταν ήλθε στη Γη άνοιξε το πιθάρι που ήταν κρυμμένο το αρχέγονο κακό και σκόρπισε τη δυστυχία στην ανθρωπότητα. Παρότι ο Προμηθέας είχε προειδοποιήσει τον Επιμηθέα να μην δεχτεί δώρα από τους θεούς, εκείνος παράκουσε και σπάρθηκε ο όλεθρος.
Συνεπώς, οι Έλληνες είχαν απόλυτη συνείδηση του ότι η εισαγωγή προβληματικών δεδομένων σε μια ευφυή μηχανή την καθιστά επικίνδυνη. Η ανθρωπότητα σήμερα αποπειράται να περάσει σε ένα άλλο, ανώτερο, στάδιο εξέλιξης. Ο άνθρωπος, από homo—faber, επιθυμεί να καταστεί homo-deus, δημιουργώντας ευφυείς μηχανές. Ένα νέο, δηλαδή, είδος, το οποίο θα είναι περισσότερο εξελιγμένο από την παρούσα ανθρώπινη κατάσταση. Για άλλη μια φορά στην ιστορία της η ανθρωπότητα παίζει με το κουτί της Πανδώρας.
Ανταποκρινόμενοι στις προκλήσεις, επιστήμονες στις ΗΠΑ έχουν ήδη αρχίσει να πειραματίζονται με την εισαγωγή ηθικών προτύπων και αξιών σε συστήματα τεχνητής νοημοσύνης μέσω της κλασικής λογοτεχνίας. Η ιδέα είναι ότι έτσι οι μηχανές θα μάθουν να σκέφτονται με γνώμονα την υπευθυνότητα και την ηθική, όπως οι καλοί και υπεύθυνοι άνθρωποι. Τα δεδομένα που αξιοποιούν οι μηχανές δεν πρέπει να αντλούνται αποκλειστικά από την καθημερινή εμπειρία, αλλά επιβάλλεται να προέρχονται και από το απόθεμα της ανθρώπινης σοφίας και φρόνησης, επειδή οι γνωστικές και λογικές δυνατότητες των ανθρώπων επικαθορίζονται από αισθήματα. Ο ανθρωποκεντρικός αρχαιοελληνικός πολιτισμός γέννησε πάθη και δημιούργησε διλήμματα άξια να τα στοχάζονται άνθρωποι και μηχανές, ώστε να εξανθρωπιστούν.
Η ανθρωπότητα βρίσκεται σ’ ένα σημείο καμπής. Κυριολεκτικά, τίκτεται ένα αύριο εντελώς διαφορετικό από το χθες. Δεν δημιουργείται μόνο ο λόγος της τεχνητής νοημοσύνης, αλλά πρωταρχικά το ήθος και το πάθος της.
Σήμερα, εξελίσσονται παράλληλα και οι δύο εκδοχές της βιοτέχνης: οι άνθρωποι αναβαθμίζονται ως είδος μέσω της βιοτεχνολογίας και της ρομποτικής, ενώ ταυτόχρονα οι μηχανές εμβαπτίζονται όλο και περισσότερο στο ανθρώπινο.
Βρισκόμαστε στην αυγή της ρομποανθρωπότητας. Στο εγχείρημα αυτό οι θετικές επιστήμες εισφέρουν το τι, την τεχνολογία. Αλλιώς, το κέλυφος. Σημαντικότερο όμως είναι το περιεχόμενο, η ουσία. Και αυτό είναι έργο του κλασικού πολιτισμού να το παράσχει. Αν δεν εμβαπτίσουμε τις μηχανές στα νάματα του ανθρωποκεντρισμού, κάποια Πυθία θα βρεθεί στη δύσκολη θέση να εκστομίσει τον καταληκτικό χρησμό, παρόμοιο με εκείνο τον αρχαίο:
“Πείτε στον Θεό, η μεγαλόπρεπη ανθρωπότητα έπεσε στο έδαφος, ο άνθρωπος δεν έχει πια την κατοικία του, ούτε την επιστήμη που προφητεύει, ούτε τη φωνή της γνώσης, και ο πολιτισμός στέρεψε κι αυτός”.
*Keynote speech στο Hall of Philosophers του Delphi Economic Forum IV (2/3/2019).