Οι άνθρωποι αναπτύσσουν γνωστικές ικανότητες, μαθαίνοντας από το περιβάλλον τους. Οι μηχανές περνούν από μια παρόμοια φάση μάθησης για να αποκτήσουν νοημοσύνη. Οι άνθρωποι μαθαίνουν κακά πράγματα εάν εκτίθενται σε κακό περιβάλλον. Η μηχανική μάθηση περνάει με παρόμοιο κίνδυνο εάν τα δεδομένα είναι ελλιπή ή σκόπιμα παραμορφωμένα.
Τα μηχανήματα πρέπει να μαθαίνουν συνεχώς και πρέπει να εκτίθενται σε μια μεγάλη ποικιλία συνόλων δεδομένων, προκειμένου να είναι προετοιμασμένοι να χειριστούν τα πραγματικά περιστατικά. Απλά εξαρτώνται από τα σύνολα δεδομένων εκπαίδευσης που επιμετρούνται με βάση τα διαθέσιμα δεδομένα τα οποία δεν θα αρκούν αν θέλουμε οι μηχανές να αντιμετωπίσουν τις πραγματικές προκλήσεις.
Οι άνθρωποι δεν είναι πάντα δίκαιοι και ουδέτεροι. Οι μηχανές μπορούν επίσης να παρουσιάζουν παρόμοια αθέμιτη και παράλογη συμπεριφορά. Τα συστήματα τεχνητής νοημοσύνης δημιουργούνται από ανθρώπους, έτσι υπάρχει μεγάλη πιθανότητα ότι οι άνθρωποι θα εισαγάγουν κρίσιμη προκατάληψη στις μηχανές που κατασκευάζουν. Η προκατάληψη μπορεί επίσης να εισχωρήσει στη συμπεριφορά της μηχανής με πολλούς διαφορετικούς τρόπους - η προκατάληψη δεδομένων και η μεροληψία σχεδίασης είναι οι πιο συνήθεις.
Η ηθική πρόκληση που αντιμετωπίζουμε είναι ότι εάν το μέλλον μας εξαρτάται πλήρως από τα πληροφοριακά συστήματα, πρέπει να εξασφαλίσουμε ότι οι μηχανές θα λειτουργούν όπως αναμένεται και δεν είναι προκατειλημμένες. Όταν η διαδικασία λήψης αποφάσεων μεταβιβάζεται στις «έξυπνες μηχανές», θα δημιουργήσει διάφορες προκλήσεις που σχετίζονται με την ιδιωτική ζωή, την ισότητα, τις διακρίσεις λόγω φύλου, την ασφάλεια, την προστασία του περιβάλλοντος και την προώθηση των ανθρώπινων αξιών και προσδοκιών σύμφωνα με συγκεκριμένα πρότυπα και πρακτικές. Τι συμβαίνει, για παράδειγμα, όταν ένα αυτόνομο όχημα που οδηγεί στο δρόμο συμπεριφέρεται με περίεργο τρόπο; Ποιος θα είναι υπεύθυνος για ένα θανατηφόρο σφάλμα, εάν διαπράττεται από αυτοκινούμενο όχημα;
Οι επιστήμονες έχουν διαβλέψει το άλμα που θα ξεπεράσει η ευφυία των υπολογιστών την αντίστοιχη ανθρώπινη. Καθώς τα βαθιά νευρωνικά δίκτυα γίνονται πιο έξυπνα, αυτό θα μπορούσε να δημιουργήσει έναν ενάρετο κύκλο έκρηξης νοημοσύνης ή «ιδιαιτερότητας», όπου τα μηχανήματα προπορεύονται μπροστά από τους ανθρώπους στη νοημοσύνη. Το αν οι άνθρωποι θα μπορούσαν να ελέγξουν το πεπρωμένο τους μέσα από τέτοιες υπερ-έξυπνες μηχανές έχει αποτελέσει αντικείμενο μακρών ιστοριών συζήτησης και επιστημονικής φαντασίας. Aπό την άλλη αυτές οι προβλέψεις δέχονται σοβαρές και βάσιμες επιπλήξεις. Αφού οι μηχανές δημιουργούνται από τους ίδιους τους ανθρώπους πως μπορεί να τους ξεπεράσουν σε ευφυΐα και να τους εξουσιάζουν;
Η ερώτηση καθίσταται ακόμα πιο σημαντική από τη στιγμή που στο μέλλον θα μπορούσαν να αναπτυχθούν μηχανήματα γενικής νοημοσύνης που θα ενεργούν και θα συμπεριφέρονται σαν άνθρωποι. Ο Ray Kurzweil1 προβλέπει ότι μέχρι το 2029, τα ευφυή μηχανήματα θα ξεπεράσουν τους ανθρώπους, αν και κάποιοι προβλέπουν ότι οι μηχανές δεν θα ταιριάζουν ποτέ με τους ανθρώπους σε γενικές δυνατότητες και κυρίως στη μοναδική ανθρώπινη ολότητα.
Βέβαια πως θα ορίζουν οι ευφυείς μηχανές την πραγματικότητα; Μίας και δεν υπάρχει καθολικός ορισμός της πραγματικότητας κάθε πραγματικότητα είναι ανθρωποποιημένη πραγματικότητα με την έννοια πως είναι η πραγματοποίηση με τους όρους καθενός ξεχωριστά. Κάθε πραγματικότητα οικοδομείται υποκειμενικά ψυχικά, κοινωνικά και ιστορικά.
Σύμφωνα με την υπαρξική θεώρηση του Σαρτρ2, ο άνθρωπος προβάλλει τον εαυτό του στο μέλλον. Είναι μία προβολή η οποία βιώνεται υποκειμενικά. Ο άνθρωπος είναι υπεύθυνος για το τι είναι. Η ελευθερία της απόφασης είναι μια θεμελιώδης παράμετρος που πρέπει να λάβουμε υπόψη μιλώντας για την δυνατότητα αυτοπροσδιορισμού των ευφυών μηχανών.
Ο άνθρωπος πραγματώνει τον εαυτό του πραγματώνοντας παράλληλα έναν τύπο ανθρωπότητας. Βάση των παραπάνω η σκέψη που ξετυλίγεται ως λογική εξέλιξη της προβληματικής είναι αν οι μηχανές θα μπορούν να είναι ότι θέλουν να είναι, όπως ο άνθρωπος και αν θα μπορέσουν να ορίσουν έναν νέο μηχανικό-τεχνητό τύπο ανθρωπότητας. Ο άνθρωπος μπορεί να επινοηθεί ξανά και ξανά από τον ίδιο. Άραγε θα μπορέσει ο άνθρωπος να κατασκευάσει ένα τεχνητό ομοίωμα του που θα μπορεί να κάνει το ίδιο; Μπορεί, όμως είναι ρεαλιστικό να ισχυρισθούμε πως ο άνθρωπος ξέρει κάθε μεταβλητή που συντελεί σε αυτή την επινόηση εκ νέου;
Αν και οι ανθρώπινες ικανότητες προωθούνται από τη χρήση της τεχνολογίας δεν θα πρέπει να ξεχνάμε τον απαραίτητο εξανθρωπισμό της ίδιας της τεχνολογίας που έχει να κάνει με τον τρόπο που σχεδιάζεται και χρησιμοποιείται.
1 How to Create a Mind: The Secret of Human Thought Revealed
2 Ο Υπαρξισμός Είναι Ένας Ανθρωπισμός, Σαρτρ, Ζαν Πωλ