Η τεχνητή νοημοσύνη αποτελεί μια πραγματικότητα που διαμορφώνει τον τρόπο που ζούμε, εργαζόμαστε και επικοινωνούμε. Βάσει αυτών των εξελίξεων η Ευρωπαϊκή Ένωση πρωτοπορεί με την παρουσίαση ενός ιστορικού νομοθετικού πλαισίου για τη ρύθμιση της τεχνητής νοημοσύνης. Το ευρωπαϊκό νομοσχέδιο για την τεχνητή νοημοσύνη, γνωστό ως AI EU Act, αναδεικνύει τις προκλήσεις που θα κληθούμε να αντιμετωπίσουμε αλλά και την επιθυμία της ΕΕ να δημιουργήσει ένα νομοθετικό πλαίσιο, το οποίο προάγει τη διαφύλαξη των ανθρωπίνων δικαιωμάτων, τη διαφάνεια, αλλά και την καινοτομία.
Ο πρόλογος είναι δημιούργημα, κατόπιν εντολής μας, προς στο ChatGPT. Αποδεικνύει ότι οι εργαζόμενοι ήδη συνεργάζονται στενά με τη Τεχνητή Νοημοσύνη και αυτό προσφέρει ευκαιρίες αλλά ενέχει και κινδύνους.
Στην αυγή τη τέταρτης βιομηχανικής επανάστασης ο όρος «Τεχνητή Νοημοσύνη» (ΤΝ) ακούγεται ακόμη ως επιστημονική φαντασία σε πολλούς. Αρκετοί πιστεύουν ότι απέχουμε μέχρι να ενσωματωθεί πλήρως στις ζωές μας, και άλλοι ότι προς το παρόν βρίσκεται υπό έλεγχο.
Όμως οι εξελίξεις είναι εγγύτερα απ΄ότι φανταζόμαστε. Στις 14/6/2023 το νομοθετικό σώμα της ΕΕ, το Ευρωκοινοβούλιο, παρουσίασε το πρώτο στον κόσμο ολοκληρωμένο πλαίσιο κανόνων που ρυθμίζει τη χρήση της Τεχνητής Νοημοσύνης. Με γνώμονα τα θεμελιώδη δικαιώματα των πολιτών, έθεσε μεταξύ άλλων ένα πλαίσιο διαφάνειας για τη γενετική ΤΝ, όπως το ChatGPT, με το οποίο θα πρέπει να συμμορφώνονται οι εταιρείες και νομοθέτησε για την απαγόρευση μορφών βιομετρικής παρακολούθησης και της προληπτικής αστυνόμευσης. Παράλληλα το σχέδιο νόμου προσπαθεί να διατηρήσει ισορροπίες, με στόχο η ΕΕ να ενθαρρύνει την καινοτομία και να πρωτοστατήσει στις τεχνολογικές εξελίξεις που θα διαμορφώσουν το μέλλον του κόσμου μας.
Η HuffPost Greece μίλησε με τους εισηγητές του νομοσχεδίου, τον Ευρωβουλευτή (Renew) Dragoș Tudorache (Ντράγκος Τουντοράκε) και τον έτερο συνεισηγητή, τον ευρωβουλευτή (S&D) Brando Benefei (Μπράντο Μπενιφέι).
Όπως διαφαίνεται και από τη συνέντευξη που ακολουθεί, το σχέδιο νόμου για την Τεχνητή Νοημοσύνη της ΕΕ δείχνει ότι θα εξελιχθεί σε εκείνη τη διαχωριστική γραμμή που θα διαφοροποιεί τις κυβερνήσεις εκείνες που θα συνταιριάξουν την τεχνολογία με τις δημοκρατικές αρχές από εκείνες που θα δουν την τεχνολογία ως το μέσο για να έχουν υπό έλεγχο τους πολίτες τους. Την ίδια ώρα γίνεται ξεκάθαρο πως δεν υπάρχουν τα χρονικά περιθώρια για να μείνει κάποιο κράτος πίσω από τις εξελίξεις.
Το Όραμα
«Θέσαμε τις βάσεις για έναν διάλογο με τον Κόσμο για μια υπεύθυνη και ανθρωποκεντρική ΤΝ, για τα συστημικά ρίσκα, έχοντας υπόψη μας τους πολίτες και την καθημερινότητα τους, τους καταναλωτές, τους θεσμούς. Πρέπει να υποστηριχθούν ώστε να αποκομίσουν όλα τα οφέλη αλλά ταυτόχρονα να νιώθουν την εμπιστοσύνη ότι οι θεσμοί οικοδόμησαν ένα σύστημα με ασφαλιστικές δικλείδες, που αναγνωρίζουν τα ρίσκα και τα επικίνδυνα σημεία. Δεν υπερφορτώνουμε το σύστημα με αχρείαστους ελέγχους, αλλά αντιμετωπίζουμε εκείνους που απειλούν την ασφάλεια μας και τα θεμελιώδη δικαιώματά μας», τόνισε ο Μπενεφέι.
Από την πλευρά του ο Ντράγκος Τουτοράνκε έκανε λόγο για ένα σημαντικό πολιτικό μήνυμα ότι είναι εφικτή η διαφύλαξη της Δημοκρατίας και παράλληλα η προώθηση της καινοτομίας, επαναλαμβάνοντας την ανάγκη για μια ανθρωποκεντρική ΤΝ στην οποία θα διαφυλάσσονται τα δικαιώματα των πολιτών, οι οποίοι θα μπορούν κάθε φορά που νιώθουν άβολα με κάποια από τις χρήσεις της, να το αναφέρουν.
«Πρέπει να νιώθουν εμπιστοσύνη και το νομοσχέδιο κάνει ακριβώς αυτό. Χωρίς εμπιστοσύνη, δεν μπορεί να γίνει τίποτα. Αντιθέτως θα δουν όλες αυτές τις εξελίξεις καχύποπτα, θα υπάρξουν αντιδράσεις και ιδεολογικοποίηση του θέματος που θα οδηγήσουν στην απόρριψη. Εάν συμβεί αυτό, τότε θα έχουμε χάσει το στόχο μας» επισήμανε.
Όπως σχολιάζουν και οι δύο, το σχέδιο νόμου για μια ΤΝ που θα συνάδει με τα ευρωπαϊκά δημοκρατικά ιδεώδη είναι γραμμένο με τέτοιον τρόπο που μπορεί να γίνει σημείο αναφοράς και για άλλα κράτη στον κόσμο. Ακόμη και οι G7 μπορούν να βασιστούν σε αυτό το κείμενο. Επιπλέον σε αυτά τα δύο χρόνια, κατά τα οποία το σχέδιο ήταν υπό διαμόρφωση, υπήρξαν συναντήσεις με τις ΗΠΑ και άλλους κρατικούς δρώντες των οποίων η προσέγγιση ήταν θετική και μπορεί να οδηγήσει σε μια ευθυγράμμιση με το ευρωπαϊκό πλαίσιο. Μάλιστα ο Μπενεφέι ευελπιστεί σε έναν κοινό τόπο σε έναν «ΟΗΕ» δημοκρατικών κρατών για την ΤΝ.
Minority Report και άλλοι κίνδυνοι - Για να αποφευχθεί η δυστοπία
Σε αυτή τη μοναδική σοβαρή νομοθετική προσπάθεια για την αντιμετώπιση της ταχέως εξελισσόμενης τεχνολογίας της ΤΝ, όπως τονίζουν οι δύο ευρωβουλευτές, νομοθετείται η χρήση της συγκεκριμένης τεχνολογίας και όχι η ίδια η τεχνολογία. Υπάρχουν πολλοί τομείς που δεν τους αγγίζουν, άλλωστε το νομοσχέδιο ορίζει τα τέσσερα επίπεδα κινδύνου στα οποία ταξινομούνται: ανεπίτρεπτος κίνδυνος, υψηλός κίνδυνος, περιορισμένος κίνδυνος και ελάχιστος ή μηδενικός κίνδυνος.
Η γνωστική συμπεριφορική χειραγώγηση ατόμων ή συγκεκριμένων ευάλωτων ομάδων, η κοινωνική βαθμολογία, η προληπτική αστυνόμευση (minority report) και τα συστήματα βιομετρικής αναγνώρισης σε πραγματικό χρόνο και εξ αποστάσεως, όπως η αναγνώριση προσώπου, υπάγονται στην πρώτη κατηγορία και απαγορεύονται.
Μάλιστα όσον αφορά το ζήτημα της εξ αποστάσεως βιομετρικής αναγνώρισης προσώπων σε πραγματικό χρόνο σε δημόσιους χώρους με απώτερο στόχο την πρόληψη εγκληματικών πράξεων, αυτή απαγορεύθηκε, αν και θα τεθεί και πάλι στη συζήτηση κατά τις συνομιλίες που θα ακολουθήσουν μεταξύ της Κομισιόν, του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου. Οι εισηγητές υποστηρίζουν ότι αυτό δεν βοηθάει και ότι υπάρχει πρόβλεψη για χρήση εικόνων σε άλλο χρόνο με εισαγγελική εντολή, όταν αυτό απαιτείται.
Για να μην γίνουμε Κίνα
Στη δεύτερη κατηγορία υπάγονται τα συστήματα ΤΝ που χρησιμοποιούνται από υποψηφίους ή κόμματα για τον επηρεασμό των εκλογικών αποτελεσμάτων στις τοπικές, εθνικές ή ευρωπαϊκές εκλογές, καθώς όπως αναφέρουν οι εισηγητές αυτό μπορεί να επηρεάσει την ίδια τη λειτουργία της δημοκρατίας μας.
Επιπλέον τα συστήματα ΤΝ που χρησιμοποιούνται για τη διαλογή ασθενών στον τομέα της υγειονομικής περίθαλψης και τα συστήματα ΤΝ που χρησιμοποιούνται για τον καθορισμό της επιλεξιμότητας για ασφάλιση υγείας και ζωής θεωρούνται επίσης υψηλού κινδύνου.
«Σκεφτείτε για παράδειγμα, μια κυβερνητική υπηρεσία ή μια τράπεζα να μπορεί να χρησιμοποιήσει την ΤΝ προκειμένου να προσδιορίσει την πιθανότητα απάτης και οι αλγόριθμοι βασισμένοι σε στοιχεία που ενθαρρύνουν την προκατάληψη να αποκλείσουν τους δικαιούχους από τα δικαιώματα που έχουν, όσον αφορά επιδόματα κοινωνικής πρόνοιας ή στη λήψη ενός δανείου.
Αυτό έχει ήδη συμβεί σε χιλιάδες ανθρώπους στην Ολλανδία, αναφέρει ο Τουντοράκε και προσθέτει πως οι πολίτες έχουν δικαίωμα να ξέρουν τι είδους αλγόριθμοι χρησιμοποιούνται και με ποια κριτήρια τους αξιολογούν.
Όπως εξηγεί, η ΤΝ χρησιμοποιείται και θα χρησιμοποιείται σε όλο και περισσότερους τομείς της καθημερινότητάς μας. Για παράδειγμα είναι ευρεία η χρήση της στη γεωργία, όπου υπάρχουν έξυπνα συστήματα που υπολογίζουν πότε ένα χωράφι θέλει πότισμα, πότε θα ξεκινούν οι μηχανές να δουλεύουν κτλ. Σε αυτή την περίπτωση δεν παρεμβαίνουμε, λέει ο Τουντοράκε, Αλλά «όταν έχουμε συστήματα που ενθαρρύνουν τις διακρίσεις, ή που αξιολογούν τη συμπεριφορά των παιδιών στο σχολείο και μπορούν να επηρεάσουν το μέλλον τους, ή όταν συστήματα ΤΝ στο χώρο της εργασίας ή αλλού παρακολουθούν και αξιολογούν τα συναισθήματα των εργαζομένων, τότε χρειαζόμαστε νόμους και διαφάνεια για να μην υπάρχει αυτό το βάρος στις πλάτες των πολιτών, για να μην χαθεί η εμπιστοσύνη». Μάλιστα ο ευρωβουλευτής στην ομιλία του στο Ευρωκοινοβούλιο είπε πως αυτά γίνονται στην Κίνα και όχι στις δυτικές δημοκρατίες.
«Στόχος αυτού του νόμου είναι να μειώσει και να εξαλείψει τα ρίσκα που μπορεί να προκληθούν από την ΤΝ, όσο αυτό είναι εφικτό, με το να αναγνωρίζει εφαρμογές υψηλού ρίσκου, οι οποίες θα εμπίπτουν σε συγκεκριμένη αξιολόγηση και στη συνέχεια να τις απαγορεύει ή να ζητά συμμόρφωση στα στάνταρτ που έχουμε ορίσει. Υπάρχουν δικλείδες ασφαλείας» λέει από την πλευρά του ο Μπενεφέι, ενώ στη συνέντευξη Τύπου μετά την ψήφιση του σχεδίου νόμου από το Ευρωκοινοβούλιο δήλωσε με έμφαση «είχαμε το κουράγιο να απαγορεύσουμε εκείνες τις χρήσεις που είναι απαράδεκτες΄και πάνε ενάντια στις αξίες της ΕΕ»
Deep Fakes – διαφάνεια και ChatGPT
Σε ό,τι αφορά τις εφαρμογές τεχνητής νοημοσύνης που δημιουργούν περιεχόμενο, όπως το ChatGPT, βάσει του σχεδίου νόμου οι εταιρείες θα πρέπει να συμμορφώνονται με τις απαιτήσεις διαφάνειας της Ε.Ε. Οφείλουν να παρέχουν το είδος των αλγόριθμων που χρησιμοποιούν, να υπάρχει καταγραφή του υλικού που υπόκειται σε δικαιώματα πνευματικής ιδιοκτησίας, ενώ όσον αφορά τη χρήση παραποιημένων εικόνων, που ήδη χρησιμοποιούνται ακόμη και σε προεκλογικές εκστρατείες, πλέον θα πρέπει να γνωστοποιείται στο κοινό ότι πρόκειται για προϊόντα παραποίησης.
Προβλέψεις υπάρχουν και για τη χρήση αλγόριθμων για τη συλλογή στοιχείων από πλατφόρμες κοινωνικής δικτύωσης σχετικά με τα προφίλ των χρηστών που μπορούν στη συνέχεια να χρησιμοποιηθούν για τον επηρεασμό των ψηφοφόρων και κατ΄επέκταση στη διαμόρφωση του εκλογικού αποτελέσματος.
Νόμοι με δόντια - Θυμάστε το GDPR;
Σε ερώτησή μας για το εάν το νομοσχέδιο αυτό γίνει τελικά νόμος κατά πόσο θα έχει την ισχύ εκείνη που απαιτείται προκειμένου να είναι δεσμευτικός προς όσους απευθύνεται, οι δύο ευρωβουλευτές μας διαβεβαιώνουν ότι υπάρχουν κυρώσεις που θα κάνουν όσους θέλουν να παρανομήσουν να το ξανασκεφτούν.
Όπως αναφέρει ο Μπεντεφέι, χωρίς να αποκλείνει από τις δηλώσεις του Τουνταρόκε, εάν κάποιος εφαρμόζει ένα σύστημα που παραβιάζει τους κανόνες, τότε η χρήση αυτού του συστήματος θα μπορεί να απαγορευθεί στην Ε.Ε.
Επίσης προβλέπονται ποινές που θα φτάνουν έως και το το 7% των συνολικών εσόδων των εταιρειών. Αυτό καλό είναι να μην υποτιμάται. Αρκεί να θυμηθούμε τον προηγούμενο νόμο ορόσημο της ΕΕ για την προστασία δεδομένων (GDPR) και πως αυτός επηρέασε την επιχειρηματική κοινότητα. Το πρόστιμο που προβλέπεται αναφορικά με την παραβίαση του ανωτέρου νόμου ανέρχεται στο 2% των συνολικών κερδών της εταιρείας που τον παραβιάζει.
Το κόστος λοιπόν της μη συμμόρφωσης και η παραβίαση των χρήσεων που έχουν κριθεί ως απαγορευμένες ή απαράδεκτες θα ανέρχεται στο 7% του παγκόσμιου ετήσιου κύκλου εργασιών, δηλαδή εταιρείες όπως η OPEN AI, στην οποία ανήκει το CHATGTP, θα πρέπει να πληρώσουν έως και 40 εκατομμύρια ευρώ. Αλλες παραβιάσεις που αφορούν τα ανθρώπινα δικαιώματα ή κάθε είδους διακρίσεις θα επιφέρουν πρόστιμα έως 4% του παγκόσμιου κύκλου εργασιών, ενώ σε όσους παρέχουν ψευδείς, ελλιπείς ή παραπλανητικές πληροφορίες στις ρυθμιστικές αρχές, μπορεί να επιβληθεί πρόστιμο έως πέντε εκατομμύρια ευρώ.
Προστατευτισμός;
Κάθε άλλο τονίζουν οι δύο Ευρωβουλευτές και επισημαίνουν ότι το σχέδιο νόμου προσπάθησε να κρατήσει ισορροπίες για τη διασφάλιση τόσο της προστασίας της υγείας, της ασφάλειας, των θεμελιωδών δικαιωμάτων και των αξιών της Ένωσης όσο και, της υιοθέτησης της ΤΝ σε ολόκληρη την Ένωση για μια πιο ολοκληρωμένη ψηφιακή ενιαία αγορά και ενός νομοθετικού περιβάλλοντος κατάλληλου για την επιχειρηματικότητα και την καινοτομία.
Υπάρχουν προβλέψεις για συστήματα “Sandboxes” όπου νεοφυείς επιχειρήσεις θα μπορούν να δοκιμάζουν τα συστήματα της ΤΝ προκειμένου να βλέπουν εάν είναι συμβατά με τους κανόνες της ΕΕ και θα πρέπει τα κράτη μέλη να δημιουργήσουν αυτές τις υποδομές.
«Θέλουμε να στηρίξουμε νέες ιδέες για την ανάπτυξη ΤΝ, προωθούμε την καινοτομία και δεν περιορίζουμε την ανάπτυξη και τη δημιουργικότητα. Αυτό είναι το ίδιο σημαντικό όσο με τον να προστατεύσουμε τους πολίτες μας» λέει ο Μπενεφέι.
Από την πλευρά του ο Τουτοράνκε υπογραμμίζει πως με αυτό τον τρόπο βοηθούνται οι εταιρείες να βρουν τη θέση τους στην Ευρώπη. Προσθέτει δε ότι η ορολογία του σχεδίου νόμου είναι σαφής και ακριβής. Δεν υπάρχει καμία ασάφεια, όπως δυστυχώς συνέβη με τη νομοθεσία GDPR. Υπάρχουν διευκρινίσεις για το τι επιτρέπεται και τι όχι, οι οποίες ταιριάζουν με αυτές του ΟΗΕ και του ΟΟΣΑ. Αρα είμαστε ξεκάθαροι και υπάρχουν συγκεκριμένα πράγματα που βοηθούν τις εταιρείες στο να μπορέσουν να τα κατανοήσουν τεχνικά»
Η ΕΕ πρέπει να ηγηθεί στις εξελίξεις που έρχονται, επισημαίνουν και οι δύο.
Το μέλλον είναι ήδη εδώ, οι θέσεις εργασίας;
Η ΤΝ αλλάζει τα πάντα και επιφέρει σοβαρές κοινωνικοοικονομικές αλλαγές.
Σύμφωνα με την έκθεση του Παγκόσμιου Οικονομικού Φόρουμ για το μέλλον της απασχόλησης που δημοσιεύθηκε τον Μάιο του 2023, η οποία αξιολογεί τον αντίκτυπο των μακροοικονομικών τάσεων, καθώς και των τεχνολογικών αλλαγών στις θέσεις εργασίας και τις δεξιότητες κατά τα επόμενα πέντε χρόνια προκύπτουν τα εξής:
Η έκθεση εκτιμά ότι σχεδόν το ένα τέταρτο του συνόλου των θέσεων εργασίας (23%) παγκοσμίως θα αλλάξει μέσα στα επόμενα πέντε χρόνια. Σε 45 οικονομίες, που καλύπτουν 673 εκατομμύρια εργαζόμενους, αναμένεται να δημιουργηθούν 69 εκατομμύρια νέες θέσεις εργασίας και να καταργηθούν 83 εκατομμύρια, δηλαδή μια καθαρή μείωση 14 εκατομμυρίων θέσεων εργασίας ή 2% της σημερινής απασχόλησης.
Αρα μιλάμε για παράπλευρες απώλειες με ανυπολόγιστες συνέπειες;
«Πράγματι υπάρχει αυτός ο κίνδυνος» παραδέχεται ο Μπενεφέι και γι΄αυτό το λόγο όπως λέει «πρέπει να κινηθούμε ταχύτατα για να εκπαιδεύσουμε τους εργαζόμενους προκειμένου να επιτευχθεί μια ομαλή μετάβαση».
Ωστόσο υπογραμμίζει πως «αυτό απαιτεί τεράστιους πόρους και ακόμη πιο σημαντικό χρειαζόμαστε πολιτική ενότητα στην Ευρώπη. Δεν αρκούν μόνο οι νόμοι»
Ο Ντράγκος Τουντοράντε κατηγορηματικά δηλώνει: «Αυτή η αλλαγή που συντελείται δεν πρέπει να αφήσει κόσμο πίσω. Εχουμε υποχρέωση τόσο σε ενωσιακό επίπεδο όσο και σε εθνικό επίπεδο, οι κυβερνήσεις, αλλά και οι επιχειρήσεις, να εμπλακούμε σε μια προσπάθεια να εξηγήσουμε και να στηρίξουμε τους πολίτες σε αυτή την μετάβαση. Αυτό σημαίνει ότι πρέπει να επενδύσουμε μαζικά στην εκπαίδευση αλλά και στην επανεκπαίδευση των εργαζομένων μας για να μπορέσουν να ενσωματώσουν την ΤΝ στη ζωή τους. Πρέπει όλοι να καταλάβουμε ότι θα συνυπάρχουμε με την ΤΝ.»
Ο Μπενεφέι κλείνει με μια αισιόδοξη προσέγγιση εκφράζοντας την πεποίθηση ότι στο τέλος η κοινωνία θα ωφεληθεί από τα οφέλη της ΤΝ. Πιστεύει ότι η παραγωγικότητα θα αυξηθεί, ο ελεύθερος χρόνος θα διευρυνθεί. Όμως για να γίνουν αυτά, επαναλαμβάνει, «χρειάζονται κανόνες, απαιτείται η διαμόρφωση της κατάλληλης κουλτούρας και παιδείας και αυτό είναι που προσπαθούμε να πετύχουμε, να κάνουμε δηλαδή την ΤΝ ανθρωποκεντρική με γνώμονα τα δημοκρατικά μας ιδεώδη».
Τα επόμενα βήματα μετά την ψήφιση του σχεδίου νόμου από το Ευρωπαϊκό Κοινοβούλιο
Ήδη μετά την ψήφιση έχουν ξεκινήσει οι διαπραγματεύσεις μεταξύ των κρατών μελών (Συμβούλιο της Ευρωπαϊκής Ένωσης) του Ευρωκοινοβουλίου και της Κομισιόν. Οι διαπραγματεύσεις αυτές θα καθορίσουν την τελική μορφή του νόμου. Είναι πολύ πιθανό, βάσει των έως τώρα ενδείξεων και της υποστήριξης που έχει το σχέδιο νόμου οι διαπραγματεύσεις να ολοκληρωθούν μέχρι το τέλος του έτους. Στη συνέχεια θα χρειαστεί μια περίοδος περίπου δύο ετών για να εφαρμοστεί από τα κράτη μέλη. Σημαντική παράμετρος είναι σε πόσο χρονικό διάστημα θα μπορέσουν τα κράτη μέλη να αναπτύξουν την απαιτούμενη τεχνογνωσία και το κατάλληλο ανθρώπινο δυναμικό στις κατάλληλες θέσεις.
Αρχίστε την Επανάσταση με εμένα
Η Ελλάδα έχασε τις προηγούμενες βιομηχανικές επαναστάσεις και σήμερα φαίνεται να έχει περιοριστεί σ΄ένα μόνο παραγωγικό μοντέλο, αυτό του τουρισμού, το οποίο δεν είναι απαραίτητα μεμπτό όσο αυτό δεν παραμένει μια μονοκαλλιέργεια. Οι προκλήσεις είναι τεράστιες το ίδιο και οι ευκαιρίες. Η θέση μας στο αύριο που έρχεται θα είναι ανάλογη με πως οραματιζόμαστε το μέλλον μας και τους εαυτούς μας σε αυτό. Ο χρόνος είναι -πάντως- περιορισμένος.