Η ιστορία είναι απλή. Ο Ρόμπερτ Ουίλιαμς μπήκε φυλακή επειδή ένας υπολογιστής - και δύο αστυνομικοί του Ντιτρόιτ - έκανε λάθος.
Οι αρχές βασίστηκαν στο λογισμικό αναγνώρισης προσώπου για να αναγνωρίσουν τον Ουίλιαμς ως ύποπτο σε μια υπόθεση κλοπής που ήταν ανεξιχνίαστη 15 μήνες. Έκαναν λάθος και έτσι ο κ. Ουίλιαμς έγινε ο πρωταγωνιστής της πρώτης γνωστής υπόθεσης για λανθασμένη σύλληψη, η οποία προήλθε από την τενχολογία αναγνώρισης προσώπου.
Νωρίτερα αυτό το μήνα, η IBM, η Microsoft και η Amazon δεσμεύτηκαν να σταματήσουν την πώληση εργαλείων αναγνώρισης προσώπου στην αστυνομία των ΗΠΑ και κάλεσαν το Κογκρέσο να ρυθμίσει την τεχνολογία . Όμως, το λογισμικό που αναγνώρισε λανθασμένα τον Ουίλιαμς δεν προερχόταν από εταιρεία κολοσσό, αλλά από την πολύ μικρότερης εμβέλειας DataWorks Plus και τροφοδοτήθηκε από αλγόριθμους από την ιαπωνική εταιρεία τεχνολογίας NEC και το Rank One Computing με έδρα το Κολοράντο.
Η DataWorks Plus μπορεί να μην είναι γνωστή σε εμάς, είναι όμως ένας από τους μεγαλύτερους μεταπωλητές της τεχνολογίας αναγνώρισης προσώπου στα αστυνομικά τμήματα των ΗΠΑ. Έχει συμβόλαια αναγνώρισης προσώπου με την αστυνομία στο Ντιτρόιτ, Σικάγο, Νέα Υόρκη, Σάντα Μπάρμπαρα, Νότια Καρολίνα, Πενσυλβάνια και Μέριλαντ. Αν και δεν δημιουργεί τους ίδιους τους αλγόριθμους, η εταιρεία πωλεί πρόσβαση σε εργαλεία που έχουν κατασκευαστεί από άλλες εταιρείες χαμηλού προφίλ όπως η NEC, η Rank One Computing και η Cognitech.
Σημειώνεται, ότι 2016 δημοσιεύτηκε μια έκθεση που εκτιμά ότι τουλάχιστον μία στις τέσσερις πολιτειακές και τοπικές υπηρεσίες επιβολής του νόμου των ΗΠΑ έχει πρόσβαση σε εν λόγω τεχνολογίες αναγνώρισης προσώπου.
Οι περισσότερες από τις πληροφορίες που είναι διαθέσιμες στο κοινό σχετικά με την ακρίβειά τους - και τον τρόπο με τον οποίο η απόδοσή τους διαφέρει μεταξύ των δημογραφικών ομάδων - προέρχονται από το Εθνικό Ινστιτούτο Προτύπων και Τεχνολογίας των ΗΠΑ, το οποίο ζητά από τις εταιρείες αναγνώρισης προσώπου να υποβάλουν τα μοντέλα τους για δοκιμή και κατάταξη μεταξύ τους. Η NEC και η Rank One Computing συμμετείχαν και οι δύο το 2018, όταν η NIST διαπίστωσε ότι οι αλγόριθμοι που δοκιμάστηκαν ήταν συλλογικά λιγότερο ακριβείς για γυναίκες και μαύρους.
Οι κανόνες που διέπουν τη χρήση της αναγνώρισης προσώπου από την αστυνομία είναι επίσης δύσκολο να αναλυθούν. Στην περίπτωση του Ουίλιαμς, οι αξιωματικοί παρακάμψαν μια πολιτική που είχε σχεδιαστεί για να αποτρέψει τη σύλληψη όπως αυτή.
Η αστυνομική πολιτική του Ντιτρόιτ απαγορεύει ρητά στους αστυνομικούς να πραγματοποιούν συλλήψεις με βάση μόνο την τεχνολογία αναγνώρισης προσώπου. Αλλά αφού το πρόγραμμα DataWorks Plus εντόπισε τον Ουίλιαμς, οι αξιωματικοί έβαλαν την εικόνα του σε μια σειρά φωτογραφιών και την παρουσίασαν σε έναν φρουρό ασφαλείας του καταστήματος, ο οποίος δεν ήταν μάρτυρας της κλοπής και είχε δει μόνο το ίδιο υλικό παρακολούθησης που είχε η αστυνομία. Ο φρουρός επέλεξε τον Ουίλιαμς από όλο αυτό που είδε. Αυτό ήταν αρκετό για ένταλμα σύλληψης.
Εκτός από αυτές τις εσωτερικές πολιτικές του τμήματος, σχεδόν δεν υπάρχουν νόμοι που να διέπουν τη χρήση της αναγνώρισης προσώπου από την αστυνομία. Η αστυνομία μπορεί να διεξάγει νόμιμες αναζητήσεις σε φωτογραφίες χαμηλής ποιότητας, όπως στην περίπτωση του Ουίλιαμς, καθώς και εγκληματολογικά σκίτσα ακόμη και διασημοτήτων.
Οι νομοθέτες έχουν ακούσει τις εκκλήσεις για ρύθμιση και ότι έχει υπάρξει «πολλή κινητοποίηση» τόσο από τους νομοθέτες όσο και από τους εκπροσώπους ομάδων συμφερόντων για τη δημιουργία ομοσπονδιακής νομοθεσίας. Για να μην υπάρξει αντίστοιχο περιστατικό.
Πηγή: Quartz