Δύο υποθέσεις στη Φλόριντα επαναφέρουν με οξύτητα ένα ζήτημα που οι αμερικανικές αρχές αντιμετωπίζουν συχνά με επιφανειακή διαχείριση: όταν ένα ποσοστό ταύτισης αλγορίθμου μετατρέπεται στην πράξη σε απόδειξη ενοχής, ακόμη και όταν τα δεδομένα αλλοθιού είναι αδιαμφισβήτητα.

Ο Ρόμπερτ Ντίλον, 52 ετών, συνελήφθη οκτώ μήνες μετά από μια απόπειρα απαγωγής ανηλίκου στο Τζάκσονβιλ Μπιτς τον Αύγουστο του 2024. Βάση: ένα ποσοστό ταύτισης 93% από το σύστημα αναγνώρισης προσώπου FACESNXT. Όμως ο Ντίλον βρισκόταν εκείνη τη στιγμή περισσότερο από 300 μίλια μακριά — κάτι που τα δεδομένα κάμερας αδειών κυκλοφορίας επιβεβαίωναν. Επιπλέον, στο πρόσωπό του ήταν εμφανείς ουλές από χειρουργείο καρκίνου του δέρματος, ουλές που ο πραγματικός δράστης δεν είχε. Το σύστημα, ωστόσο, λειτούργησε: ο Ντίλον αναγκάστηκε να υποθηκεύσει το φορτηγό του για εγγύηση, μέχρι που οι κατηγορίες αποσύρθηκαν.

Η υπόθεση Τζαλίλ Ρίτσαρντσον είναι ακόμη πιο ενδεικτική. Πατέρας δέκα παιδιών από τη Βόρεια Καρολίνα, αναγνωρίστηκε από παρόμοιο σύστημα αναγνώρισης προσώπου — το Automated Facial Recognition (AFR) — με ποσοστό 85% σε υπόθεση αγοραπωλησίας κλεμμένου οχήματος στο Τζάκσονβιλ. Κράτηση: 83 ημέρες συνολικά — 33 στη Β. Καρολίνα, 50 στη Φλόριντα. Ο Ρίτσαρντσον δεν είχε επισκεφθεί ποτέ τη Φλόριντα. Τα χρονόμετρα εργοδότη τον τοποθετούσαν 400 μίλια μακριά την ημέρα του περιστατικού. Όταν αποφυλακίστηκε, είχε χάσει δουλειά, όχημα και σπίτι.

Το Γραφείο του Σερίφη Τζάκσονβιλ απάντησε ότι το λογισμικό είναι «απλώς ένα εργαλείο». Αλλά αυτό ακριβώς είναι το σύστημικό κενό που εντοπίζει η ACLU (Αμερικανική Ένωση Πολιτικών Ελευθεριών): στην υπόθεση Ρίτσαρντσον, η αστυνομία επέδειξε σε μάρτυρα τη φωτογραφία που επέλεξε ο αλγόριθμος — δεν αντιμετώπισε την έξοδο ως ένδειξη αλλά ως σημείο εκκίνησης για να επιβεβαιώσει ό,τι ήδη πίστευε. Αυτή η επιβεβαίωση προκατάληψης μετατρέπει αλγοριθμικό εντοπισμό σε αλυσίδα κατηγόρησης.

Σύμφωνα με τεκμηρίωση της ACLU, τουλάχιστον 15 αμερικανοί πολίτες έχουν υποστεί παρόμοιες αδικαιολόγητες συλλήψεις — και ο πραγματικός αριθμός εκτιμάται σημαντικά υψηλότερος. Πάνω από 20 αμερικανικές πόλεις έχουν ήδη απαγορεύσει ολοσχερώς τη χρήση τέτοιου λογισμικού από τις τοπικές αρχές.

Η τεχνολογία αναγνώρισης προσώπου κατασκευάζει τοπογραφικούς χάρτες αποστάσεων μεταξύ σημείων αναφοράς στο πρόσωπο. Σε χαμηλής ανάλυσης ή κακώς φωτισμένες εικόνες — συχνή συνθήκη σε πλάνα επιτήρησης — ο αλγόριθμος εκτιμά, δεν μετράει. Το εκατοστιαίο ποσοστό ταύτισης δεν είναι βαθμός βεβαιότητας: είναι στατιστική προσέγγιση που παράγει λίστα υποψηφίων και δεν πρέπει να αντιμετωπίζεται ως αποδεικτικό στοιχείο.