Όταν ένα σύστημα επιστρέφει ένα πρόσωπο ως πιθανό «ταίριασμα», κάποιος πρέπει να αποφασίσει αν αυτό αρκεί για να χτυπήσει μια πόρτα. Στη Βρετανία, αυτό το κάποιος δεν φαίνεται να έχει πάντα ξεκάθαρες οδηγίες. Η επιθεώρηση HMICFRS, που ελέγχει τις αστυνομικές δυνάμεις και τις υπηρεσίες πυροσβεστικής και διάσωσης, προειδοποιεί ότι οι δυνάμεις πρέπει να κάνουν περισσότερα για να αποφύγουν τις λανθασμένες συλλήψεις ανθρώπων που περνούν από αναζητήσεις retrospective facial recognition (RFR), δηλαδή αναγνώρισης προσώπου σε εικόνες εκ των υστέρων.
Η έκθεση μιλά για μεγάλο χάσμα κατανόησης, τόσο στις αστυνομικές δυνάμεις όσο και στην National Crime Agency, σχετικά με το πώς πρέπει να χρησιμοποιείται η τεχνολογία. Το βασικό πρόβλημα είναι ότι πολλοί ανακριτές θεωρούν συχνά τα αποτελέσματα του RFR αποδεικτικό στοιχείο, ενώ πρόκειται για πληροφορία (intelligence) που απαιτεί περαιτέρω έρευνα πριν από οποιαδήποτε ενέργεια. Το μήνυμα αυτό το επαναλαμβάνουν τακτικά εκπρόσωποι του NPCC, του συμβουλίου των αρχηγών της αστυνομίας, αλλά δεν φαίνεται να φτάνει σε όλους. Η επιθεώρηση βρήκε ότι κάποιοι ερευνητές δεν έκαναν πάντα αρκετές διασταυρωτικές έρευνες πριν δράσουν. Σε ένα μικρό αριθμό υποθέσεων, αστυνομικοί βασίστηκαν υπερβολικά στο αποτέλεσμα, με αποτέλεσμα ακατάλληλες ανακριτικές ενέργειες. Η επιθεώρηση χαρακτηρίζει τα ευρήματα “βαθιά ανησυχητικά”.
Οι δικαιολογίες που άκουσε η επιθεώρηση είναι γνωστές: πιεσμένες ομάδες άμεσης ανταπόκρισης χωρίς χρόνο για επιπλέον έρευνες. Σε μία δύναμη, στελέχη ενθάρρυναν τους αστυνομικούς να προχωρούν γρήγορα τις έρευνες μόλις προέκυπτε ταύτιση. Η επιθεώρηση διευκρινίζει πάντως ότι μια σύλληψη δεν είναι αυτομάτως λανθασμένη, αφού οι ερευνητές μπορεί να χρειάζεται να αποκλείσουν πρόσωπα από την υπόθεση. Ευθύνη φέρουν και οι ίδιες οι δυνάμεις, καθώς κάποιες δεν διαθέτουν επίσημες διαδικασίες για το πώς γίνονται οι αναζητήσεις RFR. Οι καλύτερες είχαν κεντρικές ομάδες αναγνώρισης προσώπου, με πιο συνεπή διακυβέρνηση και διαδικασίες.
Στη ρίζα βρίσκεται ένα νομικό και θεσμικό κενό. Η HMICFRS κάνει λόγο για “κατακερματισμένα και ανώριμα” πλαίσια διακυβέρνησης και νομοθεσίας. Δεν υπάρχει ειδική νομοθεσία που να επιβάλλει μια ενιαία προσέγγιση, οι ισχύοντες νόμοι δεν έχουν προσαρμοστεί στην τεχνολογία και οι κανόνες διαφέρουν από μονάδα σε μονάδα. Η HMICFRS ζητά να συμπεριληφθεί νομοθετικά κατοχυρωμένος κανπνισμός στο επερχόμενο Police Reform Bill, με εθνικά πρότυπα.
Η Kathryn Stone, επιθεωρήτρια της HMICFRS, συμφωνεί ότι η αναγνώριση προσώπου άλλαξε την αστυνόμευση, αφού επιτρέπει τη σύγκριση εικόνων σε δευτερόλεπτα και την ταχύτερη εξιχνίαση εγκλημάτων. Επιμένει όμως ότι οι αρχές πρέπει να αποδεικνύουν πως υπάρχουν κατάλληλες δικλίδες, πως διαχειρίζονται τους κινδύνους μεροληψίας και διατήρησης δεδομένων και πως οι αποφάσεις υπόκεινται σε ανθρώπινη κρίση. Οι αρμόδιοι φοβούνται ότι η μακροχρόνια κακή χρήση θα φθείρει την εμπιστοσύνη του κοινού, που σήμερα χαρακτηρίζεται γενικά υψηλή. Έρευνες του 2025 από το Ada Lovelace Institute, το Alan Turing Institute και το King’s College London Policy Institute δείχνουν γενικά ευνοϊκή στάση, με ποσοστά στήριξης από 53% έως 91%.
Το πραγματικό πρόβλημα δεν είναι ότι ο αλγόριθμος μπορεί να κάνει λάθος. Αυτό το ξέρουμε. Το πρόβλημα είναι ότι ένα αποτέλεσμα με επίπλαστη αυτοπεποίθηση δίνει σε έναν πιεσμένο αστυνομικό την αφορμή να σταματήσει να σκέφτεται.
Όταν οι αρχές δεν έχουν καν κοινούς κανονισμούς και ο διοικητής προτρέπει να “προχωρήσει γρήγορα” η έρευνα, ο άνθρωπος στη διαδικασία (human in the loop) γίνεται διακοσμητικός. Η τεχνολογία τρέχει πρώτη και ο νόμος τη ακολουθεί από μακριά, όπως συμβαίνει σχεδόν πάντα. Κερδίζει η ταχύτητα της υπόθεσης και την πληρώνει όποιος ταιριάζει τυχαία σε ένα πρόσωπο.
Τα υψηλά ποσοστά στήριξης του κοινού δεν αποτελούν λευκή επιταγή. Η στήριξη στηρίζεται στην υπόθεση ότι υπάρχουν δικλίδες ασφαλείας, αν και η ίδια η έκθεση αναφέρει ότι αυτές δεν υπάρχουν παντού.
Αν οι δικλίδες ασφαλείας έρχονται όμως μετά από τα λάθη και όχι πριν, η εμπιστοσύνη θα εξαντληθεί, και δικαίως.
Εσείς θα δεχόσασταν να σας χτυπήσουν την πόρτα με μοναδικό επιχείρημα το “το σύστημα βρήκε ταύτιση”; Και ποιος θα ελέγξει τον ελεγκτή όταν δεν υπάρχει η σχετική νομοθεσία;
Πηγή: The Register
0 σχόλια
iGuRu.gr