Extreme Vetting Initiative: AI ψηφιακών διακρίσεων

Η “Πρωτοβουλία ακραίας αξιολόγησης” ή “Extreme Vetting Initiative” είναι μια νέα ιδέα που μας γνωστοποιεί και επίσημα ότι η κυβέρνηση Trump δεν καταλαβαίνει την τεχνολογία, ή δεν σκέφτεται ακριβώς τι μπορεί να προκαλέσει ή σκέφτεται και δεν την ενδιαφέρει.

Η αμερικανική υπηρεσία Μετανάστευσης και Τελωνειακής Επιβολής (ICE από το Immigration and Customs Enforcement), απέστειλε τον Ιούνιο που μας πέρασε, έστειλε μια επιστολή που περιγράφει μια πρωτοβουλία για να “δημιουργήσει μια εφαρμογή AI που θα μπορεί να αυτοματοποιεί, να συγκεντρώνει και να εξορθολογίζει την τρέχουσα διαδικασία αξιολόγησης” μεταναστών που επιθυμούν να εισέλθουν στο έδαφος των ΗΠΑ.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Σύμφωνα με την επιστολή, η τρέχουσα μεθοδολογία ΤΟΥ ICE δεν παρέχει επαρκείς “αξιόπιστες πληροφορίες υψηλής αξίας για περαιτέρω έρευνες” καθώς προέρχονται από “Αμερικάνους δικηγόρους σε μεταναστευτικές υποθέσεις ή από τα ομοσπονδιακά δικαστήρια”.

Extreme Vetting Initiative: Το AI των ψηφιακών διακρίσεων

Οι υπεύθυνοι της ICE, εν ολίγοις θα ήθελαν κάποιον από τον τομέα της τεχνολογίας να δημιουργήσει μια εφαρμογή μηχανικής μάθησης που θα συλλέγει πληροφορίες που μπορούν να χρησιμοποιήσουν για διώξεις ή για την άρνηση εισόδου σε μετανάστες.

Extreme Vetting Initiative: Με λίγα λόγια η υπηρεσία μας δίνει τον ορισμό ενός προκατειλημμένου AI.

Η εφαρμογή αυτή πιθανώς θα μπορούσε να διαθέτει ένα δίκτυο βαθιάς μάθησης ικανό να δημιουργεί συσχετισμούς μεταξύ διαφορετικών δεδομένων. Προκειμένου να εκπαιδευτεί ένα τέτοιο δίκτυο, θα μπορούσαν να χρησιμοποιηθούν δεδομένα από το DHS (Υπουργείο Εσωτερικής Ασφάλειας) ή του ICE. Και οι δύο υπηρεσίες διαθέτουν δεδομένα από ανθρώπους που βρίσκονται στο στόχαστρο κάθε μυστικής υπηρεσίας (και όχι μόνο), άσχετα με το ποιος τους αξιολόγησε και με ποια κριτήρια.

Μια ομάδα 54 διακεκριμένων επιστημόνων και μηχανικών απέστειλε σήμερα μια διαφορετική επιστολή στο Υπουργείο Εσωτερικής Ασφάλειας ζητώντας να εγκαταλείψουν το σχέδιο με το AI για την εξέταση των μεταναστών. Στην επιστολή τους αναφέρουν:

“Με απλά λόγια, δεν υπάρχουν υπολογιστικές μέθοδοι που να παρέχουν αξιόπιστες ή αντικειμενικές εκτιμήσεις των χαρακτηριστικών που επιδιώκει να μετρήσει το ICE.

Από όσο γνωρίζουμε, δεν υπάρχει μηχανή που είναι ικανή να προσδιορίσει εάν ένα άτομο είναι πιθανό να διαπράξει έγκλημα, ούτε υπάρχει κάποιο AI που μπορεί να καθορίσει τις προθέσεις ενός ανθρώπου μέσω της συλλογής δεδομένων από το κοινωνικά μέσα.”

• Facebook: Τι δεν γνωρίζετε ή αγνοείτε το μέγεθος

Ένα άρθρο της ProPublica (Machine Bias), που ήταν φιναλίστ για Pulitzer, αναφέρει:

“Υπάρχει λογισμικό που χρησιμοποιείται σε ολόκληρη τη χώρα για να προβλέψει μελλοντικούς εγκληματίες. Και είναι προκατειλημμένο ενάντια στους μαύρους.

Θα ήταν λοιπόν λογικό να πιστεύουμε ότι η δημιουργία ενός παρόμοιου AI που μπορεί να αποφασίσει εάν μπορεί να επιτραπεί η είσοδος στη χώρα για ένα άτομο δεν είναι πολύ διαφορετικό από το προκατειλημμένο λογισμικό που αποφασίζει σκληρότερες ποινές για τους μαύρους.”

Να αναφέρουμε ότι ανάμεσα στους 56 επιστήμονες και ερευνητές που υπέγραψαν την επιστολή για το DHS είναι ένα μείγμα ακαδημαϊκών και εμπειρογνωμόνων από εταιρείες όπως η Google και η Microsoft.

Η IBM ανέφερε στο The Hill:

Έχουμε ξεκαθαρίσει τις αξίες μας. Είμαστε αντιμέτωποι με τις διακρίσεις και δεν θα προχωρήσουμε καμία εργασία για την ανάπτυξη μητρώου μουσουλμάνων Αμερικανών.

Έτσι και μετά την δημόσια τοποθέτηση, είναι πολύ πιθανό ότι η IBM δεν πρόκειται να βοηθήσει την κυβέρνηση των ΗΠΑ.

Όμως καμία εταιρεία τεχνολογίας δεν θα πρέπει να επιτρέψει ένα σύστημα το οποίο θα οδηγήσει στη διάκριση ανθρώπων. Η χρήση του ΑΙ που μπορεί να περιθωριοποιήσει και να παραβιάσει πολιτικά δικαιώματα, είναι αντίθετη με την ίδια την ιδέα της έρευνας και της προόδου.

• Google: Πόσα γνωρίζει η εταιρεία για εσάς;

giorgos

Ο Γιώργος ακόμα αναρωτιέται τι κάνει εδώ….