Το Fawkes είναι ένα δωρεάν λογισμικό, ανοικτού κώδικα, που χρησιμοποιώντας τεχνητή νοημοσύνη τροποποιεί ανεπαίσθητα τις φωτογραφίες σας, έτσι ώστε να ξεγελάει το λογισμικό αναγνώρισης προσώπου.
Η πασίγνωστη αναγνώριση προσώπου αποτελεί μία σοβαρή απειλή για την προστασία της ιδιωτικής ζωής. Η ιδέα ότι οι φωτογραφίες που μοιραζόσαστε στο διαδίκτυο συλλέγονται από εταιρείες για την εκπαίδευση αλγορίθμων, που με την σειρά τους πωλούνται στο εμπόριο, είναι αρκετά ανησυχητική. Θεωρητικά όλοι μπορούν να αγοράσουν αυτά τα εργαλεία, να τραβήξουν μια φωτογραφία ενός ξένου και να μάθουν ποιος είναι μέσα σε δευτερόλεπτα.
Ακόμα χειρότερα, θα μπορούσε μία τεράστια τέτοια βάση να ενοικιαζόταν ως παροχή υπηρεσιών και με την συνδρομή ενός γρήγορου ασύρματου GSM internet, όπως το 5G που έρχεται, να μπορείτε να βλέπετε online το ονοματεπώνυμο κάθε ανθρώπου που περνάει δίπλα σας.
Αν και απέχουμε ακόμα από μία τέτοια δυσοίωνη κατάσταση, ερευνητές έχουν αρχίσει ήδη το παιχνίδι γάτας – ποντικιού. Μία λύση στην αναγνώριση προσώπου είναι ένα εργαλείο που ονομάζεται Fawkes και δημιουργήθηκε στο εργαστήριο Sand Lab του Πανεπιστημίου του Σικάγο. Ονομάστηκε Fawkes από τις μάσκες του Guy Fawkes που φορούσαν οι επαναστάτες, στην ταινία V for Vendetta.
Το λογισμικό Fawkes χρησιμοποιεί τεχνητή νοημοσύνη για να αλλάξει τις φωτογραφίες σας, με ένα λεπτό και σχεδόν ανεπαίσθητο τρόπο, για να ξεγελάσει τα συστήματα αναγνώρισης προσώπου.
Δείτε για παράδειγμα την παρακάτω φωτογραφία της βασίλισσας Ελισάβετ, με την αριστερή να είναι η κανονική και την δεξιά η “πειραγμένη”.
Ο τρόπος λειτουργίας του λογισμικού είναι λίγο περίπλοκος και το πέρασμα των φωτογραφιών σας μέσω του Fawkes δεν σας καθιστά αόρατο στην αναγνώριση προσώπου. Αντ’αυτού, το λογισμικό πραγματοποιεί λεπτές αλλαγές στις φωτογραφίες σας, ώστε οποιοσδήποτε αλγόριθμος που θα σαρώσει αυτές τις εικόνες στο μέλλον να σας δει ως διαφορετικό άτομο. Ουσιαστικά, η επέμβαση του Fawkes στις φωτογραφίες σας είναι σαν να προσθέτετε μια αόρατη μάσκα στις selfies σας.
Οι κατασκευαστές του αποκαλούν αυτή τη διαδικασία «cloaking» (απόκρυψη) και βασίζεται στο να καταστρέφει τα σημεία που διαβάζουν και βασίζονται τα συστήματα αναγνώρισης προσώπου. Αναφέρουν το παράδειγμα της εταιρείας αναγνώρισης προσώπου Clearview AI, η οποία ισχυρίζεται ότι έχει συλλέξει περίπου τρία δισεκατομμύρια εικόνες προσώπων από ιστότοπους όπως το Facebook, το YouTube και το Venmo, και που τις οποίες χρησιμοποιεί για να αναγνωρίσει τους ξένους. Αλλά σύμφωνα με τους κατασκευαστές του Fawkes, αν οι φωτογραφίες που μοιράζεστε στο Διαδίκτυο έχουν “πειραχτεί” μέσω του Fawkes, τότε το πρόσωπο που θα υπάρχει στην βάση δεδομένων και που θα μπορεί να αναγνωρίσει ο αλγόριθμος δεν θα είναι στην πραγματικότητα το δικό σας.
Σύμφωνα με την ομάδα του Πανεπιστημίου του Σικάγο, το Fawkes είναι 100% επιτυχία έναντι των υπερσύγχρονων υπηρεσιών αναγνώρισης προσώπου, όπως της Microsoft (Azure Face), της Amazon (Recognition) και το Face ++ της κινέζικης εταιρείας Megvii.
Η εξαμελής ομάδα πίσω από το Fawkes, Shawn Shan, Emily Wenger, Jiayun Zhang, Huiying Li, Haitao Zheng και Ben Y. Zhao, δημοσίευσε στην αρχή του 2020 μια εργασία για τον αλγόριθμο της. Στα τέλη του περασμένου μήνα κυκλοφόρησε επίσης το Fawkes ως δωρεάν λογισμικό για Windows και Mac που μπορεί να κατεβάσει και να χρησιμοποιήσει ο καθένας. Μέχρι σήμερα λένε ότι έχει κατέβει περισσότερες από 100.000 φορές.
Το Fawkes είναι εύκολο στην χρήση του και χρειάζεται λίγα λεπτά για να επεξεργαστεί κάθε εικόνα και οι αλλαγές που κάνει είναι ως επί το πλείστον ανεπαίσθητες.
Αλλά είναι το Fawkes η γενικότερη λύση για την προστασία της ιδιωτικής ζωής; Είναι αμφίβολο.
Για αρχή, υπάρχει το πρόβλημα της υιοθέτησης. Εάν διαβάσετε αυτό το άρθρο και αποφασίσετε να χρησιμοποιήσετε το Fawkes για να αποκρύψετε τυχόν φωτογραφίες που θα ανεβάσετε στα κοινωνικά μέσα στο μέλλον, σίγουρα θα είστε στη μειονότητα. Η αναγνώριση προσώπου είναι ανησυχητική επειδή είναι μια τάση με στόχο ολόκληρη την κοινωνία και έτσι η λύση θα πρέπει να χρησιμοποιείται από ολόκληρη την κοινωνία. Εάν η τεχνογνωσία προστατεύει τις selfies ορισμένων χρηστών, δημιουργεί απλώς ανισότητα και διακρίσεις.
Δεύτερον, πολλές εταιρείες που πωλούν αλγόριθμους αναγνώρισης προσώπου, δημιούργησαν τις βάσεις δεδομένων των προσώπων εδώ και πολύ καιρό και δεν μπορείτε να ανακτήσετε αναδρομικά αυτές τις πληροφορίες. Ο Διευθύνων Σύμβουλος της Clearview, Hoan Ton-That, είπε στους Times ότι “Υπάρχουν δισεκατομμύρια μη τροποποιημένες φωτογραφίες στο Διαδίκτυο, όλες σε διαφορετικά socail media”. Στην πράξη, ίσως είναι σχεδόν πολύ αργά για να τελειοποιηθεί μια τεχνολογία, όπως η Fawkes, και αυτή να αναπτυχθεί σε παγκόσμια κλίμακα.
Φυσικά, στον αντίποδα των παραπάνω ισχυρισμών η ομάδα πίσω από το Fawkes διαφωνεί. Σημειώνουν ότι παρόλο που εταιρείες, όπως η Clearview, ισχυρίζονται ότι έχουν δισεκατομμύρια φωτογραφίες, αυτό δεν σημαίνει πολλά, ακόμα και όταν υποτίθεται ότι αναγνωρίζουν εκατοντάδες εκατομμύρια χρήστες. Οι πιθανότητες λένε, είναι ότι η Clearview έχει μόνο έναν πολύ μικρό αριθμό δημόσιων προσβάσιμων φωτογραφιών. Και αν οι άνθρωποι ανεβάσουν στο μέλλον περισσότερες φωτογραφίες, περασμένες από το Fawkes, αργά ή γρήγορα το ποσό των “πειραγμένων” εικόνων θα ξεπερνά τις κανονικές.
Η ομάδα Fawkes παραδέχεται ότι για να κάνει το λογισμικό τους την διαφορά, θα πρέπει να κυκλοφορήσει ευρύτερα. Δεν έχουν σχέδια να δημιουργήσουν μια εφαρμογή ιστού ή κάποιο app για κινητά, αλλά ελπίζουν ότι εταιρείες όπως το Facebook να ενσωματώσουν στο μέλλον στην πλατφόρμα τους, μία παρόμοια τεχνολογία με το Fawkes.
Η ενσωμάτωση αυτής της τεχνολογίας θα ήταν προς το συμφέρον αυτών των εταιρειών, λέει ο Zhao. Άλλωστε, εταιρείες όπως το Facebook δεν θέλουν οι άνθρωποι να σταματήσουν να μοιράζονται φωτογραφίες και όσο οι εταιρείες αναγνώρισης προσώπου θα εξακολουθούν να είναι σε θέση να συλλέγουν τα δεδομένα που χρειάζονται από δημόσιες εικόνες, τόσο κρίνεται αναγκαία η χρήση της τεχνολογίας Fawkes. Και ενώ η ενσωμάτωση αυτής της τεχνολογίας προς το παρόν μπορεί να έχει μόνο ένα μικρό αποτέλεσμα, για τους τρέχοντες χρήστες, θα μπορούσε να βοηθήσει τις μελλοντικές γενιές που έρχονται, να εγγραφούν άφοβα σε αυτές τις πλατφόρμες.
“Η υιοθέτηση από μεγαλύτερες πλατφόρμες, π.χ. το Facebook ή άλλες, θα μπορούσε με τον καιρό να επηρεάσει αρνητικά την Clearview, κάνοντας την τεχνολογία τους τόσο αναποτελεσματική που δεν θα είναι πλέον χρήσιμη ή οικονομικά βιώσιμη ως υπηρεσία”, λέει ο Zhao.
