Γνωρίζετε ότι τα deepfakes μπορούν να γίνουν καταστροφικά στη φήμη κάποιου και είναι πολύ δύσκολο να εντοπιστούν αν δημιουργηθούν σωστά. Αυτό το πρόβλημα σκέφτηκε να αντιμετωπίσει η Microsoft κυκλοφορώντας ένα εργαλείο που μπορεί να τα εντοπίσει.
Η απειλή των deepfakes είναι τόσο σημαντική, που έκανε το Facebook να απαγορεύσει κάθε περιεχόμενο deepfake. Ωστόσο, το μεγαλύτερο εμπόδιο είναι πώς αν ο δημιουργός έχει γνώσεις φαίνονται πολύ πειστικά. Έτσι ο εντοπισμός και η επιβεβαίωση ενός deepfake είναι πολύ δύσκολη.
Το Facebook απαγορεύει τα deepfakes και τις Photoshopped φωτογραφίες γιατί εξαπατούν τους χρήστες.
Όπως αναφέρεται στο Microsoft On the Issues, η εταιρεία θέλει να το αλλάξει αυτό με ένα νέο εργαλείο. Ονομάζεται Microsoft Video Authenticator και αναλύει βίντεο για να αναζητήσει τις “ραφές” που έχουν μείνει πίσω από τη δημιουργία ενός deepfake. Αυτές οι ραφές είναι αόρατες στα ανθρώπινα μάτια, αλλά ένας υπολογιστής μπορεί να τις εντοπίσει χρησιμοποιώντας ανάλυση καρέ-καρέ.
Για την αποτροπή κάθε αντίστροφης μηχανικής της νέας τεχνολογίας, το Microsoft Video Authenticator δεν κυκλοφορεί δημόσια. Η Microsoft διανέμει την εφαρμογή της μόνο σε οργανισμούς ειδήσεων και πολιτικά κόμματα. Έτσι μπορούν να χρησιμοποιήσουν το εργαλείο για να διαχωρίσουν το πραγματικό από το ψεύτικο.
Ωστόσο, η Microsoft ανακοίνωσε μια δεύτερη τεχνολογία για τον εντοπισμό των deepfakes. Η εταιρεία προτείνει ένα σύστημα όπου ένας δημιουργός περιεχομένου μπορεί να προσθέσει ετικέτες στα βίντεό του με μια μοναδική “υπογραφή”. Εάν το βίντεο επεξεργαστεί, θα δημιουργηθεί μια διαφορετική υπογραφή από το πρωτότυπο, προσδιορίζοντας το deepfake.
Η συγγραφέας του Deep Fakes and the Infocalypse, Nina Schick, αναφέρει τα εξής:
Η μόνη πραγματικά διαδεδομένη χρήση που έχουμε δει μέχρι τώρα είναι η μη συναινετική πορνογραφία κατά των γυναικών.
Ωστόσο, αναμένεται να γίνουν πανταχού παρόντα σε περίπου τρία έως πέντε χρόνια, επομένως θα πρέπει να αναπτύξουμε αυτά τα εργαλεία για το μέλλον.
Ωστόσο, καθώς οι δυνατότητες ανίχνευσης θα βελτιωθούν, το ίδιο θα γίνει και με την ικανότητα δημιουργίας.
Τα Deepfakes είναι ένα σημαντικό πρόβλημα για την αξιοπιστία των μέσων ενημέρωσης και οι εταιρείες χρειάζονται έναν τρόπο να τα διαχωρίζουν.
Η Microsoft κυκλοφόρησε το εργαλείο για να εντοπίζει τα επεξεργασμένα βίντεο, ωστόσο, δεν γνωρίζουμε αν είναι αρκετό για να εντοπίσει δημιουργούς deepfake δεν έχει δει ακόμα.
