Την περασμένη εβδομάδα, η πρόεδρος της Signal Meredith Whittaker έδωσε μια συναρπαστική διάλεξη στο TechCrunch Disrupt 2023. Ο τίτλος: Η τεχνητή νοημοσύνη είναι ουσιαστικά μια τεχνολογία επιτήρησης (AI is fundamentally a surveillance technology).
Ας το παραδεχτούμε; Η τεχνητή νοημοσύνη έχει διεισδύσει σε κάθε κλάδο, από επιχειρήσεις μέχρι την άμυνα. Όμως φαίνεται ότι οι μόνοι που ωφελούνται πραγματικά είναι αυτοί που έχουν εξουσία πάνω μας, κυβερνήσεις, εργοδότες, έλεγχος των συνόρων.
Τι συμβαίνει όμως στο παρασκήνιο; Ας δούμε τις απόψεις της Whittaker για αυτό το θέμα.
AI: Ένας κύκλος επιτήρησης
Η Whittaker υποστηρίζει ότι η τεχνητή νοημοσύνη είναι μια επέκταση (και επιδείνωση) του επιχειρηματικού μοντέλου επιτήρησης που ξεκίνησε από τα τέλη της δεκαετίας του '90. Σύμφωνα με τα λόγια της, “Το διάγραμμα Venn είναι ένας κύκλος”. Περπατάτε από μια κάμερα αναγνώρισης προσώπου και προσδιορίζει τη διάθεσή σας ή ακόμα και χαρακτηριστικά του χαρακτήρα σας.
Στη συνέχεια, αυτές οι πληροφορίες διοχετεύονται στις αρχές που λαμβάνουν βασικές αποφάσεις για τη ζωή σας, όπως η απασχόληση ή η πρόσβαση σε πόρους. Σε κάνει να αναρωτιέσαι… Ποιος ωφελείται πραγματικά από αυτές τις τεράστιες ποσότητες δεδομένων και με ποιο κόστος;
Το ανθρώπινο κόστος της τεχνητής νοημοσύνης
Η Whittaker αναφέρει ένα κρίσιμο σημείο που συχνά το προσπερνάμε: την ανθρώπινη εργασία. Τα συστήματα AI δεν μπορούν να υπάρξουν χωρίς αυτή. Ανάλυση δεδομένων ή αλγόριθμοι βαθμονόμησης, εμπλέκονται χιλιάδες εργαζόμενοι με χαμηλούς μισθούς και βρίσκονται στα παρασκήνια. Η ίδια τεχνολογία που βοηθούν στη δημιουργία της μπορεί αργότερα να χρησιμοποιηθεί για την επίβλεψή τους. Το ερώτημα λοιπόν είναι: Πόσο ηθική είναι αυτή η εργασιακή πρακτική;
AI ανοιχτού κώδικα: Όχι τόσο διαφανές όσο νομίζετε
Στη συνέχεια, η συζήτηση στράφηκε προς την “τεχνητή νοημοσύνη ανοιχτού κώδικα”, έναν όρο που η Whittaker πιστεύει ότι είναι κάπως παραπλανητικός. Ο κώδικας και οι παράμετροι μπορεί να είναι ανοιχτά, αλλά η υποδομή και η εργασία παραμένουν κρυφά. Ακόμη και τα έργα ανοιχτού κώδικα που υποστηρίζονται από μεγάλες τεχνολογικές εταιρείες όπως η Meta και η Google έχουν τη δική τους ατζέντα, δίνοντας κατεύθυνση στην έρευνας του AI με τρόπους που τους εξυπηρετούν. Μην ψάχνετε δικαιοσύνη εδώ. Πρόκειται για την δυναμική του ισχυρού.
Πού βρίσκεται λοιπόν η Signal με την AI; Η Whittaker αποκαλύπτει ότι η εφαρμογή ανταλλαγής μηνυμάτων που εστιάζει στο απόρρητο χρησιμοποιεί ένα μικρό, μη διαθέσιμο μοντέλο τεχνητής νοημοσύνης για τη λειτουργία θαμπώματος προσώπου.
Αλλά μέχρι εκεί. Ο στόχος είναι να παραμείνουν τα πράγματα απλά και λιγότερο παρεμβατικά, αποφεύγοντας τον εκτεταμένο μηχανισμό επιτήρησης που συχνά συνδέεται με την τεχνητή νοημοσύνη.
Αντίσταση και ρύθμιση
Η Whittaker δεν συγκρατήθηκε όταν συζητούσε την τρέχουσα κατάσταση για το ψηφιακό απόρρητο. Καταδίκασε όλες τις προσπάθειες υπονόμευσης της end-to-end κρυπτογράφησης, που συχνά σερβίρονται σαν μέτρα για την “προστασία των παιδιών” και καλεί όλο τον κόσμο να αντισταθεί.
Η εμφάνιση της Meredith Whittaker στο TechCrunch Disrupt παρείχε κάτι περισσότερο από απλές γνώσεις. Μας έδωσε μια διαφορετική οπτική για να κρίνουμε και να αξιολογήσουμε το τοπίο της τεχνητής νοημοσύνης. Τα επιχειρήματά της μας προτρέπουν να αναρωτηθούμε ποιος ωφελείται πραγματικά από τη διάδοση της τεχνολογίας AI και ποιες θυσίες γίνονται στην πορεία. Ήρθε η ώρα να αντιμετωπίσουμε αυτές τις άβολες αλήθειες.
