Deanonymization with LLMs ξεχάστε τα ψευδώνυμα

iGuRu.gr > Deanonymization with LLMs ξεχάστε τα ψευδώνυμα

Φανταστείτε το εξής: Βρίσκεστε στο Reddit, ή σε κάποιο forum και δημοσιεύετε με ένα ψευδώνυμο σαν όνομα χρήστη. Νομίζετε ότι είστε ανώνυμοι και κανείς δεν σας γνωρίζει, επομένως μπορείτε να εκφράσετε ελεύθερα τις σκέψεις σας.

Λοιπόν, μια νέα έρευνα μόλις κατέρριψε αυτή την ιδέα. Ονομάζεται “Large-scale online deanonymization with LLMs” (διαδικτυακή αποανωνυμοποίηση μεγάλης κλίμακας με LLMs), που είναι ένας φανταχτερός τρόπος να πούμε “ανακαλύπτοντας το πραγματικό πρόσωπο πίσω από ένα ψευδώνυμο”.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Ερευνητές από το ETH Zurich και την Anthropic μαζί με μια ερευνητική ομάδα που ονομάζεται MATS και απέδειξαν ότι τα σημερινά ισχυρά chatbots τεχνητής νοημοσύνης μπορούν να παίξουν τον ρόλο του ντετέκτιβ και να αποκαλύψουν ποιος κρύβεται πίσω από κάποιο ψευδώνυμο.

Πώς λειτουργεί;

Σκεφτείτε την τεχνητή νοημοσύνη σαν ένα ντετέκτιβ. Μόνο που αυτός ο ντετέκτιβ είναι εξαιρετικά γρήγορος και εξαιρετικά έξυπνος. Έχει διαβάσει κάθε ανάρτηση που έχει γραφτεί ποτέ στο διαδίκτυο. Ας δούμε πώς λειτουργεί το σύστημά τους σε απλά βήματα:

Διαβάζει και εντοπίζει ενδείξεις: Η Τεχνητή Νοημοσύνη εξετάζει τις αναρτήσεις σας και εξάγει μικρές υποδείξεις για εσάς. Πράγματα που αποτελούν μέρος της προσωπικότητάς σας. Σαν να μπορεί να δει ότι αυτό το άτομο μιλάει πολύ για παιχνίδια κωδικοποίησης σε Python, λατρεύει τις ταινίες της Marvel, παραπονιέται για το σχολείο του στο Χαλάνδρι και πληκτρολογεί με ένα συγκεκριμένο στυλ.
Ψάχνει σε όλο το διαδίκτυο: Ελέγχει το LinkedIn, την Google, άλλους λογαριασμούς στο Reddit κ.λπ., για να βρει πιθανά πραγματικά άτομα που ταιριάζουν με αυτές τις ενδείξεις.
Σκέφτεται καλά και ελέγχει ξανά: Η Τεχνητή Νοημοσύνη σκέφτεται “Ταιριάζουν αυτά; Το στυλ γραφής είναι το ίδιο, τα χόμπι ευθυγραμμίζονται, ο χρόνος ταιριάζει… ναι, με ποσοστό 90%!”

Οι ερευνητές ονόμασαν τη μέθοδό τους ESRC, που σημαίνει Extract clues, Search, Reason, Calibrate.

Νομίζετε ότι όλα αυτά είναι θεωρία;

Σε πραγματικούς χρήστες του Hacker News, η Τεχνητή Νοημοσύνη συνέδεσε σωστά το ψευδώνυμο του χρήστη με το πραγματικό του όνομα στο 67% των περιπτώσεων και όταν έκανε μια υπόθεση, ήταν σωστή στο 90%. Η εργασία αναφέρει επίσης ότι η αντιστοίχιση των δημοσιεύσεων του ίδιου ατόμου στο Reddit από διαφορετικά έτη ή ομάδες είχε επιτυχία που έφτανε στο 68%.

Τρομακτικό; και το θέμα είναι ότι κοστίζει μόνο 4 δολάρια για να ελέγξει κάποιος ένα άτομο. Οποιοσδήποτε έχει ένα καλό chatbot θα μπορούσε να το κάνει.

Ένας από τους κύριους ερευνητές, ο Simon Lermen, ανέφερε:

Μπορεί μια ομάδα έξυπνων ερευνητών να καταλάβει ποιος είσαι από τις δημοσιεύσεις σου; Αν ναι, τα AI agents πιθανότατα μπορούν να κάνουν το ίδιο με λιγότερο κόστος.

Τέρμα η ιδιωτική ζωή

Μέχρι τώρα, το να παραμένεις κρυμμένος στο διαδίκτυο ήταν αρκετά εύκολο επειδή η αποκάλυψη ενός ψευδώνυμου απαιτούσε ώρες ή μέρες από ερευνητές. Τώρα; Ένα άτομο (stalker, μια εταιρεία ή ακόμα και μια κυβέρνηση) μπορεί να ανακαλύψει χιλιάδες λογαριασμούς πολύ γρήγορα.

Αυτό σημαίνει ότι κάποιος θα μπορούσε να βρει το πραγματικό σας όνομα, το σχολείο, την πόλη ή την εργασία σας από λίγα μόνο σχόλια. Η παλιά ιδέα ότι “αν χρησιμοποιήσω ένα ψευδώνυμο, είμαι ασφαλής” δεν ισχύει πια. Φτάσαμε στο τέλος της πρακτικής αφάνειας.

Καλώς ήρθατε σε ένα νέο 1984!

DOI: https://doi.org/10.48550/arXiv.2602.16800