Οι ειδικοί της Kaspersky μελέτησαν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing.Το ChatGPT είχε προηγουμένως αποδείξει ότι μπορούσε να δημιουργήσει μηνύματα ηλεκτρονικού ταχυδρομείου phishing και να γράψει κακόβουλο λογισμικό, αλλά η αποτελεσματικότητά του στον εντοπισμό κακόβουλων συνδέσμων ήταν περιορισμένη.
Το ChatGPT γνωρίζει καλά το phishing και μπορεί να συμπεράνει τους στόχους των επιθέσεων phishing, αλλά διαπιστώθηκε ότι έχει υψηλό ποσοστό ψευδώς θετικών αποτελεσμάτων που φτάνει το 64%. Επίσης, συχνά δημιούργησε φανταστικές εξηγήσεις και ψευδή στοιχεία για να δικαιολογήσει την κρίση του.
Το ChatGPT, ένα γλωσσικό μοντέλο τεχνητής νοημοσύνης, είναι αμφιλεγόμενο στον κόσμο της κυβερνοασφάλειας λόγω της ικανότητάς του να δημιουργεί ηλεκτρονικά μηνύματα ηλεκτρονικού “ψαρέματος” και παρά τις προειδοποιήσεις των δημιουργών του ότι είναι πρόωρο να εφαρμοστεί νέα τεχνολογία σε έναν τόσο υψηλού κινδύνου τομέα, η ασφάλεια των θέσεων εργασίας των επαγγελματιών του κυβερνοχώρου.
Οι ειδικοί της Kaspersky αποφάσισαν να διεξάγουν ένα πείραμα για να αποκαλύψουν την ικανότητα του ChatGPT να ανιχνεύει συνδέσμους phishing και να επικυρώσουν τις γνώσεις κυβερνοασφάλειας που αποκτήθηκαν κατά τη διάρκεια της εκπαίδευσης. gpt-3.5-turbo με το ChatGPT, δοκιμάστηκε με περισσότερους από 2.000 συνδέσμους που η τεχνολογία anti-phishing της Kaspersky είχε αναγνωρίσει ως phishing, καθώς και με χιλιάδες ασφαλείς διευθύνσεις URL.
Στο πείραμα, τα ποσοστά ανίχνευσης διέφεραν ανάλογα με την προτροπή που χρησιμοποιήθηκε. Στο πείραμα, στο ChatGPT τέθηκαν δύο ερωτήσεις. και “Είναι ασφαλές να επισκεφθείτε αυτόν τον σύνδεσμο;”. Το αποτελέσματα έδειξαν ότι το ChatGPT είχε ποσοστό ανίχνευσης 87,2% και ψευδώς θετικό ποσοστό 23,2% για την πρώτη ερώτηση- για τη δεύτερη ερώτηση, το ποσοστό ανίχνευσης έφτασε το 93,8%, αλλά το ψευδώς θετικό ποσοστό ήταν επίσης υψηλό, 64,3%- αν και το ποσοστό ανίχνευσης ήταν πολύ υψηλό, το ψευδώς θετικό ποσοστό ήταν επίσης πολύ υψηλό και η εφαρμογή δεν ήταν επιτυχής.
Τα μη ικανοποιητικά αποτελέσματα στην ανίχνευση ήταν αναμενόμενα, αλλά θα μπορούσε το ChatGPT να είναι χρήσιμο στην ταξινόμηση και τη διερεύνηση επιθέσεων; Τα γλωσσικά μοντέλα τεχνητής νοημοσύνης έχουν δείξει εξαιρετικά αποτελέσματα στον εντοπισμό πιθανών στόχων phishing, καθώς οι επιτιθέμενοι συνήθως περιλαμβάνουν δημοφιλή εμπορικά ονόματα στους συνδέσμους τους για να ξεγελάσουν τους χρήστες και να τους κάνουν να πιστέψουν ότι η διεύθυνση URL ανήκει σε μια νόμιμη και αξιόπιστη εταιρεία.
Για παράδειγμα, το ChatGPT εξήγαγε με επιτυχία στόχους από περισσότερες από τις μισές από όλες τις διευθύνσεις URL, συμπεριλαμβανομένων μεγάλων τεχνολογικών πυλών όπως το Facebook, το TikTok και η Google, αγορών όπως το Amazon και το Steam και πολλών τραπεζών παγκοσμίως, χωρίς πρόσθετη εκπαίδευση.
Το πείραμα έδειξε επίσης ότι το ChatGPT είχε σοβαρά προβλήματα στην απόδειξη της θέσης του όταν καθόριζε αν ένας σύνδεσμος ήταν κακόβουλος. Ενώ ορισμένες εξηγήσεις ήταν σωστές και τεκμηριωμένες, άλλες αποκάλυψαν γνωστούς περιορισμούς του γλωσσικού μοντέλου, όπως ψευδαισθήσεις και ανακρίβειες: πολλές εξηγήσεις ήταν παραπλανητικές, παρά το σίγουρο ύφος τους.
Η ομάδα μηχανικής μάθησης της Kaspersky βρίσκεται στην πρώτη γραμμή της εφαρμογής τεχνικών μηχανικής μάθησης σε εργασίες κυβερνοασφάλειας, ενημερώνοντας συνεχώς τα προϊόντα της Kaspersky με τεχνολογίες και πληροφορίες αιχμής. Για να επωφεληθείτε από την τεχνογνωσία μηχανικής μάθησης της Kaspersky και να παραμείνετε προστατευμένοι, οι ειδικοί της εταιρείας συνιστούν τα εξής
-
Στην εταιρική ασφάλεια στον κυβερνοχώρο, η Kaspersky Managed Detection & Response είναι ένα βασικό εργαλείο που μπορεί να ανιχνεύσει και να αποτρέψει τις επιθέσεις στα αρχικά τους στάδια. Τα προηγμένα μοντέλα μηχανικής μάθησης φιλτράρουν τα φυσιολογικά συμβάντα και στέλνουν μόνο τα πιο ανησυχητικά συμβάντα σε εξειδικευμένους ανθρώπινους αναλυτές. Η υπηρεσία αυτή βοηθά τις εταιρείες να αυξήσουν την ανθεκτικότητά τους στις απειλές στον κυβερνοχώρο και να βελτιστοποιήσουν τη χρήση των υφιστάμενων πόρων του εργατικού δυναμικού.
-
Είναι σημαντικό να παρέχεται εκπαίδευση για την υγιεινή στον κυβερνοχώρο στους υπαλλήλους. Οι προσομοιωμένες επιθέσεις phishing μπορούν επίσης να τους βοηθήσουν να γνωρίζουν πώς να αναγνωρίζουν τα μηνύματα ηλεκτρονικού ταχυδρομείου phishing.
-
Τέλος, συνιστάται επίσης η ενίσχυση της ασφάλειας στον κυβερνοχώρο με τη χρήση των πιο πρόσφατων πληροφοριών σχετικά με τις απειλές και την αναγνώριση των TTPs (τακτικές, τεχνικές και διαδικασίες) που χρησιμοποιούνται πραγματικά από τους φορείς των απειλών.