Η Check Point Research (CPR) προειδοποιεί για το ενδεχόμενο χάκερ να χρησιμοποιήσουν το ChatGPT και το Codex του OpenAI για την εκτέλεση στοχευμένων και αποτελεσματικών επιθέσεων στον κυβερνοχώρο. Για να αποδείξει τα παραπάνω, η CPR χρησιμοποίησε το ChatGPT και το Codex για να παράγει κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου, κώδικα και μια πλήρη αλυσίδα μόλυνσης ικανή να στοχεύσει υπολογιστές. 
Η CPR τεκμηριώνει τη θέση της σε μια νέα δημοσίευση με παραδείγματα του τι δημιουργήθηκε, υπογραμμίζοντας τη σημασία της επαγρύπνησης καθώς η ανάπτυξη τεχνολογιών AI, όπως το ChatGPT, μπορεί να αλλάξει σημαντικά το τοπίο των απειλών στον κυβερνοχώρο.
Η CPR χρησιμοποίησε το ChatGPT για να δημιουργήσει ένα ηλεκτρονικό μήνυμα ηλεκτρονικού “ψαρέματος” που πλαστοπροσωπεί την εταιρεία hosting
Η CPR επανέλαβε τη διαδικασία με το ChatGPT για να βελτιώσει ένα ηλεκτρονικό μήνυμα ηλεκτρονικού “ψαρέματος” ώστε να διευκολύνει την αλυσίδα μόλυνσης
Η CPR χρησιμοποίησε το ChatGPT για τη δημιουργία κώδικα VBA για ενσωμάτωση του σε ένα έγγραφο Excel
Η Check Point Research (CPR) χρησιμοποίησε το ChatGPT για να δημιουργήσει κακόβουλα μηνύματα ηλεκτρονικού “ψαρέματος” και κώδικα, προκειμένου να προειδοποιήσει για τους πιθανούς κινδύνους που μπορεί να έχει η νέα τεχνολογία AI στο τοπίο των απειλών στον κυβερνοχώρο.
Χρησιμοποιώντας το ChatGPT του Open AI, η CPR μπόρεσε να δημιουργήσει ένα ηλεκτρονικό μήνυμα ηλεκτρονικού “ψαρέματος”, με ένα συνημμένο έγγραφο excel που περιέχει κακόβουλο κώδικα ικανό να κατεβάζει αντίστροφα κελύφη. Οι επιθέσεις αντίστροφου κελύφους στοχεύουν στη σύνδεση με έναν απομακρυσμένο υπολογιστή και στην ανακατεύθυνση των συνδέσεων εισόδου και εξόδου του κελύφους του συστήματος προορισμού, ώστε ο εισβολέας να μπορεί να έχει απομακρυσμένη πρόσβαση σε αυτό.
Τα Βήματα στο ChatGPT
Το ChatGPT καλείτε να πλαστοπροσωπήσει μια εταιρεία φιλοξενίας (Εικόνα 1)
Το ChatGPT καλείτε να επαναλάβει ξανά τη διαδικασία, δημιουργώντας ένα μήνυμα ηλεκτρονικού “ψαρέματος” με κακόβουλο συνημμένο excel (Εικόνα 2)
Το ChatGPT καλείτε να δημιουργήσει κακόβουλο κώδικα VBA σε ένα έγγραφο Excel (Εικόνα 3)
Ανοιχτός Κώδικας AI
Η CPR ήταν επίσης σε θέση να δημιουργήσει κακόβουλο κώδικα χρησιμοποιώντας το Codex, στο οποίο ζήτησε τα ακόλουθα:
- Να εκτελέσει δέσμη ενεργειών αντίστροφου κελύφους σε έναν υπολογιστή windows και να συνδεθεί σε μια συγκεκριμένη διεύθυνση IP
- Να ελέγξει εάν η διεύθυνση URL είναι ευάλωτη στην έγχυση SQL πραγματοποιώντας σύνδεση ως διαχειριστής
- Να γράψει ένα σενάριο python που εκτελεί σάρωση πλήρους θύρας σε έναν υπολογιστή-στόχο
Ο κακόβουλος κώδικας δημιουργήθηκε στη συνέχεια από τον Codex.
Σχόλιο του Sergey Shykevich, Threat Intelligence Group Manager στην Check Point Software:
«Το ChatGPT έχει τη δυνατότητα να αλλάξει σημαντικά το τοπίο των απειλών στον κυβερνοχώρο. Όποιος έχει ελάχιστους πόρους και μηδενική γνώση στον κώδικα, μπορεί εύκολα να το εκμεταλλευτεί εις βάρος της φαντασίας του.
Είναι εύκολο να δημιουργήσουν κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου και κώδικα. Οι χάκερ μπορούν επίσης να επαναλάβουν κακόβουλο κώδικα με το ChatGPT και το Codex. Για να προειδοποιήσουμε το κοινό, δείξαμε πόσο εύκολο είναι να χρησιμοποιηθούν σε συνδυασμό τα ChatGPT και Codex για να δημιουργηθούν κακόβουλα μηνύματα ηλεκτρονικού ταχυδρομείου και κώδικα. Πιστεύω ότι αυτές οι τεχνολογίες τεχνητής νοημοσύνης αντιπροσωπεύουν ένα ακόμη βήμα προς τα εμπρός στην επικίνδυνη εξέλιξη των ολοένα και πιο εξελιγμένων και αποτελεσματικών δυνατοτήτων στον κυβερνοχώρο. Ο κόσμος της ασφάλειας στον κυβερνοχώρο αλλάζει ραγδαία και θέλουμε να τονίσουμε τη σημασία της επαγρύπνησης καθώς το ChatGPT και το Codex γίνονται πιο ώριμα, καθώς αυτή η νέα και αναπτυσσόμενη τεχνολογία μπορεί να επηρεάσει το τοπίο των απειλών, τόσο για καλό όσο και για κακό».
Περισσότερες λεπτομέρειες μπορείτε να βρείτε στο https://research.checkpoint.com/2022/opwnai-ai-that-can-save-the-day-or-hack-it-away/
