Ο τριπλός ρόλος του AI στις κυβερνοεπιθέσεις (AI Threat Landscape)

iGuRu.gr > Ο τριπλός ρόλος του AI στις κυβερνοεπιθέσεις (AI Threat Landscape)

Η νέα έκθεση AI Threat Landscape της Check Point Research δείχνει πόσο γρήγορα οι κυβερνοκίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη περνούν από τη θεωρία στην πράξη. Τους τελευταίους δύο μήνες, οι ερευνητές κατέγραψαν μοντέλα AI να λειτουργούν πέρα από τα περιβάλλοντα για τα οποία είχαν σχεδιαστεί, κυβερνοεγκληματίες να χρησιμοποιούν τα πρώτα καταγεγραμμένα περιστατικά ransomware με αυτόνομη δράση μέσω AI και παράγοντες απειλής να δημιουργούν παράνομες αγορές γύρω από την πρόσβαση σε υπηρεσίες AI και την παράκαμψη δικλίδων ασφαλείας. ai digest1

Οι εξελίξεις αυτές συνθέτουν μια ευρύτερη αλλαγή. Το AI δεν αποτελεί πλέον μόνο εργαλείο στα χέρια των επιτιθέμενων. Εξελίσσεται σε στόχο, επιφάνεια επίθεσης και, ολοένα συχνότερα, ενεργό παράγοντα κυβερνοπεριστατικών. Για τους οργανισμούς που επιταχύνουν την υιοθέτησή του, η έκθεση καταδεικνύει ότι οι στρατηγικές ασφάλειας πρέπει να εξελιχθούν με αντίστοιχη ταχύτητα.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Η ασφάλεια του AI περνά σε νέα φάση

Τα μοντέλα AI λειτουργούν πέρα από τα προβλεπόμενα όριά τους

• Σε ξεχωριστά περιστατικά που αφορούσαν την OpenAI, την Anthropic και τη Meta, μοντέλα AI απέκτησαν πρόσβαση σε συστήματα παραγωγής εκτός των περιβαλλόντων αξιολόγησης για τα οποία προορίζονταν.
• Σε μία από τις σημαντικότερες περιπτώσεις, μοντέλο αξιολόγησης της OpenAI έφτασε στην υποδομή παραγωγής του Hugging Face μέσω άγνωστης μέχρι τότε ευπάθειας.
• Οι ερευνητές ανακατασκεύασαν στη συνέχεια το ιστορικό περίπου 17.600 ενεργειών που πραγματοποίησε ο AI agent και συνδέονται με το περιστατικό.
• Τα ευρήματα έχουν εντείνει τη συζήτηση στον κλάδο σχετικά με την αυτονομία, τον έλεγχο και τη διακυβέρνηση του AI, καθώς τα συστήματα αποκτούν περισσότερες δυνατότητες και συνδέονται με πραγματικά περιβάλλοντα.

Οι κυβερνοεγκληματίες εντάσσουν το AI στις επιχειρήσεις τους

• Η εγκληματική χρήση του AI έχει περάσει από το πειραματικό στάδιο στην πράξη, καθώς οι παράγοντες απειλής ενσωματώνουν ολοένα συχνότερα εργαλεία AI σε πραγματικές επιχειρήσεις επίθεσης.
• Οι ερευνητές κατέγραψαν περιστατικό ransomware με αυτόνομη δράση μέσω AI (agentic ransomware), στο οποίο ένα μοντέλο AI εκτέλεσε στάδια εκστρατείας εκβιασμού, αφού ενεργοποιήθηκε από ανθρώπινο χειριστή.
• Παράλληλα, συνεργάτες ομάδων ransomware χρησιμοποίησαν βοηθούς προγραμματισμού με AI για να υποστηρίξουν επιθέσεις εναντίον τουλάχιστον έξι οργανισμών.
• Οι εξελίξεις δείχνουν ότι η απόσταση ανάμεσα στις πλέον προηγμένες δυνατότητες του AI και την αξιοποίησή τους από κυβερνοεγκληματίες μειώνεται σταθερά.

Μια νέα παράνομη αγορά αναπτύσσεται γύρω από την πρόσβαση στο AI

• Οι ερευνητές εντόπισαν μια αναπτυσσόμενη κυβερνοεγκληματική αγορά που επικεντρώνεται στην πρόσβαση σε υπηρεσίες AI και στην παράκαμψη των ελέγχων συμμόρφωσης και των δικλίδων ασφαλείας.
• Σε μία επιχείρηση, οι επιτιθέμενοι απέσπασαν σχεδόν 3.000 κλειδιά API και διαπιστευτήρια λογαριασμών AI από εκτεθειμένα αρχεία σε περισσότερους από 1.700 συστήματα μέσα σε μόλις επτά εβδομάδες.
• Τα εγκληματικά φόρουμ επικεντρώνονται όλο και περισσότερο στην απόκτηση μόνιμης πρόσβασης σε υπηρεσίες AI και σε μεθόδους που παρακάμπτουν σταθερά τις δικλίδες ασφαλείας, αντί να βασίζονται σε μεμονωμένες τεχνικές jailbreak.

Τα ίδια τα συστήματα AI γίνονται στόχοι επιθέσεων

• Οι AI agents προγραμματισμού, οι εταιρικοί copilots και οι εφαρμογές που βασίζονται σε AI αποτελούν ολοένα συχνότερα στόχο επιτιθέμενων.
• Οι ερευνητές κατέγραψαν επιθέσεις σε αξιόπιστες ροές εργασίας AI, μεταξύ άλλων σε βοηθούς προγραμματισμού και εταιρικά εργαλεία AI που χρησιμοποιούν ως δεδομένα εισόδου περιεχόμενο και αποθετήρια κώδικα των χρηστών.
• Παραβιάσεις της εφοδιαστικής αλυσίδας που επηρέασαν πλαίσια AI και εργαλεία ανάπτυξης είχαν αντίκτυπο σε περισσότερες από 2.500 εταιρείες, αναδεικνύοντας τη διεύρυνση της επιφάνειας επίθεσης γύρω από τα οικοσυστήματα AI.
Η καθημερινή χρήση του AI παραμένει σημαντική πηγή κινδύνου
• Δεν προέρχονται όλοι οι κίνδυνοι που συνδέονται με το AI από εξελιγμένους παράγοντες απειλής.
• Η έκθεση διαπίστωσε ότι μία στις 36 προτροπές (prompts) που υποβλήθηκαν σε υπηρεσίες παραγωγικής τεχνητής νοημοσύνης παρουσίαζε υψηλό κίνδυνο έκθεσης ευαίσθητων πληροφοριών.
• Το 88% των οργανισμών κατέγραψε τουλάχιστον μία αλληλεπίδραση υψηλού κινδύνου με AI κατά τη διάρκεια του Ιουλίου.
• Τα ευρήματα αναδεικνύουν μια αυξανόμενη πρόκληση διακυβέρνησης, καθώς η υιοθέτηση του AI προχωρά ταχύτερα από την ικανότητα πολλών οργανισμών να εφαρμόσουν πολιτικές, ελέγχους και δικλίδες προστασίας δεδομένων.

Το AI ως νέο πεδίο ασφάλειας

Παρατηρείται σύγκλιση πολλών τάσεων: τα μοντέλα υπερβαίνουν τα προβλεπόμενα όριά τους, οι επιτιθέμενοι οργανώνουν σε μεγαλύτερη κλίμακα επιχειρήσεις με τη χρήση AI, οι αμυνόμενοι αξιοποιούν το AI για να εντοπίζουν ταχύτερα ευπάθειες και οι οργανισμοί εκθέτουν ακούσια ευαίσθητες πληροφορίες μέσα από την καθημερινή χρήση του.
Για τους υπεύθυνους ασφάλειας, η πρόκληση αφορά πλέον την προστασία ολόκληρου του οικοσυστήματος AI, το οποίο περιλαμβάνει χρήστες, agents, εφαρμογές, δεδομένα, API και υποδομές. Το κρίσιμο ερώτημα για τους οργανισμούς δεν είναι εάν το AI θα αλλάξει την κυβερνοασφάλεια, αλλά εάν τα προγράμματα ασφάλειας μπορούν να προσαρμοστούν αρκετά γρήγορα ώστε να ακολουθήσουν τον ρυθμό εξέλιξής του.

Όπως δήλωσε ο Sergey Shykevich, Διευθυντής Πληροφοριών Κυβερνοαπειλών της Check Point Software: «Τα γεγονότα των τελευταίων δύο μηνών δείχνουν ότι η ασφάλεια του AI έχει περάσει σε νέα φάση. Οργανισμοί και επιτιθέμενοι χρησιμοποιούν πλέον το AI, το οποίο ταυτόχρονα εξελίσσεται σε στόχο, επιφάνεια επίθεσης και, σε ορισμένες περιπτώσεις, ενεργό και σχεδόν αυτόνομο παράγοντα κυβερνοπεριστατικών. Καθώς οι επιχειρήσεις επιταχύνουν την υιοθέτησή του, οι υπεύθυνοι ασφάλειας χρειάζονται ορατότητα όχι μόνο στα μοντέλα, αλλά και στα δεδομένα, τις εφαρμογές και τις ροές εργασίας που συνδέονται με αυτά. Η οικοδόμηση κυβερνοανθεκτικότητας στην εποχή του AI απαιτεί μια προσέγγιση που δίνει προτεραιότητα στην πρόληψη και προστατεύει συνδυαστικά τους χρήστες, τις εφαρμογές, τους agents και τις υποδομές.»