Η DeepSeek με έδρα την Κίνα μπορεί να έχει αναπτύξει ανταγωνιστικά, οικονομικά αποδοτικά παραγωγικά μοντέλα, αλλά η ασφάλεια στον κυβερνοχώρο είναι μια άλλη ιστορία.
Η Wiz, μια εταιρεία ασφαλείας με έδρα τη Νέα Υόρκη, αναφέρει ότι λίγο την αναξοίνωση των δυνατοτήτων του μοντέλου DeepSeek R1, άρχισε να ερευνά την ασφάλεια του εξοπλισμού μηχανικής μάθησης.
Η εταιρεία ασφαλείας διαπίστωσε ότι το DeepSeek – το οποίο όχι μόνο αναπτύσσει και διανέμει εκπαιδευμένα ανοιχτά διαθέσιμα μοντέλα αλλά παρέχει και διαδικτυακή πρόσβαση σε αυτά τα νευρωνικά δίκτυα στο cloud – δεν διασφάλισε την υποδομή της βάσης δεδομένων αυτών των υπηρεσιών.
Αυτό σημαίνει ότι οι συνομιλίες με το διαδικτυακό chatbot DeepSeek, και επιπλέον δεδομένα, ήταν προσβάσιμες από το δημόσιο διαδίκτυο χωρίς να απαιτείται κάποιος κωδικός πρόσβασης.
Αυτή η βάση δεδομένων περιείχε σημαντικό όγκο του ιστορικού συνομιλιών, δεδομένων υποστήριξης και άλλων ευαίσθητων πληροφοριών
“Μέσα σε λίγα λεπτά, βρήκαμε μια δημόσια προσβάσιμη βάση δεδομένων συνδεδεμένη με το DeepSeek, εντελώς ανοιχτή και χωρίς έλεγχο ταυτότητας, εκθέτοντας ευαίσθητα δεδομένα”, ανέφερε η εταιρεία σε μια ανακοίνωση την Τετάρτη. Η βάση υπήρχε στη διεύθυνση oauth2callback.deepseek.com:9000 και dev.deepseek.com:9000.
“Αυτή η βάση δεδομένων περιείχε σημαντικό όγκο ιστορικού συνομιλιών, δεδομένων υποστήριξης και άλλων ευαίσθητων πληροφοριών, συμπεριλαμβανομένων log streams, API Secrets και λειτουργικών λεπτομερειών.”
Για να γίνουν τα πράγματα χειρότερα, η έκθεση της Wiz ανέφερε ότι οι ρυθμίσεις επέτρεπαν τον πλήρη έλεγχο της βάσης δεδομένων και την πιθανή κλιμάκωση των προνομίων εντός του περιβάλλοντος της DeepSeek, χωρίς κανένα έλεγχο ταυτότητας ή κάποιο άλλο εμπόδιο στην εξωτερική πρόσβαση.
Χρησιμοποιώντας τη διεπαφή HTTP του ClickHouse, οι ερευνητές ασφαλείας μπόρεσαν να χτυπήσουν ένα endpoint και να τρέξουν αυθαίρετα ερωτήματα SQL από το πρόγραμμα περιήγησης. Με την εντολή SHOW TABLES; έλαβαν μια λίστα με προσβάσιμα σύνολα δεδομένων.
Ένας από αυτούς τους πίνακες, το log_stream, λέγεται ότι περιείχε όλα τα είδη ευαίσθητων δεδομένων σε εκατομμύρια log entries.
“Η ταχεία υιοθέτηση υπηρεσιών τεχνητής νοημοσύνης χωρίς την αντίστοιχη ασφάλεια είναι εγγενώς επικίνδυνη”, ανέφερε ο Gal Nagli, ερευνητής ασφάλειας cloud στη Wiz.
“Ενώ μεγάλο μέρος της προσοχής γύρω από την ασφάλεια της τεχνητής νοημοσύνης εστιάζεται σε φουτουριστικές απειλές, οι πραγματικοί κίνδυνοι προέρχονται συχνά από βασικούς κινδύνους – όπως η τυχαία εξωτερική έκθεση των βάσεων δεδομένων. Η προστασία των δεδομένων των πελατών πρέπει να είναι η κορυφαία προτεραιότητα για τις ομάδες ασφαλείας και είναι σημαντικό για την ασφάλεια οι ομάδες να συνεργάζονται στενά με μηχανικούς τεχνητής νοημοσύνης για την προστασία των δεδομένων και την πρόληψη της έκθεσης”.
Σύμφωνα με την Wiz, η DeepSeek διόρθωσε αμέσως το πρόβλημα όταν ενημερώθηκε.
Ο Γιώργος ακόμα αναρωτιέται τι κάνει εδώ….
