Η Cloudflare τροποποίησε το web application firewall της (WAF) για να προσθέσει προστασίες για εφαρμογές που χρησιμοποιούν large language models.
Η υπηρεσία, που ονομάζεται “Firewall for AI”, είναι διαθέσιμη στους εταιρικούς πελάτες του Application Security Advanced enterprise. Προς το παρόν συμπεριλαμβάνει δύο δυνατότητες: Advanced Rate Limiting, και Sensitive Data Detection.
Το Advanced Rate Limiting επιτρέπει στον πελάτη να δημιουργήσει μια πολιτική που ορίζει ένα μέγιστο ποσοστό αιτημάτων που εκτελούνται από μια μεμονωμένη διεύθυνση IP ή ένα κλειδί API κατά τη διάρκεια μιας περιόδου σύνδεσης. Κάτι τέτοιο βοηθά στην αποτροπή επιθέσεων κατανεμημένης άρνησης υπηρεσίας (DDoS) κατά την χρήση του μοντέλου ή άλλων καταστάσεων που θα κατακλύζουν τα LLM με αιτήματα και θα διαταράσσουν την ικανότητά του να επεξεργάζεται νόμιμα ερωτήματα.
Το δεύτερο χαρακτηριστικό, το Sensitive Data Detection, αποτρέπει τα LLM από τη διαρροή εμπιστευτικών δεδομένων σε απαντήσεις σε ερωτήματα. Επιτρέπει επίσης στους πελάτες να ορίζουν κανόνες WAF που σαρώνουν για οικονομικές πληροφορίες όπως αριθμούς πιστωτικών καρτών και μυστικά όπως κλειδιά API, για να διασφαλίσουν ότι αυτές οι ευαίσθητες λεπτομέρειες δεν καταλήγουν στις απαντήσεις ενός LLM.
Δυστυχώς, δεν υπάρχει ακόμη κάποιος κανόνας του τείχους προστασίας που να αποτρέπει τα φλύαρα μοντέλα να πετάνε μπαρούφες ή κακές και επινοημένες πληροφορίες.
Στο μέλλον, οι πελάτες θα μπορούν να “δημιουργούν τα δικά τους προσαρμοσμένα δακτυλικά αποτυπώματα (fingerprints)” και να προσαρμόζουν τις πληροφορίες που μπορούν ή δεν μπορούν να αποκαλύπτουν τα μοντέλα, σύμφωνα με τον Daniele Molteni, διευθυντή προϊόντων του ομίλου Cloudflare, ο οποίος ανακοίνωσε το Firewall για AI τη Δευτέρα.
