Ένα chatbot τεχνητής νοημοσύνης της Meta, το οποίο είχε σχεδιαστεί για να ενισχύσει την ασφάλεια και την υποστήριξη χρηστών σε Facebook και Instagram, φέρεται να αξιοποιήθηκε από κακόβουλους χρήστες για την απόκτηση πρόσβασης σε λογαριασμούς υψηλού προφίλ. Το γεγονός επαναφέρει στο προσκήνιο τα ζητήματα ασφάλειας που συνοδεύουν τη ραγδαία ενσωμάτωση της τεχνητής νοημοσύνης σε κρίσιμες λειτουργίες των ψηφιακών πλατφορμών.
Το περιστατικό αναδεικνύει τις προκλήσεις που αντιμετωπίζουν οι οργανισμοί κατά την ανάπτυξη AI συστημάτων, ιδιαίτερα όταν αυτά αλληλεπιδρούν με ευαίσθητα δεδομένα και διαδικασίες ταυτοποίησης χρηστών.
Σε συνέχεια των εξελίξεων, παραθέτουμε το σχόλιο του Steve Giguere, Principal AI Security Advocate, της Check Point, σχετικά με τους κινδύνους, τις προκλήσεις και τις βέλτιστες πρακτικές ασφαλούς αξιοποίησης της τεχνητής νοημοσύνης.
Δήλωση του Steve Giguere, Principal AI Security Advocate στην Check Point:
“Αυτό το περιστατικό μοιάζει λιγότερο με μια κλασική επίθεση prompt injection ή “AI jailbreak” και περισσότερο με μια αστοχία στον τρόπο με τον οποίο εκχωρήθηκαν εμπιστοσύνη και δικαιώματα σε μια διαδικασία υποστήριξης που βασίζεται σε AI. Το βασικό ζήτημα δεν είναι απαραίτητα ότι το AI παρέκαμψε τις οδηγίες του ή χειραγωγήθηκε από ένα έξυπνο prompt. Αντίθετα, φαίνεται πως το AI είχε τη δυνατότητα να εκκινήσει ή να διευκολύνει ευαίσθητες ενέργειες ανάκτησης λογαριασμών χωρίς επαρκή ανεξάρτητη επαλήθευση. Με άλλα λόγια, η αδυναμία ασφάλειας ενδέχεται να βρίσκεται στην ίδια τη διαδικασία (workflow) και όχι στο μοντέλο. Αυτή η διάκριση είναι κρίσιμη, καθώς πολλές εταιρείες επικεντρώνονται στην προστασία από prompt injection, jailbreaks και άλλες επιθέσεις σε επίπεδο model. Αυτοί είναι σημαντικοί κίνδυνοι, ωστόσο ορισμένα από τα πιο σοβαρά περιστατικά σχετίζονται με το γεγονός ότι τα AI συστήματα έχουν πρόσβαση σε κρίσιμες ενέργειες χωρίς επαρκείς δικλίδες ασφαλείας, ανθρώπινη εποπτεία ή ελέγχους εξουσιοδότησης. Αυτό που καθιστά τέτοια περιστατικά ανησυχητικά είναι ότι η βασική αιτία μπορεί να μην είναι καν ένα jailbreak”.
“Το AI δεν χρειάζεται να παραβιαστεί, όταν του έχουν δοθεί εξουσίες που υπερβαίνουν τα υπάρχοντα μέτρα ασφάλειας. Καθώς οι οργανισμοί υιοθετούν ολοένα και περισσότερο agentic συστήματα, οι ομάδες ασφάλειας πρέπει να αξιολογούν όχι μόνο τι μπορεί να πει ένα AI, αλλά και τι μπορεί να κάνει. Η υπόθεση αυτή αναδεικνύει ένα κρίσιμο ζήτημα ασφάλειας: όχι απαραίτητα την παραβίαση του ίδιου του AI, αλλά τον τρόπο με τον οποίο ενσωματώνεται σε ευαίσθητες διαδικασίες. Το AI φαίνεται να μπορούσε να εκκινήσει ενέργειες ανάκτησης λογαριασμών χωρίς επαρκή έλεγχο ταυτότητας, γεγονός που υποδεικνύει αδυναμία στο workflow. Οι οργανισμοί οφείλουν να διασφαλίζουν ότι τα AI συστήματα δεν έχουν πρόσβαση σε κρίσιμες λειτουργίες χωρίς σαφείς δικλίδες ασφαλείας, ανθρώπινη εποπτεία και αυστηρούς ελέγχους εξουσιοδότησης.”
Αν και τα δελτία τύπου θα είναι από πολύ επιλεγμένα έως και σπάνια, είπα να περάσω … γιατί καμιά φορά κρύβονται οι συντάκτες.
