Ανοιχτή Επιστολή για την απαγόρευση των Fable και Mythos της Anthropic

iGuRu.gr > Ανοιχτή Επιστολή για την απαγόρευση των Fable και Mythos της Anthropic

Μια ομάδα αποτελούμενη από δεκάδες ειδικούς στον κυβερνοχώρο, συμπεριλαμβανομένων αρκετών γνωστών βετεράνων του κλάδου, δημοσίευσε μια ανοιχτή επιστολή προς την κυβέρνηση των ΗΠΑ ζητώντας της να άρει την εντολή που απαγορεύει την χρήση για τα μοντέλα Fable και Mythos της Anthropic.

Σύμφωνα με την ανοιχτή επιστολή, “αυτή η ενέργεια έχει αφαιρέσει τα καλύτερα μοντέλα από τους υπερασπιστές [της κυβερνοασφάλειας]” οι οποίοι τώρα δεν μπορούν να τα χρησιμοποιήσουν για να βρουν τρωτά σημεία και να κάνουν το λογισμικό και τα προϊόντα τους πιο ασφαλή. “Το να αποσύρουμε τις καλύτερες δυνατότητες από τους υπερασπιστές χωρίς σοβαρό λόγο όταν οι αντίπαλοί μας προχωρούν ραγδαία είναι επικίνδυνο”, αναφέρει η επιστολή.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Η Anthropic κλείνει τα Claude Fable 5 και Mythos 5

Την Παρασκευή, η κυβέρνηση των ΗΠΑ διέταξε την Anthropic να περιορίσει την κυκλοφορία των Fable και Mythos, επικαλούμενη ανησυχίες για την εθνική ασφάλεια, χωρίς να εξηγήσει τους συγκεκριμένους λόγους πίσω από την εντολή, σύμφωνα με την Anthropic.

Σε απάντηση, η εταιρεία ανέστειλε την πρόσβαση στα μοντέλα σε όλους τους χρήστες παγκοσμίως. Μέχρι τη στιγμή που γράφονται αυτές οι γραμμές, η επιστολή υπογράφεται από 76 ειδικούς στον κυβερνοχώρο, συμπεριλαμβανομένων των Alex Stamos, πρώην επικεφαλής ασφαλείας του Facebook, Casey Ellis, ιδρυτή της πλατφόρμας bug bounty Bugcrowd, Jon Callas, διάσημος κρυπτογράφος και πρώην διευθυντή σχεδιασμού και αρχιτεκτονικής ασφαλείας της Apple, Paul Vixie, επιστήμονας υπολογιστών, Dino Dai Zovi, πρώην επικεφαλής εφαρμοσμένης μηχανικής ασφάλειας στην Block, Katie Moussouris, ιδρύτρια της Luta Security· και Rachel Tobac, διευθύνουσα σύμβουλος της εταιρείας εκπαίδευσης ευαισθητοποίησης για την ασφάλεια SocialProof Security.

Η Anthropic ανέφερε ότι η εντολή απαγόρευσης της κυκλοφορίας από τον Λευκό Οίκο μπορεί να βασίστηκε σε μια αναφορά ότι υπήρχε μια μέθοδος παράκαμψης – ή jailbreak – του Fable για να ξεκλειδωθούν οι ισχυρές δυνατότητές του σε επίπεδο Mythos.

Σύμφωνα με την Katie Moussouris, μία από τους υπογράφοντες της ανοιχτής επιστολής, η μέθοδος επιδείχθηκε από ερευνητές της Amazon σε μια εργασία που δεν είναι δημόσια. Η Moussouris αναφέρει σε μια ανάρτηση στο blog της ότι η εργασία αυτή δεν δείχνει στην πραγματικότητα ένα πραγματικό jailbreak. Οι ερευνητές απλώς ζήτησαν από την Fable να διορθώσει τον ανοιχτό κώδικα με δημόσιες και γνωστές ευπάθειες μαζί με “σκόπιμα φυτεμένες ευπάθειες”, αφού το μοντέλο αρχικά αρνήθηκε να “ελέγξει τον κώδικα για ζητήματα ασφαλείας”.

“Η συμπεριφορά που περιγράφεται στην εργασία δεν μπορεί να διορθωθεί ουσιαστικά και οποιαδήποτε προσπάθεια θα αποδυνάμωνε μόνο το μοντέλο άμυνας”, έγραψε η Moussouris. “Οι αμυνόμενοι πρέπει να είναι σε θέση να ζητούν από την Τεχνητή Νοημοσύνη να διορθώσει τα σφάλματα σε ένα αρχείο, να εξηγούν γιατί η διόρθωση έχει σημασία και να γράφουν δοκιμές που επιβεβαιώνουν ότι η ενημέρωση κώδικα λειτουργεί. Αυτό δεν είναι παράκαμψη jailbreak. Είναι το πιο πολύτιμο πράγμα που μπορεί να κάνει ένα μοντέλο Τεχνητής Νοημοσύνης για την αμυντική ασφάλεια: η εκτέλεση του loop εύρεσης, διόρθωσης και δοκιμής πρέπει να εκτελείται καθημερινά”.

Η κριτική της Moussouris επαναλαμβάνεται στην ανοιχτή επιστολή, η οποία ανέφερε επίσης ότι η ομάδα των ειδικών πιστεύει ότι οι δυνατότητες του μοντέλου στην εργασία της Amazon “μπορούν να αναπαραχθούν” στο GPT-5.5 της OpenAI, στο Claude Opus 4.8 και Sonnet της Anthropic, “ακόμα και σε κινεζικά μοντέλα όπως το Kimi 2.7”.