Το Nightshade είναι ένα νέο, δωρεάν εργαλείο λογισμικού που επιτρέπει στους καλλιτέχνες να «δηλητηριάζουν» τα μοντέλα τεχνητής νοημοσύνης που θέλουν να εκπαιδευτούν στα έργα τους.
Το Nightshade αναπτύχθηκε υπό τον καθηγητή Ben Zhao και από επιστήμονες υπολογιστών στο Πανεπιστήμιο του Σικάγο.
Χρησιμοποιεί το δημοφιλές PyTorch που είναι ένα λογισμικό μηχανικής εκμάθησης, ανοιχτού κώδικα, για να προσδιορίσει τι υπάρχει σε μια δεδομένη εικόνα και, στη συνέχεια, αλλάζει σε επίπεδο pixel διακριτικά την εικόνα, ώστε άλλα προγράμματα τεχνητής νοημοσύνης να δουν κάτι εντελώς διαφορετικό από αυτό που υπάρχει στην πραγματικότητα.
Ένα μοντέλο τεχνητής νοημοσύνης που θα κατέληγε να εκπαιδεύεται από πολλές αλλοιωμένες εικόνες με το Nightshade, πιθανότατα θα κατηγοριοποιούσε εσφαλμένα τα αντικείμενα για όλους τους χρήστες αυτού του μοντέλου, ακόμη και σε εικόνες που δεν είχαν αλλοιωθεί με το Nightshade.
Όπως εξηγεί η ομάδα πίσω από το Nightshade, τα ανθρώπινα μάτια μπορεί να αντιληφθούν μια αλλοιωμένη εικόνα μιας αγελάδας σε ένα καταπράσινο χωράφι, η οποία είναι σε μεγάλο βαθμό αμετάβλητη, αλλά ένα μοντέλο τεχνητής νοημοσύνης μπορεί να δει ένα μεγάλο δερμάτινο πορτοφόλι να βρίσκεται στο γρασίδι!.
Ένα μοντέλο τεχνητής νοημοσύνης εκπαιδευμένο σε “πειραγμένες” εικόνες μιας αγελάδας ώστε να μοιάζει με πορτοφόλι, θα άρχιζε να δημιουργεί πορτοφόλια αντί για αγελάδες, ακόμη και όταν ο χρήστης ζήτησε από το μοντέλο να φτιάξει μια φωτογραφία μιας αγελάδας.
Οι καλλιτέχνες που θέλουν να χρησιμοποιήσουν το Nightshade πρέπει να έχουν Mac με τσιπ Apple μέσα (M1, M2 ή M3) ή υπολογιστή με Windows 10 ή 11. Μπορείτε να κατεβάσετε το εργαλείο και για τα δύο λειτουργικά συστήματα από εδώ.
Ενώ ορισμένοι καλλιτέχνες έσπευσαν να κατεβάσουν το Nightshade v1.0 και ήδη το κάνουν χρήση, ορισμένοι χρήστες του διαδικτύου έχουν παραπονεθεί για αυτό, υποδηλώνοντας ότι ισοδυναμεί με κυβερνοεπίθεση σε μοντέλα και εταιρείες τεχνητής νοημοσύνης.
Η ομάδα Glaze/Nightshade, από την πλευρά της, αρνείται ότι επιδιώκει καταστροφικούς σκοπούς, και αναφέρει ότι επιδιώκει οι προγραμματιστές μοντέλων AI να πρέπει να πληρώνουν τους καλλιτέχνες για να εκπαιδεύονται σε δεδομένα από αυτούς.
Και ο πόλεμος μόλις άρχισε!
