Όπως αναφέρουν το Motherboard και το The Verge, ο YouTuber Yannic Kilcher δημιούργησε ένα AI language model που το εκπαίδευε χρησιμοποιώντας περιεχόμενο τριών ετών από τον πίνακα Politically Incorrect (/pol/) του 4chan, ένα μέρος διαβόητο για τον ρατσισμό και άλλες μορφές φανατισμού. 
Μετά την εφαρμογή του μοντέλου σε bots, ο Kilcher άφησε την τεχνητή νοημοσύνη χαλαρή στον ίδιο πίνακα (/pol/) του 4chan και χωρίς έκπληξη δημιουργήθηκε ένα απίστευτο κύμα μίσους.
Σε διάστημα 24 ωρών, τα bots έγραψαν 15.000 δημοσιεύσεις που συχνά περιλάμβαναν ή αλληλεπιδρούσαν με ρατσιστικό περιεχόμενο. Αντιπροσώπευαν περισσότερο από το 10 τοις εκατό των αναρτήσεων στο /pol/ εκείνη την ημέρα, όπως ισχυρίζεται ο Kilcher.
Με το ψευδώνυμο GPT-4chan (από το GPT-3 του OpenAI), το μοντέλο έμαθε όχι μόνο να συλλαμβάνει τις λέξεις που χρησιμοποιούνται στις αναρτήσεις του /pol/, αλλά και να προσθέτει έναν γενικό τόνο που σύμφωνα με τον Kilcher συνδύαζε “προσβλητικότητα, μηδενισμό, τρολάρισμα και βαθιά δυσπιστία”.
Ο δημιουργός του βίντεο φρόντισε να αποφύγει τις άμυνες του 4chan έναντι των proxies και των VPN. Κατάφερε να χρησιμοποιήσει ένα VPN για να φαίνεται ότι οι αναρτήσεις των bot προέρχονται από τις Σεϋχέλλες.
Η τεχνητή νοημοσύνη έκανε μερικά λάθη, όπως μερικές κενές δημοσιεύσεις, αλλά ήταν αρκετά πειστική τόσο που αρκετοί χρήστες χρειάστηκαν περίπου δύο ημέρες για να συνειδητοποιήσουν ότι κάτι δεν πήγαινε καλά.
Πολλά μέλη του φόρουμ παρατήρησαν μόνο ένα από τα ρομπότ, σύμφωνα με τον Kilcher, αλλά το μοντέλο δημιούργησε τόση επιφυλακτικότητα που οι άνθρωποι άρχισαν να κατηγορούν ο ένας τον άλλον ότι ήταν bot λίγες μέρες αφού ο Kilcher τα απενεργοποίησε.
“Είναι μια υπενθύμιση του ότι η εκπαιδευμένη τεχνητή νοημοσύνη είναι τόσο καλή όσο το υλικό από το οποίο μαθαίνει”, καταλήγει η δημοσίευση.
