Η OpenAI έχει αναπτύξει τεχνολογία για την αξιόπιστη ανίχνευση κειμένου που έχει δημιουργηθεί από AI, σύμφωνα με εσωτερικές πηγές και έγγραφα που αναφέρει η Wall Street Journal.
Ωστόσο, η εταιρεία είναι απρόθυμη να την κυκλοφορήσει, πιθανότατα λόγω ανησυχιών για το δικό της επιχειρηματικό μοντέλο.
Το AI text detector project είναι έτοιμο για χρήση εδώ και ένα χρόνο, αναφέρει η WSJ. Σύμφωνα με πληροφορίες, η κυκλοφορία του είναι “απλώς θέμα πατήματος ενός κουμπιού”, αλλά η OpenAI δεν το κάνει για πολλούς και διάφορους λόγους.
Μια εσωτερική έρευνα διαπίστωσε ότι σχεδόν το ένα τρίτο των χρηστών ChatGPT θα αποσυρθούν μετά την κυκλοφορία ενός ανιχνευτή κειμένου. Ωστόσο, μια παγκόσμια έρευνα που ανατέθηκε από την OpenAI έδειξε ότι 4 προς 1 ο κόσμος θέλει μια τεχνολογία για τον εντοπισμό και τη διαφάνεια της τεχνητής νοημοσύνης.
Ο συγκεκριμένος ανιχνευτής παρέχει μια αξιολόγηση του πόσο πιθανό είναι όλο ή μέρος ενός εγγράφου να έχει γραφτεί από το ChatGPT. Η μέθοδος μάλιστα λέγεται ότι είναι 99,9% αποτελεσματική.
Βασίζεται σε υδατογραφήματα που είναι αόρατα στον άνθρωπο, αλλά μπορούν να ανιχνευθούν από την τεχνολογία OpenAI χωρίς να επηρεάζεται η ποιότητα του κειμένου. Ωστόσο, δεν είναι σαφές πόσο αξιόπιστη θα είναι η μέθοδος μετά από εκτεταμένη επεξεργασία, μετάφραση ή προσθήκη/αφαίρεση emoji.
Επιπλέον, η OpenAI μπορεί να εφαρμόσει τη μέθοδο μόνο στο ChatGPT δηλαδή στα δικά της μοντέλα, οδηγώντας πιθανώς τους χρήστες σε μοντέλα άλλων γλωσσών που δεν χρησιμοποιούν τεχνολογία εντοπισμού. Επομένως, θα μπορούσε να βλάψει την OpenAI χωρίς να επιλύσει ουσιαστικά το πρόβλημα διαφάνειας.
Το προσωπικό της OpenAI ζήτησε να διαθέσουν τον ανιχνευτή απευθείας σε εκπαιδευτικούς ή σε εξωτερικές εταιρείες που βοηθούν σχολεία ή επιχειρήσεις να εντοπίζουν έργα που έχουν δημιουργηθεί με AI και λογοκλοπή.
Να αναφέρουμε ότι η OpenAI είχε κυκλοφορήσει έναν ανιχνευτή κειμένου AI, αλλά ήταν αναξιόπιστος. Η εταιρεία τον απέσυρε το καλοκαίρι του 2023.
