Η σχολή δημόσιας πολιτικής του Harvard δημοσιεύει μια Ανασκόπηση Παραπληροφόρησης για επιστημονικά άρθρα που έχουν αξιολογηθεί από ομοτίμους και υπόσχεται “αξιόπιστη, αμερόληπτη έρευνα σχετικά με την επικράτηση, τη διάδοση και τον αντίκτυπο της παραπληροφόρησης παγκοσμίως”.
Αυτή την εβδομάδα ανέφερε ότι “Τα ακαδημαϊκά περιοδικά, τα αρχεία και τα αποθετήρια βλέπουν έναν αυξανόμενο αριθμό αμφισβητήσιμων ερευνητικών άρθρων που παράγονται σαφώς χρησιμοποιώντας τεχνητή νοημοσύνη“.
Συχνά δημιουργούνται με ευρέως διαθέσιμες εφαρμογές τεχνητής νοημοσύνης, πιθανότατα με το ChatGPT και μιμούνται την επιστημονική γραφή. Το Google Scholar εντοπίζει εύκολα και απαριθμεί αυτές τις αμφισβητήσιμες εργασίες. Η ανάλυση των αμφισβητήσιμων επιστημονικών εργασιών που έχουν κατασκευαστεί με GPT και βρέθηκαν στο Google Scholar δείχνει ότι πολλές αφορούν συχνά αμφιλεγόμενα θέματα που είναι επιρρεπή στην παραπληροφόρηση: το περιβάλλον, την υγεία και την πληροφορική.
Η ενισχυμένη δυνατότητα για κακόβουλη χειραγώγηση των τεκμηρίων της κοινωνίας, ιδιαίτερα σε πολιτικά διχαστικούς τομείς, είναι μια αυξανόμενη ανησυχία… Η αφθονία των κατασκευασμένων “μελετών” που εισχωρούν σε όλους τους τομείς της ερευνητικής υποδομής απειλεί να κατακλύσει το επιστημονικό σύστημα επικοινωνίας και θέτει σε κίνδυνο την ακεραιότητα του επιστημονικού αρχείου.
Ένας δεύτερος κίνδυνος έγκειται στην αυξημένη πιθανότητα ότι πειστικό περιεχόμενο επιστημονικής εμφάνισης δημιουργήθηκε στην πραγματικότητα με δόλο με εργαλεία τεχνητής νοημοσύνης και έχει βελτιστοποιηθεί ώστε να ανακτάται από δημοσίως διαθέσιμες ακαδημαϊκές μηχανές αναζήτησης, ιδιαίτερα το Google Scholar. Όσο μικρή κι αν είναι αυτή η πιθανότητα η επίγνωσή της μπορεί να υπονομεύσει τη βάση της εμπιστοσύνης στην επιστημονική γνώση και εγκυμονεί σοβαρούς κοινωνικούς κινδύνους.
“Η ανάλυσή μας δείχνει ότι αμφισβητήσιμα και δυνητικά παραπλανητικά έγγραφα κατασκευασμένα από GPT διαπερνούν την ερευνητική υποδομή και είναι πιθανό να γίνουν ένα ευρέως διαδεδομένο φαινόμενο…” επισημαίνει το άρθρο.
“Η κεντρική θέση του Google Scholar στη δημόσια προσβάσιμη επιστημονική υποδομή, καθώς και η έλλειψη προτύπων, διαφάνειας και λογοδοσίας γισ τα κριτήρια ένταξης, έχει δυνητικά σοβαρές επιπτώσεις στην εμπιστοσύνη του κοινού στην επιστήμη. Αυτό είναι πιθανό να επιδεινώσει την ήδη γνωστή δυνατότητα εκμετάλλευσης του Google Scholar για παραβίαση στοιχείων…”
https://doi.org/10.7910/DVN/WUVD8X
