Στις 15 Νοεμβρίου η Meta παρουσίασε ένα νέο μοντέλο γλώσσας που ονομάζεται Galactica, σχεδιασμένο για να βοηθά τους επιστήμονες. Όμως αντί να το καλωσορίσει η επιστημονική κοινότητα όπως ήλπιζε η Meta, το Galactica project πέθανε μετά από τρεις ημέρες έντονης κριτικής.
Χθες η εταιρεία κατέβασε το δημόσιο demo που προωθούσε σε όλους για να δοκιμάσουν την γλώσσα.
Το λάθος της Meta – και η ύβρις της – δείχνουν για άλλη μια φορά ότι οι μεγάλες εταιρείες τεχνολογίας έχουν ένα τυφλό σημείο σχετικά με τους σοβαρούς περιορισμούς των μεγάλων γλωσσικών μοντέλων. Υπάρχει ένας μεγάλος όγκος ερευνών που υπογραμμίζει τα ελαττώματα αυτής της τεχνολογίας, όπως τις τάσεις που έχει να αναπαράγει προκαταλήψεις και να εμφανίζει τα fake news σαν πραγματικά γεγονότα.
Το Galactica είναι ένα μεγάλο γλωσσικό μοντέλο για την επιστήμη, εκπαιδευμένο σε 48 εκατομμύρια παραδείγματα επιστημονικών άρθρων, ιστοσελίδων, σχολικών βιβλίων, σημειώσεων διαλέξεων και εγκυκλοπαιδειών.
Η Meta προώθησε το μοντέλο της σε ερευνητές και φοιτητές. Σύμφωνα με τα λόγια της εταιρείας, η Galactica “μπορεί να συνοψίζει ακαδημαϊκές εργασίες, να λύνει μαθηματικά προβλήματα, να δημιουργεί άρθρα στο Wiki, να γράφει επιστημονικό κώδικα και πολλά άλλα”.
Absolutely.
— Grady Booch (@Grady_Booch) November 17, 2022
Galactica is little more than statistical nonsense at scale.
Amusing. Dangerous. And IMHO unethical. https://t.co/15DAFJCzIb
Όμως ο θησαυρός αποδείχθηκε άνθρακας. Όπως όλα τα γλωσσικά μοντέλα, το Galactica είναι ένα ανόητο ρομπότ που δεν μπορεί να ξεχωρίσει τα γεγονότα από τη φαντασία. Μέσα σε λίγες ώρες, οι επιστήμονες άρχισαν να ανακαλύπτουν τα μεροληπτικά και λανθασμένα αποτελέσματά του.
