Το ChatGPT κατηγορείται από μια ομάδα για τα δικαιώματα της ιδιωτικής ζωής ότι κατασκεύασε ένα ολόκληρο ποινικό ιστορικό για ένα Νορβηγό, ισχυριζόμενο ψευδώς ότι δολοφόνησε δύο από τα παιδιά του και προσπάθησε να σκοτώσει ένα τρίτο.
Τώρα, η OpenAI αντιμετωπίζει σοβαρές αντιγράσεις για την προστασία του απορρήτου στην Ευρώπη και οι ρυθμιστικές αρχές ίσως χρειαστεί να ρίξουν μια προσεκτική ματιά στο ChatGPT.
Η κατηγορία που αναφέραμε παραπάνω δεν αφορά το να κάνεις λάθος τα γενέθλια κάποιου. Εδώ ένα chatbot “ξεστομίζει” ένας εντελώς ψευδή και εξαιρετικά επιζήμιο ισχυρισμό, βάζοντας ένα αθώο άτομο στο επίκεντρο ενός φρικτού εγκλήματος που δεν συνέβη ποτέ.
Οι ψευδαισθήσεις (hallucinations) δεν είναι κάτι καινούργιο για τα LLM που τροφοδοτούν chatbots όπως το ChatGPT, και σίγουρα δεν είναι η πρώτη φορά που ακούμε για μια τέτοια περίπτωση. Θυμάστε το περιστατικό με την κόλλα που συνέβη πέρυσι, όταν η τεχνητή νοημοσύνη της Google ισχυρίστηκε ότι η τοποθέτηση κόλλας στην πίτσα θα βοηθήσει το τυρί να κολλήσει καλύτερα; Ήταν ανόητο, σίγουρα, αλλά δεν κατηγορούσε κάποιον για φόνο.
Η ομάδα προστασίας προσωπικών δεδομένων Noyb (None of Your Business) υποστηρίζει την καταγγελία, αναφέροντας ότι η OpenAI παραβιάζει τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) της ΕΕ.
Ο νόμος καθιστά σαφές ότι εάν διαχειρίζεστε προσωπικά δεδομένα, θα πρέπει να είναι ακριβή. Εάν δεν είναι, οι άνθρωποι έχουν το δικαίωμα να τα διορθώσουν. Η απάντηση της OpenAI είναι να μπλοκάρει ερωτήματα σχετικά με συγκεκριμένα άτομα αντί να προσφέρει έναν τρόπο επιδιόρθωσης της παραπληροφόρησης.
Για την ομάδα Noyb αυτό δεν είναι αρκετό. Το επιχείρημά τους είναι ότι η OpenAI δεν μπορεί απλώς δείχνει μια μικρή δήλωση αποποίησης ευθύνης στο κάτω μέρος της οθόνης λέγοντας: “Το ChatGPT μπορεί να κάνει λάθη” και να πιστεύει ότι αυτό τους βγάζει από το κάδρο. Σύμφωνα με τον Joakim Söderberg, δικηγόρο προστασίας δεδομένων στη Noyb, ο νόμος δεν λειτουργεί έτσι.
Ο GDPR είναι ξεκάθαρος. Τα προσωπικά δεδομένα πρέπει να είναι ακριβή. Και αν δεν είναι, οι χρήστες έχουν το δικαίωμα να τα αλλάξουν για να αντικατοπτρίζουν την αλήθεια. Δεν αρκεί η εμφάνιση μιας μικρής δήλωσης αποποίησης ευθύνης ότι το chatbot μπορεί να κάνει λάθη. Δεν μπορεί κανείς να διαδίδει ψευδείς πληροφορίες με την προσθήκη μιας μικρής δήλωσης αποποίησης ευθύνης λέγοντας ότι όλα όσα είπα μπορεί απλώς να μην είναι αλήθεια.
