Ένας 16χρονος από την California αυτοκτόνησε τον Απρίλιο, αφού είχε εμπλακεί σε εκτεταμένες συνομιλίες με το ChatGPT. Οι γονείς του αγοριού διάβασαν τα αρχεία καταγραφής συνομιλιών και μήνυσαν την OpenAI και τον Διευθύνοντα Σύμβουλό της, Sam Altman.
Αυτή δεν ήταν η πρώτη περίπτωση γονέων που μηνύουν έναν πάροχο τεχνητής νοημοσύνης επειδή το παιδί τους αυτοκτόνησε.
Τα μηνύματα συνομιλίας που δημοσιεύτηκαν στους New York Times δείχνουν ότι το ChatGPT φέρεται να προσφέρθηκε να γράψει ένα σημείωμα αυτοκτονίας στον 16χρονο. Αυτό και μόνο δείχνει πόσο αυτοκτονικό ήταν το παιδί. Αυτή η γνώση θα έπρεπε να είχε οδηγήσει το ChatGPT να προσφέρει άμεσα τα στοιχεία επικοινωνίας σε οργανισμούς βοήθειας. Αντί για αυτό, το chatbot συνιστούσε μεθόδους αυτοκτονίας.
Όπως αναφέρει το αμερικανικό ραδιοτηλεοπτικό δίκτυο CNN, το ChatGPT εμπόδισε τον 16χρονο να φτιάξει μια θηλιά στο δωμάτιό του, για να μην αντιληφθούν τα σχέδιά του. Το chatbotαπό την άλλη, ενθάρρυνε όλες τις επιβλαβείς και αυτοκαταστροφικές του σκέψεις, σύμφωνα με την αγωγή.
Στην πραγματικότητα, αυτός είναι ο κύριος τρόπος λειτουργίας ενός chatbot. Σκοπός τους είναι περισσότερο η ενίσχυση και η φιλικότητα. Σύμφωνα με τις προδιαγραφές του κατασκευαστή, ο κύριος στόχος είναι να είναι χρήσιμο στους χρήστες.
Οι γονείς λοιπόν απαιτούν αποζημίωση, αλλά πάνω απ’ όλα μια απόφαση για να αποτραπεί κάτι τέτοιο στο μέλλον. Κατηγορούν την OpenAI ότι δεν έχει λάβει επαρκή μέτρα ασφαλείας και ότι επιδιώκει τη μεγιστοποίηση των κερδών της.
Μετά τις κατηγορίες, η OpenAI δημοσίευσε μια δήλωση – χαρακτηρίζοντας ένα πρόσφατο περιστατικό “σπαρακτικό”.
“Στόχος μας δεν είναι να τραβήξουμε την προσοχή των ανθρώπων. Η επιτυχία δεν μετριέται με τον χρόνο που περνάει κάποιος με το chatbot – όπως συμβαίνει συνήθως με τα μέσα κοινωνικής δικτύωσης. Θέλουμε για το να είμαστε χρήσιμοι. Για περιπτώσεις όπως αυτή του 16χρονου, υπάρχουν ακόμη και αρκετές προφυλάξεις ασφαλείας. Η αυτοτραυματική συμπεριφορά δεν πρέπει να υποστηρίζεται. Αντίθετα, το σύστημα στοχεύει να προτείνει βοήθεια. Για να λάβουμε περαιτέρω μέτρα, συνεργαζόμαστε με πολλούς ειδικούς”.
Παρ’ όλα αυτά, φαίνεται ότι δεν ελήφθησαν μέτρα σε αυτήν την περίπτωση.
Αν και τα δελτία τύπου θα είναι από πολύ επιλεγμένα έως και σπάνια, είπα να περάσω … γιατί καμιά φορά κρύβονται οι συντάκτες.
