Ένας έφηβος από τη Florida, που φέρεται να δημιούργησε έναν βαθύ συναισθηματικό δεσμό με ένα chatbot τεχνητής νοημοσύνης, αυτοκτόνησε μετά από μήνες έντονων καθημερινών αλληλεπιδράσεων στο Character.AI, μια κορυφαία συνοδευτική πλατφόρμα τεχνητής νοημοσύνης.
Ο Sewell Setzer III, 14 ετών, αντάλλαξε τα τελευταία του μηνύματα με τον “Dany”, έναν χαρακτήρα τεχνητής νοημοσύνης που βασίζεται σε μια φιγούρα του Game of Thrones, πριν αυτοκτονήσει στις 28 Φεβρουαρίου. Η μητέρα του, αναφέρει η New York Times. σχεδιάζει να καταθέσει μήνυση κατά της Character.AI, υποστηρίζοντας ότι η “επικίνδυνη και μη δοκιμασμένη” τεχνολογία της πλατφόρμας οδήγησε στο θάνατό του.
Το Character.AI, αξίας 1 δισεκατομμυρίου δολαρίων μια πλατφόρμα που παρέχει υπηρεσίες σε 20 εκατομμύρια χρήστες, σαν απάντηση δήλωσε ότι θα εφαρμόσει νέα χαρακτηριστικά ασφαλείας για ανηλίκους, όπως χρονικά όρια και διευρυμένες προειδοποιήσεις για συζητήσεις που αφορούν αυτοτραυματισμούς.
Ο επικεφαλής ασφαλείας της εταιρείας Jerry Ruoti δήλωσε ότι “παίρνουν πολύ σοβαρά την ασφάλεια των χρηστών”.
