Ο Πάπας Λέων ΙΔ΄ στο πρώτο σημαντικό διδακτικό του έγγραφο, που δημοσιεύτηκε τη Δευτέρα, αναφέρει ότι η ανθρωπότητα πρέπει να “αφοπλίσει” την Τεχνητή Νοημοσύνη πριν τα πράγματα ξεφύγουν από τον έλεγχο.
Οι παρατηρήσεις προέρχονται από ένα κείμενο 82 σελίδων με τίτλο Magnifica Humanitas, την πρώτη εγκύκλιο της παποσύνης του, που δημοσιεύθηκε στις 25 Μαΐου. Μια εγκύκλιος είναι η επίσημη διδακτική επιστολή ενός πάπα προς την Καθολική Εκκλησία, στην οποία περιγράφονται οι προτεραιότητές του για τα 1,4 δισεκατομμύρια μέλη της Εκκλησίας. Για τον Λέοντα, η προτεραιότητα φαίνεται να είναι η Τεχνητή Νοημοσύνη.
Παραδέχεται μάλιστα ότι επέλεξε τη λέξη “αφοπλισμός” επειδή ήθελε κάτι αρκετά δυναμικό για να τραβήξει την προσοχή.
“Η λέξη είναι ισχυρή, το ξέρω, αλλά επιλέχθηκε σκόπιμα”, είπε.
Το πραγματικό μήνυμα δεν είναι να εγκαταλειφθεί εντελώς η τεχνολογία. Αντίθετα, θέλει να μην είναι αυτό που περιέγραψε σαν μια “ένοπλη” ανταγωνιστική νοοτροπία. Για τον σκοπό αυτό, ένα σημαντικό μέρος της εγκυκλίου επικεντρώνεται στην Τεχνητή Νοημοσύνη στον πόλεμο, όπου υποστηρίζει ότι ορισμένα αυτόνομα συστήματα όπλων ήδη ξεφεύγουν από τον ουσιαστικό ανθρώπινο έλεγχο. Αντί για αυτήν την κατεύθυνση, αναφέρει ότι η Τεχνητή Νοημοσύνη θα πρέπει να είναι φιλική προς τον άνθρωπο, προσβάσιμη και ανοιχτή σε δημόσιο διάλογο.
Ένα απόσπασμα της εγκυκλίου είναι σαν να απευθύνεται απευθείας στη Silicon Valley. Σε αυτό, ο Πάπας προειδοποιεί ότι ο πραγματικός έλεγχος των ψηφιακών συστημάτων δεν ανήκει πλέον στις κυβερνήσεις αλλά σε λίγες εταιρείες. Ανέφερε ότι όταν η εξουσία συγκεντρώνεται σε τόσο λίγα άτομα, τείνει να γίνεται αδιαφανής και να αποφεύγει την δημόσια εποπτεία. Αυτό, με τη σειρά του, ανοίγει την πόρτα σε νέες εξαρτήσεις και ανισότητες.
Η εγκύκλιος ανακοινώθηκε στην Αίθουσα Συνόδου του Βατικανού, με τον συνιδρυτή της Anthropic, Chris Olah, να κάθεται δίπλα στον Πάπα. Ο Olah επανέλαβε τις ανησυχίες του Πάπα, λέγοντας ότι οι ίδιοι οι προγραμματιστές συχνά έλκονται από τη φιλοδοξία, τον ανταγωνισμό και την οικονομική πίεση.
“Χρειαζόμαστε ενημερωμένους κριτικούς που θα λένε στα εργαστήρια πότε αποτυγχάνουν”, είπε ο Chris Olah. “Χρειαζόμαστε ηθικές φωνές που δεν μπορούν να κάμψουν τα κίνητρα”.
Ο Olah επισήμανε επίσης κάτι για το οποίο πολλοί ερευνητές ανησυχούν. Περιέγραψε ορισμένες συμπεριφορές μέσα στα σύγχρονα μοντέλα Τεχνητής Νοημοσύνης ως “μυστηριώδεις, ακόμη και ανησυχητικές”, προσθέτοντας ότι ακόμη και οι άνθρωποι που τα κατασκευάζουν δεν κατανοούν πλήρως τι συμβαίνει στο εσωτερικό τους.
Αν και τα δελτία τύπου θα είναι από πολύ επιλεγμένα έως και σπάνια, είπα να περάσω … γιατί καμιά φορά κρύβονται οι συντάκτες.
