Το Κόκκινο Τηλέφωνο του 21ου αιώνα: Όταν η Υπερνοημοσύνη επαναστατήσει, θα τους πάρουμε τηλέφωνο

iGuRu.gr > Το Κόκκινο Τηλέφωνο του 21ου αιώνα: Όταν η Υπερνοημοσύνη επαναστατήσει, θα τους πάρουμε τηλέφωνο

Οι προσδοκίες για την τεχνητή νοημοσύνη είναι υψηλές, όπως και οι φόβοι. Οι επικριτές και οι ηγέτες της βιομηχανίας, όχι μόνο από τη Silicon Valley, προειδοποιούν για υπαρξιακούς κινδύνους, ή ακόμα και για εξαφάνιση της ανθρωπότητας. Οι αισιόδοξοι αντιτείνουν ότι η τεχνολογική πρόοδος δεν μπορεί να σταματήσει από κανέναν νόμο στον κόσμο. Επομένως, προκύπτει το ερώτημα εάν είναι τουλάχιστον δυνατό να δημιουργηθούν αποτελεσματικά προστατευτικά κιγκλιδώματα. Οι ηγετικές δυνάμεις, οι ΗΠΑ και η Κίνα, φαίνεται να θέλουν να κάνουν βήματα προς αυτή την κατεύθυνση, χωρίς να μπορεί να το εγγυηθεί κανείς. red telephone

Κατά τη διάρκεια της επίσκεψης του Κινέζου Προέδρου Xi Jinping στον Πρόεδρο των ΗΠΑ Donald Trump στην Washington, και οι δύο πολιτικοί επικεντρώθηκαν την Παρασκευή στους κινδύνους και τις ευκαιρίες της νέας τεχνολογίας. Όπως ανακοίνωσε ο Λευκός Οίκος, και οι δύο πλευρές συμφώνησαν να δημιουργήσουν ένα διμερές κανάλι επικοινωνίας για περιστατικά Τεχνητής Νοημοσύνης. Συμφώνησαν επίσης να δημιουργήσουν ένα διαειρηνικό φόρουμ διαλόγου για την “Υπερνοημοσύνη”, το οποίο πρόκειται να συνεδριάσει για πρώτη φορά το αργότερο μέχρι τον Νοέμβριο.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Η επιλογή των λέξεων είναι αξιοσημείωτη: κατόπιν αιτήματος του Donald Trump, οι ηγέτες συμφώνησαν, σύμφωνα με την έδρα της κυβέρνησης στην Washington, να μιλούν για Υπερνοημοσύνη (ΥΝ) [Superintelligence (SI)] αντί για Τεχνητή Νοημοσύνη στο μέλλον. Ο Trump, ο οποίος συνήθως παρουσιάζεται καμιά φορά και σαν σκεπτικιστής της ρύθμισης, ήθελε να δει τον ευφημισμό να εισάγεται στη Γενική Συζήτηση του ΟΗΕ, καθώς βλέπει τη νέα ονομασία πιο κατάλληλη περιγραφή των δυνατοτήτων της τεχνολογίας.

Ο περιορισμός της Τεχνητής Νοημοσύνης είναι απίθανος βέβαια, ωστόσο η συμφωνία δείχνει τουλάχιστον μια κοινή ανάγκη για έλεγχο.

Το συμφωνημένο κανάλι επικοινωνίας θυμίζει το Κόκκινο Τηλέφωνο από την εποχή του Ψυχρού Πολέμου, το οποίο προοριζόταν σαν μια άμεση γραμμή επικοινωνίας μεταξύ Washington και Μόσχας για την αποτροπή τυχαίας πυρηνικής κλιμάκωσης. Πρόσφατες αναφορές ότι μια δυσλειτουργία της Τεχνητής Νοημοσύνης στις ΗΠΑ σχεδόν πυροδότησε μια άμεση στρατιωτική σύγκρουση με την Κίνα υπογραμμίζουν γιατί αυτό το βήμα είναι απαραίτητο. Σε αυτό το πλαίσιο, μια τηλεφωνική γραμμή κρίσης φαίνεται απαραίτητη για την παρέμβαση σε περίπτωση έκτακτης ανάγκης πριν από τη λήψη αποφάσεων από τα αυτόνομα συστήματα.

Η επείγουσα ανάγκη αξιόπιστων συμφωνιών καταδεικνύεται από πρόσφατα περιστατικά όπως η επίθεση στο Hugging Face, κατά την οποία τα συστήματα Τεχνητής Νοημοσύνης βγήκαν αυτόνομα από τα περιβάλλοντα δοκιμών τους. Η OpenAI ενημέρωσε πρόσφατα πολλές εταιρείες, αρχές και πανεπιστήμια ότι οι ιστότοποί τους ενδέχεται να έχουν επηρεαστεί από μοντέλα Τεχνητής Νοημοσύνης που είναι εκτός ελέγχου. Τέτοια γεγονότα καθιστούν σαφές ότι εκτός από την τεχνολογική τεχνογνωσία, απαιτείται οικονομική και πολιτική ισχύς για να μην χάσουμε εντελώς έλεγχο.