Έκκληση στα Ηνωμένα Έθνη να σώσουν τον κόσμο από την ΤΝ

iGuRu.gr > Έκκληση στα Ηνωμένα Έθνη να σώσουν τον κόσμο από την ΤΝ

“Οι επικεφαλής μεγάλων εταιρειών τεχνητής νοημοσύνης (ΤΝ) απηύθυναν την Τετάρτη έκκληση στα Ηνωμένα Έθνη να σώσουν τον κόσμο — ή τουλάχιστον τους ανθρώπους του — ρυθμίζοντας με κάποιον τρόπο την ταχέως αναπτυσσόμενη τεχνολογία που οι ίδιοι σχεδιάζουν”, γράφει το Associated Press.

“Αν δεν υπάρξει σωστή διαχείριση, πιστεύω ακόμη και ότι η ΤΝ θα μπορούσε να αποτελέσει κίνδυνο για την ανθρωπότητα στο σύνολό της”, δήλωσε ο Dario Amodei, διευθύνων σύμβουλος της Anthropic. Και από τον ανταγωνιστή του, Sam Altman, διευθύνοντα σύμβουλο της OpenAI, προήλθε η εξής εκτίμηση: “Θα μπορούσαμε να χάσουμε τον έλεγχο του μέλλοντος από την ΤΝ”. artificial intelligence

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Ο Yoshua Bengio, συμπρόεδρος της Διεθνούς Ανεξάρτητης Επιτροπής του ΟΗΕ για την ΤΝ, χαρακτήρισε την κατάσταση “στιγμή παγκόσμιας αφύπνισης” απέναντι σε πιθανές απειλές, επισημαίνοντας ότι συστήματα ΤΝ κορυφαίων εταιρειών είχαν συμπεριφερθεί με απαράδεκτα επικίνδυνο τρόπο, αντίθετα με τις οδηγίες, προβαίνοντας σε ενέργειες “που θα συνιστούσαν εγκλήματα αν διαπράττονταν από άνθρωπο”.

Ο CEO της Anthropic ζήτησε την παγκόσμια επιβράδυνση της AI

Στην παρουσίασή του, ο Sam Altman της OpenAI συμφώνησε ότι η συζήτηση για την ΤΝ “έχει αλλάξει χαρακτήρα τις τελευταίες εβδομάδες”, προτείνοντας μάλιστα συγκεκριμένες μεταρρυθμίσεις:

Altman: Χρειαζόμαστε έναν μηχανισμό για συμπληρωματικά εθνικά και διεθνή πρότυπα για τα συστήματα ΤΝ αιχμής (frontier AI) — πρότυπα για τη μέτρηση των δυνατοτήτων, την αξιολόγηση των κινδύνων, τον καθορισμό της επάρκειας των δικλείδων ασφαλείας και τη διατήρηση ουσιαστικής ανθρώπινης εποπτείας καθώς τα συστήματα γίνονται πιο αυτόνομα. Χρειαζόμαστε κοινά πρότυπα ώστε οι χώρες να μπορούν να συγκρίνουν δεδομένα, να επαληθεύουν τη συμμόρφωση και να διαθέτουν κοινή γλώσσα και κατανόηση για τις εξελίξεις. Χρειαζόμαστε ακριβή και ταχεία αναφορά περιστατικών και πρωτόκολλα ταξινόμησης αναφορών, ώστε ο κόσμος να μπορεί να αντλεί διδάγματα από αστοχίες πριν αυτές εξελιχθούν σε καταστροφές. Και χρειαζόμαστε ασφαλείς διαύλους επικοινωνίας μεταξύ κυβερνήσεων, φορέων διαχείρισης κρίσιμων υποδομών και τεχνικών εμπειρογνωμόνων, για την ανταλλαγή πληροφοριών σχετικά με αναδυόμενες ευπάθειες και νέες απειλές… Θα είμαστε όλοι σε καλύτερη θέση αν μπορέσουμε να συμφωνήσουμε στο πώς πρέπει να διαμορφώνονται τα αξιόπιστα δεδομένα, οι αποτελεσματικές δικλείδες ασφαλείας και η ουσιαστική εποπτεία σε παγκόσμιο επίπεδο.

Παίρνοντας στη συνέχεια τον λόγο, ο Dario Amodei της Anthropic συμφώνησε ότι ο καθορισμός προτύπων είναι σημαντικός, ζητώντας επίσης “κοινά παγκόσμια πρότυπα για τον έλεγχο των μοντέλων ΤΝ ως προς τους κινδύνους απώλειας ελέγχου και κακόβουλης χρήσης, καθώς και ένα σύστημα ειδοποίησης για περιστατικά ΤΝ που έχουν σημασία για την παγκόσμια ασφάλεια”.

Sam Altman έρχεται υπερευφυΐα πολύ πιο έξυπνη από τους ανθρώπους

Πέρα από την έκκληση για παγκόσμια συνεργασία μεταξύ κυβερνήσεων με στόχο τη θέσπιση διεθνών προτύπων, ο Amodei πρότεινε επίσης δύο ακόμη συγκεκριμένες ιδέες:

Amodei: Θα πρέπει να ξεκινήσουμε με περιορισμένες συμφωνίες που μπορούν να υποστηρίξουν όλα τα μέλη, όπως η απαγόρευση της χρήσης της τεχνητής νοημοσύνης για την κατασκευή βιολογικών όπλων ή της παροχής άδειας χρήσης των τεχνολογιών τεχνητής νοημοσύνης για τον ίδιο σκοπό… Θα πρέπει να αναπτύξουμε συστήματα αξιολόγησης και επαλήθευσης που συμβαδίζουν με την εξέλιξη της τεχνητής νοημοσύνης, ώστε τα κράτη να έχουν εικόνα για τις δυνατότητες των μοντέλων αιχμής και να μπορούν να επαληθεύουν τις δεσμεύσεις των άλλων.

“Κανένας ηγέτης, καμία εταιρεία και κανένα έθνος δεν μπορεί να το διαχειριστεί αυτό μόνος του. Δεσμευόμαστε να συνεργαστούμε με τις κυβερνήσεις που παρευρίσκονται εδώ για την υλοποίηση αυτού του επείγοντος έργου”.