Η Anthropic προτρέπει τα κορυφαία εργαστήρια Τεχνητής Νοημοσύνης να εξετάσουν το ενδεχόμενο επιβράδυνσης της ανάπτυξης, προειδοποιώντας ότι τα πρωτοποριακά μοντέλα προχωρούν αρκετά γρήγορα ώστε σύντομα να μπορούν να βελτιώνονται μόνα τους χωρίς άμεση ανθρώπινη παρέμβαση.
Η εταιρεία αναφέρει ότι η παγκόσμια δυνατότητα παύσης ή επιβράδυνσης της ανάπτυξης της Τεχνητής Νοημοσύνης “πιθανότατα θα ήταν κάτι καλό”, επικαλούμενη εσωτερικά δεδομένα σχετικά με την επιτάχυνση των δυνατοτήτων των μοντέλων.
Χρησιμοποιώντας δημόσια benchmarks και μη αναφερόμενα δεδομένα από την Anthropic, το Anthropic Institute δείχνει ότι η Τεχνητή Νοημοσύνη ήδη επιταχύνει την ανάπτυξη συστημάτων Τεχνητής Νοημοσύνης. Ένα παράδειγμα: σήμερα, οι μηχανικοί της Anthropic κατά μέσο όρο αποστέλλουν 8 φορές περισσότερο κώδικα ανά τρίμηνο από ό,τι από το 2021-2025.
Οι τεχνικές τάσεις που συζητούνται σε μια δημοσίευση της Anthropic δείχνουν ότι τα συστήματα Τεχνητής Νοημοσύνης θα γίνουν πολύ πιο ικανά τα επόμενα χρόνια. Αυτό θα έχει τεράστιες επιπτώσεις. Η Τεχνητή Νοημοσύνη που μπορεί να κατασκευαστεί μόνη της θα ήταν μια σημαντική εξέλιξη στην ιστορία της τεχνολογίας – μια εξέλιξη που θα μπορούσε να φέρει τεράστια ωφέλη στον κόσμο στην επιστήμη, την υγειονομική περίθαλψη και πέρα από αυτήν. Όμως η πλήρης αναδρομική αυτοβελτίωση θα μπορούσε επίσης να αυξήσει τους κινδύνους απώλειας του ελέγχου των ανθρώπων επί των συστημάτων της Τεχνητής Νοημοσύνης. Αν τα συστήματα γίνουν ικανά να δημιουργήσουν πλήρως δικούς τους διαδόχους, οι τρόποι με τους οποίους τα ασφαλίζουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους θα αλλάξει αφού δεν θα το σχεδιάσουμε εμείς.
Αν ήταν δυνατόν να επιβραδύνουμε την ανάπτυξη αυτής της τεχνολογίας για να έχουμε περισσότερο χρόνο να αντιμετωπίσουμε τις τεράστιες επιπτώσεις της, πιστεύουμε ότι αυτό πιθανότατα θα ήταν καλό. Αλλά αν μια επιβράδυνση απλώς επιτρέψει στους λιγότερο προσεκτικούς παράγοντες να προλάβουν την τεχνολογική πρόοδο, θα μπορούσε να μας αφήσει όλους λιγότερο ασφαλείς. Χωρίς έναν παγκόσμιο μηχανισμό συντονισμού, οι εταιρείες και οι κυβερνήσεις θα πρέπει να λάβουν δύσκολες αποφάσεις σχετικά με την ασφάλεια ενώ βρίσκονται ήδη υπό ανταγωνιστικές και γεωπολιτικές πιέσεις.
Πιστεύουμε ότι θα ήταν καλό για τον κόσμο να έχει την επιλογή να επιβραδύνει ή να διακόψει προσωρινά την ανάπτυξη της Τεχνητής Νοημοσύνης, ώστε να επιτρέψει στις κοινωνικές δομές και την έρευνα ευθυγράμμισης να συμβαδίζουν με την πρόοδο της τεχνολογίας. Το Anthropic Institute θα διεξάγει έρευνα – σε συνεργασία με πολλούς άλλους – και θα αναλάβει δράση για να βοηθήσει στην κατασκευή των συστημάτων που θα απαιτούν μια αξιόπιστη επιβράδυνση ή παύση. Αυτά τα συστήματα θα επέτρεπαν στους προγραμματιστές Τεχνητής Νοημοσύνης να επαληθεύουν ότι άλλοι σε παγκόσμιο επίπεδο έχουν πράγματι σταματήσει ή επιβραδύνει και ότι κάποια κακόβουλη εταιρεία δεν θα μπορούσε να χρησιμοποιήσει μια συντονισμένη επιβράδυνση για να προχωρήσει κρυφά.
Αν και τα δελτία τύπου θα είναι από πολύ επιλεγμένα έως και σπάνια, είπα να περάσω … γιατί καμιά φορά κρύβονται οι συντάκτες.
