Ο CEO της Anthropic ζήτησε την παγκόσμια επιβράδυνση της AI

iGuRu.gr > Ο CEO της Anthropic ζήτησε την παγκόσμια επιβράδυνση της AI

Ο διευθύνων σύμβουλος της Anthropic ζήτησε την παγκόσμια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης σε ένα κείμενο 3.800 λέξεων που δημοσιεύτηκε το Σάββατο. Το αίτημα ήρθε λίγες ημέρες μετά την παραίτηση ενός υπάλληλου της εταιρείας λόγω ανησυχιών για την ασφάλεια της τεχνολογίας. cyberpunk player

Ο Dario Amodei, ο οποίος συνίδρυσε την Anthropic με στόχο την ασφαλή και προσεκτική ανάπτυξη της τεχνητής νοημοσύνης, έγραψε ότι αν και πιστεύει πως η τεχνολογία μπορεί να αποφέρει πολλαπλά οφέλη, εξελίσσεται με υπερβολικά γρήγορους ρυθμούς ώστε να είναι δυνατή η ασφαλής συνέχιση της πορείας της.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

“Τους τελευταίους μήνες, έχω πειστεί ότι η πλήρης αντιμετώπιση των κινδύνων απαιτεί ακόμη μεγαλύτερη σύνεση — όχι μόνο επενδύσεις στην πρόληψη κινδύνων, αλλά και ρύθμιση του ρυθμού εξέλιξης των δυνατοτήτων, ώστε να υπάρχει χρόνος για την αντίστοιχη πρόοδο στα μέτρα πρόληψης”, δήλωσε ο κ. Amodei.

Ερευνητής της Anthropic: πιθανότητα άνω του 10% η AI να εξολοθρεύσει την ανθρωπότητα

“Πρέπει να επιβραδύνουμε τον ρυθμό βελτίωσης των δυνατοτήτων των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται ταχεία και οφείλουμε να αξιοποιήσουμε συνετά τον χρόνο που κερδίζουμε. Αν αφεθεί ανεξέλεγκτη, η εξέλιξη αυτή θα μπορούσε να ξεπεράσει την ικανότητά μας να κατανοούμε και να ελέγχουμε αυτά τα συστήματα· επομένως, η πορεία αυτή πρέπει να ακολουθείται με εξαιρετική προσεκτικότητα, αν όχι να αποφεύγεται εντελώς”, ανέφερε ο κ. Amodei.

Στο κείμενό του, ο κ. Amodei πρότεινε ενέργειες που θα μπορούσε να υιοθετήσει ο κλάδος για την επιβράδυνση του ρυθμού ανάπτυξης. Πρότεινε ότι όλα τα εργαστήρια τεχνητής νοημοσύνης θα μπορούσαν να συμφωνήσουν σε αξιολογήσεις της τεχνολογίας από τρίτους — συγκεκριμένα από “ενσωματωμένους αξιολογητές” ή εξωτερικούς ειδικούς — οι οποίοι θα μπορούν να επαληθεύουν την τήρηση των βέλτιστων πρακτικών ασφαλείας σε όλες τις εταιρείες. Πρότεινε επίσης τον συντονισμό χωρών με δημοκρατικά συστήματα διακυβέρνησης για τη θέσπιση προτύπων ασφαλείας, τα οποία θα μπορούσαν να λάβουν τη μορφή ρυθμιστικών μέτρων. Πρόσθεσε μάλιστα ότι, για τον σωστό συντονισμό μιας τέτοιας επιβράδυνσης, θα απαιτηθεί πιθανότατα μια παγκόσμια προσπάθεια σε συνεργασία με άλλα κράτη, συμπεριλαμβανομένων εκείνων με αυταρχικά καθεστώτα.

Ο κ. Amodei τόνισε στο κείμενό του ότι εξακολουθεί να θεωρεί πως η τεχνητή νοημοσύνη έχει τη δυνατότητα να προσφέρει “τεράστια οφέλη” στην ανθρωπότητα, όπως η πιθανή θεραπεία ασθενειών και η επιτάχυνση της οικονομικής ανάπτυξης.

Ωστόσο, υπογράμμισε ότι οι κίνδυνοι που ενέχει η τεχνητή νοημοσύνη είναι πολύ μεγάλοι για να μην προχωρήσουμε με εξαιρετική προσοχή. “Τα μέτρα που προτείνω για την προώθηση της τεχνολογικής αιχμής με ασφαλή ρυθμό δεν θα είναι εύκολα”, έγραψε ο κ. Amodei. “Πιστεύω όμως ότι οφείλουμε στην ανθρωπότητα να προσπαθήσουμε”.

Το άρθρο του Amodei δημοσιεύτηκε λίγες ώρες μετά από μια δημοσίευση του Bloomberg που ανέφερε ότι ο Sam Altman δήλωσε στους εργαζομένους της OpenAI πως η εταιρεία είναι ανοιχτή στο ενδεχόμενο επιβράδυνσης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, εν μέσω παρόμοιων ανησυχιών.