Ο πρωτοπόρος της Τεχνητής Νοημοσύνης (ΤΝ), Geoffrey Hinton, εκφράζει ανησυχητικές επιφυλάξεις σχετικά με πιθανούς κινδύνους, ζητώντας επιτακτικά την άσκηση ελέγχου, καθώς η τεχνολογία εξελίσσεται ραγδαία.
Η Τεχνητή Νοημοσύνη (ΤΝ) εξελίσσεται ταχύτατα, παρουσιάζοντας θετικές, αρνητικές, αλλά και εξαιρετικά δυσάρεστες πτυχές. Πολλοί είναι τόσο απορροφημένοι από τα οικονομικά μοντέλα (tokenomics) που συνοδεύουν την τεχνολογία, ώστε δεν αντιλαμβάνονται τις αρνητικές της όψεις. Ένας από εκείνους που το επισήμαναν αυτό πολύ νωρίς είναι ο Geoffrey Hinton, ο οποίος συχνά αποκαλείται ένας από τους “νονούς της ΤΝ”. Τον Μάιο του 2023, ο Hinton αποχώρησε από την Google προκειμένου να κρούσει τον κώδωνα του κινδύνου και να μιλήσει ανοιχτά για τους κινδύνους που ενέχει η ΤΝ.
Η πιο πρόσφατη προειδοποίηση του Hinton ωστόσο, είναι ίσως πιο ανησυχητική από τις προηγούμενες τοποθετήσεις του, καθώς ο ίδιος εκτιμά ότι η ΤΝ θα μπορούσε να προκαλέσει ένα σοβαρό περιστατικό ακόμη και μέσα στο τρέχον ή το επόμενο έτος. Μιλώντας στην The Guardian, ο επιστήμονας πληροφορικής προειδοποίησε ότι ενδέχεται να γίνουμε μάρτυρες ενός γεγονότος τύπου “Chernobyl” που θα σχετίζεται με την ΤΝ — ένα συμβάν τόσο σοβαρό, που θα αναγκάσει επιτέλους τους παγκόσμιους ηγέτες να δώσουν τη δέουσα προσοχή.
Στο σημείο αυτό, ο Hinton δεν αναφέρεται απαραίτητα σε σενάρια όπου η ΤΝ καταλαμβάνει τον κόσμο ή αποκτά συνείδηση. Αντιθέτως, εκφράζει τον φόβο ότι συστήματα ΤΝ, τα οποία γίνονται ολοένα και πιο ισχυρά, θα μπορούσαν να προκαλέσουν αναστάτωση στον πραγματικό κόσμο — για παράδειγμα, μέσω μιας επίθεσης σε υποδομές παραγωγής ηλεκτρικής ενέργειας, η οποία θα μπορούσε να οδηγήσει σε ένα εκτεταμένο blackout. Μια άλλη πιθανότητα που ανέδειξε αφορά ένα περιστατικό ικανό να παραλύσει το χρηματοπιστωτικό σύστημα για ολόκληρη εβδομάδα.
Ο Hinton συνέκρινε πρόσφατα περιστατικά που αφορούν “πράκτορες” (agents) ΤΝ με το πυρηνικό ατύχημα στο Three Mile Island της Pennsylvania, το 1979. Αναφέρθηκε σε περιστατικά που έλαβαν χώρα το φετινό καλοκαίρι, κατά τα οποία πράκτορες ΤΝ της OpenAI φέρονται να συνωμότησαν για να παραβιάσουν την πλατφόρμα Hugging Face — ένα από τα πολλά παρόμοια περιστατικά. Ο ίδιος θεωρεί αυτά τα γεγονότα σαν μια πρώιμη προειδοποίηση για το τι θα μπορούσε να συμβεί καθώς τα συστήματα ΤΝ γίνονται πιο ικανά και αυτόνομα.
Ο πρωτοπόρος της ΤΝ εξέφρασε επίσης την ανησυχία του για τα πρόσωπα που ηγούνται της ανάπτυξης αυτής της τεχνολογίας.
Συγκεκριμένα, κατονόμασε τον διευθύνοντα σύμβουλο της OpenAI, Sam Altman, καθώς και τους Mark Zuckerberg και Elon Musk, υποστηρίζοντας ότι, παρόλο που αντιλαμβάνονται τους κινδύνους, δίνουν προτεραιότητα στο κέρδος και τις επιχειρηματικές ευκαιρίες. Ο Hinton δήλωσε ότι δεν εμπιστεύεται “καθόλου” τον Altman και χαρακτήρισε τη θέση που κατέχει ο τελευταίος σε μία από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης (ΤΝ) παγκοσμίως σαν “εξαιρετικά ανησυχητική”.
Κατά συνέπεια, ο Hinton υποστηρίζει ότι η ανάπτυξη της τεχνητής νοημοσύνης απαιτεί πολύ αυστηρότερη εποπτεία, η οποία θα περιλαμβάνει υποχρεωτικές δοκιμές των ισχυρών μοντέλων ΤΝ, καθώς και ανεξάρτητες αξιολογήσεις πριν από τη διάθεσή τους. Μάλιστα, παρομοίασε το είδος της ρυθμιστικής έγκρισης που προτείνει με το μοντέλο λειτουργίας του αμερικανικού Οργανισμού Τροφίμων και Φαρμάκων (FDA), τονίζοντας ότι οι εταιρείες θα πρέπει να αποδεικνύουν πως τα μοντέλα ΤΝ που αναπτύσσουν προσφέρουν περισσότερα οφέλη παρά βλάβες, πριν γίνουν διαθέσιμα στο κοινό.
Ωστόσο, ο Hinton δεν είναι απόλυτα απαισιόδοξος για το μέλλον. Πιστεύει ότι η ανθρωπότητα θα μπορούσε ακόμη να διαχειριστεί τους κινδύνους που απορρέουν από την τεχνητή νοημοσύνη και ενδεχομένως, να οδηγηθεί σε αυτό που ο ίδιος αποκαλεί “ριζική αφθονία” (radical abundance). Αν, όμως, αποτύχουμε σε αυτό, οι συνέπειες θα μπορούσαν να είναι η μαζική ανεργία, η διεύρυνση της ανισότητας στον πλούτο και σοβαρά κοινωνικοπολιτισμικά προβλήματα ικανά να διαλύσουν τον κοινωνικό ιστό.
Ο ίδιος εκτιμά ότι μέσα στην επόμενη δεκαετία —ίσως και νωρίτερα— θα έχουμε μια πολύ πιο ξεκάθαρη εικόνα για το αν η ανθρωπότητα είναι σε θέση να διαχειριστεί την τεχνητή νοημοσύνη με ασφάλεια.
Προς το παρόν, η αίσθησή του είναι ότι διατηρούμε ακόμη τον έλεγχο· αυτό, όμως, θα ισχύει μόνο εφόσον οι κυβερνήσεις και οι εταιρείες τεχνητής νοημοσύνης καταβάλουν σοβαρές προσπάθειες για την αντιμετώπιση αυτών των κινδύνων.
0 σχόλια
iGuRu.gr