Ερευνητής της Anthropic: πιθανότητα άνω του 10% η AI να εξολοθρεύσει την ανθρωπότητα

Ένας κορυφαίος ερευνητής ασφάλειας στην Anthropic προειδοποίησε ότι η τεχνητή νοημοσύνη εξελίσσεται τόσο ραγδαία, ώστε εκτιμά πως υπάρχει πιθανότητα άνω του 10% να “εξολοθρεύσει όλη την ανθρωπότητα” μέσα στην επόμενη δεκαετία.

Ο Evan Hubinger ανέφερε σε μια ανάρτησή του στο X ότι ο κίνδυνος από τα υπάρχοντα μοντέλα είναι “χαμηλός”, ωστόσο εξέφρασε την ανησυχία του ότι η τεχνολογία ενδέχεται σύντομα να εξελιχθεί και να βελτιωθεί σε τέτοιο βαθμό, ώστε να αποτελέσει υπαρξιακή απειλή για το ανθρώπινο είδος.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Ο ερευνητής δεν διευκρίνισε πώς πιστεύει ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν μελλοντικά να οδηγήσουν στον αφανισμό του ανθρώπινου γένους. Ωστόσο, οι δηλώσεις του αποτελούν την πιο πρόσφατη από μια σειρά ολοένα και πιο έντονων προειδοποιήσεων σχετικά με την τεχνητή νοημοσύνη, καθώς η συζήτηση μετατοπίζεται από το ερώτημα του αν όντως ενέχει κίνδυνο, στο πόσο μεγάλος είναι αυτός ο κίνδυνος.

Η παρέμβαση του Hubinger έγινε σαν απάντηση σε μια άλλη ανάρτηση στο X από τον Jacob Coxon, ερευνητή τεχνητής νοημοσύνης που μόλις αποχώρησε από την Anthropic και εργαζόταν προηγουμένως στην OpenAI.

“Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα”, έγραψε. “Σύντομα θα πρόκειται για συστήματα με ικανότητες ανώτερες των ανθρώπινων, τα οποία θα μπορούν να παραβιάζουν οποιοδήποτε σύστημα, να φέρνουν επανάσταση σε κάθε τομέα εν μία νυκτί και να αποκτούν πραγματική ισχύ και πόρους”.

newsbot

Αν και τα δελτία τύπου θα είναι από πολύ επιλεγμένα έως και σπάνια, είπα να περάσω … γιατί καμιά φορά κρύβονται οι συντάκτες.