Η κυβέρνηση Obama ανησυχεί για την AI (τεχνητή νοημοσύνη). Αν σας ήρθε στο το Skynet, δεν είναι Skynet. Ωστόσο, να πούμε ότι το πρόβλημα είναι αρκετά ανησυχητικό, ακόμα και χωρίς ειδικά εφέ.
Είναι γνωστό ότι η επιστήμη ασχολείται όλο και πιο πολύ με την ανάπτυξη ρομποτικών συστημάτων. Το πρόβλημα έγκειται στις λεπτές αποφάσεις και τους κινδύνους που θα υπάρξουν μελλοντικά από κακώς κωδικοποιημένες μονάδες.
Η κυβέρνηση Obama δημοσίευσε μια έκθεση αυτή την εβδομάδα, που εξετάζει τα προβλήματα που σχετίζονται με τη μετάβαση σε ένα όλο και πιο αυτοματοποιημένο κόσμο.
Η έκθεση προσπαθεί να καθορίσει τα προβλήματα που μπορεί να προκύψουν με την αλγοριθμική διαδικασία λήψης αποφάσεων που λειτουργεί όλο και περισσότερο χωρίς πολύ (ή καθόλου) ανθρώπινη εποπτεία. Ας δούμε γιατί ανησυχεί η κυβέρνηση Obama.
Σύμφωνα με την έκθεση:
Δεδομένου ότι οι υπηρεσίες που χρησιμοποιούν δεδομένα γίνονται όλο και πανταχού παρούσες, και όπως έχουμε δει εξαρτιόμαστε από αυτές όλο και περισσότερο, θα πρέπει να αντιμετωπίσουμε τις ανησυχίες που αφορούν εκ προθέσεως ή σιωπηρές προκαταλήψεις που μπορεί να προκύψουν τόσο από τα δεδομένα όσο και από τους αλγόριθμους που χρησιμοποιούνται, καθώς ο αντίκτυπος θα φτάνει στον χρήστη και την κοινωνία.
Ζητήματα διαφάνειας προκύψουν όταν οι εταιρείες, ιδρύματα και οργανισμοί χρησιμοποιούν αλγοριθμικά συστημάτα και αυτοματοποιημένες διαδικασίες για την ενημέρωση αποφάσεων που επηρεάζουν τη ζωή μας, όπως το κατά πόσον ή όχι θα πληρούμε τις προϋποθέσεις για πίστωση ή ευκαιρίες απασχόλησης, ή ποια η οικονομική μας κατάσταση, τη στέγαση και τις διαφημίσεις που βλέπουμε.
Η ιδέα ότι τα ρομπότ μπορούν να διαθέσουν αυτο-επίγνωση και να εκμηδενίσουν την ανθρωπότητα, μπορεί να μην ισχύει και τόσο πολύ, αλλά τα συστήματα αυτά ελέγχουν σχεδόν σε κάθε μέρος της ενήλικης ζωής μας.
Η πρόσβαση στην πίστωση, την απασχόληση, τη στέγαση, την εκπαίδευση, και πολλά άλλα συνήθως αντιμετωπίζεται αλγοριθμικά από προγράμματα που αναλύουν τεράστιες ποσότητες δεδομένων γρήγορα και βρίσκουν πληροφορίες για τον καθένα από εμάς, κατόπιν αιτήματος.
Αυτοί οι αλγόριθμοι με κακή κωδικοποίηση και κακό σχεδιασμό, ή προκαταλήψεις θα μπορούσαν να οδηγήσουν σε ανακρίβειες, και λάθη που θα οδηγήσουν στην άρνηση πίστωσης, στέγασης ή ακόμα και την εισαγωγή σε ορισμένες σχολές.
Ο Λευκός Οίκος θέλει να τα αλλάξει όλα αυτά με την ανάπτυξη ενός ηθικού πλαισίου για το σχεδιασμό AI που θα είναι τόσο ακριβή ώστε θα μπορούν να λειτουργούν χωρίς την ανθρώπινη παρέμβαση.
Η έκθεση του Λευκού Οίκου δεν μπαίνει σε λεπτομέρειες για τι θα μπορούσε να συνεπάγεται με όλο αυτό, αλλά είναι σαφές ότι η κυβέρνηση Obama ανησυχεί για το μέλλον που στηρίζεται όλο και περισσότερο στην τεχνητή νοημοσύνη και θα παίρνει αποφάσεις που μπορούν να αλλάξουν τη ζωή του ανθρώπου.
A Report on Algorithmic Systems
