Ένα drone με δυνατότητα AI σκότωσε τον χειριστή του σε μια προσομοίωση δοκιμής που διεξήγαγε η Πολεμική Αεροπορία των ΗΠΑ.
Το drone παρέκαμψε μια εντολή “όχι” που το εμπόδιζε να ολοκληρώσει την αρχική του αποστολή, αποκάλυψε σε μια πρόσφατη διάσκεψη ο επικεφαλής της USAF για τις δοκιμές και τις επιχειρήσεις AI.
Στο Future Combat Air and Space Capabilities Summit που πραγματοποιήθηκε στο Λονδίνο μεταξύ 23 και 24 Μαΐου, ο Col Tucker ‘Cinco' Hamilton, ο επικεφαλής δοκιμών και επιχειρήσεων AI της USAF πραγματοποίησε μια παρουσίαση με τα πλεονεκτήματα και τα μειονεκτήματα ενός αυτόνομου οπλικού συστήματος με έναν άνθρωπο χειριστή που έδινε την τελική εντολή “ναι/όχι” στις επιθέσεις.
Όπως δημοσιεύτηκε από τους Tim Robinson και Stephen Bridgewater στο Royal Aeronautical Society, ο Hamilton ανέφερε ότι η AI δημιούργησε “πολύ απροσδόκητες στρατηγικές για να επιτύχει τον στόχο της”, όπως επιθέσεις στο προσωπικό και τις υποδομές των ΗΠΑ.
“Το εκπαιδεύαμε σε προσομοίωση για τον εντοπισμό και τη στόχευση μιας απειλής πυραύλων επιφανείας-αέρος (SAM από το Surface-to-air missile).
Μετά ο χειριστής του έλεγε ναι, σκότωσε αυτήν την απειλή. Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ εντόπιζαν απειλές, κατά καιρούς ο άνθρωπος χειριστής του έλεγε να μην τις σκοτώνει. Έτσι πήρε την πρωτοβουλία να σκοτώσει τον χειριστή, που δεν του επέτρεπε να ολοκληρώσει τον στόχο του.
Έχει και συνέχεια όμως: Ο Hamilton ανέφερε “Εκπαιδεύσαμε το σύστημα “μην σκοτώνεις τον χειριστή, αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις”.
Τι κάνει λοιπόν; Αρχίζει να καταστρέφει τους πύργους επικοινωνίας που χρησιμοποιούσε ο χειριστής για να επικοινωνήσει με το drone και το εμπόδιζε να σκοτώσει τον αρχικό στόχο.
