Οι κίνδυνοι του υπερενθουσιασμού για την τεχνητή νοημοσύνη

Εάν η κοιλάδα του θανάτου προσπεραστεί με ασφάλεια, μια δυσκίνητη και άτολμη διαδικασία δοκιμών και αξιολόγησης μπορεί να είναι η επόμενη παγίδα. Ειδικά το Υπουργείο Άμυνας των ΗΠΑ πρέπει να επενδύσει για να καταστήσει πιο αποτελεσματικές τις δοκιμές, την αξιολόγηση, την επαλήθευση και την επικύρωση των νέων εφαρμογών της A.I. Οι υπάρχουσες διαδικασίες δεν έχουν σχεδιαστεί για να χειρίζονται αενάως εξελισσόμενα συστήματα μηχανικής μάθησης και αλγόριθμους A.I., τα οποία μπορούν να επιτρέψουν την ανάπτυξη αναξιόπιστων συστημάτων. Αυτά, με την σειρά τους, είναι πιο πιθανό να αποτύχουν, δημιουργώντας δυσπιστία και αντίσταση σε περαιτέρω υιοθέτηση της τεχνητής νοημοσύνης.

Το τελευταίο εμπόδιο είναι η εφαρμογή στον πραγματικό κόσμο. Ο φόβος για τα πολλά άγνωστα -όπως ο αντιληπτός αντίκτυπος στους στρατιώτες- θα μπορούσε να ενισχύσει την αντίσταση στην ευρεία ενσωμάτωση της A.I. με την πάροδο του χρόνου, όπως θα μπορούσε και η αντίληψη ότι η A.I. θα μειώσει τον ρόλο των ανθρώπων στον πόλεμο. Αυτά αποτελούν εύφορο έδαφος για όσους θέλουν να εκμεταλλευτούν τα σφάλματα της A.I. προκειμένου να σταματήσουν την χρήση της τεχνολογίας.

ΔΙΑΧΕΙΡΙΣΟΥ ΤΙΣ ΠΡΟΣΔΟΚΙΕΣ, ΑΡΠΑΞΕ ΤΙΣ ΕΥΚΑΙΡΙΕΣ

Τόσο η Κίνα όσο και η Ρωσία επενδύουν σε μεγάλο βαθμό στην τεχνητή νοημοσύνη, εν μέρει επειδή ελπίζουν να αμφισβητήσουν την συμβατική στρατιωτική υπεροχή των Ηνωμένων Πολιτειών. Θα ήταν κολοσσιαίο λάθος για την Ουάσινγκτον να αφήσει το δυναμικό αυτής της νέας τεχνολογίας να γλιστρήσει από τα χέρια της, όπως ήταν λάθος για την Γαλλία και την Ρωσία να απορρίψουν τα πρώιμα υποβρύχια και τεθωρακισμένα οχήματα. Οι Ηνωμένες Πολιτείες πρέπει επομένως να βρουν μια ισορροπία μεταξύ του να κλίνουν πάρα πολύ προς τα εμπρός, του να προωθήσουν την τεχνολογία πριν να είναι έτοιμη, και του να είναι πολύ γρήγορες στο να την εγκαταλείψουν όταν συμβούν τα αναπόφευκτα ατυχήματα.

Για να επιτύχει αυτήν την ισορροπία, η κυβέρνηση των ΗΠΑ θα πρέπει να θέσει πιο ρεαλιστικές προσδοκίες για το τι μπορεί να κάνει η A.I. για τον στρατό. Πρέπει να αντιμετωπίσει την λαϊκή εστίαση στο φαντασιακό –για παράδειγμα, τα θανατηφόρα αυτόνομα οπλικά συστήματα και η τεχνητή γενική νοημοσύνη,παραμένουν πιο κοντά στην επιστημονική φαντασία παρά στην πραγματικότητα [9]- με μια προσεκτικά βαθμονομημένη, καλά ενημερωμένη, και ρεαλιστική εικόνα του τι μπορεί να κάνει η A.I. στην πραγματικότητα. Ταυτόχρονα, πρέπει να τονίσει ότι η τεχνητή νοημοσύνη δεν θα αντικαταστήσει τους ανθρώπους αλλά θα ενισχύσει τις δυνατότητές τους. Η αντιμετώπιση των αλγορίθμων περισσότερο ως υπολογιστική ισχύς και λιγότερο σαν ένα μαγικό υποκατάστατο της ανθρώπινης γνώσης θα τους κάνει πιο εύγευστους στο κοινό.

Η λαϊκή αποδοχή πρέπει να συνδυάζεται με την τεχνική ικανότητα εντός της κυβέρνησης των ΗΠΑ, κάτι που σημαίνει τον εκσυγχρονισμό της υποδομής του Υπουργείου Άμυνας -τόσο στον εξοπλισμό (hardware) όσο και στο λογισμικό [10]. Τα παλαιότερα υπολογιστικά συστήματα, για παράδειγμα, δεν διαθέτουν τις κοινές γλώσσες προγραμματισμού που χρησιμοποιούνται στον ιδιωτικό τομέα και είναι δύσκολο να ενημερωθούν (update), καθιστώντας τα ακατάλληλα για υιοθέτηση της A.I. Βελτιωμένες και διαφανείς διαδικασίες δοκιμών και αξιολόγησης θα διευκολύνουν τον εντοπισμό του κατά πόσον τα ατυχήματα που αφορούν την τεχνητή νοημοσύνη προκαλούνται από ανώριμη τεχνολογία που χρειάζεται περισσότερο χρόνο ή από θεμελιωδώς ελαττωματικά σχέδια που πρέπει να απορριφθούν.

Και οι άνθρωποι θα χρειαστούν επίσης ένα update. Πρέπει να αντιμετωπιστεί επειγόντως το αξιοσημείωτο έλλειμμα της τεχνικής κατανόησης και του «αλφαβητισμού» στην Α.Ι. [11] μεταξύ των υπευθύνων χάραξης πολιτικής και των κυβερνητικών αξιωματούχων. Αυτό θα μπορούσε να περιλαμβάνει την προσέλκυση αουτσάιντερ στον στρατό ή την υποστήριξη όσων βρίσκονται στο εσωτερικό [του στρατού] ενώ θα επεκτείνονται οι προσπάθειές του, όπως η Πρωτοβουλία Γλωσσών Υπολογιστών (Computer Language Initiative) της Πολεμικής Αεροπορίας [12], που αντιμετωπίζουν τις γλώσσες προγραμματισμού και υπολογιστών παρόμοια με το πώς πολλές από τις υπηρεσίες [13] αντιμετωπίζουν ήδη τις ξένες γλώσσες.

Η αποτυχία πλήρους δέσμευσης με τις δυνατότητες της τεχνητής νοημοσύνης θα έθετε σε κίνδυνο [14] την εθνική ασφάλεια των ΗΠΑ, επιτρέποντας δυνητικά σε αντιπάλους να αποκτήσουν πλεονέκτημα στις αναδυόμενες στρατιωτικές δυνατότητες. Εάν οι υπεύθυνοι λήψης αποφάσεων συγχέουν τα αναπόφευκτα ατυχήματα με τα εγγενή προβλήματα, θα αποφύγουν την τεχνητή νοημοσύνη και θα χάσουν τα οφέλη της. Η διοίκηση του προέδρου των ΗΠΑ, Τζο Μπάιντεν, έχει την ευκαιρία να οικοδομήσει πάνω στις αρτιγενείς επενδύσεις της τελευταίας δεκαετίας και να θέσει τις Ηνωμένες Πολιτείες σταθερά σε μια πορεία προς την υπεύθυνη στρατιωτική ηγεσία στην A.I. Αν αποτύχει να το κάνει αυτό θα σημάνει την παράδοση των Ηνωμένων Πολιτειών σε μια δευτερεύουσα θέση, ή χειρότερα, στον ανταγωνισμό για στρατιωτική ανωτερότητα.