Οι κίνδυνοι του υπερενθουσιασμού για την τεχνητή νοημοσύνη

Το 1983, ο βραχίονας έρευνας και ανάπτυξης του αμερικανικού στρατού ξεκίνησε ένα δεκαετές πρόγραμμα μηχανικής νοημοσύνης ύψους 1 δισεκατομμυρίου δολαρίων [1] με στόχο να κρατήσει τις Ηνωμένες Πολιτείες μπροστά από τους τεχνολογικούς τους αντιπάλους. Από την αρχή, οι επιστήμονες των υπολογιστών επέκριναν το έργο ως μη ρεαλιστικό. Υποσχέθηκε πολλά και τελικά απέτυχε σκληρά στα μάτια του Πενταγώνου, εγκαινιάζοντας έναν μακρύ «χειμώνα» τεχνητής νοημοσύνης (A.I.) κατά την διάρκεια του οποίου οι πιθανοί χρηματοδότες, συμπεριλαμβανομένου του στρατού των ΗΠΑ, απέφυγαν μεγάλες επενδύσεις στον τομέα και εγκατέλειψαν πολλά υποσχόμενα πεδία έρευνας.

Άνθρωποι επισκέπτονται μια έκθεση τέχνης που δημιουργήθηκε από A.I. στην Κωνσταντινούπολη, τον Απρίλιο του 2021. Osman Orsal Xinhua / eyevine / Redux
------------------------------------------------------

Σήμερα, η τεχνητή νοημοσύνη είναι και πάλι η αγαπημένη των εθνικών υπηρεσιών ασφαλείας. Και για άλλη μια φορά, κινδυνεύει να γλιστρήσει προς τα πίσω ως αποτέλεσμα ενός καταστροφικού «κύκλου ενθουσιασμού», στον οποίο οι υπερβολικές υποσχέσεις [2] συνωμοτούν με αναπόφευκτες οπισθοδρομήσεις για να υπονομεύσουν τη μακροπρόθεσμη επιτυχία μιας νέας μετασχηματιστικής τεχνολογίας. Στρατιωτικές δυνάμεις σε όλο τον κόσμο επενδύουν σε μεγάλο βαθμό στην τεχνητή νοημοσύνη, αναζητώντας εφαρμογές στο πεδίο μάχης και σε άλλους τομείς ασφαλείας που θα μπορούσαν να προσφέρουν πλεονέκτημα έναντι πιθανών αντιπάλων. Στις Ηνωμένες Πολιτείες, υπάρχει μια αυξανόμενη [3] αίσθηση επείγοντος [4] γύρω από την A.I., και δικαίως. Όπως το έθεσε ο πρώην υπουργός Άμυνας, Mark Esper [5], «Εκείνοι που εκμεταλλεύονται πρώτοι τις τεχνολογίες [που είναι χαρακτηριστικές] μιας γενιάς, έχουν συχνά ένα αποφασιστικό πλεονέκτημα στο πεδίο της μάχης για τα επόμενα χρόνια». Ωστόσο, υπάρχει ένας πολύ πραγματικός κίνδυνος ότι οι προσδοκίες είναι πολύ υψηλές και ότι μια απροθυμία να γίνουν ανεκτές οι αποτυχίες θα σημαίνει ότι οι Ηνωμένες Πολιτείες σπαταλούν την δυναμική της A.I. και μένουν πίσω από τους αντιπάλους τους.

ΑΤΥΧΗΜΑΤΑ ΣΥΜΒΑΙΝΟΥΝ

Η πορεία προς τις αποτελεσματικές χρήσεις της στρατιωτικής τεχνητής νοημοσύνης θα είναι αναπόφευκτα δύσκολη, με τα ατυχήματα και τα λανθασμένα βήματα να ενισχύονται από τον υπερενθουσιασμό του είδους που έχει παρουσιαστεί, για παράδειγμα, στην υπέρμετρη έξαψη για τα φουτουριστικά, πλήρως αυτόνομα αυτοκίνητα τα οποία υποχώρησαν στην τετριμμένη πραγματικότητα των οχημάτων που μπορούν απλά να παρκάρουν παράλληλα. Η αναντιστοιχία μεταξύ προσδοκιών και πραγματικότητας μπορεί να σημάνει το τέλος νέων τεχνολογιών και είναι ιδιαίτερα πιθανό να το κάνει όταν οι κυβερνήσεις δίνουν προτεραιότητα στις γρήγορες νίκες έναντι των μακροπρόθεσμων δυνατοτήτων. Η επιτυχής υιοθέτηση της τεχνητής νοημοσύνης θα απαιτήσει υπομονή και προσεκτική επικοινωνία, έτσι ώστε οι ευκαιριακοί αρνητές να μην μπορούν να χρησιμοποιήσουν τα ατυχήματα ως απόδειξη ότι η αποτυχία είναι αναπόφευκτη.

Η τεχνητή νοημοσύνη μπορεί να είναι ιδιαίτερα ευάλωτη σε αυτόν τον τύπο οπισθοδρόμησης που προκαλείται από τον υπερενθουσιασμό. Έχει υποφέρει δύο προηγούμενους «χειμώνες» [6] στην σχετικά σύντομη ιστορία της, κατά την διάρκεια της οποίας η αποτυχία της A.I. να ανταποκριθεί στις προσδοκίες οδήγησε σε μείωση της χρηματοδότησης και του ενδιαφέροντος. Η A.I. είναι επίσης δύσκολο να κατανοηθεί και να οριστεί, και οι αλγόριθμοι στους οποίους βασίζεται είναι επιρρεπείς σε αποτυχία όταν χρησιμοποιούνται εκτός του πλαισίου της αρχικής τους ανάπτυξης.

Η ενσωμάτωση της τεχνητής νοημοσύνης στον αμερικανικό στρατό, επιπλέον, θα απαιτήσει ενοχλητικές αλλαγές [7] σε όλα, από την δομή [των μαχητικών] δυνάμεων και τα πρότυπα προαγωγής [των αξιωματικών] έως το δόγμα και την ευθύνη. Αυτό θα πυροδοτήσει αναπόφευκτα αντίσταση. Και επειδή οι Αμερικανοί αξιωματούχοι της άμυνας γενικά δεν έχουν την εμπειρία για να εκτιμήσουν τις εξελίξεις της τεχνητής νοημοσύνης που καθοδηγείται σήμερα από τον ιδιωτικό τομέα, οι αντίπαλοι της νέας τεχνολογίας θα βρουν ευκολότερο να αξιοποιήσουν τις αναπόφευκτες αποτυχίες, υποστηρίζοντας ότι μια δυνητικά αποτελεσματική εφαρμογή της A.I. δεν είναι απλώς πολύ πρόωρη, αλλά δεν θα υλοποιηθεί ποτέ.

Ωστόσο, δεν πρέπει να επιτραπεί στους αρνητές να θριαμβεύσουν. Επανειλημμένα καθ' όλη την διάρκεια της ιστορίας, η αντίσταση στις τεχνολογικές αλλαγές επανέρχεται για να στοιχειώνει τους στρατούς. Στα τέλη του 19ου αιώνα, για παράδειγμα, το γαλλικό ναυτικό προσπάθησε να αντιμετωπίσει την βρετανική ναυτική υπεροχή επενδύοντας σε μεγάλα υποβρύχια και τορπίλες. Ωστόσο, η τεχνολογία της εποχής δεν ήταν αντίστοιχη του στόχου, και η Γαλλία επέστρεψε στην κατασκευή θωρηκτών, μια κίνηση που άφησε το Ηνωμένο Βασίλειο να κυριαρχεί στα κύματα μέχρι το ξέσπασμα του Β' Παγκοσμίου Πολέμου.

Περίπου 25 χρόνια αργότερα, η Ρωσία εγκατέλειψε τα πρώιμης σχεδίασης τεθωρακισμένα οχήματα, επειδή κολλούσαν στην λάσπη. Καλύτερα πέλματα και περισσότερη ισχύς ήταν οι απλές επιδιορθώσεις. Αντίθετα, η Ρωσία σταμάτησε την προμήθεια των οχημάτων και έμεινε πίσω καθώς άλλοι προχώρησαν. Με λίγα λόγια, το τεθωρακισμένο όχημα εξελίχθηκε σε τανκ, μια κρίσιμη καινοτομία στις εχθροπραξίες στην ξηρά. Οι Ρώσοι, όπως και οι Γάλλοι, έπρεπε να έχουν δείξει περισσότερη υπομονή και επιμονή.

ΠΡΟΣΚΟΜΜΑΤΑ

Υπάρχουν τρία βασικά κομβικά σημεία στα οποία νέες τεχνολογίες όπως η A.I. συχνά υπολείπονται των διογκωμένων προσδοκιών και ως εκ τούτου γλιστρούν στην άβυσσο της πρόωρης εγκατάλειψης. Το πρώτο είναι η «κοιλάδα του θανάτου» [8], το κατάλληλα ονομαζόμενο χάσμα μεταξύ της ανάπτυξης μιας τεχνολογίας στον ιδιωτικό τομέα και της απόκτησής της από κυβερνήσεις ή στρατούς, που συχνά απαιτούν μεγαλύτερη βεβαιότητα από όση μπορούν να προσφέρουν οι προγραμματιστές. Είναι το νεκροταφείο για πολλές υπέροχες ιδέες.

Εάν η κοιλάδα του θανάτου προσπεραστεί με ασφάλεια, μια δυσκίνητη και άτολμη διαδικασία δοκιμών και αξιολόγησης μπορεί να είναι η επόμενη παγίδα. Ειδικά το Υπουργείο Άμυνας των ΗΠΑ πρέπει να επενδύσει για να καταστήσει πιο αποτελεσματικές τις δοκιμές, την αξιολόγηση, την επαλήθευση και την επικύρωση των νέων εφαρμογών της A.I. Οι υπάρχουσες διαδικασίες δεν έχουν σχεδιαστεί για να χειρίζονται αενάως εξελισσόμενα συστήματα μηχανικής μάθησης και αλγόριθμους A.I., τα οποία μπορούν να επιτρέψουν την ανάπτυξη αναξιόπιστων συστημάτων. Αυτά, με την σειρά τους, είναι πιο πιθανό να αποτύχουν, δημιουργώντας δυσπιστία και αντίσταση σε περαιτέρω υιοθέτηση της τεχνητής νοημοσύνης.

Το τελευταίο εμπόδιο είναι η εφαρμογή στον πραγματικό κόσμο. Ο φόβος για τα πολλά άγνωστα -όπως ο αντιληπτός αντίκτυπος στους στρατιώτες- θα μπορούσε να ενισχύσει την αντίσταση στην ευρεία ενσωμάτωση της A.I. με την πάροδο του χρόνου, όπως θα μπορούσε και η αντίληψη ότι η A.I. θα μειώσει τον ρόλο των ανθρώπων στον πόλεμο. Αυτά αποτελούν εύφορο έδαφος για όσους θέλουν να εκμεταλλευτούν τα σφάλματα της A.I. προκειμένου να σταματήσουν την χρήση της τεχνολογίας.

ΔΙΑΧΕΙΡΙΣΟΥ ΤΙΣ ΠΡΟΣΔΟΚΙΕΣ, ΑΡΠΑΞΕ ΤΙΣ ΕΥΚΑΙΡΙΕΣ

Τόσο η Κίνα όσο και η Ρωσία επενδύουν σε μεγάλο βαθμό στην τεχνητή νοημοσύνη, εν μέρει επειδή ελπίζουν να αμφισβητήσουν την συμβατική στρατιωτική υπεροχή των Ηνωμένων Πολιτειών. Θα ήταν κολοσσιαίο λάθος για την Ουάσινγκτον να αφήσει το δυναμικό αυτής της νέας τεχνολογίας να γλιστρήσει από τα χέρια της, όπως ήταν λάθος για την Γαλλία και την Ρωσία να απορρίψουν τα πρώιμα υποβρύχια και τεθωρακισμένα οχήματα. Οι Ηνωμένες Πολιτείες πρέπει επομένως να βρουν μια ισορροπία μεταξύ του να κλίνουν πάρα πολύ προς τα εμπρός, του να προωθήσουν την τεχνολογία πριν να είναι έτοιμη, και του να είναι πολύ γρήγορες στο να την εγκαταλείψουν όταν συμβούν τα αναπόφευκτα ατυχήματα.

Για να επιτύχει αυτήν την ισορροπία, η κυβέρνηση των ΗΠΑ θα πρέπει να θέσει πιο ρεαλιστικές προσδοκίες για το τι μπορεί να κάνει η A.I. για τον στρατό. Πρέπει να αντιμετωπίσει την λαϊκή εστίαση στο φαντασιακό –για παράδειγμα, τα θανατηφόρα αυτόνομα οπλικά συστήματα και η τεχνητή γενική νοημοσύνη,παραμένουν πιο κοντά στην επιστημονική φαντασία παρά στην πραγματικότητα [9]- με μια προσεκτικά βαθμονομημένη, καλά ενημερωμένη, και ρεαλιστική εικόνα του τι μπορεί να κάνει η A.I. στην πραγματικότητα. Ταυτόχρονα, πρέπει να τονίσει ότι η τεχνητή νοημοσύνη δεν θα αντικαταστήσει τους ανθρώπους αλλά θα ενισχύσει τις δυνατότητές τους. Η αντιμετώπιση των αλγορίθμων περισσότερο ως υπολογιστική ισχύς και λιγότερο σαν ένα μαγικό υποκατάστατο της ανθρώπινης γνώσης θα τους κάνει πιο εύγευστους στο κοινό.

Η λαϊκή αποδοχή πρέπει να συνδυάζεται με την τεχνική ικανότητα εντός της κυβέρνησης των ΗΠΑ, κάτι που σημαίνει τον εκσυγχρονισμό της υποδομής του Υπουργείου Άμυνας -τόσο στον εξοπλισμό (hardware) όσο και στο λογισμικό [10]. Τα παλαιότερα υπολογιστικά συστήματα, για παράδειγμα, δεν διαθέτουν τις κοινές γλώσσες προγραμματισμού που χρησιμοποιούνται στον ιδιωτικό τομέα και είναι δύσκολο να ενημερωθούν (update), καθιστώντας τα ακατάλληλα για υιοθέτηση της A.I. Βελτιωμένες και διαφανείς διαδικασίες δοκιμών και αξιολόγησης θα διευκολύνουν τον εντοπισμό του κατά πόσον τα ατυχήματα που αφορούν την τεχνητή νοημοσύνη προκαλούνται από ανώριμη τεχνολογία που χρειάζεται περισσότερο χρόνο ή από θεμελιωδώς ελαττωματικά σχέδια που πρέπει να απορριφθούν.

Και οι άνθρωποι θα χρειαστούν επίσης ένα update. Πρέπει να αντιμετωπιστεί επειγόντως το αξιοσημείωτο έλλειμμα της τεχνικής κατανόησης και του «αλφαβητισμού» στην Α.Ι. [11] μεταξύ των υπευθύνων χάραξης πολιτικής και των κυβερνητικών αξιωματούχων. Αυτό θα μπορούσε να περιλαμβάνει την προσέλκυση αουτσάιντερ στον στρατό ή την υποστήριξη όσων βρίσκονται στο εσωτερικό [του στρατού] ενώ θα επεκτείνονται οι προσπάθειές του, όπως η Πρωτοβουλία Γλωσσών Υπολογιστών (Computer Language Initiative) της Πολεμικής Αεροπορίας [12], που αντιμετωπίζουν τις γλώσσες προγραμματισμού και υπολογιστών παρόμοια με το πώς πολλές από τις υπηρεσίες [13] αντιμετωπίζουν ήδη τις ξένες γλώσσες.

Η αποτυχία πλήρους δέσμευσης με τις δυνατότητες της τεχνητής νοημοσύνης θα έθετε σε κίνδυνο [14] την εθνική ασφάλεια των ΗΠΑ, επιτρέποντας δυνητικά σε αντιπάλους να αποκτήσουν πλεονέκτημα στις αναδυόμενες στρατιωτικές δυνατότητες. Εάν οι υπεύθυνοι λήψης αποφάσεων συγχέουν τα αναπόφευκτα ατυχήματα με τα εγγενή προβλήματα, θα αποφύγουν την τεχνητή νοημοσύνη και θα χάσουν τα οφέλη της. Η διοίκηση του προέδρου των ΗΠΑ, Τζο Μπάιντεν, έχει την ευκαιρία να οικοδομήσει πάνω στις αρτιγενείς επενδύσεις της τελευταίας δεκαετίας και να θέσει τις Ηνωμένες Πολιτείες σταθερά σε μια πορεία προς την υπεύθυνη στρατιωτική ηγεσία στην A.I. Αν αποτύχει να το κάνει αυτό θα σημάνει την παράδοση των Ηνωμένων Πολιτειών σε μια δευτερεύουσα θέση, ή χειρότερα, στον ανταγωνισμό για στρατιωτική ανωτερότητα.

Σύνδεσμοι:
[1] https://ondoc.logand.com/d/2721/pdf
[2] https://warontherocks.com/2020/05/cautionary-tale-on-ambitious-feats-of-...
[3] https://cset.georgetown.edu/article/legislative-roundup-a-week-full-of-n...
[4] https://www.nscai.gov/
[5] https://www.defense.gov/Explore/News/Article/Article/2340972/esper-says-...
[6] https://www.forbes.com/sites/cognitiveworld/2019/10/20/are-we-heading-fo...
[7] https://www.amazon.com/Diffusion-Military-Power-Consequences-Internation...
[8] https://www.gao.gov/assets/gao-16-5.pdf
[9] https://arxiv.org/abs/1705.08807
[10] https://www.cfr.org/report/accelerating-defense-departments-ai-adoption
[11] https://warontherocks.com/2020/01/the-ai-literacy-gap-hobbling-american-....
[12] https://www.popularmechanics.com/technology/security/a23116594/air-force...
[13] https://www.cia.gov/careers/language-opportunities/foreign-language-ince...
[14] https://www.nscai.gov/2021-final-report/

Copyright © 2021 by the Council on Foreign Relations, Inc.
All rights reserved.

Στα αγγλικά: https://www.foreignaffairs.com/articles/united-states/2021-04-06/perils-...

Μπορείτε να ακολουθείτε το «Foreign Affairs, The Hellenic Edition» στο TWITTER στην διεύθυνση www.twitter.com/foreigngr αλλά και στο FACEBOOK, στην διεύθυνση www.facebook.com/ForeignAffairs.gr και στο linkedin στην διεύθυνση https://www.linkedin.com/company/foreign-affairs-the-hellenic-edition