Η επερχόμενη επανάσταση στις υποθέσεις των μυστικών υπηρεσιών | Foreign Affairs - Hellenic Edition

Η επερχόμενη επανάσταση στις υποθέσεις των μυστικών υπηρεσιών

Πώς η τεχνητή νοημοσύνη και τα αυτόνομα συστήματα θα μεταμορφώσουν την κατασκοπεία

Σε όλη την ανθρώπινη ιστορία, οι άνθρωποι κατασκοπεύουν ο ένας τον άλλον. Για να μάθουν τι κάνουν ή τι σχεδιάζουν να κάνουν οι άλλοι, οι άνθρωποι έχουν επιτηρήσει, παρατηρήσει και παρακολουθήσει -χρησιμοποιώντας εργαλεία που συνεχώς βελτιώνονταν, αλλά ποτέ δεν εκτόπισαν τους ανθρώπους που κυριαρχούσαν επ’ αυτών. Η τεχνητή νοημοσύνη (AI) και τα αυτόνομα συστήματα τα αλλάζουν όλα αυτά. Στο μέλλον, οι μηχανές θα κατασκοπεύουν μηχανές για να γνωρίζουν τι κάνουν ή τι σκοπεύουν να κάνουν άλλα μηχανήματα. Η εργασία στον τομέα των πληροφοριών θα εξακολουθεί να αποτελείται από κλοπή και προστασία μυστικών, αλλά ο τρόπος συλλογής, ανάλυσης και διάδοσης αυτών των μυστικών θα είναι ριζικά διαφορετικός.

01092020-1.jpg

Λογισμικό ανάλυσης τεχνητής νοημοσύνης στο Πεκίνο, τον Οκτώβριο του 2018. Thomas Peter / Reuters
-------------------------------------------------------------

Οι στρατιωτικοί μελλοντολόγοι έχουν αναγνωρίσει μια παρόμοια βαθιά αλλαγή, και ορισμένοι έχουν χαρακτηρίσει την άνοδο της τεχνολογίας AI [τεχνητής νοημοσύνης, artificial intelligence] και των αυτόνομων όπλων ως «επανάσταση στις στρατιωτικές υποθέσεις». Το ανάλογο στις πληροφορίες (intelligence) μπορεί να γίνει κατανοητό ως «επανάσταση στις υποθέσεις πληροφοριών» (revolution in intelligence affairs”, RIA). Μέσα από την επερχόμενη RIA, οι μηχανές θα γίνουν κάτι περισσότερο από εργαλεία συλλογής και ανάλυσης πληροφοριών. Θα γίνουν καταναλωτές πληροφοριών, υπεύθυνες για την λήψη αποφάσεων, ακόμη και στόχοι άλλων επιχειρήσεων μηχανικών πληροφοριών. Η τελική μέριμνα αυτών των μηχανών θα εξακολουθεί να είναι οι πολιτικές, κοινωνικές, οικονομικές και στρατιωτικές σχέσεις των ανθρώπων -αλλά η μηχανοκίνητη νοημοσύνη θα λειτουργεί με τέτοια ταχύτητα, κλίμακα και πολυπλοκότητα που η ανθρώπινη νοημοσύνη δεν θα είναι πλέον σε θέση να την φτάσει. Δεν υπάρχει σταματημός στην RIA. Οι δυνάμεις της τεχνολογικής καινοτομίας και του ανταγωνισμού την έχουν ήδη εξαπολύσει στον κόσμο. Γι’ αυτό, η αμερικανική κοινότητα πληροφοριών πρέπει να αγκαλιάσει την RIA και να προετοιμαστεί για ένα μέλλον που θα κυριαρχείται από την AI -αλλιώς κινδυνεύει να χάσει το ανταγωνιστικό της πλεονέκτημα.

Η ΑΝΟΔΟΣ ΤΗΣ ΜΗΧΑΝΙΚΗΣ ΕΥΦΥΪΑΣ

Οι επαναστάσεις δεν προκύπτουν από το πουθενά. Οι ρίζες της RIA χρονολογούνται από τον εικοστό αιώνα, όταν νέες τεχνολογίες, όπως οι τηλεπικοινωνίες και η υπολογιστική (computing), έφεραν μια νέα επιτήδευση στην λειτουργία των πληροφοριών. Οι άνθρωποι παρέμειναν οι πράκτορες των πληροφοριών, αλλά αντί να παρακολουθούν με τα μάτια τους, να ακούνε με τα αυτιά τους, και να αναλύουν και να προβλέπουν με το μυαλό τους, χρησιμοποίησαν όλο και πιο ισχυρούς αισθητήρες και υπολογιστικά εργαλεία για να ενισχύσουν τις δυνατότητές τους.

Τα τελευταία 20 χρόνια αυτή η τάση επιταχύνθηκε, οδηγώντας σε τεράστια αύξηση του όγκου των δεδομένων (data) που διατίθενται στις υπηρεσίες πληροφοριών. Διαβαθμισμένοι και εμπορικοί αισθητήρες, που κυμαίνονται από bots σε δίκτυα έως αυτόνομα αεροσκάφη (drones) και μέχρι μικρούς δορυφόρους στο διάστημα, παράγουν τώρα περισσότερες πληροφορίες από όσες οι άνθρωποι θα μπορούσαν να κατανοήσουν από μόνοι τους. Το 2017, η National Geospatial-Intelligence Agency προέβλεψε [1] ότι τα δεδομένα που θα έπρεπε να αναλύσουν οι αναλυτές της θα αυξηθούν ένα εκατομμύριο φορές μέσα σε πέντε χρόνια. Τόσο πολλά δεδομένα τόσο γρήγορα έχουν δημιουργήσει έντονο ανταγωνισμό για να τα κατανοηθούν όλα -μια δυναμική που με την σειρά της οδήγησε στην υιοθέτηση του αυτοματισμού, των αναλύσεων big data και της τεχνητής νοημοσύνης (ΑΙ). Η πίεση για εξέλιξη είναι τεράστια: τα έθνη των οποίων οι υπηρεσίες πληροφοριών μπορούν να επεξεργαστούν γρήγορα τεράστιες ποσότητες πολύπλοκων δεδομένων θα έχουν πλεονέκτημα έναντι εκείνων που δεν μπορούν.

Η παράλληλη μετάβαση σε αυτόνομα συστήματα και σε τεχνητή νοημοσύνη μεταξύ των στρατών του κόσμου μόνο έχει εντείνει την ανταγωνιστική πίεση: οι υπηρεσίες πληροφοριών πρέπει να είναι σε θέση να στοχεύουν και να υποστηρίζουν προηγμένα συστήματα μάχης. Ήδη, ο στρατός των ΗΠΑ εκμεταλλεύεται περισσότερα από 11.000 μη επανδρωμένα εναέρια συστήματα και ακόμη περισσότερα υποβρύχια, διαστημικά και επίγεια συστήματα. Επιπροσθέτως, οι αμερικανικές μονάδες κυβερνο-ασφάλειας [2] πρέπει να ασχολούνται με εκατομμύρια bots στα παγκόσμια δίκτυα, καθώς και δισεκατομμύρια συσκευές του Ίντερνετ των Πραγμάτων (Internet of Things) που λειτουργούν ως αισθητήρες. Αυτά τα συνεχώς πολλαπλασιαζόμενα συστήματα απαιτούν την δική τους ευφυΐα για να λειτουργήσουν, πράγμα που σημαίνει ότι με την πάροδο του χρόνου θα γίνουν οι κύριοι πελάτες των [υπηρεσιών] πληροφοριών.

Ακόμα πιο επαναστατική θα είναι η μετάβαση σε αυτόνομα συστήματα ως στόχοι νοημοσύνης -δηλαδή, όταν οι μηχανές αρχίζουν να κατασκοπεύουν και να εξαπατούν άλλες μηχανές. Ένα πιθανό μελλοντικό σενάριο ίσως να περιλαμβάνει ένα σύστημα AI που είναι επιφορτισμένο με την ανάλυση ενός συγκεκριμένου ζητήματος, όπως το εάν ένας αντίπαλος ετοιμάζεται για πόλεμο. Ένα δεύτερο σύστημα, το οποίο λειτουργεί από τον αντίπαλο, μπορεί σκόπιμα να εισάγει δεδομένα στο πρώτο σύστημα προκειμένου να επηρεάσει αρνητικά την ανάλυσή του. Το πρώτο σύστημα θα μπορούσε ακόμη και να συνειδητοποιήσει την απάτη και να υπολογίσει τα δόλια δεδομένα, ενώ θα ενεργεί σαν να μην το κάνει -εξαπατώντας έτσι τον απατεώνα. Αυτό το είδος της εξαπάτησης κατασκόπου κατά κατασκόπου (spy-versus-spy) ήταν πάντα μέρος των πληροφοριών, αλλά σύντομα θα πραγματοποιηθεί μεταξύ πλήρως αυτόνομων συστημάτων. Σε έναν τέτοιο κλειστό βρόχο πληροφόρησης, η νοημοσύνη και η αντι-νοημοσύνη (intelligence and counterintelligence) μπορούν να συμβούν χωρίς ανθρώπινη παρέμβαση.

Για να γίνει κατανοητό το τι διακυβεύεται, σκεφτείτε μια αναλογία από τον οικονομικό κόσμο. Τα υψηλής ταχύτητας ποσοτικά συστήματα συναλλαγών βασίζονται σε αλγόριθμους που αντιλαμβάνονται τις αλλαγές στις παγκόσμιες χρηματιστηριακές αγορές [3], αναλύουν τεράστια ποσά δεδομένων για να κάνουν προβλέψεις και, στην συνέχεια, εκτελούν αυτόματα συναλλαγές σε χρονικό διάστημα μικροδευτερολέπτων. Οι άνθρωποι δεν μπορούν να λειτουργούν οπουδήποτε κοντά στην ίδια ταχύτητα και κλίμακα. Προκειμένου να συμβαδίσουν με τον ανταγωνισμό, ακόμη και οι πιο ισχυρές εταιρείες επενδύσεων βασίζονται όλο και περισσότερο σε ποσοτικά συστήματα συναλλαγών. Για να ανταγωνίζονται μεταξύ τους για μυστικά, οι υπηρεσίες πληροφοριών θα απαιτούν ολοένα και περισσότερη AI και αυτόνομα συστήματα.

ΠΡΟΣΑΡΜΟΖΟΝΤΑΣ ΤΗΝ ΚΟΙΝΟΤΗΤΑ ΠΛΗΡΟΦΟΡΙΩΝ

Καθώς οι μηχανές γίνονται οι κύριοι συλλέκτες, αναλυτές, καταναλωτές και στόχοι της νοημοσύνης, ολόκληρη η αμερικανική κοινότητα πληροφοριών θα πρέπει να εξελιχθεί. Αυτή η εξέλιξη πρέπει να ξεκινήσει με τεράστιες επενδύσεις σε τεχνολογία AI και σε αυτονόμηση, καθώς και αλλαγές στις έννοιες των επιχειρήσεων που επιτρέπουν στις υπηρεσίες να επεξεργάζονται τόσο τους τεράστιους όγκους δεδομένων όσο και να διοχετεύουν την προκύπτουσα νοημοσύνη απευθείας σε αυτόνομες μηχανές. Καθώς σχεδόν όλα συνδέονται μέσω δικτύων που παράγουν κάποια μορφή ηλεκτρομαγνητικής υπογραφής ή δεδομένων, οι πληροφορίες σημάτων (signals intelligence) ειδικότερα θα πρέπει να είναι ένας τόπος εξέλιξης της AI [4]. Το ίδιο θα είναι και η γεωχωρική νοημοσύνη (geospatial intelligence). Καθώς οι δορυφόροι και άλλοι αισθητήρες πολλαπλασιάζονται, όλα στην γη θα είναι σύντομα ορατά ανά πάσα στιγμή από ψηλά, μια κατάσταση που το ομοσπονδιακό κέντρο έρευνας και ανάπτυξης αεροδιαστήματος ονόμασε «GEOINT Singularity». Για να συμβαδίσει με όλα αυτά τα δεδομένα, η γεωχωρική νοημοσύνη, όπως και η νοημοσύνη των σημάτων, θα πρέπει να βελτιώσει ριζικά τις δυνατότητές της σε AI.

Η αμερικανική κοινότητα πληροφοριών σήμερα χωρίζεται σε διαφορετικές λειτουργίες που συλλέγουν και αναλύουν διακριτούς τύπους πληροφοριών, όπως σήματα ή γεωχωρική νοημοσύνη. Η RIA μπορεί να αναγκάσει την κοινότητα πληροφοριών να επανεξετάσει εάν αυτοί οι διαχωρισμοί εξακολουθούν να έχουν νόημα. Οι ηλεκτρομαγνητικές πληροφορίες είναι ηλεκτρομαγνητικές πληροφορίες, είτε προέρχονται από δορυφόρο είτε από συσκευή Ίντερνετ των Πραγμάτων. Η διάκριση στην προέλευση έχει μικρή σημασία αν κανένας άνθρωπος δεν εξετάζει ποτέ τα ανεπεξέργαστα δεδομένα, και ένα σύστημα AI μπορεί να αναγνωρίσει μοτίβα σε όλα τα δεδομένα δια μιας. Ο διαχωρισμός μεταξύ πολιτικών και στρατιωτικών πληροφοριών θα διαβρωθεί παρομοίως, καθώς οι πολιτικές υποδομές, όπως τα συστήματα τηλεπικοινωνιών, θα είναι εξίσου πολύτιμες για τις στρατιωτικές επιδιώξεις όπως και τα στρατιωτικά συστήματα επικοινωνιών. Λαμβάνοντας υπόψη αυτές τις πραγματικότητες, ο διαχωρισμός των λειτουργιών των [υπηρεσιών] πληροφοριών ίσως να εμποδίζει παρά να βοηθά τις επιχειρήσεις πληροφοριών.

Η RIA μπορεί επίσης να απαιτήσει την δημιουργία νέων οργανισμών. Εάν ο μεμονωμένος άνθρωπος ήταν κάποτε το βασικό δομικό στοιχείο των πληροφοριών, αυτή η διάκριση ανήκει τώρα στην συσκευή -ένα κομμάτι λογισμικού, ας πούμε, ή ένας αισθητήρας, ή ένα αυτόνομο drone. Οι επιχειρήσεις πληροφοριών θα στρέφονται όλο και περισσότερο προς αυτές τις συσκευές, πράγμα που θα σημαίνει κατασκοπεία όχι μόνο στις ίδιες τις συσκευές αλλά και στους σχεδιαστές, τους προγραμματιστές, και τις αλυσίδες εφοδιασμού που τις παράγουν. Στο εγγύς μέλλον, η κατανόηση της τεχνολογίας AI και των αυτόνομων συστημάτων, των αλυσίδων εφοδιασμού και του επιχειρηματικού κεφαλαίου θα είναι εξίσου σημαντική όσο ήταν η κατανόηση της ισλαμικής φονταμενταλιστικής ιδεολογίας στο παρελθόν. Οι Ηνωμένες Πολιτείες μπορεί να χρειαστούν νέους οργανισμούς για να μελετήσουν αυτούς τους τομείς. Τουλάχιστον, θα χρειαστεί να επεκτείνουν τις υπάρχουσες διευθύνσεις οικονομικών και τεχνολογικών πληροφοριών, όπως επέκτειναν τις μονάδες αντιτρομοκρατίας μετά την 11η Σεπτεμβρίου [5].

Την ίδια στιγμή που η αμερικανική κοινότητα πληροφοριών εξελίσσεται για να αγκαλιάσει την RIA, θα πρέπει να περιορίσει την ικανότητα των αντιπάλων της να κάνουν το ίδιο -ιδίως επιβραδύνοντας και σταματώντας την ικανότητά τους να κυριαρχούν στη μηχανοκίνητη νοημοσύνη. Η παρεμπόδιση του σχεδιασμού και της ανάπτυξης αυτόνομων συστημάτων AI των αντιπάλων θα γίνει όλο και πιο σημαντική. Αυτό απαιτεί μυστική δράση -κάποια από αυτή θα πραγματοποιείται από μηχανήματα. Για παράδειγμα, οι Ηνωμένες Πολιτείες μπορούν να εισάγουν ψευδή δεδομένα στο σύστημα μηχανικής εκμάθησης ενός αντιπάλου, προκειμένου να εξαπατήσουν ή να εμποδίσουν το μεγαλύτερο σύστημα AI του αντιπάλου.

Αλλά όπως οι Ηνωμένες Πολιτείες θα στοχεύσουν την AI και τα αυτόνομα συστήματα των αντιπάλων τους, οι εχθρικές υπηρεσίες πληροφοριών θα στοχεύουν τα συστήματα των ΗΠΑ. Ως αποτέλεσμα, οι Ηνωμένες Πολιτείες θα πρέπει να εγείρουν νέες άμυνες και να αγκαλιάσουν νέες μορφές αντι-νοημοσύνης (counterintelligence). Για να ανταγωνιστούν, τα στελέχη της αντι-νοημοσύνης θα χρειαστούν την ίδια ματιά στην εξαπάτηση όπως βασίζονταν πάντα, αλλά θα χρειαστούν επίσης περισσότερη οικονομική και τεχνική εξειδίκευση από ποτέ. Συνολικά, η RIA θα επιβάλλει την αλλαγή σε κάθε επίπεδο [του τομέα] πληροφοριών, συμπεριλαμβανομένων των οργανισμών, της εκπαίδευσης, της τεχνολογίας, των εννοιών των επιχειρήσεων, και της αντι-νοημοσύνης.

Η ΕΠΑΝΑΣΤΑΣΗ ΞΕΚΙΝΑ ΜΕ ΤΟΥΣ ΑΝΘΡΩΠΟΥΣ

Η συλλογή και ανάλυση πληροφοριών ίσως να πάψει να είναι αποκλειστικά, ή ακόμη και πρωτίστως, ανθρώπινη προσπάθεια, αλλά ο απώτερος στόχος της θα εξακολουθεί να είναι να κατανοηθούν οι υπό ανθρώπινη ηγεσία κυβερνήσεις, κοινωνίες και στρατοί. Επιπλέον, οι άνθρωποι θα φέρουν την δημιουργικότητα, την ενσυναίσθηση, την κατανόηση και την στρατηγική σκέψη στη νοημοσύνη, κάτι που οι μηχανές είναι απίθανο να καταφέρουν σύντομα. Ως αποτέλεσμα, οι επικεφαλής τμημάτων, οι αξιωματικοί σε υποθέσεις, και οι αναλυτές θα εξακολουθήσουν να έχουν σημαντικούς ρόλους για να παίξουν για πολύ καιρό στο μέλλον -αν και η φύση των θέσεών τους μπορεί να αλλάξει.

Παρ' όλα αυτά, η RIA έρχεται, και η κοινότητα πληροφοριών θα πρέπει να την προσαρμόσει και να την αγκαλιάσει. Η αντίσταση στην αλλαγή προκάλεσε καταστροφές στο παρελθόν -για παράδειγμα, όταν το Πολεμικό Ναυτικό των ΗΠΑ αρνήθηκε [6] να αντικαταστήσει τα θωρηκτά με αεροπλανοφόρα πριν από τον Δεύτερο Παγκόσμιο Πόλεμο. Το ναυτικό ήταν υπό την ηγεσία ναυτικών οι οποίοι δεν είχαν καταλάβει τις τρομερές εξελίξεις στην αεροπορική ισχύ που θα επέτρεπαν στην Ιαπωνία να ξεκινήσει την καταστροφική επίθεση στο Περλ Χάρμπορ. Παρομοίως, η κοινότητα των πληροφοριών διευθύνεται κυρίως από ανθρώπους κατασκόπους που μπορεί να μην βλέπουν πάντα (ή να αποδέχονται) το αναπόφευκτο της μηχανοκίνητης νοημοσύνης. Οι υπηρεσίες πληροφοριών πρέπει να σπάσουν τα πολιτιστικά εμπόδια, να επενδύσουν στην τεχνολογία, και να αφιερώσουν ολόκληρα τμήματα στην τεχνολογία AI και την αυτοματοποίηση των πληροφοριών. Εάν οι Ηνωμένες Πολιτείες αρνηθούν να εξελιχθούν, κινδυνεύουν να δώσουν στην Κίνα ή σε κάποιον άλλο αντίπαλο ένα τεχνολογικό πλεονέκτημα που η Ουάσιγκτον δεν θα είναι σε θέση να ξεπεράσει.

Copyright © 2020 by the Council on Foreign Relations, Inc.
All rights reserved.

Στα αγγλικά: https://www.foreignaffairs.com/articles/north-america/2020-08-31/coming-...

Σύνδεσμοι:

[1] https://breakingdefense.com/2017/06/cardillo-1-million-times-more-geoint...
[2] https://www.foreignaffairs.com/articles/united-states/2020-08-25/cyberse...
[3] https://www.foreignaffairs.com/articles/2017-12-15/why-stock-market-rising
[4] https://www.foreignaffairs.com/reviews/review-essay/2018-11-16/beyond-ai...
[5] https://www.foreignaffairs.com/articles/2018-06-14/long-shadow-911
[6] https://www.foreignaffairs.com/articles/united-states/1977-01-01/navy-ma...

Μπορείτε να ακολουθείτε το «Foreign Affairs, The Hellenic Edition» στο TWITTER στην διεύθυνση www.twitter.com/foreigngr αλλά και στο FACEBOOK, στην διεύθυνση www.facebook.com/ForeignAffairs.gr και στο linkedin στην διεύθυνση https://www.linkedin.com/company/foreign-affairs-the-hellenic-edition