Uno dei temi ricorrenti nella storia militare è stata la riduzione della latenza decisionale. Gli ingegneri usano questo termine per descrivere l’intervallo tra l’osservazione e l’azione. Dai messaggeri a piedi e a cavallo al semaforo, al telegrafo, alla radio, al radar, alle comunicazioni satellitari, all’intelligenza artificiale e alle armi autonome, le successive generazioni di tecnologia militare hanno cercato di comprimere questo intervallo. Sebbene queste innovazioni differiscano enormemente nell’implementazione, condividono un obiettivo comune: accelerare il ciclo decisionale militare.
Il colonnello John Boyd ha fornito l’espressione teorica più influente di questa tendenza storica attraverso il suo ciclo Osserva-Orienta-Decidi-Agisci (OODA). Boyd sosteneva che il vantaggio militare spetta alla forza in grado di ripetere il ciclo di osservazione, orientamento, decisione e azione più rapidamente dell’avversario. Il suo lavoro ha formalizzato ciò che i comandanti avevano a lungo intuito: le decisioni più rapide generalmente producono un vantaggio militare.
L’avvento dei sistemi autonomi solleva una questione fondamentalmente diversa. La latenza non potrà mai essere ridotta a zero assoluto, ma può diventare così breve che la cognizione umana significativa non partecipa più direttamente al ciclo decisionale operativo. L’intelligenza artificiale, il rilevamento autonomo, i sistemi di comando distribuiti e le comunicazioni alla velocità della macchina suggeriscono che porzioni sempre più ampie della guerra potrebbero presto operare all’interno di questo dominio temporale pressoché istantaneo.
Se i cicli decisionali militari si accorciano al di sotto dell’intervallo necessario per una cognizione umana significativa, i principi che governano la guerra rimangono invariati? O il rapporto tra velocità, controllo ed efficacia militare subisce una trasformazione fondamentale? Questo articolo esplora la possibilità che la guerra si stia avvicinando a una tale transizione. La sua domanda centrale non è se la guerra autonoma diventerà possibile, ma se i principi ingegneristici che hanno governato le epoche precedenti siano ancora sufficienti per l’era della guerra a latenza zero.
La storia della guerra viene spesso raccontata come l’evoluzione delle armi, delle tattiche o dei conflitti politici. Altrettanto importante, tuttavia, è una storia di ingegneria più silenziosa: la progressiva riduzione della latenza. Molto prima che i comandanti parlassero di sistemi di comando e controllo o di cicli decisionali, avevano compreso che la capacità di comunicare, reagire e concentrare le forze più rapidamente dell’avversario determinava spesso l’esito della battaglia.
Nel mondo antico, la comunicazione militare dipendeva dal movimento di uomini e animali. Gli ordini viaggiavano a piedi o a cavallo, mentre la conoscenza del campo di battaglia si basava sull’osservazione diretta, sugli esploratori e sui messaggeri. Le generazioni successive cercarono di ridurre questi ritardi attraverso fuochi di segnalazione, catene di fari, tamburi, bandiere e sistemi di semafori, permettendo alle informazioni di viaggiare più velocemente delle persone che le trasportavano.
Il diciannovesimo secolo ha trasformato le comunicazioni militari grazie al telegrafo elettrico, consentendo alle informazioni operative di viaggiare alla velocità dell’elettricità anziché a quella dei mezzi di trasporto. La radio ha esteso questa rivoluzione svincolando le comunicazioni dalle linee fisse, mentre il radar ha drasticamente ridotto l’intervallo tra la comparsa di una minaccia e la sua individuazione. La seconda metà del ventesimo secolo ha integrato satelliti, comunicazioni digitali, sistemi di comando in rete e armi a guida di precisione in uno spazio di battaglia sempre più interconnesso, in cui informazioni, navigazione, individuazione dei bersagli e comando operavano a una velocità senza precedenti.
L’intelligenza artificiale rappresenta la fase successiva di questa traiettoria storica. Le tecnologie precedenti hanno accelerato la comunicazione e l’elaborazione delle informazioni, lasciando però la cognizione umana al centro del processo decisionale militare. L’IA comprime sempre più gli elementi cognitivi della guerra stessa. Il riconoscimento di modelli, la fusione dei sensori, l’identificazione dei bersagli, la pianificazione operativa, la guerra elettronica, la difesa cibernetica e le decisioni di ingaggio possono ora avvenire a velocità che si avvicinano o superano i cicli decisionali umani significativi.
Questa evoluzione non è più meramente teorica. I sistemi militari esistenti operano già entro intervalli decisionali misurati in frazioni di secondo. I sistemi d’arma navali a corto raggio (CIWS) rilevano, tracciano e ingaggiano autonomamente i missili in arrivo, poiché la reazione umana è troppo lenta. Allo stesso modo, i sistemi di protezione attiva (APS) che proteggono i veicoli blindati rilevano e intercettano automaticamente i proiettili in arrivo entro finestre di ingaggio misurate in millisecondi. Questi sistemi offrono un’anteprima operativa della più ampia trasformazione che sta emergendo.
Considerate nel loro insieme, queste innovazioni rivelano uno schema sorprendentemente coerente. Per millenni, l’innovazione militare ha cercato di ridurre l’intervallo tra osservazione e azione, comprimendo il tempo necessario per comunicare, percepire, interpretare, decidere o agire. Questa progressione, illustrata nella tabella sottostante, riflette un presupposto profondamente radicato: ridurre la latenza decisionale migliora l’efficacia militare. Il modello OODA di Boyd ne spiegava il motivo. I sistemi militari autonomi sollevano ora una questione diversa: cosa succede quando il ciclo decisionale supera la velocità cognitiva degli esseri umani per cui è stato progettato?
La storica lotta contro la latenza ha trovato la sua espressione teorica più influente nell’opera del colonnello John Boyd. Cercando di spiegare perché alcune forze militari superassero costantemente avversari dotati di risorse comparabili o superiori, Boyd concluse che la vittoria appartiene spesso alla parte capace di ripetere le fasi di osservazione, orientamento, decisione e azione più rapidamente del suo avversario.
Il ciclo Osserva-Orienta-Decidi-Agisci (OODA) ha trasformato un’intuizione militare consolidata in una teoria coerente del vantaggio competitivo. Una forza che completa cicli decisionali successivi più rapidamente costringe continuamente l’avversario a reagire a una situazione tattica sempre più obsoleta. L’iniziativa passa all’attore più veloce, il ritmo operativo aumenta e il vantaggio militare si consolida nel tempo.
L’intuizione di Boyd si estese ben oltre il combattimento aereo. Il modello OODA si dimostrò ugualmente applicabile alla guerra di manovra, alle operazioni navali, all’analisi dell’intelligence, al comando e controllo e, infine, alla strategia aziendale, poiché unificava comunicazioni, intelligence, comando e ritmo operativo all’interno di un unico quadro esplicativo.
La moderna tecnologia militare ha costantemente confermato la tesi di Boyd. Una sorveglianza più efficace ha abbreviato i tempi di osservazione. Le comunicazioni digitali hanno accelerato il flusso di informazioni. I sistemi computerizzati di comando e controllo hanno ridotto i tempi di orientamento integrando molteplici fonti di informazione in un quadro operativo coerente. I software di supporto alle decisioni hanno ridotto i tempi di pianificazione, mentre le armi a guida di precisione hanno drasticamente accorciato l’intervallo tra la decisione e l’azione. L’intelligenza artificiale sembra, a prima vista, rappresentare semplicemente la fase successiva di questa evoluzione.
Eppure, il modello di Boyd si basa su un presupposto rimasto valido per tutta l’epoca in cui è stato sviluppato: chi prende le decisioni rimane un essere umano. La tecnologia ha accelerato l’osservazione, la comunicazione, l’analisi e l’esecuzione, ma il giudizio umano ha continuato a integrare le informazioni, valutare l’incertezza, ponderare le conseguenze e autorizzare l’azione. La tecnologia ha accelerato il ciclo decisionale, ma non ha sostituito chi prende le decisioni.
L’intelligenza artificiale inizia a modificare questa relazione. I sistemi autonomi svolgono sempre più spesso non solo le funzioni che circondano il ciclo OODA, ma anche porzioni del ciclo stesso. L’osservazione diventa rilevamento automatizzato. L’orientamento diventa classificazione algoritmica e fusione di sensori. La decisione diventa valutazione probabilistica. L’azione diventa esecuzione autonoma. Il ciclo decisionale incentrato sull’uomo si evolve gradualmente in un’architettura decisionale autonoma che opera alla velocità della macchina.
Questo sviluppo solleva una questione che Boyd non aveva mai avuto motivo di affrontare. Nel corso della storia militare, la riduzione della latenza ha migliorato le prestazioni di un processo decisionale fondamentalmente umano. Cosa accade quando il processo decisionale stesso inizia a operare oltre i limiti temporali della cognizione umana significativa?
Molti sistemi subiscono un cambiamento qualitativo quando un parametro che varia in modo continuo supera una soglia critica. L’acqua congela, le strutture si deformano e i reattori nucleari raggiungono il punto critico. Sebbene la variabile che governa il sistema cambi in modo continuo, il suo comportamento cambia in modo discontinuo. Gli ingegneri descrivono queste trasformazioni come transizioni di fase. I sistemi decisionali militari potrebbero essere in procinto di raggiungere una soglia analoga.
Sebbene la latenza decisionale non possa mai essere ridotta a zero, si raggiunge una soglia critica quando i cicli decisionali militari diventano più brevi dell’intervallo necessario per una cognizione umana significativa. Quando osservazione, orientamento, decisione e azione avvengono in frazioni di secondo, i comandanti umani non possono più esercitare l’autorità esecutiva durante gli scontri a fuoco. Al contrario, supervisionano sistemi autonomi che operano alla velocità di una macchina.
Questo segna l’inizio di un nuovo problema ingegneristico. Nell’ambito del tradizionale modello OODA, l’obiettivo era ridurre i tempi decisionali preservando al contempo un efficace controllo umano. Tuttavia, quando i sistemi autonomi operano al di là delle scale temporali cognitive umane, ulteriori riduzioni della latenza non si limitano più a migliorare il ritmo operativo, ma modificano progressivamente il rapporto tra azione autonoma e controllo umano. La sfida ingegneristica non consiste quindi più semplicemente nel rendere più veloci i sistemi militari, ma nel garantire che i sistemi che operano a velocità superiori a quelle della cognizione umana rimangano soggetti a un controllo umano significativo.
Il passaggio da una guerra a velocità umana a una guerra a velocità meccanica non implica che i sistemi militari autonomi diventeranno irrazionali. Al contrario, è quasi certo che i sistemi futuri svolgeranno molti compiti militari con maggiore precisione, coerenza e rapidità rispetto alle loro controparti umane. Riconosceranno schemi invisibili agli osservatori umani, integreranno enormi quantità di informazioni ed eseguiranno gli obiettivi assegnati con straordinaria precisione.
Il rischio determinante della guerra autonoma non è l’ottimizzazione difettosa, bensì l’ottimizzazione limitata. I sistemi autonomi possono ottimizzare con precisione gli obiettivi loro assegnati, rimanendo tuttavia incapaci di valutare le conseguenze più ampie di tali ottimizzazioni all’interno di ecosistemi militari sempre più complessi. Questo fenomeno può essere descritto come miopia deterministica: la tendenza dei sistemi a ottimizzare correttamente entro obiettivi locali limitati, rimanendo insensibili alle interazioni consequenziali al di là di tali obiettivi.
Un sistema che manifesta miopia deterministica non è malfunzionante. Sta eseguendo fedelmente l’obiettivo per cui è stato progettato. La limitazione non risiede nell’ottimizzazione in sé, ma nei limiti del problema di ottimizzazione. Guasti simili si verificano nelle reti elettriche, nei mercati finanziari, nei sistemi di trasporto, nelle reti ecologiche e nei sistemi di controllo industriale, dove ogni sottosistema può funzionare esattamente come previsto, mentre il sistema aggregato diventa instabile a causa dell’interazione di comportamenti locali corretti in modo indipendente. Il guasto è sistemico, non legato ai singoli componenti.
I sistemi militari mostrano sempre più caratteristiche simili. Si consideri un sistema di protezione attiva a difesa di un veicolo blindato. Il suo obiettivo è semplice: rilevare un proiettile anticarro in arrivo e distruggerlo prima dell’impatto. Nell’ambito di tale obiettivo, una rapida risposta autonoma migliora la sopravvivenza del veicolo. Tuttavia, i frammenti o l’onda d’urto del proiettile intercettore potrebbero contemporaneamente mettere in pericolo la fanteria di scorta o i civili nelle vicinanze. Dal punto di vista del veicolo protetto, l’intervento rappresenta un’ottimizzazione riuscita. Dal punto di vista delle forze congiunte, lo stesso intervento potrebbe ridurre l’efficacia complessiva del combattimento o causare vittime involontarie. Nessuna delle due conclusioni è errata. Derivano dal fatto che i limiti dell’ottimizzazione sono diversi.
Lo stesso principio si estende a tutti gli ecosistemi militari autonomi. I sistemi di difesa aerea ottimizzano le decisioni di ingaggio a livello locale. I sistemi di guerra elettronica ottimizzano il dominio dello spettro. I sistemi di difesa cibernetica ottimizzano la resilienza della rete. I sistemi logistici ottimizzano l’efficienza degli approvvigionamenti. I sistemi di gestione del campo di battaglia ottimizzano il coordinamento delle forze. Singolarmente, ogni sistema può funzionare in modo eccezionale. Collettivamente, tuttavia, le loro interazioni possono generare dinamiche operative che nessun singolo sistema è stato progettato per riconoscere, valutare o controllare.
La miopia deterministica non è quindi una proprietà dei singoli sistemi autonomi, bensì una proprietà dell’architettura che essi creano collettivamente. Man mano che i sistemi autonomi diventano più numerosi, più interconnessi e più strettamente interconnessi, il comportamento militare diventa sempre più una proprietà emergente della rete di interazione, piuttosto che la semplice somma di ottimizzazioni individuali.
Questa osservazione segna un’importante svolta rispetto all’ingegneria militare tradizionale. Storicamente, il miglioramento delle prestazioni dei singoli sistemi generalmente migliorava le prestazioni dell’intera forza. Negli ecosistemi militari altamente autonomi, tale presupposto non può più essere accettato senza riserve.
Decisioni locali corrette non producono necessariamente un risultato globale corretto.
Ciò non implica che la guerra autonoma debba essere rifiutata. Piuttosto, l’ottimizzazione della missione da sola è diventata una filosofia ingegneristica incompleta. Man mano che le operazioni militari diventano sempre più autonome e interconnesse, l’attenzione ingegneristica deve estendersi dall’ottimizzazione dei singoli sistemi alla preservazione della stabilità dell’ecosistema militare che essi, nel loro insieme, creano. La domanda necessaria, quindi, diventa: se sistemi autonomi che funzionano correttamente possono comunque generare un comportamento collettivo instabile, quale meccanismo ha storicamente impedito tale instabilità?
La stabilità di ogni sistema adattivo sufficientemente complesso dipende dal feedback. Che si tratti di sistemi elettrici, biologici, economici, politici o militari, la stabilità non è una proprietà intrinseca dei singoli componenti, bensì una proprietà emergente, mantenuta costantemente attraverso un feedback correttivo. Ogni sistema stabile richiede meccanismi in grado di rilevare le deviazioni, comunicare tali informazioni e modificare il comportamento successivo. Senza feedback, la sola ottimizzazione non è sufficiente a garantire la stabilità.
Questo principio è universale. Le reti elettriche regolano tensione e frequenza. Gli aeromobili compensano continuamente le mutevoli condizioni aerodinamiche. I sistemi di controllo industriali monitorano temperatura, pressione e flusso. Gli organismi biologici regolano metabolismo, circolazione, immunità e funzione neurale. Sebbene questi sistemi differiscano enormemente per scopo e complessità, tutti dipendono da un feedback continuo per contrastare l’instabilità.
Le organizzazioni militari non fanno eccezione. Nel corso della storia, la guerra si è basata su molteplici livelli di feedback che operano a diverse scale temporali e organizzative. I soldati si adattano alle mutevoli condizioni del campo di battaglia. I comandanti di unità modificano le tattiche. I comandanti di grado superiore riorientano le operazioni. I leader politici rivedono gli obiettivi militari man mano che le circostanze strategiche si evolvono. Questi processi di feedback consentono di riconsiderare le decisioni, correggere gli errori e interrompere le reazioni a catena prima che diventino irreversibili. Cosa ancora più importante, preservano la capacità delle autorità superiori di modificare o interrompere l’azione militare.
La latenza è la risorsa temporale che rende possibili questi meccanismi di feedback. L’intervallo tra l’osservazione e l’azione viene spesso considerato semplicemente come un ritardo operativo. Eppure, quello stesso intervallo permette l’arrivo di ulteriori informazioni, la messa in discussione di ipotesi, la revisione dei comandi e l’individuazione di errori prima che si verifichino azioni irreversibili. Ciò che a livello operativo appare come inefficienza svolge spesso un’indispensabile funzione di governance.
Questa distinzione rivela che non tutta la latenza è indesiderabile. I ritardi causati da comunicazioni inefficienti o da una burocrazia superflua dovrebbero certamente essere ridotti. Altre forme di latenza preservano le opportunità di correzione, giudizio, assunzione di responsabilità e controllo politico. Non si tratta di difetti di progettazione, bensì di componenti funzionali di un’architettura decisionale stabile.
Un tiratore scelto che sta prendendo la mira ha un breve intervallo di tempo durante il quale nuove informazioni potrebbero modificare la decisione di sparare. Un comandante può interrompere un combattimento dopo aver riconosciuto forze amiche. Un pilota può annullare un attacco dopo aver identificato civili nell’area bersaglio. La storia militare è ricca di innumerevoli esempi in cui la catastrofe è stata evitata non perché le informazioni iniziali fossero perfette, ma perché un feedback correttivo è arrivato prima che si verificasse un’azione irreversibile.
I sistemi militari autonomi comprimono o eliminano progressivamente queste opportunità. Cicli decisionali inferiori al secondo possono migliorare le prestazioni tattiche, riducendo al contempo la capacità di correzione. Man mano che porzioni sempre più ampie della guerra migrano verso domini decisionali a velocità macchina, le autorità politiche, i comandanti e gli operatori rischiano di diventare osservatori di decisioni già prese, anziché partecipanti attivi in quelle in corso.
Il problema, quindi, non è l’automazione in sé, bensì il progressivo deterioramento dell’efficacia del feedback. La cognizione umana ha una capacità temporale limitata, mentre le istituzioni politiche operano a una velocità ancora maggiore. Quando i sistemi militari autonomi si evolvono più rapidamente di quanto sia possibile generare un feedback umano significativo, i meccanismi di governo tradizionali si disconnettono progressivamente dalla realtà operativa.
Con la diminuzione del feedback, il sistema militare perde gradualmente la sua capacità di autocorrezione. I piccoli errori diventano più difficili da correggere. Le decisioni autonome e indipendenti diventano sempre più interconnesse. Le ottimizzazioni locali si propagano più rapidamente in tutto il campo di battaglia. Le conseguenze strategiche emergono prima che le istituzioni politiche abbiano sufficienti opportunità di intervenire.
Il feedback non è semplicemente auspicabile. È il meccanismo attraverso il quale si mantiene la stabilità.
Se la miopia deterministica descrive la limitazione dei singoli sistemi autonomi e il fallimento del feedback spiega il meccanismo alla base dell’instabilità, allora l’iperescalation descrive l’instabilità nel caso peggiore di ecosistemi militari altamente autonomi. L’iperescalation è l’espansione involontaria della portata o dell’intensità del conflitto derivante dall’interazione di sistemi militari autonomi che operano oltre la scala temporale di un intervento umano significativo.
Storicamente, l’escalation è stata intesa principalmente come un processo politico. I governi mobilitano le forze, i comandanti richiedono rinforzi, si formano alleanze e i leader nazionali autorizzano impegni militari progressivamente maggiori. Sebbene le guerre spesso si estendano oltre i loro obiettivi originari, l’escalation è generalmente rimasta soggetta a valutazioni politiche.
La guerra autonoma introduce una possibilità radicalmente diversa. Con la compressione dei cicli decisionali militari in frazioni di secondo, l’escalation potrebbe emergere sempre più dall’interazione di architetture decisionali autonome piuttosto che da scelte politiche deliberate. Ciò non implica necessariamente un malfunzionamento dei sistemi autonomi. Ogni sistema può funzionare esattamente come previsto, eppure migliaia di decisioni prese in modo indipendente e corretto alla velocità della macchina possono collettivamente produrre un comportamento strategico che nessun singolo sistema è stato progettato per riconoscere, valutare o controllare.
Consideriamo un esempio semplificato. Un sistema di sorveglianza autonomo identifica un’attività che classifica come ostile. Un sistema di comando autonomo innalza il livello di minaccia. I sistemi di difesa aerea aumentano la prontezza operativa, i sistemi di guerra elettronica attivano misure di protezione, i sistemi di difesa informatica rispondono a un’apparente intrusione nella rete e i sistemi logistici iniziano a riposizionare le risorse critiche. Ogni singola azione può essere localmente razionale, eppure ognuna altera simultaneamente l’ambiente operativo in cui si trova ogni altro sistema autonomo. Il comportamento risultante diventa una proprietà della rete di interazione piuttosto che di una singola decisione.
La preoccupazione sollevata dalla guerra autonoma non è quindi che i sistemi autonomi commetteranno necessariamente più errori. Il miglioramento dei sensori e l’elaborazione ad alta velocità possono ridurre sostanzialmente molte categorie di errori tattici. La questione più significativa riguarda gli errori residui che inevitabilmente permangono. Man mano che i sistemi autonomi diventano sempre più interconnessi e strettamente integrati, i singoli errori potrebbero diventare meno frequenti, ma al contempo molto più gravi. Il rischio non viene eliminato, ma ridistribuito. La sfida ingegneristica si sposta dalla riduzione della frequenza degli errori alla limitazione della loro propagazione.
Questa distinzione diventa sempre più significativa ai livelli più alti dell’organizzazione militare. Le istituzioni politiche operano necessariamente secondo tempi umani. Il giudizio strategico richiede ponderazione. La comunicazione diplomatica richiede tempo. La supervisione civile richiede responsabilità. Non si tratta di inefficienze da eliminare con metodi ingegneristici; si tratta dei meccanismi costituzionali attraverso i quali le società regolano l’uso della forza militare. Se gli ecosistemi militari autonomi si evolvono più rapidamente di quanto queste istituzioni siano in grado di comprenderli e influenzarli, le operazioni militari rischiano di disaccoppiarsi progressivamente dagli obiettivi politici che dovrebbero perseguire.
La deterrenza strategica non dipende solo dalla capacità militare, ma anche dalla possibilità di esercitare un giudizio politico prima che vengano prese decisioni irreversibili. Qualsiasi architettura militare che riduca sistematicamente tali possibilità deve pertanto essere valutata non solo in base alla sua efficacia tattica, ma anche in base alla sua capacità di preservare la stabilità strategica.
L’iperescalation non è quindi semplicemente uno scenario di guerra accelerata. Si tratta dell’emergere di dinamiche di conflitto che si evolvono più rapidamente delle istituzioni responsabili della loro gestione. Quando le operazioni militari superano la capacità decisionale politica, preservare la governabilità diventa importante quanto preservare l’efficacia militare. Evitare questo fenomeno dovrebbe pertanto diventare un obiettivo centrale dell’ingegneria militare del futuro.
Se i sistemi militari autonomi si stanno avvicinando a un regime in cui la sola ottimizzazione non è sufficiente a preservare la stabilità, allora l’ingegneria militare deve ampliare i propri obiettivi di progettazione. La sfida non consiste più semplicemente nell’aumentare velocità, precisione e capacità autonome, ma nel garantire che gli ecosistemi militari sempre più autonomi rimangano governabili, preservando al contempo i vantaggi operativi che l’autonomia offre.
L’ingegneria si è già trovata ad affrontare problemi analoghi. I sistemi elettrici possono presentare guasti, i sistemi meccanici possono superare i limiti di progettazione e i reattori nucleari possono subire transitori imprevisti. Anziché prevedere ogni possibile sequenza di guasti, gli ingegneri stabiliscono limiti operativi di sicurezza e progettano meccanismi di supervisione a più livelli che preservano la stabilità del funzionamento prima che i guasti locali si propaghino in eventi catastrofici.
L’interruttore automatico illustra questa filosofia con notevole semplicità. Un interruttore automatico non diagnostica la causa di un guasto né calcola una strategia di ripristino ottimale. Monitora una variabile critica e interrompe il flusso di energia quando viene superata una soglia di funzionamento sicura. La sua efficacia non deriva dalla comprensione della complessità complessiva del sistema, ma dal riconoscimento del momento in cui il sistema si discosta dai suoi limiti operativi certificati.
La guerra autonoma presenta una sfida simile. Man mano che gli ecosistemi militari diventano sempre più complessi, è improbabile che un’autorità di supervisione sia in grado di ricostruire o convalidare ogni singola decisione autonoma che si verifica sul campo di battaglia. La latenza decisionale, la portata integrativa e la complessità delle interazioni a velocità macchina possono rapidamente superare la capacità degli operatori umani di verificare in modo indipendente le singole decisioni prima che vengano intraprese. Pertanto, è improbabile che il tentativo di costruire un’architettura di supervisione onnisciente abbia successo.
Un approccio più pratico consiste nel governare l’architettura piuttosto che ogni singola decisione. Invece di tentare di replicare il ragionamento operativo, i meccanismi di supervisione monitorano un insieme limitato di invarianti architetturali e indicatori di stabilità che definiscono l’intervallo operativo accettabile. Questi possono includere limiti di escalation, soglie di confidenza, restrizioni geografiche, vincoli di ingaggio, integrità dei sensori, tassi di ingaggio, integrità delle comunicazioni e altri indicatori che garantiscono che le operazioni autonome rimangano entro limiti politicamente e strategicamente accettabili.
I sistemi militari esistenti incarnano già i primi principi di questa filosofia architetturale. I sistemi d’arma a corto raggio e i sistemi di protezione attiva operano in modo autonomo perché la reazione umana è troppo lenta, eppure i comandanti mantengono l’autorità sull’ambito operativo in cui questi sistemi funzionano. Regole di ingaggio, modalità operative, soglie di confidenza, restrizioni geografiche e la capacità di sospendere il funzionamento autonomo sono tutti esempi di vincoli architetturali piuttosto che di controllo umano continuo. Sebbene relativamente semplici, questi meccanismi dimostrano un importante principio ingegneristico: l’aumento dell’autonomia richiede una governance proporzionalmente più rigorosa delle condizioni in cui l’autonomia è consentita.
I futuri sistemi militari autonomi richiederanno probabilmente un livello di supervisione più sofisticato. Anziché fungere da seconda IA operativa, un sistema di supervisione indipendente monitorerebbe i fattori critici di stabilità, consentendo all’IA operativa di ottimizzare le prestazioni tattiche. Il suo scopo non sarebbe quello di determinare se ogni decisione sia ottimale, ma se il sistema autonomo rimanga entro i limiti operativi certificati. Rilevare le transizioni verso regimi di escalation più elevati potrebbe diventare una delle sue responsabilità più importanti. Il superamento di soglie di escalation predefinite, limiti di confidenza o altri confini di stabilità potrebbe innescare risposte di governance progressivamente più stringenti, tra cui un maggiore controllo, l’introduzione di un ritardo decisionale, requisiti di autorizzazione aggiuntivi o l’attivazione di meccanismi di protezione di emergenza. La tabella seguente descrive gli elementi concettuali che una tale struttura di governance potrebbe richiedere.
Questo approccio stratificato trasforma la governance da misura reattiva di emergenza in una funzione ingegneristica continua. L’obiettivo non è semplicemente arrestare i sistemi autonomi quando diventano instabili, ma preservarne il funzionamento stabile mantenendo al contempo l’efficacia militare. Gli interruttori di emergenza e i dispositivi di sicurezza rimangono indispensabili, ma rappresentano le ultime misure di salvaguardia all’interno di un’architettura di governance più ampia, progettata per prevenire lo sviluppo di instabilità fin dall’inizio.
Questo principio si estende oltre le singole armi. Interi ecosistemi militari autonomi richiedono meccanismi di governance che preservino l’autorità politica sulle operazioni automatizzate. La supervisione umana non può limitarsi alla revisione degli eventi dopo che le decisioni autonome si sono propagate sul campo di battaglia. Una governance efficace richiede di preservare le opportunità di intervento prima che le interazioni locali si trasformino in esiti strategici irreversibili.
Le future architetture militari dovrebbero pertanto essere valutate secondo due criteri complementari: efficacia operativa e stabilità sistemica. Con quanta efficacia assolvono la loro missione militare? Con quanta affidabilità preservano i limiti operativi certificati? Con quanta efficacia rilevano le transizioni verso regimi di escalation più elevati? Con quanta rapidità è possibile limitare l’autorità autonoma quando inizia a emergere l’instabilità? Quanto sono resistenti alle interazioni a cascata? Quanto bene preservano le opportunità di intervento politico e strategico? Queste domande potrebbero rivelarsi, in definitiva, importanti quanto le tradizionali misure di velocità, precisione e letalità.
Il futuro dell’innovazione militare potrebbe dipendere in modo cruciale dallo sviluppo di metodi sempre più sofisticati per la gestione di ecosistemi militari altamente automatizzati. La frontiera ingegneristica non è più rappresentata dalla sola autonomia, ma dalla preservazione della stabilità, della responsabilità e di una governance umana efficace nei conflitti armati.
Per oltre due millenni, l’innovazione militare ha perseguito un obiettivo straordinariamente costante: ridurre l’intervallo tra l’osservazione e l’azione. Dai messaggeri a piedi e a cavallo al semaforo, al telegrafo, alla radio, al radar, ai satelliti, alle armi a guida di precisione e all’intelligenza artificiale, ogni innovazione successiva ha compresso il tempo necessario per percepire, comunicare, decidere e agire. Il ciclo Osserva-Orienta-Decidi-Agisci (OODA) del colonnello John Boyd ha fornito l’espressione teorica più influente di questa traiettoria storica, dimostrando il vantaggio competitivo ottenuto accelerando il ciclo decisionale militare.
Questa traiettoria storica, tuttavia, si sta avvicinando a una transizione fondamentale. La latenza non potrà mai essere ridotta a zero assoluto, ma può diventare così breve che la cognizione, la deliberazione e l’intervento umano significativi non parteciperanno più direttamente ai cicli decisionali operativi. Una volta che i processi decisionali militari entrano nel dominio del sub-secondo, vengono sempre più governati dall’interazione di sistemi autonomi piuttosto che dal tempo di reazione umano. Ciò rappresenta più di un semplice incremento delle capacità militari. Rappresenta una transizione di fase nella guerra.
Nell’era dei conflitti a velocità umana, l’ingegneria militare si è concentrata principalmente sull’ottimizzazione. Comunicazioni migliori, comando e controllo più rapidi, intelligence più accurata e cicli OODA più brevi generalmente producevano un maggiore vantaggio operativo. L’intuizione di Boyd rimane sostanzialmente valida in quel contesto. Tuttavia, quando i cicli decisionali militari scendono al di sotto della scala temporale della cognizione umana significativa, la guerra entra in un nuovo regime sistemico in cui il feedback e la stabilità diventano i problemi ingegneristici dominanti.
Il pericolo principale di questo nuovo regime non risiede nel fatto che i sistemi autonomi prendano decisioni sbagliate. Sistemi progettati correttamente possono svolgere le loro funzioni con straordinaria precisione. Il pericolo maggiore sta nella miopia deterministica: sistemi autonomi che funzionano correttamente ottimizzano obiettivi locali limitati, generando al contempo dinamiche strategiche instabili che nessun singolo sistema intende, percepisce o controlla. L’iperescalation, il disaccoppiamento politico e gli errori catastrofici diventano proprietà emergenti dell’architettura, anziché fallimenti dei suoi componenti.
I sistemi militari esistenti preannunciano già questo futuro. I sistemi d’arma a corto raggio e i sistemi di protezione attiva operano regolarmente entro finestre di ingaggio misurate in frazioni di secondo, poiché la reazione umana è troppo lenta. Eppure, questi sistemi sono anche attentamente regolamentati. Le regole di ingaggio, le modalità operative e, in ultima analisi, l’autorità del comandante di disabilitare il funzionamento autonomo, fungono da interruttori che preservano il controllo umano. Le organizzazioni militari hanno già compreso che, man mano che la velocità decisionale supera la cognizione umana, la governance deve spostarsi progressivamente dal controllo delle singole azioni al controllo delle condizioni in cui è consentito il funzionamento dell’autonomia.
Le implicazioni si estendono ben oltre il campo bellico. Mercati finanziari, reti di trasporto, reti elettriche, infrastrutture critiche, sistemi sanitari e intelligenza artificiale si trovano tutti ad affrontare la stessa sfida emergente. Man mano che i sistemi operativi diventano più veloci, più capaci e più densamente interconnessi, l’obiettivo ingegneristico centrale si sposta dalla massimizzazione delle prestazioni alla creazione di architetture di governance che preservino l’efficacia operativa prevenendo al contempo interazioni pericolose tra sistemi autonomi.
Per secoli, l’ingegneria militare ha cercato di eliminare la latenza. Questa ricerca ha prodotto straordinarie capacità operative, ma ha anche portato la guerra a un livello inaspettato. La sfida ingegneristica fondamentale dell’era dell’IA non è più come eliminare ogni frazione di secondo residua dal ciclo decisionale, ma come prevenire le conseguenze catastrofiche di una guerra a latenza zero.
