Gli artisti avevano previsto da tempo questo sviluppo. Un robot assassino autonomo compare in letteratura già alla fine del XIX secolo. Nel racconto “Il padrone di Moxon” dello scrittore americano Ambrose Bierce, un robot giocatore di scacchi uccide il suo creatore dopo aver perso una partita. Nel romanzo breve di Edmond Hamilton del 1926 “I giganti di metallo”, un cervello artificiale costruisce un esercito di robot alti 90 metri che distruggono intere città negli Stati Uniti, un precursore di film distopici come “Terminator” del 1984 o “Matrix” del 1999. In entrambi i film e nei loro sequel, una superintelligenza artificiale combatte e controlla l’umanità con sistemi d’arma autonomi.
Il drone terrestre simile a un cane nell’episodio “Metalhead” di “Black Mirror” del 2017 dà la caccia agli umani in un mondo post-apocalittico in un modo che rispecchia gli eventi quotidiani attuali, sebbene utilizzi ancora droni FPV (First Person View) controllati da esseri umani. Mentre l’uso di droni terrestri in Ucraina è ancora agli albori , il cortometraggio del 2017 “Slaughterbots”, pubblicato dal Future of Life Institute, presenta una visione spaventosamente realistica del futuro: sciami di mini-droni autonomi che danno la caccia a singoli esseri umani.
L’idea di macchine dotate di intelligenza artificiale (IA) in grado di uccidere autonomamente gli esseri umani spinse lo scrittore americano Isaac Asimov a formulare le “Leggi sui robot” all’inizio degli anni ’40. Queste leggi vietano severamente alle macchine di uccidere gli esseri umani o di causarne la morte per inerzia. Gli sviluppi in Ucraina dimostrano quanto l’umanità sia ancora lontana dal raggiungere un tale controllo sulle macchine dotate di IA.
A inizio giugno, la rivista scientifica britannica “New Scientist” ha pubblicato un articolo che confermava l’utilizzo di droni ucraini “Terminator” controllati dall’intelligenza artificiale nell’uccisione di soldati russi. L’incidente sarebbe avvenuto nel 2024 vicino alle città di Bakhmut (in russo: Artemovsk) e Chassiv Yar. Secondo la rivista, il produttore ucraino di droni Alexander Kochanovsky ha dichiarato che dieci droni quadricotteri completamente autonomi (droni con quattro rotori) erano stati programmati per volare in prima linea e poi passare alla “modalità Terminator”, in cui un modello di intelligenza artificiale individua e attacca i bersagli. Kochanovsky ha affermato che diversi soldati russi sono stati uccisi nell’operazione.
Figura 1: Drone quadricottero FPV ucraino con munizioni perforanti | Immagine: Ministero della Difesa ucraino , CC BY 4.0
Il produttore del drone ha dichiarato che, dopo questo test, il sistema non è mai più stato impiegato su larga scala. Le normative ucraine vietano il funzionamento completamente autonomo e richiedono la verifica umana degli obiettivi nella fase finale di un attacco. Tuttavia, Kochanovsky ha spiegato che il governo ucraino è consapevole delle crescenti capacità dell’intelligenza artificiale e sta discutendo con le aziende del settore della difesa in merito all’opportunità di allentare le normative. L’esistenza di tali normative non è stata ancora confermata ufficialmente.
A metà del 2026, l’esercito russo ha anche impiegato droni autonomi Molniya per distruggere obiettivi nella regione di Zaporizhzhia. Questi droni ad ala fissa, economici e dotati di un sistema di controllo basato sull’intelligenza artificiale, a quanto pare non prendevano di mira specificamente le persone, bensì le infrastrutture. Ad oggi non è stato documentato alcun attacco diretto di questo tipo di drone contro singoli individui.
Figura 2: Drone russo “Molniya” Tipo 2 | Immagine: Ministero della Difesa russo , Licenza: CC BY 4.0
Negli Stati Uniti, i sistemi d’arma autonomi sono suddivisi in tre livelli di autonomia: sistemi completamente autonomi (“senza intervento umano”), sistemi autonomi supervisionati (“con intervento umano”) e sistemi semi-autonomi (“con intervento umano”). I sistemi d’arma completamente autonomi selezionano e attaccano i bersagli in modo indipendente dopo l’attivazione, senza ulteriore intervento umano. Nei sistemi autonomi supervisionati, gli operatori hanno la possibilità di osservare e interrompere in tempo reale l’azione del sistema sul bersaglio. I sistemi semi-autonomi attaccano solo bersagli o gruppi di bersagli precedentemente selezionati da un operatore umano. Oltre ai droni, quest’ultima categoria comprende, tra l’altro, missili guidati e missili da crociera.
Sulla base di queste distinzioni, i droni quadricotteri ucraini con “modalità Terminator” erano chiaramente un sistema d’arma completamente autonomo. Con il drone russo “Molniya”, anch’esso a controllo autonomo, è più probabile che i bersagli fossero stati precedentemente determinati da un essere umano; si tratta quindi di un sistema d’arma semi-autonomo. Tuttavia, non è noto se la tecnologia utilizzata dalla Russia possa colpire anche singoli individui. Ciononostante, è ovviamente possibile che persone possano essere ferite in attacchi con sistemi d’arma semi-autonomi, o che questo possa addirittura essere l’obiettivo prefissato, ad esempio in un attacco mirato contro alloggi in cui si sospetta la presenza di soldati nemici.
Uno dei motivi principali per cui l’Ucraina, in particolare, sta ulteriormente sviluppando la tecnologia dei droni è l’inferiorità del suo esercito, della sua industria bellica e del numero di armi offensive rispetto alla Russia. In un’intervista rilasciata all’inizio di agosto, John Mearsheimer, analista geopolitico e politologo dell’Università di Chicago, ha stimato la superiorità numerica dei soldati russi su quelli ucraini in un rapporto di due o tre a uno. Le perdite russe, ha affermato, erano almeno la metà di quelle dei soldati ucraini, contrariamente a quanto affermato dai media occidentali. A riprova di ciò, Mearsheimer ha citato la superiorità dell’artiglieria russa, che a suo dire era di cinque o dieci a uno, e il fatto che negli scambi di soldati caduti tra le parti in conflitto, i russi hanno restituito “molti più” ucraini di quanti ne abbiano restituiti i ucraini.
Mearsheimer individua anche un “enorme squilibrio” nella guerra aerea, dovuto alla superiorità dell’industria bellica russa. Mentre l’esercito russo attacca l’Ucraina con missili balistici, missili da crociera, droni e un “enorme arsenale di bombe di precisione”, la parte ucraina attacca la Russia quasi esclusivamente con droni.
La valutazione di Mearsheimer è supportata, tra gli altri, dai soldati ucraini che denunciano una cronica carenza di personale nelle loro unità militari. Diverse fonti giornalistiche confermano inoltre che la dottrina di guerra “Drone Line”, avviata dal governo di Kiev, mira a compensare l’inferiorità dell’esercito ucraino.
La possibilità di interrompere il collegamento radio tra il pilota del drone e il drone FPV tramite dispositivi di disturbo fornisce un ulteriore e forte incentivo a sviluppare il controllo tramite intelligenza artificiale. L’utilizzo di droni FPV ha avuto finora un tale successo perché i piloti, in rifugi protetti a diversi chilometri dalla linea del fronte, sono stati in grado di distruggere carri armati del valore di milioni di dollari e uccidere soldati utilizzando droni quadricotteri commerciali, dal costo di poche centinaia di dollari e dotati di esplosivo. L’unico requisito per il controllo è una connessione costante tra l’operatore e il drone.
Figura 3: Pilota di drone FPV | Immagine: Ministero della Difesa russo , Licenza: CC BY 4.0
Tuttavia, la difesa contro i droni FPV tramite dispositivi di disturbo è ormai piuttosto avanzata, come dimostra un rapporto del produttore cinese Dewin. Secondo il rapporto, esistono tre approcci principali alle contromisure elettroniche che operano in sinergia: rilevamento delle minacce, interruzione delle comunicazioni e inganno dei sistemi nemici. I team militari spesso iniziano scansionando lo spazio aereo alla ricerca delle frequenze utilizzate dai droni nemici. Una volta identificate, è possibile inviare segnali di disturbo mirati. Questi segnali inondano le bande di frequenza utilizzate dal pilota per comunicare con il drone e dal drone per trasmettere immagini, causando una forte interferenza radio. I sistemi di antenne direzionali, a differenza dei sistemi che trasmettono in tutte le direzioni, possono bloccare i segnali fino a una distanza di tre chilometri.
L’ultima generazione di apparecchiature per la guerra elettronica include anche funzionalità di spoofing GPS, che consentono agli operatori di ingannare il drone facendogli credere di trovarsi in una posizione o in un momento diverso. Ciò che inizialmente era costituito da grandi sistemi anti-drone montati su veicoli si è evoluto radicalmente nel tempo. Oggi, i soldati indossano versioni compatte di questi sistemi direttamente sul corpo. I sistemi precedenti richiedevano camion per l’alimentazione e antenne enormi, risultando utili solo presso posti di blocco fissi o per la protezione dei convogli. Grazie ai progressi nella tecnologia a radiofrequenza, i dispositivi sono ora significativamente più piccoli. I moderni jammer portatili pesano meno di sette chilogrammi e possono bloccare i segnali fino a una distanza di circa 500 metri, secondo Dewin.
Un modo per aggirare le interferenze radio è utilizzare i droni FPV controllati tramite un cavo in fibra ottica. Questi droni sono dotati di una bobina di questo cavo molto leggero e sottile, che si srotola durante il volo. Ciò consente una portata di 20-30 chilometri. Poiché sia i dati di controllo che quelli di immagine vengono trasmessi tramite il cavo, non risentono delle interferenze radio.
Figura 4: Drone quadricottero FPV ucraino con cavo in fibra ottica | Immagine: Ministero della Difesa ucraino , Licenza: CC BY 4.0
Tuttavia, questa forma di controllo presenta alcuni svantaggi significativi. Il cavo può impigliarsi tra i rami o altri ostacoli lungo il percorso e rompersi. Se il drone viene individuato in tempo, i soldati nemici possono semplicemente tagliare il cavo con delle forbici o un coltello, interrompendo immediatamente il collegamento con il pilota. In definitiva, ai soldati nemici basterà seguire il cavo a ritroso per localizzare la posizione dei piloti del drone. Nonostante ciò, questa forma di controllo è ampiamente utilizzata sul fronte in Ucraina.
Un report pubblicato a gennaio sulla rivista Forbes descrive lo sviluppo di droni autonomi ucraini. Secondo il report, i droni semi-autonomi consegnati all’inizio del 2024, equipaggiati con processori e telecamere economici, si sono rivelati inadatti e inaffidabili per l’impiego in combattimento. L’intelligenza artificiale non era in grado di identificare i punti deboli specifici dei bersagli, come la parte posteriore della torretta di un carro armato. I piloti di droni utilizzavano la funzione autonoma del velivolo, che poteva ancora essere controllato tramite segnali radio, solo quando la connessione rischiava di interrompersi a causa di interferenze. Da allora, tuttavia, gli sviluppatori ucraini di intelligenza artificiale hanno migliorato il sistema, prosegue il report di Forbes. Circa un centinaio di aziende ucraine starebbero utilizzando la piattaforma “Brave1 Dataroom” , a cui partecipa anche la società statunitense Palantir Technologies, per testare e addestrare modelli di intelligenza artificiale.
L’azienda ucraina “The Fourth Law” (TFL) ha sviluppato il modulo di autonomia TFL-1, che può essere installato su droni FPV di terze parti per consentire l’ingaggio autonomo di bersagli. Secondo il produttore, il modulo base costa solo 150 dollari. Il drone “Lupynis-10-TFL-1” , equipaggiato con il modulo e offerto da TFL, costa appena 480 dollari. Il modello “Vyriy-10-TFL-1” , prodotto in collaborazione con il produttore ucraino di droni Vyriy, avrebbe un costo equivalente a soli 440 dollari se dotato del modulo di autonomia TFL-1. TFL afferma che questo prezzo è inferiore al prezzo medio dei droni FPV senza autonomia presenti sul mercato.
Secondo il produttore, il modulo TFL-1 è progettato per assumere il controllo del drone negli ultimi 500 metri di volo e consentire l’ingaggio autonomo del bersaglio. Si afferma che ciò aumenti il tasso di successo delle missioni con droni FPV da due a cinque volte, un ulteriore incentivo a promuovere l’uso dell’intelligenza artificiale per il controllo autonomo dei sistemi d’arma. Le forze armate ucraine utilizzano già ampiamente i prodotti TFL, in quanto li aiutano a superare le sfide legate alla guerra elettronica e alle limitazioni dell’orizzonte radio, migliorando al contempo la precisione del pilota. Il produttore afferma che i bersagli presi di mira dal modulo autonomo possono essere anche in movimento, potenzialmente inclusi esseri umani.
Queste dichiarazioni di TFL contraddicono le informazioni contenute nell’articolo di “New Scientist”, secondo il quale le normative ucraine richiedono la verifica umana degli obiettivi nelle fasi finali di un attacco. Secondo le descrizioni del produttore, i droni dotati del suo modulo di autonomia sono classificati come sistemi d’arma semi-autonomi, ovvero non più controllati da un essere umano nella fase finale di un attacco. Ciò è particolarmente vero quando le comunicazioni radio vengono interrotte da dispositivi di disturbo.
A metà luglio, la Frankfurter Allgemeine Zeitung (FAZ) ha riportato un importante ordine per 50.000 droni destinati all’Ucraina tra la società americano-europea Auterion e il produttore ucraino di droni Skyfall. Secondo la FAZ, Skyfall fornirà il drone quadricottero “Shrike” in questo progetto collaborativo, mentre Auterion lo equipaggerà con il suo modulo di autonomia “Skynode” .
Auterion promuove “Skynode” come “molto più di un semplice autopilota per droni”. Trasforma “qualsiasi veicolo controllato da robot, da una semplice telecamera mobile a un sistema autonomo e interconnesso”. Il presidente di Auterion, Lorenz Meier, ha dichiarato alla Frankfurter Allgemeine Zeitung (FAZ) che la sua azienda è attualmente l’unica in grado di fornire un sistema per il controllo di sciami di droni basato sull’intelligenza artificiale. Secondo Meier, la piattaforma Auterion consente un aumento praticamente illimitato del numero di droni in uno sciame. Hanno già controllato 22 droni in uno sciame e presto saranno in grado di dimostrarne la capacità con 50. La fase successiva, afferma l’articolo della FAZ, prevede “l’unione di singoli sciami in super-sciami coordinati” per attaccare intere linee del fronte. Questo scenario ricorda fortemente la visione distopica del futuro raffigurata nel cortometraggio “Slaughterbots”, menzionato in precedenza.
Secondo quanto riportato dalla FAZ, Meier insiste sul fatto che, nonostante la tendenza all’automazione, la selezione del bersaglio e il comando di lancio rimarranno in futuro di esclusiva competenza del soldato. Questo è molto importante per ragioni etiche. Sebbene i sistemi semi-autonomi riconoscano e suggeriscano i bersagli, la loro selezione finale spetta comunque all’operatore.
La sede principale europea di Auterion si trova a Monaco di Baviera. L’azienda gestisce lì un “centro di sviluppo software”, mentre le sue attività commerciali nel settore civile hanno sede a Zurigo.
Anche la Cina sta conducendo ricerche sul controllo autonomo di sciami di droni. Il programma, denominato “Atlas”, in cui un singolo pilota può controllare fino a 96 droni contemporaneamente, è stato presentato al pubblico a marzo con un video ufficiale.
Nei droni a medio e lungo raggio, il controllo tramite intelligenza artificiale serve principalmente a garantire che l’area target possa essere raggiunta anche in caso di interruzione dei sistemi di navigazione satellitare come il GPS o delle connessioni internet satellitari. Il computer di bordo confronta autonomamente le immagini e i dati dei sensori attuali con le immagini satellitari trasmesse in precedenza e altre informazioni geografiche per guidare il drone.
Figura 5: Drone statunitense a lungo raggio di tipo LUCAS con un raggio d’azione di 800 chilometri | Immagine: Comando Centrale degli Stati Uniti , di pubblico dominio
Inoltre, il controllo tramite intelligenza artificiale può essere utilizzato per la “navigazione dell’ultimo miglio “. Ciò consente ai sistemi d’arma di attaccare autonomamente bersagli o tipologie di bersagli predefiniti senza l’intervento dell’operatore. Questo include il riconoscimento autonomo dei bersagli e il tracciamento di bersagli in movimento.
La distanza di 500 metri dal bersaglio specificata dal produttore ucraino TFL per il suo modulo, prima che l’IA prenda il controllo della fase finale dell’attacco, corrisponde in modo sorprendente alla distanza alla quale i moderni disturbatori portatili possono bloccare i segnali di controllo dei droni FPV. Questo è un chiaro indicatore del fatto che, oltre alle attrezzature militari, anche i soldati nemici sono bersaglio di questi sistemi d’arma semi-autonomi.
Il modulo TFL-1 è dotato di una fotocamera per la luce diurna con una risoluzione di 1920×1080 pixel. In queste condizioni, una persona in abiti mimetici, fotografata da una distanza di 500 metri, risulta praticamente indistinguibile dall’ambiente circostante su un piccolo schermo.
Figura 6: Persona in abiti mimetici a una distanza di 500 metri con una risoluzione di 1920×1080 pixel, immagine di repertorio creata da ChatGPT
Solo in una porzione dell’immagine notevolmente ingrandita è possibile riconoscere il contorno di una persona a questa risoluzione.
Figura 7: Persona in abiti mimetici a una distanza di 500 metri con una risoluzione di 1920×1080 pixel, immagine ritagliata, foto stock creata da ChatGPT
Il pilota di droni dipende quindi fortemente dall’intelligenza artificiale per la selezione dei bersagli. Questa dipendenza si moltiplica se, in futuro, il pilota dovesse controllare uno sciame di droni che attaccano simultaneamente più bersagli o interi settori della linea del fronte. Questo processo di selezione dei bersagli assistito dall’IA ricorda vagamente la generazione di bersagli d’attacco da parte del sistema “Lavender” durante i bombardamenti dell’esercito israeliano contro presunti combattenti di Hamas nella Striscia di Gaza. Analogamente al sistema israeliano, sarebbe probabilmente estremamente difficile per un pilota di droni in prima linea verificare rapidamente se i bersagli suggeriti dall’IA siano civili o membri delle proprie forze armate.
È inoltre discutibile come si comporteranno i droni controllati dall’IA quando utilizzati come “munizioni a guida autonoma” e il contatto radio con i piloti viene perso a causa di dispositivi di disturbo. Le munizioni a guida autonoma possono essere utilizzate essenzialmente come mine terrestri per mettere in sicurezza tratti della linea del fronte o per attaccare obiettivi nemici a lunga distanza.
È contrario alla logica bellica che i droni controllati dall’IA, utilizzati per monitorare una linea del fronte o attaccare un obiettivo, interrompano le operazioni quando il nemico, dotato di un dispositivo di disturbo, attraversa quel settore, o quando l’obiettivo è protetto da un sistema di disturbo radio. Lo scopo stesso del controllo autonomo è garantire che i sistemi d’arma rimangano operativi anche in caso di perdita del contatto radio con l’operatore. I video promozionali dei produttori o non affrontano questa situazione critica o danno l’ impressione che un operatore umano abbia sempre la possibilità di interrompere l’attacco in qualsiasi momento.
Già nel 2013, i firmatari della Convenzione su alcune armi convenzionali (CCW) – tra cui Stati Uniti, Russia, Ucraina, Cina e quasi tutti gli Stati europei – si sono accordati su un mandato riguardante i sistemi d’arma autonomi letali (LAWS). Nel 2016, le parti del trattato hanno deciso di istituire un “Gruppo di esperti governativi sui sistemi d’arma autonomi letali” ( GGE sui LAWS ), che da allora si riunisce annualmente.
Nel 2023, al gruppo è stato affidato il compito di sviluppare, per consenso, gli elementi di un potenziale “strumento” relativo ai sistemi d’arma autonomi letali. Ciò implica inizialmente la definizione dei sistemi d’arma, delle loro caratteristiche e dei loro potenziali limiti. Se il gruppo raggiungerà un consenso nelle sue deliberazioni, ciò potrebbe portare a un protocollo CCW giuridicamente vincolante o a una dichiarazione politica. Solo allora potrebbero iniziare i negoziati veri e propri per un trattato internazionale giuridicamente vincolante sul controllo dei sistemi d’arma autonomi. Tale trattato dovrebbe poi essere firmato e ratificato dagli Stati membri delle Nazioni Unite prima di entrare in vigore.
Il riepilogo dei risultati dell’ultima riunione del GGE su LAWS, tenutasi a marzo, mostra che i casi limite sopra descritti rappresentano proprio i punti critici in cui il gruppo sta attualmente incontrando difficoltà a raggiungere un consenso.
Un punto controverso nella definizione dei sistemi d’arma è la loro capacità di “identificare” autonomamente i bersagli, anziché selezionarli preventivamente da un operatore. Alcuni partecipanti hanno avvertito che “sistemi esistenti come i missili a ricerca automatica e a guida autonoma”, che “vengono utilizzati in conformità con il diritto internazionale umanitario”, potrebbero rientrare in questa definizione. Essi auspicano l’esclusione da un futuro trattato di controllo dei sistemi d’arma qualora il personale responsabile della pianificazione, della decisione o dell’esecuzione dell’attacco selezioni i bersagli specifici che il sistema è destinato a colpire. Altri partecipanti hanno sostenuto un divieto esplicito dei sistemi d’arma autonomi antiuomo.
La distinzione imprecisa tra sistemi d’arma semi-autonomi e completamente autonomi permea l’intero documento. La preoccupazione principale sembra essere quella di impedire che i sistemi d’arma autonomi diventino autosufficienti, piuttosto che proibirli del tutto. Ciò sembra derivare dal timore che un’intelligenza artificiale possa rivoltarsi contro l’umanità e utilizzare armi autonome, analogamente agli scenari distopici menzionati in precedenza, come “I giganti di metallo”, “Terminator” e “Matrix”.
In particolare, la possibilità di autorizzare macchine di morte autonome più avanzate per lo “sviluppo di contromisure” in una “quantità minima richiesta” ricorda lo spirito della Convenzione sulle armi biologiche e le sue scappatoie . Analogamente a come i laboratori biologici conducono ufficialmente ricerche di “guadagno di funzione” per scongiurare presunte minacce future, ma così facendo producono potenziali armi biologiche, anche il controllo autonomo delle macchine di morte può essere promosso in questo modo, nonostante un trattato di controllo.
Il colonnello e storico austriaco Markus Reisner, che commenta frequentemente l’andamento della guerra in Ucraina sui media e che ha conseguito il dottorato nel 2018 con una tesi sulle ” Guerre robotiche “, già allora riteneva inarrestabile lo sviluppo di sistemi d’arma autonomi. Ciononostante, considerava “altamente discutibile” affidare le decisioni etiche sul campo di battaglia a robot autonomi. Nel 2018, Reisner vedeva ancora gli Stati Uniti come il “leader esclusivo” tecnologico, con un enorme vantaggio rispetto alle altre nazioni nella guerra con i droni. Tuttavia, è probabile che questa situazione sia ormai superata.
Autore: Karsten Montag, nato nel 1968, ha studiato ingegneria meccanica all’Università RWTH di Aquisgrana, filosofia, storia e fisica all’Università di Colonia e scienze dell’educazione ad Hagen. Per molti anni ha lavorato per una società di consulenza gestionale affiliata ai sindacati, e più recentemente come responsabile di dipartimento e di progetto in un’azienda di software che sviluppava e distribuiva un sistema di gestione dei dati energetici e di fatturazione per il settore energetico.
La lettura di acro-polis.it, Quotidiano di idee, per la Libertà, la Pace e la Giustizia sociale e climatica è gratuita, ma la pubblicazione non è gratuita, ha dei costi. Anche se non ti piace tutto il contenuto: aiutaci a rimanere Paywall-free ♥ Contribuisci acquistando i volumi delle nostre collane di libri su carta, e delle edizioni di www.asterios.it che trovi sempre disponibili in IBS.it (Internet Book Shop). A fine pagina puoi registrarti per rimanere aggiornato e conoscere le nostre offerte e iniziative!
