La pubblicazione sul numero del 27 gennaio 2018 dell’Economist di un rapporto speciale sulla prossima guerra, che la copertina del settimanale sembra quasi dare per scontata, contiene come al solito vari contributi interessanti.
In particolare, si parla del possibile utilizzo in combattimento di armi autonome, in grado cioè di assumere decisioni senza la supervisione di alcun essere umano, arrivando fino all’uccisione di donne e uomini nel caso delle LAW (lethal autonomous weapons).
Fino a pochi anni fa, armi e armamenti potevano essere distinti in due categorie: quelli in cui l’operatore umano ha il controllo praticamente completo su tutte le azioni, come nel caso di un gladius hispaniensis romano o di un carro armato Sherman della seconda guerra mondiale, e quelli dotati di un certo grado di automatismo, ma ultimamente soggetti alle decisioni umane; tra questi ultimi rientrano ad esempio i droni militari capaci di dirigersi da soli verso il bersaglio, ma la cui missione può essere abortita all’ultimo momento dall’operatore umano. Un’arma autonoma, al contrario, una volta messa in moto non può più essere controllata dall’uomo, anzi, può addirittura opporsi ai tentativi di modificarne il piano di azione o di bloccarla.
Di fronte dunque alla possibilità che un killer robot, non necessariamente umanoide o di grandi dimensioni, possa un giorno inseguirci e stabilire se ammazzarci o risparmiarci, come dobbiamo regolarci e cosa dobbiamo paventare?
Andiamo subito al nocciolo della questione: innanzitutto dovremmo temere che questo timore della macchina omicida ci distolga da problemi ben più gravi. In fondo, l’uso di lethal autonomous weapons riguarda solo i metodi di combattimento; la riflessione sulle cause profonde della guerra, dal cambiamento climatico alla rampante disuguaglianza economica, resta impregiudicata; nel frattempo, latita drammaticamente un dibattito in stile habermasiano sulle Nuove Guerre (come le ha definite l’esperta di relazioni internazionali Mary Kaldor), sulla guerra come continuazione non della politica (secondo la nota teoria dello stratega Carl von Clausewitz) ma della finanza, sui conflitti che da mezzi diventano fini, sull’integrazione tra guerra e criminalità. Dovremmo infine interrogarci sulla crescente confusione tra guerra e pace, cercando di diradare la selva oscura delle guerre ibride, grigie o irregolari; confusione che peraltro non stupisce, se è vero che l’etimologia proto-indoeuropea della parola ‘guerra’ è appunto scompiglio e caos.
Tuttavia, rileva l’Economist, le nuove armi sollevano problemi non solo etici, ma secondo alcuni autori persino esistenziali. E dunque, di nuovo, di cosa dobbiamo preoccuparci?
È chiaro che queste trasformazioni rientrano nel più vasto processo di meccanizzazione dell’attività umana. Ed anche se la maggioranza dell’umanità combatterà ancora per molto tempo a colpi di machete e raffiche di Kalashnikov, il problema dell’attuale Rivoluzione negli Affari Militari (RMA) non può essere liquidato con un’alzata di spalle. Ora, le funeste tappe dell’umana arms race in parte le conosciamo, in parte le possiamo prevedere.
La prima fase, più logica che cronologica, è lo scontro a mani nude tra uomo e uomo, su cui non abbiamo bisogno di soffermarci perché pre-macchinico.
La seconda fase, cui millenni di storia ci hanno purtroppo abituato, prevede il potenziamento artificiale dei combattenti, e dunque l’impiego di macchine che vanno dai proiettili in ossidiana del Lago Turkana (o dalla clava di 2001: A Space Odyssey) ai visori notturni.
Si sta aprendo ora una terza fase, quella della macchina contro l’uomo, mentre si affaccia all’orizzonte una quarta (e qualcuno dice ultima) fase, in cui le macchine potrebbero combattere tra loro.
A proposito della terza fase, il nightmare scenario prefigurato dall’Economist non riguarda tanto le recenti macchine da guerra automatiche, che non sono concettualmente molto diverse da una tagliola, ma quelle capaci di azione autonoma. Uno degli aspetti che più inquietano è forse la loro imprevedibilità, direi quasi la loro creatività, quella che il feldmaresciallo prussiano – e famoso stratega – Helmuth K. von Moltke avrebbe forse chiamato la loro vena artistica. Non si tratta di macchine impazzite, che sono diventate imprevedibili perché si è rotto qualcosa; al contrario, sono state costruite e programmate proprio per essere imprevedibili: il progettista sa che non potrà prevedere le loro azioni, ma ha previsto che siano imprevedibili; inserite in un teatro di guerra aperto e dinamico, escogiteranno soluzioni originali e daranno risposte inaspettate. Ora, persino questa non è un’assoluta novità: a proposito dell’intrinseca irrazionalità della guerra nucleare, già Thomas Schelling – premio Nobel per i suoi studi sulla game theory – suggeriva di accettare la possibilità di perderne il controllo. Nonostante ciò, l’imprevedibilità dà comunque le vertigini, perché sappiamo che la situazione ci sfuggirà di mano come a tanti Zauberlehring e apprenti sorcier. Anzi, proprio perché il futuro è oscuro diventiamo preda degli incubi peggiori: macchine che si rivoltano contro i costruttori, complotti di computer e robot per far fuori l’umanità, entità ad un livello superiore di coscienza e autocoscienza che ridurranno gli esseri umani ad animali da soma e cavie da laboratorio.
Ma limitiamoci a considerare una macchina da guerra intelligente nel senso del test di Turing, cioè indistinguibile nel suo agire da un legionario romano o – perché no? – da Giulio Cesare. Come abbiamo visto, quello che ci sconcerta è che sembra coniugare una gelida indifferenza meccanica con la più squisita creatività umana; tuttavia, lasciamo perdere per un attimo l’inquietudine verso questa inedita chose qui pense e chiediamoci piuttosto: che fare? In questo modo, il problema si semplifica notevolmente: dal punto di vista puramente militare, se una macchina autonoma mi attaccasse cercherei di ingannarla con la mêtis di Odisseo, o risponderei al fuoco con la bíā di Achille: à la guerre comme à la guerre; per di più, non avrei nemmeno scrupoli morali, come invece accadrebbe se tramassi subdoli inganni o sparassi a nemici in carne e ossa. Ma ben presto mi verrebbe in mente una soluzione migliore: spedirgli contro un’altra macchina da guerra.
Giungiamo così alla quarta fase, quella delle macchine da combattimento progettate per distruggerne altre, in una curiosa inversione della teoria di Hanna Harendt sulle macchine moderne, pensate per costruire altre macchine, ad infinitum. E non sarebbe forse augurabile un simile tipo di conflitto? In effetti, se ne discute parecchio: da una parte vi sarebbe un evidente risparmio di vite umane e, immaginando un duello meccanizzato tra Orazi e Curiazi, delle stesse macchine autonome; d’altro canto, la soglia del passaggio alle vie di fatto si abbasserebbe drammaticamente. Ma il punto è un altro, e assai meno pragmatico: sospetto infatti che affidarsi a conflitti totalmente meccanizzati non chiuderebbe affatto il discorso sulla violenza umana. Non credo che ci accontenteremmo di assistere al trionfo delle nostre macchine da guerra, e meno che mai dei nostri algoritmi da cyberwar: la verità è che nel cuore dell’uomo si annida pur sempre un’originaria volontà di schiacciare, straziare e uccidere, non solo gli altri in genere ma proprio il nostro prossimo. Non vale sostenere che il piacere del sangue riguarda semmai i serial killer, mentre il soldato medio sarebbe quello angosciato nelle trincee della Somme. Ciò è vero, per fortuna, e in larga misura, ma non possiamo dimenticare l’aspetto proteiforme della guerra, vaso di Pandora che sguinzaglia sempre istinti bestiali, atavici odi e orrende stragi. Nessuna sete di vendetta e di sangue, ahimé, sarà mai placata, vinta ed estinta vedendo decrittare codici segreti o fare a pezzi un robot.
E dunque, di nuovo, che fare? Si devono certo escogitare sempre nuove forme di prevenzione e imbrigliamento dei conflitti, e bisogna opporre a ogni arms race una peace race ancora più energica. Ma poiché la guerra più radicale si combatte nel cuore di ogni uomo e donna non vedo che una sola risposta decisiva: si vis pacem, para caritatem. Se qualcuno conosce una soluzione migliore la metta sul tavolo; nel frattempo, vince in bono malum, perché solo il bene può sconfiggere il male, e solo l’amore può vincere l’odio: un amore che unifichi érōs, philía e agápē, il libero, benevolente distendersi di una vita umana che rinunci alla categoria del nemico per aprirsi alla riconciliazione e alla comunione. Queste sono le antiche e perenni armi da sfoderare, e questa è l’unica vera guerra che dobbiamo combattere, giorno per giorno, e che speriamo, un bel giorno, di vincere.
Credit photo: Marine Corps photo by Sgt. Mark Fayloga
Pietro Ramellini
Ultimi post di Pietro Ramellini (vedi tutti)
- We have a dream, ovvero: quale futuro sognare e perché - Ottobre 12, 2018
- Uomo e Intelligenza Artificiale: un piccolo manuale di sopravvivenza - Giugno 25, 2018
- Armi antiche contro guerre nuove - Marzo 29, 2018
