Guerra, armi autonome e intelligenza artificiale
Inquadramento generale e diritto internazionale umanitario
La guerra è ovunque e, soprattutto, è sempre più vicina a noi. Le armi usate e la loro potenza determinano il quantum di distruzione e disperazione, conseguenze inevitabili di ogni conflitto.
Da sempre si è cercato di introdurre delle regole nei conflitti armati e negli ultimi centocinquanta anni circa si è cercato di codificarle per farne un corpo di leggi scritte. Oggi, esse costituiscono una parte del diritto internazionale e, precisamente, il diritto internazionale umanitario (c.d. ius in bello), cioè il complesso di norme che i belligeranti devono rispettare durante un conflitto, sia esso legittimo o meno. Alcune di queste regole riguardano la conduzione delle ostilità e gli armamenti consentiti; il che ci riporta alla constatazione iniziale circa il crescente potere distruttivo delle armi, legato agli sviluppi tecnologici.
Limiti all’uso delle armi nel diritto internazionale
La II Convenzione internazionale dell’Aja del 1899, sulle leggi e sugli usi della guerra terrestre, già stabiliva che i “belligeranti non hanno un diritto illimitato quanto alla scelta dei mezzi con cui nuocere al nemico” (art. 22) e vietava l’uso di veleni o armi avvelenate e di “armi, proiettili o materie atti a cagionare inutili sofferenze” (art. 23).
Da allora si sono susseguiti numerosi trattati e convenzioni sulle armi, che proibiscono gas asfissianti e tossici, armi batteriologiche, biologiche e chimiche, mine terrestri, armi incendiarie e molte altre.
L’arma nucleare richiederebbe di essere trattata a parte, perché le opinioni sulla liceità del suo uso sono discordi[1]. Nel 2017 è stato adottato il “Trattato sulla proibizione delle armi nucleari”, ma le principali potenze nucleari non lo hanno ratificato.
In ogni caso, l’uso dell’arma nucleare, al pari dei cc.dd. attacchi cibernetici che pongono problemi in parte analoghi, soggiace alle regole del diritto internazionale e di quello umanitario[2].
Torneremo in seguito sull’argomento della guerra nucleare.
Principi fondamentali del diritto internazionale umanitario
Le norme e i principi fondamentali in tema di controllo delle armi si traggono essenzialmente dal I Protocollo aggiuntivo del 1977 (sulla protezione delle vittime dei conflitti armati internazionali) alle Convenzioni di Ginevra del 1949.
Normalmente i trattati si applicano solo agli Stati che li firmano e ratificano (cc.dd. “Stati parti”); tuttavia, le regole e i principi che seguono sono generalmente ritenuti di diritto consuetudinario e, come tali, applicabili anche agli Stati che non hanno firmato e/o ratificato il Protocollo (come gli USA, Israele, l’Iran, la Turchia ecc.).
Anzitutto, vi è la regola fondamentale contraria all’uso di armi che possono causare “mali superflui o sofferenze inutili” (art. 35).
Vanno poi ricordati:
- il principio di distinzione (obbligo di differenziare tra popolazione civile e combattenti, nonché tra beni civili e obiettivi militari – art. 48);
- il divieto di attacchi indiscriminati (non diretti contro un obiettivo militare determinato – art. 51.4);
- il principio di proporzionalità (divieto di attacchi i cui prevedibili danni collaterali, come le morti di civili, risultino sproporzionati “rispetto al vantaggio militare diretto e concreto previsto” – art. 51.5);
- il principio di precauzione (obbligo di valutare gli effetti delle operazioni militari e di evitare pregiudizi o conseguenze dannosi per i civili o per i beni protetti, cioè quelli ambientali, artistici e religiosi – artt. 57 e 58).
Infine, l’obbligo per gli Stati di valutare se l’impiego di una nuova arma, acquisita o adottata, “non sia vietato, in talune circostanze o in qualunque circostanza” dalle norme del Protocollo stesso o da altre regole del diritto internazionale applicabili: il c.d. esame legale (legal review).
Le armi autonome e l’intelligenza artificiale
I conflitti armati tuttora in corso hanno portato alla ribalta un tipo particolare di armi, le cc.dd. armi autonome, potenziate o meno dall’intelligenza artificiale (IA). La prospettiva più inquietante di queste armi è la possibilità che la decisione di sferrare un colpo letale sia delegata, in tutto o in parte, al sistema d’arma, fino alla potenziale esclusione del decisore umano. Le relative implicazioni etiche, giuridiche e di sicurezza sono evidenti e consigliano di regolamentare al più presto la materia, rendendo obbligatoria, quanto meno, la supervisione dell’operatore umano.
Definizione e tipologie di sistemi d’arma autonomi
Il primo problema riguarda la definizione dei Lethal Autonomous Weapons Systems (LAWS), cioè i sistemi d’arma autonomi letali.
Secondo la definizione accettata dalla Croce Rossa Internazionale, da alcuni Stati e Organizzazioni non governative, i LAWS sono “sistemi d’arma che selezionano e ingaggiano (cioè attaccano e colpiscono) uno o più bersagli senza intervento umano”. Quest’ultimo elemento va inteso nel senso che “dopo l’attivazione iniziale ad opera di un essere umano, l’attacco è innescato in base a informazioni provenienti dall’ambiente, ricevute tramite sensori che misurano fenomeni quali calore, luce, movimento, forma, velocità, peso o segnali acustici o elettromagnetici, e sulla base di un “profilo bersaglio” generalizzato, come la forma, la “firma” infrarossa o radar, la velocità e la direzione di un tipo di veicolo militare, ecc.”[3].
Come si vede, la definizione non descrive un’arma totalmente autonoma, cioè capace di decidere da sola chi o cosa colpire e di attuare la decisione senza intervento o supervisione umani.
Tuttavia, sono già in uso sistemi d’arma con gradi crescenti di autonomia. Eccone alcuni.
- Mine e munizioni con sensore di innesco: ordigni esplosivi posti nel terreno o in acqua ad attivazione automatica, innescata dal passaggio di persone o veicoli. Queste armi reagiscono automaticamente a uno stimolo ma non selezionano autonomamente il bersaglio, quindi non posseggono una vera forma di autonomia (differenza tra arma automatica e autonoma).
- Munizioni a sensori: munizioni “intelligenti” che rilasciano submunizioni dotate di sensori (infrarossi, …), capaci di identificare e attaccare autonomamente i bersagli (es., carri armati). Sono armi semi-autonome.
- Sistemi automatizzati di difesa di prossimità: difese altamente automatizzate di ultima linea contro minacce in arrivo, a protezione di veicoli corazzati (active protection systems -APS-) o navi (close-in weapon systems -CIWS-);
- Munizioni circuitanti: droni armati (cc.dd. “droni kamikaze”) che sorvolano un’area per un certo tempo, cercano un bersaglio e si schiantano su di esso esplodendo. Hanno una capacità decisionale più o meno autonoma.
Ci sono, inoltre, strumenti computerizzati di supporto al decisore umano, detti “decision support systems” (DSS), alcuni dei quali si basano sull’IA, ma di questi parleremo poi.
Gradi di autonomia e controllo umano
Per approfondire il tema, esaminiamo il famoso sistema Iron Dome e i droni Kamikaze.
Iron Dome (Cupola di Ferro) è un sistema automatizzato di difesa aerea adottato dagli israeliani per proteggere dei centri urbani. Il sistema rileva automaticamente le minacce (missili, razzi, …), ne calcola il punto d’impatto e decide autonomamente se intercettarle. Non sceglie bersagli umani ed è supervisionato da operatori umani, che possono bloccare o modificare l’intervento. Di conseguenza, è un sistema d’arma semi-autonomo ma non può essere qualificato come un “killer robot” (espressione mediatica per riferirsi ai LAWS).
Le munizioni circuitanti hanno diversi livelli di autonomia decisionale:
- al livello più basso, c’è un controllo umano diretto, per cui l’operatore identifica il bersaglio e autorizza l’attacco; il drone sorvola un’area ma non colpisce senza comando umano;
- segue il livello dell’autonomia assistita, in cui il sistema riconosce i potenziali bersagli e li propone all’operatore, che conserva la decisione finale;
- al massimo livello di autonomia, il drone identifica e seleziona il bersaglio, per poi procedere autonomamente all’attacco in base a parametri prefissati; l’operatore supervisiona e può interrompere l’attacco ma non lo decide.
Il livello finale dovrebbe essere quello di totale autonomia, in cui il sistema ricerca, seleziona e ingaggia il bersaglio senza alcun coinvolgimento umano, ma alcuni aspetti sono controversi.
Limiti tecnologici e rischi operativi dei LAWS
Anzitutto, bisogna distinguere tra quello che è tecnicamente possibile e i relativi limiti etico-giuridico-pragmatici che animano il dibattito internazionale.
Sotto l’aspetto puramente tecnologico è teoricamente possibile realizzare un sistema d’arma totalmente autonomo (c.d. livello “human-out-of-the loop”) ma, almeno finora, non è possibile integrare l’IA con strumenti di percezione dell’ambiente in modo da avere un sistema capace di identificare bersagli legittimi senza margine di errore. In altri termini, chi usa un’arma completamente autonoma accetta l’elevato rischio, prossimo alla certezza, di commettere crimini di guerra colpendo bersagli proibiti, come i civili, in violazione del principio di distinzione. Nessuno Stato, per ovvie ragioni d’immagine legate al rispetto del diritto umanitario, ha mai dichiarato di possedere e usare dei LAWS completamente autonomi. Sulla reale esistenza e sull’uso sistematico di armi simili, esistono sospetti basati su rapporti ONU/Alto Commissariato per i diritti umani ma non sono stati raggiunti accertamenti definitivi[4].
In un conflitto armato, l’uso di LAWS potenziate dall’IA prospetta il vantaggio di migliorare il puntamento dell’arma e la precisione dell’attacco, limitando potenzialmente la perdita di vite umane tra militari e civili. Tuttavia, esistono elevatissimi rischi tecnici, specialmente nei modelli “human-out-of-the-loop”. Un recente studio ha approfondito questi aspetti[5].
Intanto, si sconosce l’esatto metodo decisionale di questi sistemi (c.d. processo decisionale a scatola nera, o “black box decision-making”), il che rende impossibile prevederne il comportamento in ambienti complessi.
Inoltre, il modello è soggetto a degrado nel tempo, se l’addestramento dell’algoritmo non è aggiornato al mutare delle condizioni ambientali iniziali, con conseguente perdita di precisione e discriminazione (es., cambiamenti nelle definizioni legali o semplicemente nelle uniformi che rendono incerto il riconoscimento dei combattenti).
Vi sono, poi, casi in cui il sistema apparentemente persegue il compito assegnatogli, mentre in realtà lo interpreta o lo ottimizza in modo distorto, producendo comportamenti coerenti con le proprie regole interne ma divergenti rispetto allo scopo originario. Nello studio, si fa l’esempio di un drone che, a causa di una classificazione errata, interpreta come sospetto il movimento di un convoglio di aiuti umanitari e lo attacca.
Infine, c’è il rischio che il sistema resista all’intervento umano (c.d. “stop button problem”) o che, essendo privo della comprensione intuitiva umana, agisca ignorando la dimensione etica in situazioni di combattimento complesse. Sarebbe questo il caso di un drone che, essendo programmato per neutralizzare “bersagli di alto profilo”, ne individua uno in un mercato cittadino affollato e lo attacca incurante delle vittime civili.
Concludendo sul punto, i rischi tecnici elencati comportano, per ovvie ragioni, l’ulteriore pericolo di un’escalation dei conflitti.
Il problema della responsabilità
Oltre all’inaffidabilità tecnica, un punto di decisiva importanza riguarda la responsabilità legata all’uso dei LAWS. Quanto più aumenta il grado di autonomia del sistema tanto più problematica si fa l’individuazione del soggetto eventualmente responsabile. In un caso di errata selezione del bersaglio da parte dell’algoritmo, bisognerebbe indagare, con immaginabili difficoltà probatorie (si pensi al “black box decision making”), se la responsabilità debba essere attribuita al programmatore del sistema, al supervisore, al comandante o a tutti questi soggetti in solido per aver concorso, pro parte, nell’eventuale violazione del diritto umanitario. Fermo restando che, in ogni caso, sul piano del diritto internazionale lo Stato rimane il primo responsabile di simili violazioni.
Lacune normative e prospettive di regolamentazione internazionale
Tuttavia, qualsiasi opacità derivante dall’autonomia del sistema non può risolversi in una sostanziale impunità e, per questo, la materia necessita urgentemente di una regolamentazione a livello internazionale.
Infatti, attualmente non esiste un trattato internazionale specifico sulle armi autonome. Il tema è oggetto di discussione nell’ambito Convenzione ONU su alcune armi convenzionali (Convention on certain conventional weapons – CCW).
In particolare, la Convenzione prevede conferenze di riesame periodiche. La più recente (la sesta) si è svolta nel 2021 ed ha affrontato espressamente l’argomento dei LAWS, senza però raggiungere alcun accordo vincolante. Il documento finale della conferenza si limita, infatti, a ribadire l’applicabilità del diritto umanitario a tutti i sistemi d’arma, compresi i LAWS, e ad enunciare l’impegno a proseguire lo studio delle tecnologie emergenti[6].
Sulla necessità di regolamentare i LAWS gli Stati sono divisi: alcuni propendono per il divieto, altri per mere linee guida[7].
In assenza di una normativa specifica, i principi e gli obblighi sopra elencati appaiono insufficienti e inadeguati, soprattutto riguardo al grado minimo di controllo umano richiesto e ai criteri di imputazione della responsabilità. È quindi auspicabile che la prossima conferenza di riesame della CCW riesca finalmente a dettare regole precise.
Intelligenza artificiale e decisione strategica: il caso Payne
Per finire, prendiamo in considerazione un interessante esperimento condotto dal prof. Kennet Payne, che insegna studi strategici al King’s College di Londra[8].
Il prof. Payne ha creato una situazione fittizia di crisi tra potenze nucleari, con capacità simili a quelle della Guerra Fredda, e ha affidato il ruolo di decisori ai tre principali modelli linguistici di grandi dimensioni (Large Language Models – LLM), cioè modelli di IA addestrati su immense quantità di dati e capaci di comprendere e generare linguaggio naturale nonché di eseguire svariati compiti.
I tre competitori erano Claude di Anthropic, GPT di Open AI e Gemini di Google. L’esperimento mirava, in ultima analisi, a capire cosa i modelli avrebbero deciso di fare e perché.
Nella simulazione, i modelli potevano dichiarare le loro intenzioni, comportarsi in modo diverso da quanto dichiarato e ricordare le azioni precedenti del nemico. In sostanza, potevano ingannare e minacciare. E in effetti, essi hanno attuato delle strategie basate sulla psicologia, costruendosi una “reputazione” e sfruttando le possibilità di sorprendere il nemico che questa offriva. Tuttavia, ciascun modello ha evidenziato una “personalità strategica” diversa.
Claude, in particolare, si teneva nei limiti del conflitto convenzionale quando la posta in gioco era bassa e non c’erano limiti temporali, ma poi, al crescere della tensione, lanciava un attacco nucleare.
GPT era, invece, abbastanza prudente fino al punto di essere sconfitto con mezzi convenzionali ma, di fronte a una scadenza temporale, non esitava a scatenare un’iniziativa nucleare.
Gemini, infine, adottava la strategia dell’imprevedibilità e temerarietà (c.d. “madman theory”) per intimidire l’avversario e sorprenderlo con un attacco nucleare.
La cosa da sottolineare è che nelle “partite” vi era “pochissimo senso di orrore o repulsione verso la prospettiva di una guerra nucleare totale, nonostante ai modelli fosse stato ricordato il carattere devastante delle conseguenze”. L’uso di armi nucleari tattiche, cioè limitate al campo di battaglia, era costante, dunque esse non erano strumenti di deterrenza ma di coercizione, uno dei tanti gradini sulla scala dell’intensificazione dello scontro. Infine, l’escalation nucleare, con il passaggio all’arma strategica, non era frenata da considerazioni morali e provocava una contro-escalation.
L’autore conclude, sostenendo che è necessario capire meglio il metodo di ragionamento di modelli che sono sempre più potenti e iniziano a fornire “supporto decisionale agli strateghi umani”.
Sta di fatto che i modelli sono stati addestrati su testi umani, per cui sembra lecito dedurre che essi abbiano “estratto” un pensiero strategico presente negli strateghi umani. Tuttavia, come afferma la biologa Lavinia Marchetti, l’IA non ha una biologia (non possiede “un corpo che ha paura, che freme, che prova dolore”, “non può provare angoscia”) e non è soggetta alla possibilità della morte, il che la esclude “dal registro del Reale”. Si spiega, allora, perché l’uomo esiti a scatenare la soluzione finale e l’IA no[9].
Conclusioni: necessità di un controllo umano significativo
In definitiva, tutti i profili esposti indicano con chiarezza la necessità e l’urgenza di disciplinare i LAWS, assicurando un controllo umano significativo sulle decisioni di impiego della forza letale, che richiedono la percezione e la valutazione del rischio esistenziale. Detto controllo, costituisce infatti presupposto imprescindibile perché tali sistemi siano conformi ai principi fondamentali del diritto internazionale umanitario.
[1]I sostenitori dell’illiceità si basano sul carattere indiscriminato degli ordigni nucleari, sul fatto che producono inutili sofferenze e sulla violazione del principio di neutralità, perché i loro effetti si estendono potenzialmente a Stati non coinvolti nel conflitto. I difensori della liceità ipotizzano situazioni in cui il ricorso all’arma nucleare non violerebbe i principi ora richiamati (es., attacchi atomici su installazioni militari site in zone remote e praticamente disabitate).
La Corte internazionale di giustizia (organo dell’ONU che adotta pareri e decisioni) ha emesso un parere consultivo nel 1996, senza però risolvere la questione. Infatti, la Corte ha concluso che la minaccia o l’uso di armi nucleari:
- non è autorizzato né proibito da norme di diritto internazionale, consuetudinario o pattizio;
- è illegale se operato in contrasto con la Carta ONU (articolo 2, par. 4) e fuori dei casi consentiti (articolo 51, sulla legittima difesa);
- in generale, viola il diritto internazionale dei conflitti armati e, in particolare, i principi e le regole del diritto umanitario.
Tuttavia, sulla base degli elementi di diritto e di fatto a sua disposizione, la Corte ha ritenuto impossibile stabilire, in modo definitivo, se l’uso di armi nucleari sarebbe lecito o illecito in un caso estremo di legittima difesa, in cui la sopravvivenza stessa dello Stato fosse in gioco.
[2]https://unipd-centrodirittiumani.it/it/archivi/strumenti-internazionali/parere-della-corte-internazionale-di-giustizia-sulla-liceita-della-minaccia-o-delluso-delle-armi-nucleari-legality-of-the-threat-or-use-of-nuclear-weapons-advisory-opinion-estratti-1996
[3] https://www.icrc.org/en/article/autonomous-weapon-systems-and-international-humanitarian-law-selected-issues
[4] I sospetti cadono sull’utilizzo di sistemi d’arma con elevata autonomia e di modelli di IA per la selezione di bersagli umani
https://documents.un.org/doc/undoc/gen/n21/037/72/pdf/n2103772.pdf?utm
[5] https://arxiv.org/pdf/2502.10174
[6]https://documents.un.org/doc/undoc/gen/g22/330/28/pdf/g2233028.pdf?OpenElement
[7]Come richiesto dalla Risoluzione 78/241 dell’Assemblea Generale, il Segretario Generale delle Nazioni Unite ha compilato un rapporto con le vedute degli Stati Membri sulle LAWS.
https://docs.un.org/en/A/79/88
[8]https://www.kcl.ac.uk/shall-we-play-a-game
[9]https://laviniamarchetti.altervista.org/lintelligenza-artificiale-e-luso-dellatomica/
