Bombardamento Usa della scuola iraniana: il primo crimine dell'IA
Il caso del bombardamento della scuola di Minab, in Iran, è tutt'altro che chiuso ed è stato sollevato di nuovo dal presidente iraniano all'Assemblea Generale dell'Onu. Risalendo alle origini dell'errore, l'agenzia Bloomberg ha scoperto che si è trattato di un caso di abuso di intelligenza artificiale da parte del Pentagono. I militari (umani) si sono fidati troppo delle indicazioni dell'IA, dimenticando che è l'uomo che deve fornirle dati corretti.
Guerra Iran-USA. 28 febbraio. Due missili americani radono al suolo la scuola elementare Shajareh Tayyebeh, a Minab, nel sud dell'Iran. Muoiono più di 150 persone. Di queste, 123 sono bambini. Sette mesi dopo, il 18 settembre 2026, un'inchiesta di Bloomberg ricostruisce cosa è andato storto. E nel farlo, realizza quelli che sono stati i timori espressi da Papa Leone XIV nella Magnifica Humanitas. Non è stato un errore isolato a generare la tragegia, ma una catena di piccoli cedimenti logici che nessuno ha potuto fermare. Semplicemente, perché non ce ne si è resi conto se non quando era ormai troppo tardi.
A conferma di quanto la vicenda resti tutt'altro che chiusa, il 23 settembre il presidente iraniano Masoud Pezeshkian è intervenuto all'ottantunesima Assemblea Generale dell'ONU mostrando le fotografie dei bambini uccisi nei raid di febbraio, tra cui gli alunni della scuola di Minab. Pezeshkian ha usato quelle immagini per presentare l’Iran come vittima del terrorismo americano piuttosto che come autore. La delegazione statunitense ha abbandonato l'aula non appena Pezeshkian ha preso la parola.
Prima di essere ripristinata a scuola elementare, il sito di Minab era stato impiegato come struttura militare dei Pasdaran. Si trattava di diversi anni prima: nel tempo la vecchia attività era stata dismessa e la struttura era stata riconvertita a scuola elementare. Le immagini satellitari mostrano ingressi separati e un cortile con i segni di un campo da gioco già dal 2017. Qualche analista se n'era accorto, ma l'annotazione era finita in un archivio secondario, mai collegato al database principale su cui si costruiscono gli obiettivi.
In quei giorni, il Maven Smart System, un software di Intelligenza Artificiale fornito da Palantir che fonde immagini satellitari, dati radar e intercettazioni in un'unica scheda, era il sistema che stilava le liste dei possibili obiettivi degli attacchi americani. Diversi militari, tuttavia, si aspettavano che il sistema segnalasse da solo le informazioni obsolete. Questa aspettativa, nella pratica, non poteva trovare però soddisfazione: lo strumento lavorava con le informazioni che gli venivano fornite. Pertanto, la scuola elementare è rimasta, per il sistema, una roccaforte della Guardia della Rivoluzione. Dopo la tragedia, Palantir ha respinto ogni responsabilità, ricordando che la qualità dei dati caricati resta compito dei militari. Ecco che si avvera un’altra triste previsione del pontefice: lo scarico della responsabilità di una decisione presa da un software.
Nei giorni precedenti l'attacco, l'amministrazione Trump aveva chiesto un'offensiva capace di colpire oltre mille obiettivi nelle prime 24 ore di azione, comprimendo drasticamente il tempo per verificare ogni bersaglio. Nello stesso periodo, il segretario alla Difesa Pete Hegseth aveva smantellato quasi per intero le unità di rischio civile del Pentagono dedicate a stimare il rischio per i civili. In pratica, nessuno di quel team, ormai ridotto all’osso, ha esaminato il sito di Minab prima di lanciare i missili.
Non è la prima volta che l'esercito americano sbaglia bersaglio. Dall'ambasciata cinese di Belgrado nel 1999 all'ospedale di Kunduz nel 2015, la storia di questi errori è lunga, e se volessimo ampliarla anche ad altri paesi non basterebbero le pagine (benché virtuali) di questo quotidiano. La novità di Minab, però, è nel ruolo assegnato al software di IA come garanzia implicita di affidabilità. Ci si è affidati al sistema senza i dovuti controlli, come se la sua risposta fosse profetica. Non è andata proprio così.
Non è difficile ricordare quanto il magistero ha già scritto sull'uso militare dell'intelligenza artificiale. Nel gennaio 2025 il documento vaticano Antiqua et Nova, papa Francesco metteva in guardia contro i sistemi militari autonomi, privi di capacità di giudizio morale. Quanto successo a Minab è, contemporaneamente, la storia di un'arma che decide da sola, e di un uomo che non ha più comando, se non formale, su quello che può e non può fare, benché sia ancora l’ultimo interprete di un giudizio morale che è ancora lontano dall’IA.
Tirando le somme, potremmo trovare nuovamente in questa vicenda il tiro alla fune che frappone l'efficienza alla sicurezza, la velocità alla cura dei dati. La promessa del Maven Smart System di valutare migliaia di obiettivi in pochi minuti si è tramutata in una tragedia sventabile con pochi semplici controlli. L’uomo si è fidato troppo dell’IA, l’IA applica quanto richiesto, e così una scuola è diventata un obiettivo militare. Intanto, si attende che Washington renda pubblico l'esito della propria inchiesta interna sulla tragedia di Minab.
