Caro Luca
L’applicazione dell’intelligenza artificiale alle armi è una delle più preoccupanti frontiere dell’innovazione tecnologica. La possibilità che dei sistemi d’arma automatici decidano in base a funzionalità tecniche di porre fine alla vita di persone umane impone una riflessione profonda e una decisione conseguente. Un principio fondamentale dovrebbe essere che quella decisione terribile sia comunque presa da umani in base a logiche ben codificate dai codici militari e politici. So che al Parlamento è in discussione una mozione per stabilire che l’Italia non si impegna nella produzione di sistemi di arma automatici che violino quel principio. Questo è il testo che si trova anche sul blog del proponente, l’onorevole Stefano Quintarelli:
“Mozione 1/01620, Camera dei Deputati
La Camera,
premesso che:
l’articolo 11 della Costituzione ripudia la guerra come strumento di offesa alla libertà degli altri popoli e come mezzo di risoluzione delle controversie internazionali;
lo sviluppo tecnologico, in particolare nei settori dell’elettronica e dell’intelligenza artificiale, con capacità di acquisizione di grandi quantità di dati, loro elaborazione ed analisi in tempo reale con miglioramento delle performance mediante sistemi di autoapprendimento, consente di realizzare sistemi con facoltà di assumere decisioni autonome;
uno dei settori di applicazione di tali tecnologie riguarda il settore degli armamenti, in particolare nei cosiddetti AWS – Autonomous Weapons Systems, ovvero sistemi d’arma che, una volta attivati, possono selezionare e ingaggiare bersagli senza ulteriore intervento di un operatore umano;
l’esistenza degli AWS abilita, pertanto, la possibilità di eliminare l’operatore umano dal campo di battaglia, ponendo i presupposti di una trasformazione nella struttura delle operazioni militari qualitativamente diversa da precedenti innovazioni tecnologiche in tale ambito,
impegna il Governo:
1) a promuovere a livello europeo una moratoria internazionale dello sviluppo di sistemi d’arma di tipo AWS;
2) ad assumere iniziative per introdurre nella normativa nazionale la previsione di un divieto dello sviluppo e della commercializzazione di sistemi AWS.”
Che cosa ne pensi?
Fabio Pietrosanti
Presidente Centro Hermes per la Trasparenza e i Diritti Umani Digitali
Caro Fabio
Il Parlamento dimostra una crescente sensibilità per i temi della società digitale. L’intergruppo innovazione ha contribuito ad affrontare intricate questioni relative alla modernizzazione digitale del paese con un approccio costruttivo e non partigiano. La X Commissione ha prodotto un’analisi strategica sull’industria 4.0 che è risultata decisiva per definire una policy molto incisiva per lo sviluppo. E la Dichiarazione dei diritti in internet realizzata da una Commissione di studio – ispirata dalla leadership di una persona che ha dedicato tutta la sua vita all’innovazione culturale nella politica come Stefano Rodotà – ha portato a una mozione votata all’unanimità dalla Camera. Il suo valore di ispirazione potrà essere considerato meglio guardando a una prospettiva di lungo termine. Ma ha dato un senso nuovo alle mozioni di principio. Come quella che si propone contro gli armamenti a base di intelligenza artificiale. Il principio costituzionale secondo il quale l’Italia ripudia la guerra è un elemento identitario della nostra civiltà democratica. Il principio umano secondo il quale non possono essere le macchine a prendere la decisione di premere il grilletto è un elemento fondamentale della responsabilità degli umani nei confronti della vita e della civiltà. Ma la spesa militare è una delle primarie fonti di finanziamento della ricerca tecnologica. Si potrà affermare un principio sacrosanto senza confondersi a causa di quella prassi? Si può consentire un impegno degli italiani nello sviluppo, nella ricerca e nella produzione di armi per la difesa intelligente, contro attacchi missilistici o i cyberattacchi, ma lavorare per fermare la proliferazione di armi di attacco dotate di intelligenza artificiale?
Rubrica pubblicata sul Sole 24 Ore il 2 dicembre 2017