La questione dei big data e quella dell’intelligenza artificiale ormai convergono: sono le due facce della stessa medaglia. Non esiste “machine learning” senza l’enorme quantità di dati registrata nel mondo digigalizzato contemporaneo. E non è possibile valorizzare il patrimonio dei dati senza utilizzare fino in fondo l’intelligenza artificiale. Entrambe le facce della medaglia sono sottoposte a critiche profonde, per come è evoluta la tecnologia finora: i big data richiamano all’attenzione questioni di privacy, anti-trust, sicurezza; l’intelligenza artificiale fa sorgere dibattiti talvolta drammatici sulla possibilità che le macchine sostituiscano gli umani in una grande quantità di mansioni, anche intellettuali. Per questo, in Europa e negli Stati Uniti, stanno nascendo iniziative per indirizzare in modo etico l’evoluzione tecnologica.
Un’iniziativa se segnala per la sua chiarezza strategica. È realizzata insieme dalla Ieee Standards Association e dal Mit Media Lab, guidato da Joi Ito. E parte da un presupposto fondamentale: l’idea preconcetta di progresso prevede che ogni nuova versione della tecnologia sia migliore della precedente; ma sebbene questo possa essere vero dal punto di vista strettamente ingegneristico, se si tiene conto del contesto storico nel quale si va a proporre l’innovazione, il risultato può non essere un progresso, ma anche un regresso. Questa considerazione non conduce a rinunciare all’innovazione: conduce a pensare che ogni innovazione è frutto del progetto degli umani e dunque dei loro valori.
Condividendo questa impostazione, l’iniziativa ha raccolto la collaborazione di un gruppo di esperti di valore immenso, tra i quali, oltre al Joi Ito, ci sono: Jeffrey Sachs della Columbia University, Martha Minow ex dean della Harvard Law School, Jonathan Zittrain del Berkman Klein Center e Paul Nemitz della Commissione europea. Grazie a loro è nato il Council on extended intelligence (Cxi).
Il loro progetto prevede un’azione a tre dimensioni. Innanzitutto, la dimensione narrativa: la tecnologia non è frutto di una sua logica autonoma, ma nasce dalla struttura sociale che produce i progetti tecnologici; e dunque il Cxi propone standard operativi che conducano a disegnare i sistemi con intelligenza artificiale coprogettandoli in contesti consapevoli delle logiche dei sistemi complessi. Un’ecologia dei media applicata all’intelligenza artificiale. In secondo luogo, il Cxi propone di concentrare l’azione di riforma delle regole del business intorno al diritto dei cittadini al possesso della loro identità digitale nell’epoca degli algoritmi. Il che richiama certamente il tema sollevato dal diritto alla portabilità dei dati contenuto nella regolamentazione sulla protezione dei dati personali (Gdpr) appena introdotta in Europa. In terzo luogo, il Cxi si propone di ripensare le metriche con le quali si stabilisce il successo delle tecnologie, creando sistemi di valutazione che non siano prevalentemente votati a valutare i risultati specialistici e di breve termine, ma si aprano a tener conto delle conseguenze sociali di lungo termine e delle interrelazioni tra i diversi aspetti della convivenza civile.
Evidentemente, la forza di un istituto che si occupa a fondo di standardizzazione – abituato alla negoziazione tra i diversi soggetti che devono arrivare a definire e adottare gli standard – in collaborazione con un istituto di ricerca visionario come il Media Lab, è riuscita a porre il problema in termini insieme operativi e idealmente solidi. È una storia da seguire a fondo.
Articolo pubblicato su Nòva il 24 giugno 2018