In un rapporto di Anthropic appena uscito sono raccolte molte diverse forme di utilizzo pericoloso dell’intelligenza artificiale. Si va dagli attacchi informatici alla disinformazione, dalle truffe alla sorveglianza illecita, dalla fabbricazione di armi alla costruzione di tecnologie genetiche potenzialmente in grado di diventare a loro volta armi biologiche. Anthropic promette estrema prudenza nella concessione del modello a chi fa domande che potrebbero condurre alla produzione di pericolose biotecnologie (Nytimes).

L’AI Act, concepito prima di ChatGPT, contiene una sua lista di utilizzi rischiosi dell’intelligenza artificiale alcuni dei quali sistemici e ovviamente prevede una serie di misure, alcune delle quali di completo divieto. Non può prevedere tutto quello che Anthropic sa oggi, anche se ovviamente, l’AI Act prevede un lavoro continuo di aggiornamento.

Quale sarà la soluzione? Una legge democraticamente decisa ma fatalmente in ritardo sulle ultime novità tecniche? Una forma di autoregolamentazione affidata alle imprese stesse che producono i modelli pericolosi e che hanno obiettivi di profitto oltre che di sicurezza? Oppure è possibile una innovazione di policy? La domanda è aperta. E c’è molto da lavorare per rispondere.

Ecco qualche ipotesi.

Oggi il Sole 24 Ore ha pubblicato un mio commento sulla vicenda di Jacob Coxon che ha lasciato Anthropic. Mi pare che il contributo importante di Coxon sia stato soprattutto nel aver saputo porre il problema correttamente: non è tanto una questione di intelligenza artificiale che scappa al controllo degli umani. È un problema molto meno folkloristico: se le aziende danno priorità a competere piuttosto che a realizzare prodotti sicuri per gli utenti, il risultato sarà molto pericoloso.

In effetti, i vari leader delle Big Tech e dei grandi laboratori di AI hanno continuato a chiedere al loro governo di poter lavorare liberamente, senza regole, ma in questo modo si sono assunti responsabilità che non sanno gestire. Perché non sanno e non possono gestire l’enorme complessità del cambiamento che hanno contribuito a creare.

Regole democraticamente decise potranno forse frenare l’innovazione ma la velocità non è l’unico obiettivo da tenere presente. Del resto, anche l’eccesso di complessità finisce per rallentare l’innovazione, che non è soltanto la quantità di novità tecniche proposte al mercato ma anche e soprattutto l’adozione di tecnologie che effettivamente cambiano il contesto economico, magari in meglio.

Come si fa a tenere conto seriamente di tutte le notizie che escono in questo periodo su questi argomenti? Ci sono alcune regole pratiche:

1. tutte le volte che l’AI viene antropomorfizzata possiamo essere certi che ci stanno raccontando una balla
2. tutte le volte che risulta che l’unica salvezza viene dalle grandi aziende che fanno i grandi modelli possiamo dire che c’è manipolazione della realtà
3. tutte le volte che il ruolo della democrazia che decide e crea regole viene pregiudizialmente criticato possiamo dire che si stanno limitando e non accelerando le possibilità dell’innovazione (esiste anche un’innovazione nella policy, no?)
4. purtroppo non possiamo però aspettare soltanto il processo di produzione di nuove leggi perché è troppo lento rispetto alla realtà; dobbiamo anche confidare nell’antitrust e, forse, nelle forme di limitazione del potere delle grandi aziende;
5. ma soprattutto dobbiamo pensare che se un sistema normativo viene prodotto da un sistema economico che produce innovazione è credibile, altrimenti può essere debole e poco incisivo; l’Europa può conquistare credibilità se accelera a sua volta la produzione di tecnologie alternative a quelle che si stanno rivelando tanto pericolose.

 

Foto prodotta con chatGPT