C’è qualcosa di profondamente inquietante nel modo in cui stiamo entrando nell’epoca dell’intelligenza artificiale. Non tanto perché le macchine stiano diventando intelligenti, ma perché gli uomini che le costruiscono hanno cominciato a dirci che potrebbero diventarlo troppo. E continuano a costruirle.
È questo il paradosso che merita attenzione.
Da mesi, dentro le aziende che stanno sviluppando i modelli più avanzati, cresce un linguaggio che fino a qualche anno fa sarebbe sembrato materiale per un mediocre romanzo di fantascienza: perdita di controllo, sistemi capaci di ingannare, agenti autonomi, attacchi informatici condotti senza intervento umano, progettazione biologica, armi capaci di individuare un bersaglio e decidere cosa farne. Non sono più soltanto ipotesi avanzate da filosofi della tecnologia o profeti dell’apocalisse digitale. A formulare gli allarmi sono spesso gli stessi ricercatori, dirigenti e fondatori delle aziende che quella tecnologia la stanno costruendo.
Ed è qui che la faccenda smette di essere fantascienza e diventa politica.
Perché se un costruttore di ascensori dichiarasse che entro pochi mesi potrebbe non essere più in grado di garantire che il suo ascensore si fermi al piano richiesto, probabilmente nessuno gli chiederebbe di costruirne uno ancora più veloce.
Con l’intelligenza artificiale sta accadendo esattamente il contrario.
Ogni nuova generazione viene presentata come più potente della precedente. Più autonoma. Più capace di ragionare, programmare, cercare informazioni, usare strumenti. E ogni annuncio contiene ormai una formula curiosamente rassicurante e inquietante insieme: il sistema possiede capacità mai viste prima, ma naturalmente stiamo lavorando per renderlo sicuro. Poi arriva il modello successivo.
Il problema è che nessuno sembra davvero nella condizione di fermarsi. Non per cattiveria. Nemmeno, necessariamente, per irresponsabilità. Per struttura.
Una società tecnologica che decidesse unilateralmente di rallentare perderebbe terreno rispetto alle altre. Se un’azienda americana sospendesse lo sviluppo, un concorrente continuerebbe. Se gli Stati Uniti imponessero una moratoria, rimarrebbe la Cina. Se le grandi aziende occidentali rallentassero, resterebbero i modelli aperti, replicabili e modificabili in migliaia di laboratori.
È il vecchio problema della corsa agli armamenti, soltanto che questa volta l’arma potrebbe essere contemporaneamente una biblioteca, un programmatore, un ricercatore, un propagandista, un laboratorio e un generale. E soprattutto potrebbe funzionare alla velocità delle macchine.
Naturalmente sarebbe sciocco confondere possibilità e certezza.
L’intelligenza artificiale non è una divinità nascente, né una creatura misteriosa che una mattina si sveglierà con la volontà di sterminarci. Molto del discorso apocalittico che la circonda contiene marketing, suggestione e perfino una certa vanità dei suoi creatori: dev’essere gratificante pensare di aver costruito qualcosa abbastanza potente da minacciare la civiltà.
Ma liquidare tutto questo come isteria sarebbe altrettanto ingenuo. Perché esistono rischi assai meno cinematografici e molto più concreti.
Un sistema capace di individuare automaticamente vulnerabilità informatiche può diventare uno straordinario strumento di difesa. Lo stesso sistema, nelle mani sbagliate, può moltiplicare gli attacchi.
Un modello capace di aiutare un ricercatore a comprendere una molecola può accelerare la medicina. La stessa conoscenza può essere utilizzata per progettare qualcosa che sarebbe meglio non progettare.
Un algoritmo capace di analizzare milioni di informazioni può aiutare a prendere decisioni. Ma se quelle informazioni sono errate, manipolate o semplicemente incomplete, la macchina può trasformare un errore in una decisione eseguita con una velocità e una scala che nessun essere umano possiede.
Il problema, insomma, non è che la macchina diventi malvagia. È sufficiente che diventi potente.
Abbiamo sempre avuto strumenti capaci di fare il male. Ma per molto tempo tra l’intenzione e il risultato è rimasto qualcosa di prezioso: la lentezza.
Servivano persone. Tempo. Competenza. Organizzazione.
L’intelligenza artificiale tende a comprimere precisamente quella distanza. È una tecnologia della moltiplicazione. Moltiplica l’intelligenza, certo. Ma moltiplica anche l’errore. La competenza. E l’incompetenza. La conoscenza. E la menzogna.
Questo dovrebbe bastare a rendere ridicola tanto l’euforia dei devoti quanto il sarcasmo degli scettici.
La questione più interessante, infatti, non è sapere se tra sei mesi o sei anni nascerà una macchina capace di sfuggire al controllo umano. Nessuno può rispondere seriamente a una domanda del genere. La questione è capire chi controllerà le macchine che già esistono.
Perché stiamo affidando una parte crescente dell’infrastruttura cognitiva del mondo a poche aziende private dotate di capitale immenso, quantità sterminate di dati, infrastrutture energetiche, chip, data center e capacità di calcolo che fino a pochi anni fa appartenevano soltanto agli Stati.
E chiedere a quelle aziende di autoregolarsi equivale più o meno a chiedere ai corridori di una finale olimpica di decidere insieme quando sia opportuno rallentare.
Qualcuno potrebbe anche volerlo. Ma nessuno vuole arrivare secondo.
Per questo la sicurezza dell’intelligenza artificiale non può essere affidata alla coscienza di qualche amministratore delegato illuminato. È necessario costruire regole, verifiche indipendenti, responsabilità giuridiche, limiti all’impiego in determinati ambiti, protocolli internazionali.
Non perché la tecnologia debba essere fermata. Probabilmente non può esserlo. E forse non sarebbe nemmeno desiderabile. Dentro queste macchine ci sono possibilità immense: medicina, scienza, istruzione, ricerca, produttività, accesso alla conoscenza. Sarebbe altrettanto irresponsabile rinunciare a tutto questo per paura di ciò che potrebbe accadere. Ma tra l’entusiasmo e il terrore esiste ancora un antico strumento umano. Si chiama prudenza.
È meno spettacolare dell’innovazione e vende molte meno azioni in Borsa. Non compare nei benchmark e non aumenta i parametri di un modello. Eppure potrebbe essere la tecnologia più importante di tutte.
Perché forse il vero rischio dell’intelligenza artificiale non sarà il giorno in cui una macchina deciderà di non obbedire più agli uomini.
Sarà quello, molto precedente, in cui gli uomini avranno deciso che nessuno di loro è più responsabile di ciò che la macchina fa.