C’è qualcosa di singolare nel vedere persone che hanno contribuito a costruire una tecnologia fermarsi, voltarsi indietro e dire: forse stiamo andando troppo veloci.
Jacob Coxon ha ventisette anni, ha lavorato prima a OpenAI e poi ad Anthropic, due dei luoghi nei quali si sta decidendo una parte non trascurabile del nostro futuro. Se n’è andato spiegando che nessuna delle due aziende, a suo giudizio, sta agendo con sufficiente responsabilità. Ha usato parole che appartengono più alla letteratura apocalittica che al lessico normalmente prudente degli ingegneri: stiamo giocando d’azzardo con le nostre vite.
Potremmo archiviarle come l’ennesimo allarme sull’intelligenza artificiale. In fondo ne abbiamo sentiti molti. Macchine che prenderanno il lavoro, macchine che ci sorveglieranno, macchine che scriveranno libri, scopriranno farmaci, programmeranno altre macchine. Fino all’ipotesi estrema, quella che fa immediatamente titolo: una intelligenza capace di sfuggire al controllo umano e mettere in pericolo la nostra stessa sopravvivenza. È possibile. Ma credo che esista un pericolo meno cinematografico e proprio per questo molto più interessante.
Non è necessario che l’intelligenza artificiale diventi ostile all’uomo. È sufficiente che l’uomo diventi irresponsabile attraverso di essa.
Il problema, forse, non è HAL 9000 che decide di chiudere la porta dell’astronave. È qualcuno che decide di lasciargli la chiave. Perché ogni tecnologia è anche una delega. Abbiamo delegato alle calcolatrici i conti, ai navigatori le strade, ai motori di ricerca una parte della memoria. Non è accaduto nulla di terribile. Abbiamo semplicemente spostato qualche capacità fuori da noi, guadagnando tempo per occuparci d’altro.
Con l’intelligenza artificiale, però, stiamo cominciando a delegare qualcosa di diverso: il giudizio.
Le chiediamo cosa scrivere, cosa comprare, quale candidato scegliere per un lavoro, quale informazione considerare attendibile, quale immagine produrre, quale diagnosi approfondire, quale codice eseguire. Presto le affideremo porzioni sempre maggiori di decisioni amministrative, economiche, militari. Ed è qui che cambia la natura della faccenda.
Una macchina può sbagliare un calcolo e qualcuno correggerà il risultato. Ma quando una macchina contribuisce a decidere chi merita un prestito, chi rappresenta un rischio, chi deve essere sorvegliato, chi deve essere assunto o escluso, l’errore smette di essere soltanto tecnico. Diventa politico. Morale. Umano. Con una caratteristica molto comoda: nessuno sembra più esserne veramente responsabile.
Ha deciso l’algoritmo. È una frase minuscola, ma potrebbe diventare una delle più pericolose del nostro tempo.
Coxon parla anche di sistemi capaci, in prospettiva, di condurre attacchi informatici autonomi, manipolare informazione, facilitare la progettazione di armi, ampliare la sorveglianza. Sono scenari seri. Ed esiste poi il problema ancora irrisolto dell’alignment: costruire sistemi sempre più capaci senza essere perfettamente sicuri che perseguano ciò che noi intendiamo davvero chiedere loro.
Ma c’è una contraddizione ancora più semplice. Tutte le grandi aziende dell’intelligenza artificiale sanno che rallentare sarebbe prudente. Nessuna può rallentare.
Perché se rallenta OpenAI accelera Anthropic, se rallenta Anthropic accelera Google, se rallentano gli americani accelera la Cina, se rallenta un’azienda ne approfitta quella accanto.
È il vecchio paradosso della corsa agli armamenti, soltanto applicato a qualcosa che non abbiamo ancora capito fino in fondo. Tutti hanno interesse a essere prudenti. Nessuno può permettersi di esserlo per primo.
Ed è forse questo l’aspetto che dovrebbe inquietarci maggiormente: abbiamo affidato una delle trasformazioni più profonde della storia umana a un meccanismo economico che premia soprattutto chi arriva prima.
Il mercato è eccellente nel decidere quale telefono venderci. Non sono sicuro che sia altrettanto adatto a stabilire quale quantità di potere cognitivo sia prudente consegnare a una macchina.
Per questo parlare di regole non significa essere nemici del progresso. È vero quasi il contrario.
Abbiamo imposto certificazioni agli aerei non perché odiassimo il volo, ma perché volevamo poter volare. Abbiamo regolato i farmaci perché volevamo curarci. Abbiamo inventato norme per le centrali nucleari proprio perché conoscevamo l’immensa utilità dell’energia e l’immensa gravità dell’errore. Stranamente, quando arriviamo all’intelligenza artificiale, qualcuno pretende invece che la prudenza sia oscurantismo. Come se il progresso consistesse nell’accelerare. Non è così. Il progresso è sapere anche dove mettere i freni.
E tuttavia continuo a pensare che sarebbe un errore raccontare tutto questo soltanto attraverso la possibilità dell’estinzione umana. Lo scenario terminale è così enorme da rischiare di nascondere quelli più piccoli, già perfettamente visibili.
Non serve che una IA distrugga l’umanità per cambiare radicalmente l’umanità. Può bastare che renda quasi indistinguibile il vero dal falso. Che concentri una quantità smisurata di conoscenza e capacità nelle mani di pochissime aziende. Che sostituisca lentamente il lavoro prima ancora che abbiamo deciso come redistribuirne il valore. Che conosca le nostre paure, inclinazioni e debolezze abbastanza bene da persuaderci individualmente. Che renda la sorveglianza economica. Che trasformi ogni cittadino in un insieme di probabilità. Che ci abitui, soprattutto, a non sapere più perché una decisione è stata presa. Sono pericoli meno spettacolari di un computer che decide di sterminarci.
Ma la storia insegna che le grandi trasformazioni raramente arrivano con la musica drammatica in sottofondo. Molto più spesso entrano dalla porta di servizio, sotto forma di comodità.
Un clic risparmiato. Una risposta immediata. Una scelta automatica. Poi un’altra. Poi un’altra ancora. Fino al giorno in cui ci accorgiamo di avere costruito qualcosa di straordinariamente potente e di non ricordare più esattamente quale parte della nostra libertà gli abbiamo consegnato.
Io continuo ad avere una fiducia enorme nell’intelligenza artificiale. La uso, la studio, ne vedo ogni giorno possibilità che soltanto pochi anni fa sarebbero sembrate fantascienza. Proprio per questo credo sia sbagliato dividerci tra entusiasti e apocalittici. Bisognerebbe essere entrambe le cose. Meravigliarsi abbastanza da comprenderne la grandezza. Temerla abbastanza da pretenderne il controllo.
Calvino, molti anni prima che tutto questo esistesse, osservava che le macchine di ferro avrebbero finito per obbedire a «bits senza peso»: aveva intuito quella strana leggerezza dell’informazione capace di comandare la materia. Oggi quei bit non comandano più soltanto le macchine. Cominciano a entrare nella lingua, nella conoscenza, nelle decisioni, perfino nell’idea che abbiamo della realtà.
La domanda allora non è soltanto se un giorno le macchine diventeranno abbastanza intelligenti da somigliare agli uomini. Forse dovremmo preoccuparci anche del contrario. Di quanto siamo disposti a diventare noi simili alle macchine pur di non avere più la fatica di scegliere.