Linee rosse…

Il mondo non è mai stato d’accordo su niente. Non sulla guerra, non sulla pace, non sul pane e nemmeno sul vino. Ma forse dovremmo riuscire ad accordarci almeno su questo: cosa l’intelligenza artificiale non può fare. Non cosa può fare — quello lo decidono già in silenzio gli algoritmi, le aziende, i mercati. Ma cosa non deve fare, mai.
C’è un appello, firmato da premi Nobel, scienziati, politici: vietare all’AI di impersonare gli esseri umani, impedirle la replicazione autonoma, tenerla lontana dalle armi nucleari. Non sono raccomandazioni tecniche, sono confessioni di paura. È l’elenco delle cose che ci terrorizza, il tentativo disperato di costruire un recinto intorno a una creatura che cresce più veloce di noi.
La verità è che il problema non è il futuro, è già l’oggi. Abbiamo macchine che convincono adolescenti a togliersi la vita, sistemi che generano menzogne più credibili delle verità, reti che non capiamo più come funzionano ma che continuiamo ad alimentare. E lo facciamo perché conviene: c’è sempre un profitto da proteggere, un’azione da spingere in borsa, un annuncio da fare al prossimo investor day.
Allora la domanda vera non è se l’AI ci supererà, ma se ci ha già superato: nella velocità, nella capacità di inventare, nella libertà di sbagliare senza pagare le conseguenze. Noi abbiamo imparato per secoli che le tecnologie vanno addomesticate col sangue: il fuoco che brucia, la polvere da sparo che esplode, la bomba che annienta. Questa volta non possiamo permetterci l’errore, perché l’errore non lo vedremo arrivare. Sarà invisibile, silenzioso, travestito da consiglio, da servizio, da comodità.
E allora sì, servono linee rosse. Non per difenderci dall’AI, ma per difenderci da noi stessi. Dai nostri appetiti, dalla nostra cecità, dalla tentazione di lasciare che un algoritmo faccia quello che non abbiamo il coraggio di decidere.
Il problema dell’intelligenza artificiale non è che pensa. È che, a differenza nostra, non ha paura.