Ci siamo preoccupati a lungo che le macchine potessero diventare intelligenti. Forse abbiamo formulato male la domanda. Il problema non è se una macchina saprà scrivere un romanzo migliore del nostro, dipingere un quadro più bello, comporre una musica capace di commuoverci. E nemmeno se un algoritmo, dopo avere attraversato in pochi istanti biblioteche che a un essere umano richiederebbero molte vite, riuscirà a trovare parole più precise delle nostre. Potrebbe accadere. In parte sta già accadendo. E non sarebbe necessariamente una tragedia.
La tecnica ha sempre cominciato offendendo l’orgoglio di qualcuno. La fotografia sembrava destinata a uccidere la pittura, il cinema il teatro, la televisione il cinema, internet i giornali. Poi abbiamo scoperto che le cose nuove raramente cancellano quelle vecchie: piuttosto le costringono a domandarsi che cosa siano davvero.
L’intelligenza artificiale sta facendo lo stesso con noi.
Ci obbliga a chiederci quanto di ciò che chiamiamo talento sia tecnica, quanto memoria, quanto imitazione, quanto combinazione di cose già viste. Domande abbastanza scomode da risultare perfino salutari.
Il punto, dunque, non è che una macchina sappia scrivere. È che possa fingere di essere qualcuno che ha scritto. Qui cambia tutto.
Perché tra un testo prodotto da una macchina e un testo prodotto da una macchina che si presenta come opera di un uomo c’è la stessa differenza che passa tra una fotografia e un documento falso. Il primo appartiene alla rappresentazione. Il secondo interviene sulla realtà. E la realtà è una cosa fragile. Molto più fragile di quanto immaginassimo.
Per secoli abbiamo creduto che il problema fosse stabilire se qualcosa fosse vero. Oggi dobbiamo prima stabilire se qualcosa sia accaduto davvero.
Una voce può pronunciare parole mai dette. Un volto può compiere gesti mai compiuti. Uno scrittore può pubblicare dopo morto. Una persona può confessare ciò che non ha mai pensato, promettere ciò che non ha mai promesso, insultare qualcuno che non ha mai incontrato. Il falso non ha più bisogno di travestirsi male. Ha imparato la dizione.
Ed è questa, forse, la novità più profonda del nostro tempo: per la prima volta la contraffazione può essere indistinguibile dall’originale non soltanto per chi guarda distrattamente, ma anche per chi guarda con attenzione. A quel punto non viene falsificato soltanto un contenuto. Viene consumato qualcosa di molto più prezioso: il credito della realtà.
Se domani vedremo un filmato autentico e penseremo che potrebbe essere artificiale, il danno sarà già avvenuto. Non perché avremo creduto a una bugia, ma perché avremo cominciato a dubitare della verità. È il paradosso perfetto.
Per secoli abbiamo temuto che gli uomini credessero troppo facilmente alle immagini. Potremmo entrare in un’epoca in cui non crederanno più nemmeno a quelle vere. E quando tutto può essere falso, anche il vero perde valore.
Per questo la questione decisiva dell’intelligenza artificiale non riguarda soltanto il diritto d’autore, i compensi, i dataset, le licenze. Sono questioni enormi, naturalmente. Ma dietro ce n’è una ancora più elementare. Sapere chi sta parlando.
Una civiltà funziona anche perché attribuiamo le parole. Una firma non è soltanto vanità: è responsabilità. Significa che qualcuno mette il proprio nome accanto a ciò che dice e accetta che quelle parole gli appartengano. La macchina, invece, non rischia niente.
Non arrossisce. Non perde amici. Non viene licenziata. Non cambia idea durante la notte. Non deve convivere con quello che ha scritto. È questa la distanza che continuiamo a dimenticare quando paragoniamo una frase generata e una frase umana soltanto per stabilire quale delle due sia più elegante.
La letteratura, e forse ogni forma di espressione, non consiste soltanto nelle parole che leggiamo. Consiste anche nel fatto che qualcuno abbia avuto bisogno di scriverle.
Una poesia non è soltanto una sequenza riuscita di parole. È accaduta a qualcuno. È passata attraverso un corpo, un tempo, una paura, una memoria.
La macchina può riprodurne perfettamente la forma. Forse un giorno saprà persino migliorarla. Ma quello che non dovrebbe mai poter fare è cancellare la distanza tra imitazione e origine.
Non abbiamo bisogno di proibire alle macchine di parlare. Abbiamo bisogno di impedire loro di parlare di nascosto.
Servirà probabilmente una nuova educazione alla trasparenza: una grammatica pubblica dell’artificiale. Sapere quando un’immagine è stata generata, quando una voce è sintetica, quando un testo è stato prodotto o modificato da un sistema automatico. Non come marchio d’infamia. Come informazione. Esattamente come vogliamo sapere chi ha scritto un articolo, chi ha scattato una fotografia, chi ha finanziato una pubblicità.
Perché non c’è nulla di scandaloso nell’artificio quando dichiara di esserlo. Il problema comincia quando l’artificio pretende di essere testimonianza.
È curioso: abbiamo costruito macchine capaci di imitare quasi tutto e scopriamo improvvisamente che una delle cose più preziose che possediamo è proprio ciò che non può essere imitato senza conseguenze. La provenienza. Sapere da dove viene una parola. Chi l’ha pensata. Chi se ne assume il peso. Forse il futuro non avrà bisogno di difendere l’uomo dalle macchine. Dovrà difendere qualcosa di molto più semplice. Il confine. Quella piccola linea, apparentemente insignificante, che separa ciò che è accaduto da ciò che avrebbe potuto accadere.
Finché sapremo riconoscerla, l’intelligenza artificiale potrà essere uno strumento straordinario. Quando smetteremo di vederla, non avremo sostituito l’uomo. Avremo fatto qualcosa di peggio. Avremo sostituito la realtà.