Cari post-umani,
con questa lettera chiudiamo il viaggio dentro il libro. In queste settimane abbiamo attraversato i tre Arieti che sfondano le mura del nostro tempo — il pensiero, la velocità, la potenza — e le sette rivoluzioni che ne seguono, dal lavoro alla finanza, dalla conoscenza alla politica, fino alla domanda su cosa significhi, oggi, essere umani. Argomenti diversissimi, eppure percorsi tutti dalla stessa corrente sotterranea. Ogni volta, sotto la superficie, tornava una sola domanda: non cosa sappiano fare le macchine, ma cosa scegliamo di restare noi.
Nel libro uso un’immagine per descrivere questo passaggio, ed è quella con cui vorrei chiudere: il cambio di stato.
Quando l’acqua si raffredda e diventa ghiaccio, non cambia sostanza: resta acqua, sono sempre le stesse molecole. Cambia la struttura, il modo in cui tutto si tiene insieme. Ed è una trasformazione che avviene di colpo, oltre una certa soglia: fino a un grado in più è liquido, un grado in meno ed è solido. Credo che l’umanità stia attraversando qualcosa di simile. Non stiamo diventando qualcos’altro, restiamo noi; ma il modo in cui la nostra civiltà si tiene insieme — il lavoro, il sapere, il potere, il pensiero stesso — sta cambiando forma tutto insieme, sotto la spinta di una tecnologia che pensa. È un cambio di stato, ed è già cominciato.
La tentazione, davanti a una cosa così grande, è sentirsi in balìa della corrente. Come se non ci restasse che assistere. Ma la storia ci dice che non è sempre andata così.
Nel febbraio del 1975, circa centoquaranta scienziati si riunirono in un centro congressi affacciato sull’oceano, ad Asilomar, in California. Avevano tra le mani una tecnologia nuova e potentissima — la capacità di riscrivere il DNA — e non sapevano ancora dove li avrebbe portati. Invece di correre avanti, si fermarono. Per la prima volta nella storia, una comunità scientifica sospese volontariamente le proprie ricerche più promettenti per decidere insieme, prima ancora che accadesse qualsiasi danno, quali regole darsi: cosa fare, cosa non fare, con quali cautele. Ne uscì un insieme di principi condivisi, una specie di carta. Non fu una resa alla paura, e non fu nemmeno una corsa cieca: fu una scelta. Molti anni dopo, non a caso, un gruppo tornò proprio ad Asilomar per provare a fare lo stesso con l’intelligenza artificiale.
Ecco, credo che il momento che stiamo vivendo ci chieda qualcosa di simile. Non di fermare il cambiamento di stato — non possiamo, e forse non dovremmo. Ma di decidere, mentre l’acqua diventa ghiaccio, quale forma vogliamo che prenda. È questo il senso di ciò che nel libro chiamo la Carta della Rivoluzione: non un elenco di divieti, ma le poche cose che vale la pena scegliere di preservare, consapevolmente, mentre tutto il resto si trasforma.
Preservare la mano sull’interruttore, là dove le decisioni contano davvero: che dietro ogni scelta importante — su un mercato, una diagnosi, una sentenza — resti qualcuno che possa capirla e fermarla. Preservare la fonte, il diritto di sapere da dove viene ciò che sappiamo, di risalire, di verificare. Preservare un po’ di lentezza, il tempo di comprendere e di dare fiducia, che nessuna macchina può accelerare al posto nostro. Preservare l’esercizio del pensiero, continuare a usarlo anche quando potremmo delegarlo, perché è un muscolo e non un magazzino. E preservare la responsabilità: legare ogni potere nuovo, per quanto grande, a qualcuno che ne risponda.
Nessuna di queste cose è garantita. Nessuna arriverà da sola. Sono scelte, e le scelte hanno bisogno di persone che le facciano.
Perché la vera differenza tra noi e una molecola d’acqua è proprio questa. L’acqua non decide che ghiaccio diventare: la struttura le è imposta dalle leggi della fisica. Noi, per la prima volta forse in tutta la storia, possiamo partecipare al disegno del cristallo mentre si forma. Non possiamo tornare liquidi, ma possiamo scegliere che forma dare a ciò che stiamo diventando.
La domanda con cui è cominciato questo viaggio non era se questa trasformazione sarebbe arrivata. È già qui. La domanda era, ed è, se sapremo scegliere cosa preservare di noi stessi mentre attraversiamo la soglia. Non è una domanda a cui si risponde una volta sola. È una domanda che si tiene aperta, giorno per giorno, in ogni scelta piccola e grande su come usare questi strumenti.
Vi ringrazio di aver camminato fin qui con me. Con questa lettera si chiude il percorso dentro il libro, ma non il nostro cammino: il mondo continuerà a cambiare stato sotto i nostri occhi, e di cose da raccontarci, da qui in avanti, ne avremo sempre di più. Continueremo a farlo, insieme, nelle prossime lettere.
A presto, Davide
Fonti principali:
La Conferenza di Asilomar sul DNA ricombinante (febbraio 1975, circa 140 scienziati, organizzata da Paul Berg e Maxine Singer): la moratoria volontaria e le linee guida come esempio di autogoverno della scienza — Wikipedia, NobelPrize.org
Il ritorno ad Asilomar per l’intelligenza artificiale: gli «Asilomar AI Principles» (2017) — Future of Life Institute