Cari post-umani,
c’è una cifra che mi torna in mente ogni volta che si parla di intelligenza artificiale e democrazia: un quinto. Secondo lo storico dell’economia Adam Tooze, tra l’arrivo di Hitler al potere e la conferenza di Monaco del 1938 la quota del reddito tedesco destinata alle forze armate passò da meno dell’uno a quasi il venti per cento. Per la Corea del Nord il Dipartimento di Stato americano stima che tra il 2007 e il 2017 la spesa militare abbia assorbito fra il 13 e il 23 per cento del PIL, la quota più alta al mondo. Sono regimi diversissimi, con un tratto in comune: per tenere sotto controllo un intero popolo, e per minacciare i vicini, hanno dovuto dedicarci una parte enorme della ricchezza del paese.
Il controllo costava soprattutto perché servivano persone. Nell’autunno del 1989 la Stasi della Germania Est aveva circa 91.000 dipendenti a tempo pieno e circa 180.000 informatori registrati, su una popolazione di sedici milioni e mezzo. Qualcuno doveva piazzare le cimici, ascoltare le registrazioni, trascriverle, aprire le lettere al vapore, compilare i fascicoli. Ognuna di quelle persone era uno stipendio, una scrivania, un pezzo di archivio, e più il regime voleva sapere, più doveva pagare.
Bruce Schneier, uno dei più noti esperti di sicurezza informatica, ha descritto questo limite in un articolo del dicembre 2023. Internet, scriveva, ha reso possibile la sorveglianza di massa: sapere dove andiamo, con chi parliamo, che cosa compriamo. Lo spionaggio di massa, cioè capire che cosa ci diciamo, è rimasto invece limitato dal lavoro umano, perché qualcuno doveva comunque ascoltare tutte quelle conversazioni. L’intelligenza artificiale toglie quel collo di bottiglia. Un sistema può trascrivere, riassumere e cercare per significato milioni di conversazioni, e può essere copiato tutte le volte che serve.
Il costo di quel lavoro sta crollando. Secondo un’analisi del fondo di investimento a16z, nel novembre 2021 ottenere un certo livello di prestazioni da un modello linguistico costava 60 dollari per milione di token, i frammenti di testo che i modelli elaborano. Tre anni dopo lo stesso livello costava sei centesimi: mille volte meno, al ritmo di un fattore dieci all’anno. Il lavoro che alla Stasi richiedeva un esercito di impiegati oggi pesa quanto la bolletta di un data center.
Lo stesso vale per la persuasione, l’altra metà del controllo. I regimi del Novecento avevano ministeri della propaganda, radio, giornali, manifesti, funzionari di quartiere. Nel dicembre 2025 un gruppo dell’Università di Oxford e dell’AI Security Institute britannico ha pubblicato su Science uno studio con quasi 77.000 partecipanti e 19 modelli diversi. Le conversazioni con l’AI spostavano le opinioni politiche, e funzionavano meglio quando il modello riversava sull’interlocutore molte informazioni. Gli autori hanno trovato anche un compromesso che preoccupa: più un modello era persuasivo, meno accurate erano le informazioni che forniva. Una propaganda paziente e personalizzata, capace di parlare con milioni di persone una alla volta, oggi ha un costo marginale vicino a zero.
Per questo credo che uno dei limiti che nel secolo scorso hanno protetto la libertà stia cambiando natura. Il totalitarismo analogico era caro. Doveva togliere risorse alla scuola, alla sanità, ai consumi, e prima o poi il conto si faceva sentire: la Germania Est è crollata anche sotto il peso di un’economia esausta. Se il costo del controllo scende di mille volte, un regime può sorvegliare e persuadere il proprio popolo spendendo una frazione minima del PIL, senza affamarlo. La Cina, secondo le stime che riporto nel libro, dedica alla sicurezza interna una quota intorno all’uno e mezzo per cento del PIL, superiore a quella per la difesa, e con quella quota sostiene una rete di sorveglianza digitale che copre centinaia di milioni di persone.
C’era poi un secondo limite, forse più importante del primo: servivano persone disposte a farlo. Ogni regime ha bisogno di complici, e i complici a volte smettono di esserlo. Il 9 ottobre 1989 a Lipsia circa settantamila persone sfilarono per il centro della città. Polizia ed esercito erano schierati, e nessuno diede l’ordine di sparare. Un mese dopo cadeva il Muro. Un sistema automatico non ha crisi di coscienza e non incontra il vicino di casa in piazza. Quando il lavoro del controllo passa dalle persone alle macchine, i complici necessari si riducono a pochi: chi scrive le regole e chi gestisce l’infrastruttura.
Ecco perché il limite potrebbe non essere più soltanto economico. Il vincolo si sposta altrove. Si sposta sull’energia e sui chip, che come vi raccontavo ad agosto in «Quanto pesa un pensiero» sono concentrati nelle mani di pochi paesi e di poche aziende. E si sposta sulla volontà di un numero molto piccolo di persone. Un tempo per opprimere un paese bisognava convincerne, pagarne o costringerne una parte consistente. Domani potrebbe bastare chi controlla le macchine.
La stessa deflazione vale però anche per chi si oppone. Organizzare una protesta, verificare una notizia, tradurre un documento, coordinare migliaia di persone costa oggi pochissimo. Nella lettera sulla politica vi raccontavo degli esperimenti che usano l’AI per aiutare migliaia di cittadini a trovare punti di accordo. Il costo della partecipazione scende insieme a quello del controllo, e la partita si gioca su chi userà prima e meglio questi strumenti.
Nel libro scrivo che quando un limite smette di essere invalicabile diventa una scelta. Per un secolo la libertà è stata protetta anche dal prezzo dell’oppressione, una protezione che nessuno aveva deciso. Da adesso dovremo deciderla noi: con regole che fissano che cosa una macchina non può fare a un cittadino, come il divieto europeo di riconoscimento facciale in tempo reale negli spazi pubblici salvo casi eccezionali (che in Italia sembrerebbe però in discussione), con la trasparenza su chi usa questi strumenti e per quali scopi, e con un numero sempre più grande di persone capaci di usarli per partecipare. La mano sull’interruttore, di cui vi scrivevo ad agosto, serve anche a questo.
Davide
Fonti principali
La spesa militare della Germania nazista da meno dell’1% a quasi il 20% del reddito nazionale entro il 1938: Adam Tooze, Il prezzo dello sterminio (The Wages of Destruction, 2006); sintesi Shortform
La spesa militare della Corea del Nord fra il 13,4 e il 23,3% del PIL (2007-2017), U.S. Department of State, World Military Expenditures and Arms Transfers 2019: Qazinform
La Stasi nel 1989: circa 91.000 dipendenti e 180.000 informatori: Bundesarchiv, Was war die Stasi?
Bruce Schneier, «AI and Mass Spying» (5 dicembre 2023): schneier.com
Il costo dell’inferenza dei modelli linguistici diviso per mille in tre anni: a16z, Welcome to LLMflation
K. Hackenburg et al., «The levers of political persuasion with conversational AI», Science, dicembre 2025: Oxford Internet Institute