# La macchina che nessuno guida > *I sistemi più potenti che plasmano la tua vita furono costruiti dall'intenzione umana, ma già da tempo hanno smesso di averne bisogno — e la storia che «alla fine vincono tutti» non è una menzogna detta da qualcuno, ma il suono che la macchina fa per continuare a girare.* **Language:** IT **Source:** wecome1.com - Transparent Awareness --- Quali sono le problematiche legate all'idea che a lungo termine la tecnologia elevi il tenore di vita per le persone comuni? Ecco una frase che hai udito in cento forme, e vale la pena fermarsi su di essa, perché è una delle frasi più silenziosamente potenti della nostra epoca: «Nel lungo periodo, la tecnologia innalza il tenore di vita della gente comune.» Suona ragionevole. Suona quasi gentile. E fa, sotto la sua ragionevolezza, qualcosa che merita di essere visto con chiarezza — perché quella sola clausola rassicurante è forse lo strumento di controllo più efficace mai concepito, e nessuno dovette cospirare per costruirlo. Comincia dalla frase stessa, e poni le domande che essa è concepita per impedirti di porre. Il lungo periodo di chi? La formula «nel lungo periodo» compie un gioco di prestigio col tempo: prende ogni essere schiacciato nel breve periodo — gli sfollati, i dequalificati, gli scartati mentre la macchina «si adegua» — e li ripiega in una statistica che nel giro di una generazione viene fuori bene. Keynes enunciò la cosa vera più crudele in proposito: nel lungo periodo, siamo tutti morti. Il tessitore il cui mestiere fu annientato dal telaio meccanico non visse abbastanza a lungo per godere della prosperità finale dell'età industriale. Visse, e soffrì, e morì, nel breve periodo — che era l'unico periodo che avesse. «Nel lungo periodo si aggiusta» è una frase pronunciata da persone che si aspettano di stare dal lato vincente dell'adeguamento, riguardo a persone che non vi staranno. È vera come una statistica è vera, e falsa come una vita è falsa quando è mutata in statistica. E nota il raggiro più profondo. La frase tratta la tecnologia come una forza della natura — come il tempo atmosferico, come la marea — che semplicemente ci *fa* delle cose, e alla fine ne fa di buone. Ma la tecnologia non cade dal cielo. È costruita, posseduta, diretta e dispiegata da mani precise per scopi precisi. La domanda non è mai semplicemente «cosa farà la tecnologia». La domanda è «chi la controlla, e cosa ha bisogno che faccia». Uno strumento non innalza né abbassa il tenore di vita di nessuno da sé. Innalza il tenore di vita di chi lo possiede, e fa a tutti gli altri ciò che costui esige. La stessa macchina che libera in un paio di mani rende schiavi in un altro — e quale dei due ti tocca non è scritto nella macchina. È scritto nella distribuzione del potere attorno alla macchina. Questo è ciò che la frase rassicurante è costruita per nascondere: non la tecnologia, ma il suo *possesso.* Poniamo dunque la domanda che la frase proibisce. Chi controlla ora le grandi forze, e che aspetto ha il controllo? Qui dobbiamo essere prudenti, e la prudenza è tutto il punto, perché ci sono a questo snodo due storie completamente diverse che possono essere raccontate, e una di esse è vera e forte mentre l'altra è falsa e debole. La storia debole è la cospirazione: una stanza, da qualche parte, dove uomini potenti nell'ombra tramano deliberatamente di tenere addormentato il resto dell'umanità. Questa storia è emotivamente soddisfacente e quasi sempre errata — non perché i potenti siano gentili, ma perché non hanno bisogno di incontrarsi. La storia forte, quella vera, è più strana e assai più inquietante: nessuno ha bisogno di essere nella stanza. Il risultato che il teorico della cospirazione immagina essere tramato è prodotto automaticamente, dalla struttura stessa, senza che alcun tramatore sia richiesto. E una struttura che produce un risultato senza che nessuno l'abbia voluto è assai più difficile da combattere di un malvagio — perché non puoi smascherarla, né destituirla con un voto, né trovare il colpevole, poiché non c'è colpevole. C'è solo una macchina, che gira, e ciascuno in essa fa esattamente ciò per cui la macchina lo ricompensa. Considera come questo funziona, perché è il cuore di tutto. Un fabbricante di armi non ha bisogno di svegliarsi al mattino desiderando la guerra. Ha bisogno solo di sopravvivere — ed esiste all'interno di una struttura in cui la sua sopravvivenza dipende dal conflitto. Così fa lobbying, esercita influenza, plasma gli incentivi di coloro che decidono, non per malvagità da fumetto ma per l'ordinaria pulsione organizzativa di continuare a esistere. La storia è piena del risultato: le stesse ditte che riforniscono più schieramenti della stessa guerra, per anni, perché la struttura ricompensava l'armare tutti e puniva l'armare nessuno. Nessuna cospirazione è richiesta per spiegarlo. L'incentivo fece tutto il lavoro. Chiedi, di ogni tale sistema, non «chi è malvagio» ma «cosa ricompensa questa struttura», e il comportamento che sembra un complotto si risolve in qualcosa di peggiore — un insieme di incentivi così allineati che il complotto si trama da sé. Ed ecco un fatto che puoi verificare, non un sospetto che devi prendere per fede: il potere si è concentrato a un grado che sarebbe stato inimmaginabile poche generazioni fa. Esistono ora imprese private la cui valutazione eccede l'intera produzione economica della maggior parte delle nazioni della terra. Una sola ditta al centro della nuova tecnologia può valere più del prodotto annuo di dozzine di paesi messi insieme. Questa non è una teoria. È aritmetica, pubblicata trimestralmente. E quando così tanto potere si accumula in così poche mani, accade qualcosa che non richiede alcuna malizia: gli interessi di quelle mani cominciano, in silenzio, a plasmare le regole sotto cui tutti gli altri vivono — le leggi, le norme, e soprattutto le *storie* che una società racconta a se stessa su ciò che è possibile e ciò che è inevitabile. Non perché qualcuno l'abbia decretato. Ma perché l'acqua scorre in discesa, e l'influenza scorre verso la concentrazione, e una struttura inclinata abbastanza ripidamente muoverà tutto ciò che vi sta sopra in un'unica direzione senza che una sola mano debba spingere. Ora possiamo tornare alla domanda originaria, quella che tu hai affilato: se questa struttura fu costruita, con quale *intenzione* fu costruita? Ed ecco la risposta che distingue questo da ogni pamphlet furioso e da ogni filo paranoico, perché la risposta è un paradosso. La struttura può ben essere stata posata, mattone su mattone, con intenzione — le intenzioni ordinarie di persone che cercano ricchezza, sicurezza, vantaggio, ciascuna agendo ragionevolmente nel proprio interesse. Ma una struttura, una volta costruita, non ha più bisogno delle intenzioni che la costruirono. I primi mattoni furono posati da mani; l'edificio ora sta sui propri piedi e non richiede alcun architetto. Questo è ciò che quasi nessuno afferra: l'intenzione costruisce la macchina, e poi la macchina sopravvive all'intenzione, e gira secondo una logica propria che non appartiene a nessuno. Le persone al vertice non sono i guidatori. Sono i passeggeri meglio adattati — coloro che si conformano più perfettamente alla logica della macchina e sono perciò portati più in alto da essa. Sostituiscili, e la macchina ne seleziona di nuovi esattamente uguali, perché non sono le persone a generare il risultato. È la struttura, che seleziona chiunque la serva meglio. Non sei governato da una persona. Sei governato da una logica che nessun essere vivente controlla — una macchina che nessuno guida, e che governa, con terribile costanza, verso la concentrazione del proprio potere. Ed è qui che si rivela la parte più sofisticata dell'intero sistema — la parte che risponde al perché ti si dice che alla fine vincono tutti. Una struttura di queste dimensioni non può sopravvivere con la forza. La forza è costosa, e genera rivolta. Ciò di cui una struttura che si autoperpetua ha bisogno, assai più che di forza, è *legittimità* — la credenza, nutrita dalle persone al suo interno, che l'assetto sia naturale, giusto, e in ultima analisi a loro beneficio. E così un po' della ricchezza è distribuito — abbastanza da tenere viva la credenza. Un po' di miele sul labbro. Non per generosità, e non, di nuovo, per alcuna cospirazione — ma perché una struttura che non dà *nulla* ai suoi sudditi è una struttura che viene rovesciata, e una struttura che dà *appena abbastanza* è una struttura che perdura. La frase consolante — «nel lungo periodo, anche tu ne trarrai beneficio» — non è una menzogna detta da un mentitore. È il suono che la macchina fa per tenere tranquille le persone al suo interno. È prodotta dal sistema per la stessa ragione per cui un corpo produce la sensazione della fame: non perché qualcuno abbia deciso, ma perché i sistemi che la producono sopravvivono, e quelli che non lo fanno, no. La storia che tutti vincono è il sistema immunitario della macchina, ed è somministrata non da malvagi ma dal bisogno stesso della struttura di continuare. Segui questo uno strato più a fondo, nella parte che non implica il sistema ma te, perché una storia sull'impotenza è solo metà della verità. Perché il miele funziona? Perché le persone, generazione dopo generazione, accettano una storia consolante di cui hanno ogni ragione di dubitare? Non solo perché è raccontata bene. Perché è *più facile da credere di quanto l'alternativa sia da affrontare.* Accettare «tutto finirà per aggiustarsi» è essere autorizzati a riposare — smettere di lottare, smettere di interrogare, smettere di portare l'estenuante peso del sospetto. La storia comoda è una sorta di sonno, e il sonno, quando sei stanco, non è qualcosa che ti viene *fatto*. È qualcosa verso cui tendi la mano. La ragione più profonda per cui la storia della macchina funziona è che una parte di ogni persona *vuole* che sia vera, perché se è vera, è assolta dall'insopportabile fatica di resistere. Il sistema offre il sonno, e la persona stanca, comprensibilmente, si corica. Ecco perché la struttura ha bisogno di così poca forza. Non ti tiene a terra. Tu chiudi, nel modo più umano che si possa immaginare, gli occhi — e la macchina deve solo tenere morbido il cuscino. Ora porta questo al bordo più nuovo e più acuto, perché sta arrivando una tecnologia che rende tutto ciò letterale in un modo in cui non lo fu mai prima. Per tutta la storia, la «macchina che nessuno guida» è stata una metafora — un modo di descrivere strutture fatte di leggi, mercati e incentivi. Ma l'intelligenza artificiale minaccia di renderla reale. Qui, per la prima volta, costruiamo un sistema effettivo che agisce nel mondo, su vasta scala, secondo una logica che nemmeno i suoi creatori controllano pienamente né possono pienamente prevedere. E lo schema è esattamente quello che tutto questo saggio ha tracciato, solo che ora in acciaio e codice. È costruita con intenzione — profitto, potere, vantaggio. Andrà, come ogni struttura prima di essa, oltre le intenzioni che la costruirono. E la stessa frase rassicurante è già pronunciata su di essa: *non preoccuparti, nel lungo periodo, questo gioverà a tutti.* Osserva chi lo dice. Osserva cosa possiede. La domanda con l'IA è precisamente la domanda con ogni strumento potente della storia, solo più forte: non cosa può fare, ma chi la controllerà, e cosa avrà bisogno che faccia a tutti coloro che non la controllano. Se la risposta è lasciata alla logica propria della macchina — alla struttura che seleziona verso la concentrazione —, allora l'IA farà ciò che ogni potere concentrato ha fatto, con un'efficienza che nulla prima di essa poté eguagliare. L'unica cosa che abbia mai cambiato quel risultato sono persone che videro la struttura con sufficiente chiarezza da costruirne un'altra. Ed è quello l'unico sottile filo di speranza, e vale la pena enunciarlo senza esagerazione, perché la falsa speranza non è che un altro cuscino. Nessun risveglio collettivo viene a spegnere la macchina. La struttura è vasta, si ripara da sé, e si rafforza man mano che il potere si concentra ulteriormente. Sulla scala della folla, il miele continuerà a funzionare, e la maggior parte delle persone terrà gli occhi chiusi, perché il riposo è dolce e la vigilanza è estenuante. Questo è semplicemente vero. Ma la credenza che nulla possa essere fatto è essa stessa il prodotto più utile della macchina — l'ultimo, perfetto sonno, in cui il dormiente non prova nemmeno più la porta. E la porta non è chiusa a chiave. Non per la folla, forse mai — ma per una sola persona, in ogni istante, si apre con una domanda, posta e tenuta viva: *Chi controlla questo, e chi serve?* Ponila alla tecnologia, alla frase consolante, agli uomini che valgono più di nazioni, e alla voce sommessa dentro di te che preferirebbe non sapere. Non libererai il mondo ponendola. Ma ti sveglierai — e una persona sveglia dentro una macchina addormentata è l'unica cosa che quella struttura non poté mai assorbire del tutto, e l'unico luogo in cui ogni reale cambiamento della storia sia mai cominciato. La macchina continua a girare. Nessuno la guida, e governa esattamente là dove la sua logica punta. Ma ha una debolezza permanente, iscritta in essa fin dal principio: ha bisogno di te addormentato. E ciò significa che il più piccolo, il più privato atto di rifiuto — tenere gli occhi aperti, continuare a chiedere chi ne trae beneficio, declinare il miele e restare svegli nel frastuono — non è nulla. È l'unica cosa che la macchina non poté fabbricare, non poté comprare, e non poté mai, in tutto il suo girare, fermare del tutto.