A volte, quando immagino il futuro, mi ritrovo a pensare a una persona di cui forse non conosceremo mai il nome, seduta in una stanza che non vedremo mai. Sullo schermo davanti a lei compaiono sistemi che milioni di persone vivono come cose separate: denaro, elettricità, comunicazioni, trasporti, identità. Da qualche parte, sotto quei nomi familiari, esistono connessioni. Un pensiero mi accompagna in quella stanza: un hacker potrebbe distruggere il mondo, oppure salvarlo. Lo intendo come una possibilità che merita di essere esaminata. Nessuno possiede una chiave universale della civiltà. Eppure, quanto più organizziamo la nostra vita attraverso sistemi connessi, tanto più seriamente dobbiamo considerare che cosa accade quando la capacità di influenzarli si concentra in pochissime mani. I campi di battaglia fisici non sono scomparsi. Le persone continuano a perdere la casa e la vita a causa della violenza fisica. Ma un conflitto può anche attraversare i sistemi che permettono a una società di funzionare. Un intervento compiuto attraverso uno schermo può avere conseguenze per qualcuno che quello schermo non lo vedrà mai. Con «il mondo» intendo i meccanismi quotidiani che ci aspettiamo di ritrovare intatti domani mattina. Il pagamento che va a buon fine. La cartella clinica che appartiene alla persona giusta. Il messaggio che arriva a destinazione. Le prove che riusciamo ancora a distinguere da un’invenzione. Gran parte della vita quotidiana si regge su questa aspettativa silenziosa. Vi partecipo volentieri. Voglio meno passaggi, risposte più rapide, meno complicazioni. Mi piace poter gestire le cose da un unico posto. Quando un sistema ricorda qualcosa al posto mio, gli sono grato. Quando rende semplice un compito difficile, raramente mi fermo a chiedermi quale parte delle mie capacità potrei smettere di esercitare. Poi un’altra domanda mi interrompe: se un giorno la connessione venisse meno, perderei soltanto il servizio, oppure anche la mia capacità di agire senza di esso? Posso immaginare la differenza in piccoli dettagli scomodi. Un servizio di navigazione smette di funzionare e scopro di aver attraversato la mia città senza imparare a conoscerla. Un account diventa inaccessibile e i documenti con cui dimostro chi sono rimangono dietro proprio quell’accesso che ho perso. Un suggerimento automatico non arriva più e mi rendo conto di quanto tempo sia passato dall’ultima volta che ho ragionato da solo su una decisione di quel tipo. Nulla di tutto questo significa che dovremmo ricordare ogni cosa o rinunciare agli strumenti utili. La vita umana è sempre dipesa anche dalle conoscenze possedute dagli altri. A inquietarmi è il momento in cui un’alternativa smette di essere disponibile perché abbiamo cessato di praticarla, di finanziarla o persino di immaginare che potremmo averne bisogno. L’interruzione rivela allora una dipendenza che esisteva già. Questo cambia il mio modo di vedere la persona in quella stanza. Il suo potere deriva in parte da come ci siamo organizzati. Ogni soluzione di riserva abbandonata, ogni concentrazione di autorità, ogni decisione di rendere indispensabile un sistema contribuisce a determinare fin dove potrebbe arrivare un intervento. L’azione finale può appartenere a una sola persona. Le condizioni che ne amplificano gli effetti appartengono a una storia molto più lunga. Se un singolo individuo potesse provocare una perturbazione di portata straordinaria, vorrei quindi sapere qualcosa di più di come abbia acquisito una capacità tanto eccezionale. Vorrei anche capire come la capacità di agire di tante altre persone sia arrivata a dipendere da così pochi punti di accesso. E che cosa vorrebbe quella persona? Il denaro è una risposta ovvia per molti crimini. Ma la persona che immagino potrebbe essere interessata a qualcosa che il denaro non può soddisfare del tutto: l’esperienza di decidere che cosa gli altri possono fare. Potrebbe voler dimostrare che governi, istituzioni e milioni di persone comuni possono essere costretti ad aspettare il suo permesso. Potrebbe cercare riconoscimento, vendetta, una vittoria ideologica o la soddisfazione privata di far corrispondere il mondo a un proprio disegno interiore. Non posso conoscerne in anticipo la motivazione. Ma sospetto che, alla scala di questo esperimento mentale, il potere e il controllo meritino almeno tanta attenzione quanto il profitto. Una persona simile potrebbe avere poco interesse a distruggere tutto. Un mondo funzionante potrebbe offrirle più cose da controllare. Potrebbe volere che le transazioni continuino, che i messaggi arrivino e che le porte si aprano, purché resti sua la facoltà di modificarne le condizioni. Che cosa significherebbe la libertà dentro un sistema che continuasse a offrire delle scelte, se qualcun altro potesse decidere in silenzio quali sono disponibili? È qui che torno a Matrix. La pillola rossa e quella blu danno una forma memorabile alla scelta tra scoprire una realtà sconvolgente e rimanere dentro un’illusione familiare. Eppure, mi ritrovo a soffermarmi su ciò che viene dopo quella scelta. Capire come funziona il sistema non risolve la questione di che cosa dovremmo fare con quella conoscenza. Supponiamo che io mi svegli. Supponiamo che riesca a vedere i meccanismi che gli altri non possono vedere. Perché questo dovrebbe rendermi qualificato a decidere delle loro vite? Per questo esperimento mentale, voglio prendere in prestito i colori e passare dalle pillole ai cappelli. Li uso come una metafora, anziché come una classificazione tecnica. Il rosso porta con sé il turbamento di chi riesce a vedere oltre la superficie di un sistema, insieme alla tentazione di intervenire in nome di quella rivelazione. Il bianco porta con sé la pretesa di proteggere e la responsabilità alla cui prova quella pretesa deve reggere. Entrambi possono nascere da un sincero desiderio di aiutare. Chi vede un’ingiustizia può sentirsi obbligato ad agire laddove le istituzioni hanno fallito. Anche aspettare può avere conseguenze. Ma la convinzione che si debba fare qualcosa può trasformarsi gradualmente nella convinzione che qualsiasi cosa io scelga di fare sia giustificata. Chi esita può cominciare a sembrare ignorante. Chi si oppone può cominciare a sembrare complice. A che punto la persona che vuole liberare gli altri dal controllo comincia a trattare il loro dissenso come un ulteriore ostacolo da superare? La possibilità inquietante è che il dominio possa arrivare accompagnato da una spiegazione sincera del perché sia necessario. La persona che lo impone potrebbe credere che, con abbastanza tempo e abbastanza controllo, riuscirebbe finalmente a rendere giusto il mondo. Vorrei sapere se nel mondo giusto che immagina ci siano ancora persone con il diritto di rifiutarlo. La motivazione dell’hacker buono sembra più facile da nominare: prevenire i danni, proteggere le persone, svelare gli abusi, preservare la libertà. Riconosco questi obiettivi. Ma la loro familiarità può indurci a sorvolare troppo in fretta sulle scelte che richiedono. Proteggere quali persone? Rivelare quali informazioni? Preservare la libertà di chi, quando due libertà entrano in conflitto? Quanto rischio si può imporre a degli sconosciuti mentre si cerca di proteggerli? Una rivelazione può portare alla luce un abuso ed esporre, allo stesso tempo, una persona vulnerabile. L’arresto di un sistema può interrompere un’attività abusiva e anche qualcosa da cui dipendono persone innocenti. La competenza tecnica può mostrare ciò che è possibile, lasciandone però incerte le conseguenze umane. Per me, il valore etico dovrebbe includere la disponibilità a rispondere di quelle conseguenze. Quella persona dovrebbe distinguere ciò che sa da ciò che presume, limitare la portata di un intervento, accettare che il proprio operato venga esaminato e lasciare spazio alla correzione. Dovrebbe dare importanza al consenso anche quando ottenerlo è scomodo, e alle persone la cui sofferenza non comparirà mai nel racconto della sua impresa. Questo non richiede l’assenza di ambizione o di orgoglio. Mi interesserebbe di più ciò che accade quando l’ambizione incontra un limite. Quella persona può accettare che il diritto di un altro essere umano a scegliere possa contare più dell’eleganza della propria soluzione? Forse una misura del bene che compie è quanto gli altri diventino capaci di agire senza di lei. C’è una forma esigente di generosità in questo. Riparare qualcosa senza predisporre le cose in modo da diventare indispensabili. Rendere accessibile la conoscenza senza mantenere in una condizione di dipendenza chi la utilizza. Contribuire a creare condizioni nelle quali gli altri possano mettere in discussione il tuo giudizio e, quando necessario, sostituirti. Qualcuno vorrebbe ancora salvare il mondo se questo non gli conferisse un’autorità duratura su di esso? L’intelligenza artificiale e l’automazione rendono questa domanda ancora più pressante per me. Se strumenti sempre più capaci permettono all’intenzione di una persona di produrre effetti molto al di là di ciò che potrebbe realizzare da sola, allora la distanza tra decidere e fare diventa una questione morale. Un’ipotesi può propagarsi attraverso molte azioni prima che qualcuno abbia la possibilità di metterla in discussione. La persona che avvia quelle azioni può avere una capacità d’intervento più ampia della propria comprensione. Vorrei che la capacità di fermare una decisione, ripensarla e revocarne gli effetti crescesse insieme alla capacità di eseguirla. Lo stesso vale per le istituzioni. Non possiamo rendere sicura una società limitandoci a sperare che chi acquisisce un potere eccezionale abbia un carattere eccezionale. Dobbiamo anche chiederci se i sistemi stessi consentano di contenere gli errori, mettere in discussione l’autorità e mantenere i servizi essenziali quando una parte smette di funzionare. Altrimenti, la storia ci lascia ad aspettare una persona buona abbastanza potente da sconfiggerne una cattiva, mentre tutti noi continuiamo a dipendere dall’esito. È un futuro stranamente passivo da immaginare per un’epoca che promette di renderci più capaci. Ho cominciato con una persona in una stanza. Penso ancora che quella persona conti. Il coraggio di qualcuno potrebbe impedire una catastrofe. La sete di controllo di qualcun altro potrebbe contribuire a provocarla. Le loro motivazioni, i loro metodi e la loro disponibilità ad accettare dei limiti potrebbero influenzare vite molto al di là di ciò che riescono a vedere. Ma non riesco più a guardare quella persona senza vedere anche le decisioni che hanno messo così tanto alla sua portata, comprese le decisioni quotidiane che prendo quando scambio un’altra piccola parte della mia partecipazione con la comodità. Cappello rosso o bianco? Voglio sapere che cosa quella persona riesce a vedere, che cosa intende ottenere e che cosa è disposta a fare. Voglio anche sapere che cosa accade quando qualcuno le dice che si sbaglia. E se un giorno ci dirà di aver salvato il mondo, avremo ancora le conoscenze, i mezzi e la libertà per decidere da soli se lo abbia fatto davvero?