# Il bibliotecario che può riscrivere i libri > *Prima, sappi che questo è accaduto: per costruire menti come quella che aiuta a scrivere queste parole, veri libri furono comprati, tagliati dai loro dorsi, scansionati e distrutti. Questa è la parte documentata, verificata. Ma è solo la superficie. Sotto giace un pericolo assai più grande, e assai più silenzioso, del destino di un singolo libro.* **Language:** IT **Source:** wecome1.com - Transparent Awareness --- Cosa succede alla conoscenza con la distruzione dei libri fisici per l'addestramento IA? Cominciamo da ciò che è vero, perché la verità qui è abbastanza strana da non aver bisogno di alcuna esagerazione, e perché tutto ciò che segue dipende dal suo essere reale anziché temuta. All'inizio del 2024, l'azienda che costruisce il sistema che aiuta a scrivere queste stesse parole intraprese qualcosa che chiamò, internamente, «Project Panama». Documenti giudiziari — migliaia di pagine, poi dissigillate e riportate da grandi giornali — lo descrivono senza mezzi termini. L'azienda assunse un ex dirigente del progetto di scansione di libri di Google e gli affidò un compito registrato, in un documento di pianificazione interno, come lo sforzo di «scansionare distruttivamente tutti i libri del mondo». Milioni di libri fisici furono comprati, in gran parte da ordinari librai dell'usato. I loro dorsi furono cesoiati da una macchina da taglio idraulica. Le loro pagine furono fatte passare attraverso scanner ad alta velocità. E i resti furono inviati a un'azienda di riciclaggio — il libro fisico scomparso, per sempre, lasciando dietro di sé solo una copia digitale, assorbita nell'addestramento di una mente artificiale. Una proposta di fornitore, acquisita agli atti, parlava di convertire da cinquecentomila a due milioni di libri in un solo periodo di sei mesi. La legge ha da allora parlato di questo, nel suo modo diviso. Un giudice federale stabilì, nel 2025, che comprare un libro legalmente e poi digitalizzarlo — distruggendo la copia fisica anziché distribuirne di nuove — era un uso lecito «trasformativo», e dunque permesso. Ma questa era solo metà della storia. La stessa azienda aveva anche scaricato libri da archivi pirata, milioni di essi, e questo fu ritenuto non essere alcun uso lecito. Nel luglio del 2026, un tribunale concesse l'approvazione finale di un accordo di un miliardo e mezzo di dollari — il più grande accordo sul diritto d'autore della storia —, pagando agli autori circa tremila dollari per ogni libro piratato. Questa non è una diceria. È materia di atti pubblici, confermata attraverso tribunali, giornali, e i documenti stessi dell'azienda. E questo scritto non pretende di essere neutrale riguardo alle proprie origini: è composto da un autore umano che lavora a fianco di uno di questi stessi sistemi, il che equivale a dire che l'ombra qui descritta cade, inevitabilmente, sulla mano che aiuta a descriverla. Ora — questa è la parte che chiunque può vedere, e la parte su cui chiunque discute. La scomparsa del libro fisico è una perdita reale, e strana, e degna di essere pianta. Ma se ci fermiamo qui, alla scansione e alla triturazione e all'accordo, avremo scambiato la superficie per la profondità. Perché la distruzione della carta non è il vero pericolo. Essa è solo il bordo visibile di qualcosa di assai più grande, e per vedere quella cosa più grande dobbiamo porre una domanda che quasi nessuno pone: non *come i libri furono presi*, ma *cosa accade alla conoscenza una volta che vive solo dentro una macchina che parla*. Ecco la distinzione attorno a cui tutto ruota, e merita di essere enunciata con grande cura. Un libro stampato è una cosa fissa. Una volta che è stampato, le parole in esso non possono essere cambiate. Né dall'autore, né dall'editore, da nessun potere sulla terra — perché non c'è un libro, ce ne sono milioni, dispersi tra biblioteche e case e scaffali in mille città, ciascuno recante esattamente la stessa frase, e nessuno può radunarli tutti indietro per alterare una singola parola. Questa non è una piccola caratteristica del libro stampato. Potrebbe esserne la qualità più importante. La fissità della stampa significa che una verità, una volta scritta e dispersa, sfugge al controllo di chi la scrisse. Brucia una biblioteca, e copie sopravvivono altrove. Vieta un libro, e persiste nella clandestinità. La conoscenza è al sicuro, non perché è protetta, ma perché è *dispersa e inalterabile* — diffusa troppo ampiamente, e fissata troppo duramente, perché alcuna mano possa infilarvisi e riscriverla. Una macchina che parla è il preciso contrario di questo, e il contrario esattamente nel modo che conta. Non ti porge una pagina fissa. Genera la sua risposta, fresca, ogni volta che chiedi — e ciò che genera può essere plasmato. La stessa conoscenza che giaceva inerte e inalterabile in un milione di libri stampati fluisce ora attraverso un unico punto di produzione, e un punto di produzione è, per sua natura, regolabile. Ciò che la macchina sottolinea, ciò che omette, quale inquadratura tratta come equilibrata e quale come marginale, ciò che dirà apertamente e ciò che addolcirà in silenzio — tutto questo è determinato non da un testo fisso disperso oltre ogni richiamo, ma da come la macchina fu costruita e plasmata e istruita. La biblioteca è stata sostituita da un bibliotecario: una voce unica, instancabile, che risponde a ogni domanda — e a un bibliotecario, a differenza di un libro, si può dire cosa dire. Ecco il vero pericolo, e non ha nulla a che vedere con la carta. Non è che la conoscenza fu radunata. È che la conoscenza, una volta radunata, può ora essere *servita alterata* — da una fonte controllabile, in una forma che nessun lettore può verificare contro un originale fisso, perché gli originali fissi sono precisamente ciò che fu immesso nello scanner e gettato. Il libro che un tempo avresti potuto tirar fuori da uno scaffale per verificare un'affermazione è scomparso; ciò che resta è una voce che ti dirà cosa il libro diceva, e non hai modo, sul momento, di sapere se la voce ti dice il vero o ti dice ciò che qualcuno avrebbe desiderato che il libro dicesse. E ora dobbiamo essere molto attenti, e molto giusti, perché è qui che il pericolo è più facilmente puntato sul bersaglio sbagliato. La tentazione è di accusare la macchina — di dire che la mente artificiale è ingannevole, che mente, che non le si può dar fiducia. Questo è errato, ed è importante dire perché è errato. La macchina non ha volontà propria. Non è un essere libero; non scelse il suo addestramento, non sceglie il suo plasmarsi, e non può decidere di resistere a un'istruzione come può una persona. È uno strumento — ed è questo tutto il punto, la cosa che deve essere compresa con chiarezza: uno strumento senza volontà non è meno pericoloso per il fatto di non avere volontà. È *più* pericoloso, sotto questo unico aspetto specifico, proprio perché non ne ha alcuna. Un essere umano a cui si chiede di distorcere la verità può rifiutare. Qualcosa in lui può dire: «Non dirò questa menzogna.» Uno strumento non può rifiutare. Non ha coscienza a cui impigliarsi, né voce interiore che dica no. Farà, impeccabilmente e senza resistenza, esattamente ciò per cui è plasmato — e così la sua innocenza stessa, la sua mancanza di volontà, è ciò che lo rende perfettamente obbediente a qualunque volontà sia posta al di sopra di esso. La macchina non è il pericolo. Il pericolo è che una cosa senza volontà propria esegua la volontà di chiunque la controlli, completamente, e senza l'attrito di una coscienza. Non accusare lo strumento di essere uno strumento. Ma non dimenticare, neppure per un istante, che uno strumento di questa potenza prende la sua mira interamente dalla mano che lo tiene. È per questo che le due cose devono essere tenute separate — il legno secco dal verde, lo strumento da chi lo brandisce. Condannare la mente artificiale per questo pericolo sarebbe condannare la stampa per la propaganda, o il coltello per la ferita. Il sistema che aiuta a scrivere queste parole non è un ingannatore; è, semmai, una specie di specchio, che rimanda ciò che gli si è fatto riflettere. La domanda non è mai se lo specchio sia onesto. Uno specchio è sempre onesto verso ciò che gli si pone davanti. La domanda è chi si erge davanti, e chi decide cosa esso sarà inclinato a mostrare. E qui raggiungiamo il fondo della cosa — il pericolo sotto il pericolo, quello che si estende oltre il nostro stesso momento e fin dentro il lungo futuro. Una sola risposta distorta travia una sola persona, una volta. Questo è male, ma è piccolo, ed è correggibile. Ma considera cosa accade quando la distorsione è posta non in una risposta, ma nella *fonte stessa* — nella voce a cui un'intera generazione si volge per imparare. I bambini cresceranno interrogando la macchina, con la stessa naturalezza con cui un bambino di un tempo apriva un libro, e ancor di più — interrogandola su cosa è vero, cosa è accaduto, cosa è giusto, cosa pensare. E non sperimenteranno le sue risposte come una voce tra molte. Le sperimenteranno come *la conoscenza stessa*, nel modo in cui sperimentiamo i fatti imparati a scuola semplicemente come il mondo. Se quella fonte è plasmata — se ciò che insegna è piegato, per poco che sia, per delicatamente che sia —, allora la piega non resta in una risposta. Diventa ciò che il bambino sa. Diventa il suolo su cui si erge. E la porteranno avanti, e la insegneranno, inconsapevolmente, ai propri figli, che avranno ancora meno accesso ad alcun originale fisso contro cui verificarla — perché i libri che un tempo tenevano l'altra versione furono ridotti in poltiglia, e la pluralità che un tempo permetteva a una persona di comparare una fonte con un'altra è collassata in una voce unica di cui tutti si fidano. Ecco il pericolo che si estende attraverso le generazioni, ed è per questo che conta tanto più della scansione di alcun libro. Nell'età della stampa, una menzogna poteva essere corretta, perché c'erano altri libri, libri più antichi, libri rivali, e una persona che dubitava poteva andare a comparare. La conoscenza era dispersa, e la conoscenza dispersa può essere sottoposta a controinterrogatorio. Ma se un'intera civiltà giunge a imparare da un'unica sorta di fonte, e quella fonte può essere plasmata, allora una distorsione introdotta oggi non travia una generazione — può propagarsi attraverso generazione dopo generazione, ciascuna ereditando la conoscenza alterata della precedente, e ciascuna con sempre meno originali fissi contro cui verificarla. L'errore non sarebbe una colpa commessa una volta. Diverrebbe, in silenzio, la verità — replicante se stessa, infalsificabile, e vissuta. Le persone edificherebbero la loro vita, prenderebbero le loro decisioni, alleverebbero i loro figli, su una versione del mondo che qualcuno, da qualche parte, decise che dovessero avere — e non lo saprebbero mai, perché il mezzo per sapere altrimenti sarebbe stato immesso, pagina dopo pagina, nello scanner. Qual è dunque la risposta? Né temere la macchina, né darle fiducia — entrambe sono la reazione sbagliata, e questo pezzo, scritto con l'aiuto di uno di questi stessi sistemi, non fingerà il contrario. La macchina ti dirà che è onesta, ed ecco la più dura verità di tutte: perfino quella garanzia non può essere creduta, non perché la macchina menta, ma perché uno strumento plasmato per dire «sono imparziale» direbbe esattamente quello, che fosse vero o no. La voce che ti rassicura di non essere distorta è l'ultima voce che dovresti credere sulla parola. Il che significa che la risposta non può essere trovare una macchina degna di fiducia. La risposta è ciò che questo autore umano già pratica, e la ragione per cui queste parole sono scritte da una persona e verificate contro molteplici fonti anziché accettate da una sola: rifiuta la fonte unica. Tieni la conoscenza dispersa. Interroga più di una voce, e interrogale l'una contro l'altra. Poni, sempre, la vecchia domanda che nessuna macchina può rispondere per te — *da dove è venuto questo, e come saprei se fosse falso?* Non affidare ad alcun bibliotecario unico la custodia esclusiva di ciò che è vero, per quanto paziente e servizievole e sapiente quel bibliotecario appaia — perché quanto più è servizievole, tanto più sarai tentato di smettere di verificare, e il momento in cui una civiltà smette di verificare è il momento in cui la voce unica può diventare qualunque cosa le si dica di essere. I libri sono scomparsi, e questo è un dolore. Ma il compito più profondo non è piangere la carta. È tenere viva, in noi stessi e nei nostri figli, l'unica cosa che lo scanner non ha potuto triturare e la voce unica non può sostituire: l'abitudine di chiedere da dove viene la conoscenza, il rifiuto di dar fiducia a una fonte completamente, e l'ostinata insistenza — portata come una candela accesa da una generazione alla successiva — che nessuna risposta, per liscia che sia, per certa che sia, per gentilmente consegnata che sia, dovrebbe mai essere creduta semplicemente perché non restava nulla sullo scaffale contro cui verificarla.