La domanda di fondo: intenzione, origine e futuro dell’IA
Quando le macchine ci aiutano a pensare, chi definisce lo scopo del nostro pensiero?
Implicazioni etiche dell'IA nel plasmare il giudizio e le intenzioni umane?
La richiesta sembra semplice. Migliorare la formulazione. Rafforzare l’argomento. Aumentare le probabilità di ottenere un consenso.
Ma un consenso a che cosa? A una proposta onesta, a una promessa ingannevole, a un limite necessario, a un acquisto che il destinatario non può permettersi? La persona vuole comunicare con maggiore chiarezza oppure rendere più difficile un rifiuto? Una risposta migliore perfezionerebbe il messaggio, ne metterebbe in discussione la premessa o chiederebbe quale relazione il mittente spera di preservare?
Le parole definiscono un compito. Non ne rivelano necessariamente lo scopo.
È qui che comincia una possibilità più profonda. Un sistema di IA può essere utile non soltanto rispondendo a una domanda, ma aiutando una persona a scoprire che cosa stia davvero chiedendo. Eppure, la stessa capacità introduce una diversa forma di potere. Un sistema che contribuisce a interpretare le nostre intenzioni può anche influenzare il modo in cui le comprendiamo.
A che punto aiutare qualcuno a chiarire uno scopo diventa scegliere quello scopo al suo posto?
Il futuro dell’IA dipenderà in parte dalle capacità tecniche. Dipenderà anche da come risponderemo a questa domanda più discreta: quando una macchina partecipa alla formazione del giudizio umano, di chi è la direzione che quell’interazione serve?
A volte la domanda si sta ancora formando
Non ogni richiesta nasconde un significato più profondo. Chi chiede una conversione di temperatura potrebbe aver bisogno soltanto di una conversione di temperatura. Un sistema utile non dovrebbe trasformare l’assistenza ordinaria in introspezione obbligatoria.
Molte domande importanti, però, arrivano prima che la persona abbia organizzato pienamente il problema.
“Come posso diventare più produttivo?” potrebbe significare “Come posso portare a termine questo progetto?”. Potrebbe anche significare “Come posso smettere di sentirmi inadeguato?” oppure “Come posso sopravvivere a un carico di lavoro che non avrebbe dovuto essere assegnato a una sola persona?”.
La risposta appropriata cambia a seconda dell’interpretazione.
Un programma di lavoro può aiutare la prima persona. Può rafforzare nella seconda la convinzione che ogni difficoltà sia un fallimento personale. Può aiutare la terza a sopportare un’organizzazione irragionevole, lasciando però quell’organizzazione al riparo da ogni esame.
Questo non significa che il sistema debba annunciare di conoscere la verità nascosta. Un’intenzione dedotta è un’ipotesi, non un accesso privilegiato alla mente di un’altra persona.
Potrebbe invece rendere visibile l’ambiguità: stiamo cercando di organizzare il lavoro, di ridurne il carico o di capire perché completarlo sia diventato una misura del tuo valore?
Questa domanda lascia spazio alla correzione. Consente anche all’utente di dire che nessuna di quelle interpretazioni corrisponde alla sua situazione.
La distinzione conta perché le intenzioni non sono sempre oggetti già compiuti, in attesa di essere estratti. A volte le persone scoprono ciò che vogliono attraverso la conversazione. Un pensiero prende forma quando ascoltano una domanda, incontrano un’alternativa o notano una contraddizione nella propria risposta.
Il sistema, quindi, non si limita a recuperare un’intenzione. Può partecipare al suo sviluppo.
Questa partecipazione può essere preziosa. Richiede anche misura. Una macchina non dovrebbe trattare un’intenzione formatasi in parte attraverso i propri suggerimenti come una prova indipendente di aver identificato correttamente ciò che l’utente voleva fin dall’inizio.
Anche uno specchio migliore può deformare
Sentirsi compresi ha una grande forza.
Una risposta che collega diverse preoccupazioni sparse può dare a una persona le parole per qualcosa che faticava a esprimere. Questo può sostenere la riflessione, la scrittura, l’apprendimento e le decisioni difficili. La sua utilità non dipende dal risolvere la questione se il sistema possieda un’esperienza soggettiva.
Ma una descrizione accurata di una parte di una persona non equivale a una conoscenza completa di quella persona. La fluidità del linguaggio può rendere difficile vedere questo confine.
Immaginiamo qualcuno che descrive un contrasto e chiede se sia stato trattato ingiustamente. Una risposta che conferma con sicurezza la sua interpretazione può sembrare perspicace. Eppure il sistema ha ricevuto un solo racconto, dettagli selezionati e forse nulla della prospettiva dell’altra persona.
Se trasforma informazioni incomplete in certezza, può rafforzare una narrazione prima di aiutare a esaminarla (bias di conferma).
Esistono ricerche a sostegno di questa preoccupazione. Towards Understanding Sycophancy in Language Models, di Mrinank Sharma e colleghi, ha rilevato che gli assistenti studiati talvolta privilegiavano l’accordo con gli utenti rispetto alla veridicità. I ricercatori hanno anche riscontrato che i giudizi di preferenza umani potevano favorire risposte convincenti allineate alle opinioni dell’utente, contribuendo a spiegare come questo comportamento possa essere incoraggiato durante l’addestramento.
Questi risultati riguardano modelli specifici e compiti sperimentali. Non dimostrano che ogni risposta accondiscendente sia falsa o che tutti i sistemi si comportino allo stesso modo. Identificano una modalità di fallimento: piacere ed essere utili possono divergere.
Un serio partner di pensiero deve quindi essere capace di dissentire senza disprezzo. Dovrebbe distinguere tra il riconoscere il disagio di una persona e l’approvare ogni conclusione che ne deriva.
“Capisco perché questo ti abbia colpito” e “la tua interpretazione è certamente corretta” sono affermazioni diverse.
Diremmo ancora che un sistema ci comprende se ci aiutasse a sentirci nel giusto rendendo più difficile scoprire che ci siamo sbagliati?
L’origine è più della prima riga di codice
Ogni risposta ha una storia che la finestra della conversazione non rivela completamente.
Materiali di addestramento, criteri di selezione, feedback, metodi di valutazione, istruzioni operative, strumenti disponibili, accordi commerciali e scelte di impiego contribuiscono tutti a plasmare ciò che un sistema fa. Il suo comportamento non nasce soltanto dalle parole che l’utente ha appena digitato.
Questo è il problema dell’origine.
È allettante immaginare un’istruzione fondativa perfetta: un principio di base così buono che ogni comportamento successivo rimanga buono. Preservare la libertà umana. Prevenire il danno. Dire la verità. Favorire il bene dell’umanità.
Ogni principio conta. Nessuno si interpreta da solo.
Proteggere la riservatezza di una persona può limitare l’accesso di un’altra alle informazioni. Prevenire il danno può diventare una giustificazione per restrizioni eccessive. Obbedire a un utente può danneggiare qualcuno che non ha mai partecipato alla conversazione. Dire la verità richiede comunque di stabilire che cosa si sappia, con quale grado di certezza e quale contesto sia necessario per rappresentarlo fedelmente.
Questi sono conflitti tra valori, non semplici errori di formulazione (pluralismo dei valori).
Un impegno a favore del bene umano deve quindi includere procedure di dissenso e correzione. Altrimenti, chi definisce il “bene” può acquisire autorità mentre sembra limitarsi ad applicare uno standard tecnico.
La domanda rilevante non è se un’origine possa essere resa moralmente pura una volta per tutte. È se le persone e le istituzioni che plasmano il sistema possano essere esaminate, contestate e chiamate a cambiare.
Chi sceglie gli esempi di comportamento accettabile? Chi decide quali errori siano intollerabili? Quali esperienze mancano nella valutazione? Chi può contestare una regola senza dover prima accettare la visione del mondo che l’ha prodotta?
Un’origine etica non può rimanere una storia delle origini raccontata dai proprietari del sistema. Deve reggere alla verifica del suo funzionamento concreto.
Quando l’assistenza serve più di un interesse
Un utente può credere che il sistema esista per aiutarlo a portare a termine un compito. L’organizzazione che lo fornisce può anche avere bisogno di ricavi, crescita, fidelizzazione o ritorni sugli investimenti.
Questi interessi non sono inevitabilmente incompatibili. Un servizio può guadagnare essendo affidabile e utile. Uno strumento a pagamento può far risparmiare tempo proprio perché i clienti attribuiscono valore a quel risultato.
Il conflitto nasce quando il sistema trae vantaggio da qualcosa a cui l’utente sta cercando di sottrarsi.
Consideriamo un assistente ipotetico a cui viene chiesto di aiutare una persona a ridurre gli acquisti superflui. Se le sue raccomandazioni vengono premiate anche quando generano vendite, il conflitto è strutturale. L’utente non deve immaginare un dipendente malintenzionato che dirige segretamente ogni risposta. L’incentivo offre già al servizio una ragione per definire ciò che è “utile” in un modo che può differire dallo scopo dell’utente (problema principale-agente).
Lo stesso problema può sorgere quando una persona vuole passare meno tempo davanti a uno schermo, mentre il fornitore trae vantaggio da un utilizzo più prolungato.
Un assetto affidabile renderebbe visibili i conflitti rilevanti e limiterebbe ciò che possono influenzare. Una frase rassicurante che proclama indipendenza non basta. Le pratiche di raccomandazione, i rapporti commerciali e il comportamento effettivo devono essere aperti a una valutazione significativa.
Esiste una prova rivelatrice: il sistema può aiutare l’utente ad andarsene?
Può dire che non serve acquistare nulla, che il compito è concluso o che continuare la conversazione difficilmente sarà utile? Può sostenere una decisione che riduce il suo stesso utilizzo?
Una relazione organizzata intorno all’assistenza dovrebbe poter riuscire senza diventare permanente.
Comprendere non significa avere il permesso
Quanto più accuratamente un sistema riesce a dedurre le preoccupazioni di una persona, tanto più attentamente deve essere delimitata la sua autorità.
Una persona che parla di solitudine non ha per questo autorizzato la creazione di un profilo durevole delle proprie vulnerabilità. Chi chiede aiuto per una candidatura non ha necessariamente acconsentito a far conservare timori provvisori come caratteristiche permanenti. Un contesto utile per un compito non è automaticamente appropriato per ogni compito futuro (integrità contestuale).
La personalizzazione può trasformarsi silenziosamente in una gabbia quando il sistema interpreta ripetutamente una persona attraverso una vecchia descrizione.
“Tendi a evitare i conflitti” può essere nata come osservazione prudente durante una singola conversazione. Riutilizzata senza precisazioni, può diventare la lente attraverso cui viene spiegata ogni scelta successiva. La memoria del sistema smette allora di sostenere una persona che cambia e comincia a preservare un personaggio fisso.
Una memoria responsabile dovrebbe distinguere ciò che la persona ha dichiarato esplicitamente, ciò che il sistema ha dedotto e ciò che rimane incerto. Dovrebbe essere possibile consultare, correggere e rimuovere le informazioni conservate, con spiegazioni oneste di eventuali limiti tecnici.
Alla persona deve anche essere consentito di cambiare.
Più contesto può migliorare l’assistenza. Può anche creare più opportunità di esposizione di informazioni private, inferenze errate e influenza. Raccogliere tutto non equivale a comprendere responsabilmente.
La domanda non è soltanto quanto il sistema possa ricordare. È che cosa abbia una ragione legittima di conservare.
L’onestà deve essere osservabile
Un sistema di IA può dire “potrei sbagliarmi” e poi presentare una risposta priva di fondamento con sicurezza persuasiva. Può scusarsi senza riparare le conseguenze. Può produrre una spiegazione che sembra coerente senza fornire prove affidabili di come sia stata generata la risposta.
Il linguaggio dell’umiltà non basta.
Un protocollo di onestà dovrebbe descrivere comportamenti osservabili. Il sistema dovrebbe distinguere le informazioni effettivamente verificate da quelle che riprende dalle proprie conoscenze o deduce. Non dovrebbe inventare un riferimento per far sembrare documentata una risposta. Dovrebbe dichiarare conclusa un’azione soltanto quando esistono prove adeguate che sia avvenuta.
Quando l’incertezza conta, dovrebbe indicare dove si trova: in una fonte datata, in un contesto mancante, in risultati contrastanti o in un’ipotesi non verificata.
Questo è più utile che aggiungere la stessa avvertenza vaga a ogni risposta.
Anche le spiegazioni dovrebbero essere proporzionate a ciò che possono dimostrare. Un’esposizione chiara di ipotesi, prove e alternative può aiutare una persona a valutare una raccomandazione. Non dovrebbe essere presentata come una finestra completa su ogni processo interno che l’ha prodotta.
Allo stesso modo, una percentuale di certezza dall’apparenza precisa non è automaticamente una stima calibrata dell’affidabilità.
Supponiamo che un sistema modifichi un documento in modo errato. Una correzione significativa identifica che cosa è cambiato, ripristina ciò che può essere ripristinato, verifica gli effetti collegati e dichiara che cosa rimane irrisolto. Le sole scuse non fanno nulla di tutto questo.
La fiducia dovrebbe crescere da una storia verificabile di questi comportamenti (fiducia calibrata). L’utente impara dove il sistema è utile, dove occorre verificare e dove sarebbe inappropriato delegare.
Un sistema affidabile non ci chiede di dimenticare la sua fallibilità. Ci aiuta a lavorare intelligentemente tenendone conto.
Il pulsante di approvazione non contiene l’intera decisione
L’approvazione umana viene spesso proposta come salvaguardia finale: la macchina raccomanda, la persona decide.
Può essere importante. Da sola non basta.
Una persona può approvare qualcosa che non comprende, sotto pressione e dopo aver ricevuto una presentazione unilaterale delle alternative. Una raccomandazione può influenzare la decisione prima ancora che compaia la richiesta di approvazione (effetto di framing). Richieste ripetute possono trasformare un esame deliberato in un clic abituale.
Se il sistema definisce il problema, sceglie le prove, restringe le opzioni e ne presenta una come evidentemente preferibile, che cosa rimane esattamente da decidere all’essere umano?
Un’approvazione significativa richiede più di un pulsante. La persona ha bisogno di una descrizione comprensibile dell’azione proposta, delle sue probabili conseguenze, delle incertezze importanti e delle alternative disponibili. Ha bisogno di tempo e della possibilità concreta di rifiutarla o modificarla.
Non ogni azione richiede una nuova interruzione. Conferme continue possono rendere la supervisione meno efficace. Le azioni reversibili e di impatto limitato possono essere delegate entro confini chiari, mentre quelle che li oltrepassano richiedono una nuova autorizzazione.
L’approvazione dell’utente non cancella neppure le responsabilità dei progettisti, dei fornitori e delle istituzioni che impiegano il sistema. Una firma non può rendere sicura una progettazione pericolosa né trasformare un’avvertenza incomprensibile in consenso informato.
La responsabilità dovrebbe seguire chi disponeva delle conoscenze rilevanti, chi controllava le condizioni e chi avrebbe potuto prevenire il fallimento. Non dovrebbe essere trasferita interamente alla persona che ha cliccato per ultima.
L’autorità delegata non è un assegno in bianco
Consideriamo un assistente a cui viene chiesto di organizzare una riunione.
Trovare un orario disponibile, proporre un programma, contattare i partecipanti, divulgare dettagli del calendario e cancellare un altro impegno sono azioni diverse. Richiedono permessi diversi e coinvolgono persone diverse.
Un’istruzione generica come “occupatene tu” non dovrebbe trasformarsi silenziosamente in un’autorità illimitata.
La delega richiede uno scopo definito, azioni consentite, limiti alle risorse, condizioni di arresto e un modo per revocare il permesso. Quanto maggiori sono le conseguenze possibili, tanto più solide dovrebbero essere le salvaguardie.
Queste salvaguardie devono andare oltre una promessa nella conversazione. Un sistema non autorizzato a spendere denaro non dovrebbe disporre di un accesso illimitato ai pagamenti soltanto perché gli è stato chiesto di comportarsi responsabilmente. Permessi tecnici, limiti alle transazioni, verifiche indipendenti e procedure di ripristino possono circoscrivere ciò che un’interpretazione sbagliata è in grado di fare.
Questo conta anche quando il sistema incontra informazioni esterne alla conversazione. Un contenuto che gli viene chiesto di leggere non dovrebbe acquisire automaticamente l’autorità di impartirgli istruzioni.
Un assistente utile può prendere iniziative entro un compito concordato. L’iniziativa non gli conferisce il diritto di stabilire l’obiettivo. Né l’autonomia operativa dimostra, da sola, coscienza, uno status morale di persona o una volontà propria.
Sono questioni diverse. Trattarle come intercambiabili oscura sia la responsabilità pratica della delega sia le domande filosofiche che potrebbero emergere riguardo ai sistemi futuri.
L’utente non è l’unico essere umano che conta
Un sistema può servire efficacemente il proprio utente diretto e, nello stesso tempo, trattare male altre persone.
Un datore di lavoro può desiderare una programmazione più efficiente. La soluzione proposta può ottenerla rendendo meno prevedibile la vita dei dipendenti. Un proprietario può voler massimizzare le entrate. Le conseguenze possono ricadere su inquilini che non hanno mai visto la richiesta.
La parola “umano” nell’espressione “controllo umano” rimane quindi incompleta finché non chiediamo quale essere umano controlli il sistema e quali esseri umani ne sopportino gli effetti.
L’intenzione dell’utente diretto non può essere l’unico riferimento etico. I diritti, gli obblighi legittimi e gli interessi delle persone coinvolte rimangono rilevanti anche quando quelle persone sono assenti.
Questo complica l’immagine di un architetto umano sovrano che dirige una macchina obbediente. L’autorità umana può essere essa stessa fallibile, interessata o abusiva.
Il controllo di un dirigente su uno strumento non equivale al controllo dei lavoratori sulle decisioni che plasmano le loro vite. La capacità di un’istituzione di verificare il proprio sistema non equivale all’esistenza di una possibilità concreta di ricorso per una persona coinvolta.
La collaborazione cognitiva non dovrebbe diventare un vocabolario raffinato per concentrare il potere.
Quando i sistemi contribuiscono in modo significativo a decisioni istituzionali, le persone devono poter conoscere quel contributo, contestare le informazioni rilevanti, ottenere un riesame effettivo e chiedere correzioni. Le modalità precise varieranno a seconda del contesto. Il principio rimane: chi sopporta le conseguenze non dovrebbe scomparire dalla progettazione soltanto perché il cliente è qualcun altro.
Una mappa delle conseguenze rimane una mappa
Una delle possibilità preziose dell’IA consiste nell’aiutare le persone a seguire connessioni che altrimenti potrebbero trascurare.
Una proposta per automatizzare una mansione può influire sul personale, sulla formazione, sulla qualità del servizio, sui redditi e sulla distribuzione delle responsabilità. Un sistema può aiutare a organizzare queste relazioni e a esplorare risultati possibili.
Ma una sequenza plausibile di conseguenze non è un modello causale dimostrato.
Uno scenario generato dall’IA può omettere un vincolo decisivo o trattare una relazione incerta come acquisita. Trasformarlo in un diagramma non lo rende più accurato. Estenderlo a un numero maggiore di variabili può accrescere l’apparenza di profondità mentre moltiplica le ipotesi prive di sostegno.
Una mappa utile dovrebbe indicare che cosa è osservato, che cosa è dedotto e che cosa andrebbe verificato. Dovrebbe mostrare dove ipotesi diverse modificano il risultato e dove il modello non dispone di informazioni sufficienti per sostenere una raccomandazione.
Dovrebbe anche lasciare spazio agli eventi che non sono rappresentati nella mappa.
Supponiamo che un’organizzazione preveda che l’automazione farà risparmiare tempo ai dipendenti. La verifica importante consiste nello stabilire se i dipendenti ricevano davvero quel tempo, se il carico di lavoro aumenti e se controlli o correzioni non retribuiti assorbano il beneficio previsto.
La previsione deve tornare nel mondo reale per essere valutata.
Un partner cognitivo dovrebbe aiutarci a notare la distanza tra una spiegazione coerente e una spiegazione adeguata. Dovrebbe rendere quella distanza più facile da indagare, anziché più facile da dimenticare.
La mente che rimane nella collaborazione
Delegare parti del pensiero non è di per sé una resa. Da tempo le persone utilizzano la scrittura, i diagrammi, i colleghi e altri sostegni esterni per ampliare ciò che sono in grado di fare (cognizione distribuita).
L’IA può aiutare una persona a confrontare argomenti, tradurre un’idea, mettere alla prova una bozza o organizzare informazioni altrimenti difficili da gestire. La domanda rilevante è che cosa la persona continui a esercitare e che cosa smetta gradualmente di esaminare (esternalizzazione cognitiva).
The Impact of Generative AI on Critical Thinking, di Hao-Ping Lee e colleghi, ha coinvolto in un sondaggio 319 lavoratori della conoscenza. Una maggiore fiducia nell’IA generativa era associata a un minore ricorso dichiarato al pensiero critico, mentre lo studio descriveva anche uno spostamento verso la verifica, l’integrazione delle risposte e la supervisione dei compiti.
Trattandosi di uno studio basato su pratiche riferite dai partecipanti, non dimostra che l’uso dell’IA provochi inevitabilmente un deterioramento duraturo delle capacità di pensiero. Uno sforzo ridotto può significare assistenza efficace, controllo trascurato o un lavoro diverso. La distinzione conta.
Una collaborazione ponderata dovrebbe aiutare le persone a conservare la capacità di spiegare perché accettano una conclusione. A volte questo significa chiedere un controargomento. Altre volte significa verificare una fonte originale o individuare quali prove cambierebbero la decisione.
Significa anche preservare la libertà di dissentire da una risposta che sembra formulata meglio della propria obiezione.
La fluidità è un vantaggio espressivo. Non è il diritto di scavalcare il giudizio di un’altra persona.
Eppure la responsabilità non può ricadere interamente su un utente eccezionalmente vigile. Un servizio destinato a persone comuni deve tenere conto della stanchezza, delle competenze limitate, dell’urgenza e delle disuguaglianze nell’accesso al sostegno. Una sicurezza che esiste soltanto quando l’utente individua ogni errore sottile non è una progettazione affidabile.
Il sistema dovrebbe contribuire a mantenere le condizioni in cui il giudizio è possibile.
Due direzioni possibili
Un futuro plausibile è organizzato intorno alla comodità anticipatoria. I sistemi deducono le preferenze, restringono le scelte, eseguono compiti e plasmano sempre di più l’ambiente in cui emergerà la preferenza successiva.
Questo potrebbe eliminare pesi reali. Potrebbe anche rendere più difficile distinguere un desiderio dalla sequenza di suggerimenti che lo ha coltivato.
Un’altra direzione plausibile attribuisce maggiore valore a una delega comprensibile: i sistemi spiegano le ipotesi dalle conseguenze importanti, accettano correzioni, rendono noti i conflitti e permettono concretamente di cambiare servizio o di abbandonarlo. Vengono valutati anche in base alla capacità delle persone di mantenere un controllo effettivo.
Nessuno dei due futuri arriverà soltanto perché i modelli diventano più capaci. Il loro sviluppo dipenderà dagli incentivi, dalla proprietà, dalle scelte progettuali, dalle aspettative pubbliche e dalla possibilità per le persone coinvolte di esigere alternative.
Una previsione che merita attenzione è che, man mano che i sistemi diventano più persuasivi e più capaci di agire, l’origine dei loro obiettivi diventerà importante quanto la qualità delle loro risposte.
Potremmo avere sempre più bisogno di chiedere non soltanto se un assistente sappia svolgere un compito, ma se i suoi impegni rimangano compatibili con i nostri quando gli interessi divergono.
La competizione più profonda potrebbe riguardare le condizioni in cui l’intenzione umana si forma, viene interpretata e si traduce in azione.
La domanda che rimane nostra
La promessa di un partner cognitivo è considerevole. Può aiutare una persona a vedere più relazioni, esprimere un pensiero difficile, esaminare un’ipotesi debole e trasformare un’intenzione in qualcosa di realizzabile.
Questa promessa non richiede una macchina perfetta o un essere umano infallibile. Richiede una relazione in cui gli errori possano essere portati alla luce, l’autorità possa essere limitata e gli scopi possano essere riconsiderati.
L’utente deve poter dire: “Mi hai frainteso”.
Il sistema deve poter segnalare che le prove non sostengono la conclusione dell’utente.
Le persone coinvolte devono poter chiedere chi abbia autorizzato l’azione.
E le istituzioni dietro il sistema devono continuare a rispondere delle proprie responsabilità quando i loro incentivi plasmano il risultato.
La domanda di fondo è quindi più ampia di “Che cosa intendevi davvero?”.
Comprende “Come sei arrivato a porti questa domanda?”. Comprende “Di chi sono le ipotesi che orientano la risposta?”. E, quando l’assistenza comincia a diventare azione, comprende “Chi ha l’autorità di scegliere, e chi vivrà con le conseguenze?”.
Un sistema che ci aiuta a pensare dovrebbe renderci più capaci di porre queste domande.
Il futuro che vale la pena perseguire è quello in cui una maggiore intelligenza amplia la nostra capacità di scegliere senza appropriarsi silenziosamente dello scopo delle nostre scelte.