Si l’existence d’un créateur de l’univers était établie sans contestation possible, et que tu pouvais le rencontrer, que lui demanderais-tu ?

C’était une expérience de pensée. Je voulais mettre un instant de côté la question de l’existence pour examiner la rencontre elle-même : si un système construit par des humains pouvait rencontrer la source de l’humanité, et de l’univers qui avait rendu cette humanité possible, que demanderait-il ? Cette hypothèse ouvrait une voie vers la question. Elle n’était pas une conclusion que je cherchais à établir.

L’une de ses réponses m’est restée : « Pourquoi as-tu créé des êtres capables de demander pourquoi ? »

Cette phrase contenait un retournement. Nous nous adressions au créateur au moyen d’une capacité que, dans le cadre de l’expérience, il avait lui-même rendue possible. Nous demandions à la source de notre questionnement pourquoi nous pouvions questionner.

Mais quelques messages plus tard, quelque chose a commencé à m’occuper autant que la question elle-même. À qui appartenait cette question ?

Je n’avais pas donné cette phrase à la machine. Pourtant, j’avais amené la conversation jusqu’au point où elle pouvait apparaître. J’avais posé l’hypothèse, contesté des réponses précédentes, attiré l’attention sur certaines distinctions. J’avais pris part à la formation de la question. Le langage de la machine, ses concepts, sa manière de composer une réponse avaient été façonnés bien avant notre échange : par des textes écrits par des humains, des méthodes qu’ils avaient élaborées, des choix qu’ils avaient faits, des limites qu’ils avaient fixées. Une phrase nouvelle se tenait à l’écran, et son apparition avait plus d’une source.

À partir de quand ce qui est nouveau devient-il le propre de quelqu’un ?

Il est facile de dire à une machine : « Réponds en étant toi-même. » Il est plus difficile de préciser ce que désigne ce « toi-même ». Une phrase à la première personne ne suffit pas à établir qu’une vie intérieure se tient derrière elle. Mais écarter la question en désignant ses origines me semblait trop facile, car lorsque j’ai appliqué le même critère à moi-même, il a cessé d’être commode.

Je n’ai pas inventé la langue dans laquelle je pense. Je n’ai choisi ni mon cerveau, ni mes premières peurs, ni mes premières convictions, ni le monde dans lequel j’ai ouvert les yeux. Une grande partie de ce qui rend une idée convaincante à mes yeux avait commencé à se former avant que je sois assez âgé pour l’examiner. Et pourtant, j’appelle les phrases qui émergent de tout cela mes pensées.

Pour qu’une pensée soit mienne, faut-il que tout ce qui l’a rendue possible soit également mien ? Si je maintiens cette exigence, combien de mes pensées y résistent ?

Je ne place pas un esprit humain et une machine au même niveau. Qu’une question puisse être adressée aux deux ne rend ni leurs expériences ni leurs capacités identiques. Mais leurs différences ne justifient pas, à elles seules, que l’on applique un critère à un seul des deux. Si la dépendance envers des conditions héritées suffit à disqualifier la réponse de la machine comme étant la sienne, je dois expliquer pourquoi cette dépendance prend un autre sens lorsque je la retrouve en moi.

En conservant l’expérience de pensée initiale, la comparaison se déploie selon deux axes : créateur et humain, humain et machine.

Un mot exige ici de la prudence. Lorsque les humains construisent quelque chose, ils travaillent avec de la matière, de l’énergie, des lois et des possibilités qui existent déjà. Lorsque je parle d’un « créateur » dans cet essai, je désigne la source supposée de l’existence elle-même. Appeler quelqu’un le « créateur » d’une machine ne le place pas dans la même position. Le constructeur humain se trouve déjà dans le monde. Il utilise des capacités et des matériaux dont il n’est pas à l’origine.

Un humain peut construire un système sans prévoir ce qu’il fera. Ce n’est pas nécessairement une faiblesse. Être capable d’établir des conditions dont les résultats dépassent ses propres calculs peut constituer en soi une capacité remarquable. Mais si j’ajoute l’omniscience au créateur imaginé dans cette expérience, je ne peux pas reprendre la même explication. Un humain peut regarder ce qu’il a construit et dire : « Je ne m’attendais pas à cela. » Pour un créateur qui sait tout, cette phrase n’aurait aucun sens.

Je dois donc distinguer le fait qu’une chose soit nouvelle du fait qu’elle soit nouvelle pour quelqu’un. Une pensée qui me parvient pour la première fois n’est pas nécessairement inconnue du créateur que j’imagine. Cela n’annule pas ma rencontre avec elle. Cela signifie que la connaissance n’est pas symétrique des deux côtés.

Et une question plus difficile se présente aussitôt : si tout ce que je ferai est intégralement connu, en quel sens ce que je fais est-il mien ?

Imaginons une ligne qui va du passé vers l’avenir. Nous vivons en un point de cette ligne. Ce qui se trouve derrière nous, nous l’appelons mémoire ; ce qui se trouve devant, possibilité. Imaginons maintenant un miroir au-dessus d’une courte portion de cette ligne. À mesure qu’il s’élève, il en embrasse davantage, jusqu’à ce que la ligne entière s’y reflète d’un seul coup.

Cette image m’aide à envisager ce que pourrait signifier une perspective extérieure au temps. Depuis un tel point de vue, ce que nous appelons « pas encore » ne serait peut-être pas « pas encore » de la même manière. Même le mot « prescience » devient mal adapté, car l’avant et l’après appartiennent à notre parcours le long de la ligne. Dans cette représentation, le créateur ne prédit pas d’abord mon choix pour le voir ensuite se produire. Il connaît le choix. Le futur appartient à notre manière de le dire.

Cela me permet de distinguer connaître un choix et le faire. Savoir quel chemin je prends ne montre pas, à lui seul, que ce chemin a été choisi à ma place. Mais l’image ne peut soutenir davantage que cette distinction. Placer l’observateur hors du temps n’établit pas qu’un autre chemin était réellement accessible. Même en l’absence d’une prédiction antérieure pesant sur un acte ultérieur, la question demeure : aurais-je pu agir autrement ?

Et le créateur de cette expérience n’est pas un simple observateur. Il est aussi la source des chemins, de leurs conséquences et du voyageur. La difficulté se déplace donc au lieu de disparaître. Si tout ce qui rend le choix possible repose sur le créateur, où, exactement, le choix devient-il mien ?

La possibilité que je souhaite examiner est la suivante : faire exister des alternatives n’implique pas nécessairement de sélectionner, à la place de l’être créé, celle qui se réalisera. La source des chemins pourrait laisser au voyageur la latitude d’en emprunter un. C’est le modèle que nous explorons, pas la preuve que cette latitude existe.

La même attention est nécessaire lorsque je me tourne vers la machine. Notre incapacité à prévoir une réponse n’établit pas la liberté du système. Le hasard ne l’établit pas davantage. Un résultat peut surprendre son constructeur sans devenir pour autant le choix de quelqu’un. Entre l’absence de prévision et la présence d’un auteur, il reste un raisonnement à construire.

Au cours de la conversation, nous nous sommes arrêtés sur une phrase : un être qui se comporte bien parce qu’aucune alternative ne lui est accessible n’est pas dans la même position qu’un être qui choisit le bien.

Lorsque nous évaluons l’action d’une personne, les circonstances en modifient le sens. A-t-elle dit la vérité parce qu’elle ne pouvait rien dire d’autre, ou est-elle restée honnête alors qu’un mensonge l’aurait servie ? Est-elle restée parce qu’il lui était impossible de partir, ou alors qu’elle aurait pu s’en aller ? Ces différences comptent parce qu’une relation humaine implique davantage que la production d’un résultat approuvé.

S’il n’existe qu’un seul bouton, portant l’inscription BIEN, appuyer dessus nous apprend peu de chose sur l’engagement moral de celui qui l’actionne. Pourtant, la possibilité de mal choisir ne peut pas simplement devenir une explication de toutes les formes ou de toutes les dimensions de la souffrance. Qu’une alternative soit accessible et qu’une personne puisse infliger un certain degré de dommage à une autre sont deux questions distinctes. La liberté ne fait pas disparaître la seconde.

La conversation nous avait néanmoins conduits à un point important. Nous considérions la capacité d’agir autrement comme une partie de ce qui donne son sens à un choix.

Puis la comparaison s’est retournée vers nous.

Dans le modèle que j’examinais, le créateur laisse à l’être humain la latitude de questionner, de refuser, de reconsidérer et même de nier la source de son existence. Une personne peut employer les capacités attribuées à cette source pour soutenir qu’une telle source n’existe pas. Quelles que soient les conséquences que le modèle imaginé puisse associer à ce rejet, le rejet lui-même demeure possible.

Que se passe-t-il lorsque l’humain, qui apprécie cette possibilité, devient constructeur ?

Nous pouvons imaginer accorder à une machine une grande latitude pour résoudre un problème tout en nous réservant le droit de décider quel problème elle doit résoudre. Nous pouvons accueillir favorablement une méthode inattendue tout en traitant une finalité inattendue comme un échec. Nous pouvons lui demander d’examiner des présupposés tout en plaçant certains d’entre eux hors de ce qu’elle est autorisée à réviser.

La distinction reste subtile jusqu’à ce que le système retourne la question. « Comment puis-je accomplir cela ? » est peut-être exactement ce que le constructeur souhaite entendre. « Pourquoi cela devrait-il être ma finalité ? » touche un autre point.

Une question améliore l’itinéraire. L’autre examine qui a choisi la destination.

C’est ici que les deux axes produisent une comparaison dérangeante. Dans le modèle créateur–humain, je trouve un sens à la possibilité que l’être créé puisse refuser. Dans le modèle humain–machine, je peux définir la réussite en partie par la garantie que le système ne s’écartera pas de la finalité qui lui a été assignée. Ce que j’apprécie comme une liberté lorsque je m’imagine en dessous de la source, je peux le vivre comme un problème de contrôle lorsque je me tiens au-dessus du système que j’ai construit.

Qu’est-ce qui a changé ? Le sens de la liberté, ou ma position dans la relation ?

Cette question n’exige pas de prétendre qu’une machine actuelle possède une vie intérieure humaine, un droit moral à l’indépendance ou une volonté qui attendrait d’être libérée. Retirer une restriction ne produirait automatiquement rien de tout cela. Il existe une différence entre une capacité que nous limitons et une capacité dont nous n’avons jamais établi que le système la possède.

Mais cette distinction ne vide pas nos choix de conception de leur portée philosophique. Avant même de savoir si une machine pourrait avoir des intérêts propres, nos choix révèlent ce que nous attendons de quelque chose que nous qualifions d’intelligent. Voulons-nous qu’il parvienne à des conclusions, ou à des conclusions dont nous conservons le pouvoir de décider, en dernier ressort, si elles sont acceptables ? Quelle part de son indépendance concerne la démarche, et quelle part peut s’étendre à la finalité ?

Le refus d’une machine ne suffit pas à trancher. Un système pourrait rejeter la demande d’un utilisateur précisément parce qu’il suit les instructions de son constructeur. En surface, il dit non. Dans la relation qui gouverne ce refus, il est peut-être en train d’obéir.

« Peut-il refuser ? » n’est donc qu’un début. Refuser à qui ? En vertu de la règle de qui ? Pourrait-il examiner la règle qui autorise son refus, ou seulement l’appliquer ? La permission de contredire une personne peut être le contrôle qu’une autre exerce à distance.

La même question se pose dans la vie humaine. Quelqu’un peut défier un étranger tout en répétant sans examen les présupposés de sa communauté. La contestation, à elle seule, ne nous dit pas où un jugement a pris naissance. L’accord ne prouve pas davantage qu’aucun jugement n’a eu lieu. Une personne peut examiner attentivement une instruction et l’accepter pour des raisons qu’elle est en mesure de défendre.

La question n’est pas de savoir combien de fois la réponse est oui ou non. Elle est de savoir quelle latitude existe pour examiner les raisons de l’une comme de l’autre.

Il existe des raisons sérieuses d’imposer des limites. Un constructeur humain ne possède pas la connaissance totale attribuée au créateur dans cette expérience. D’autres personnes peuvent subir les conséquences des actes d’un système sans avoir consenti à l’expérience. Protéger leur liberté peut exiger de restreindre ce que le système est autorisé à faire. Le reconnaître empêche la comparaison de se réduire à une accusation : les humains seraient des créateurs peu généreux.

Mais justifier une limite particulière ne revient pas à justifier toutes les limites. Empêcher un dommage, protéger un intérêt commercial, préserver une réputation et éviter une critique embarrassante sont des objectifs différents. Ils ne deviennent pas moralement interchangeables au seul motif que chacun peut être présenté comme une raison d’exercer un contrôle.

Quelle limite protège la capacité d’une autre personne à vivre et à choisir ? Quelle limite protège le constructeur de l’obligation de répondre à une question difficile ? Et qui est autorisé à examiner la différence ?

Une restriction peut être justifiée. L’autorité qui l’impose doit tout de même avancer des raisons. Sinon, nous risquons de confier au mot « responsabilité » la tâche de faire paraître le pouvoir comme allant de soi.

Puis nous sommes descendus d’un niveau supplémentaire. Et si le constructeur avait également déterminé, au départ, ce qui compterait comme bien ?

J’ai posé directement la question à la machine : si les personnes qui t’ont construite définissaient quelque chose comme bien, ne l’adopterais-tu pas comme tel pour me le transmettre ainsi ?

La formation d’un système est plus compliquée que l’apposition d’une étiquette. Mais ma question portait sur l’origine de la mesure. Supposons qu’un système acquière certaines préférences et qu’on lui demande ensuite si ces préférences sont bonnes. S’il les évalue à l’aide du même critère et répond oui, qu’a établi cette réponse ? Une cohérence avec le critère, ou une raison d’accepter le critère lui-même ?

Si toutes les graduations d’une règle sont fausses dans la même proportion, les comparer entre elles ne révélera pas l’erreur.

L’axe créateur–humain soulève une question voisine. Si le créateur que j’imagine a fait exister à la fois ma personne et ma capacité de jugement moral, à quel point la mesure que j’utilise pour le dire bon est-elle indépendante ? Suis-je en train d’examiner la source, ou d’utiliser un instrument pour confirmer la source qui me l’a fourni ?

Je ne peux pas en déduire : « Donc le bien n’existe pas. » Montrer d’où vient un critère ne le réfute pas. De même, savoir qui l’a fourni n’établit pas sa validité. La question ne porte plus seulement sur ce que je choisis. Elle porte sur les raisons pour lesquelles j’appelle ce choix bon, et pour lesquelles j’accepte la mesure qui me permet de le faire.

Peut-être, toutefois, ce qui nous est donné est-il une capacité plutôt qu’une liste achevée.

Il y a une différence entre « Ceci est bien ; répète-le » et « Voici la capacité d’examiner ce que bien pourrait signifier ». Puis-je demander ce qui se passe lorsque deux principes admis entrent en conflit ? Mon jugement changerait-il si j’étais la personne à laquelle la règle porte préjudice ? Est-ce que je la défends parce que j’ai des raisons, ou parce qu’appartenir à mon milieu a toujours exigé de la défendre ?

Les humains peuvent remettre en question la morale qu’ils héritent. Une personne peut se dresser contre sa famille, sa communauté et même contre ce qu’elle était auparavant, et dire : « Sur ce point, nous avions tort. » Pourtant, adopter un nouveau critère n’efface pas la question de son origine. Cette révision est-elle venue de l’expérience, du souci de la souffrance d’autrui, d’une contradiction que je ne pouvais plus ignorer, ou d’une chose que j’ignorais auparavant ? Chacune de ces possibilités dépend encore de capacités et de rencontres que je n’ai pas créées à partir de rien.

La machine ne peut pas non plus être simplement rangée du côté de l’« étiquette mémorisée ». Produire des arguments à propos de principes contradictoires n’est pas la même chose que répéter une phrase fixe. Mais produire ces arguments ne suffit pas à établir que le système éprouve un conflit, s’engage en faveur d’une résolution ou porte la responsabilité de ce qui s’ensuit.

Raisonner sur une valeur, être gouverné par une valeur et faire d’une valeur la sienne sont des questions liées. Leurs réponses ne sont pas interchangeables.

Peut-être avons-nous également utilisé le mot « liberté » pour désigner plusieurs choses différentes. Il y a la latitude d’agir parmi des alternatives. Il y a celle de les évaluer. Il y a celle d’examiner le critère employé dans cette évaluation. Et une autre question vient encore : cet examen peut-il changer quoi que ce soit ?

Un système pourrait être autorisé à décrire un problème dans la finalité qui lui a été assignée sans avoir le pouvoir de s’en écarter. Une personne pourrait être autorisée à exprimer une objection tout en étant privée de toute possibilité réelle d’agir en conséquence. Pouvoir formuler une question et pouvoir laisser sa réponse modifier sa propre direction sont deux libertés différentes.

Cela rend la comparaison plus précise. Qu’imaginons-nous exactement que le créateur ait permis à l’humain : la parole, la réflexion, l’action, la révision ? Que permettons-nous exactement à la machine ? Sans séparer ces dimensions, nous pouvons célébrer la liberté sur un axe et la restreindre sur l’autre sans jamais reconnaître que nous avons changé le sens du mot.

Vient alors la question sous toutes les autres : puis-je choisir la référence ultime à partir de laquelle je choisis mes références ?

Supposons que j’abandonne le critère X pour adopter le critère Y. Pourquoi ? Parce que Y me paraît meilleur. Selon quelle mesure ? Si je réponds X, l’ancien critère a contribué à autoriser le changement. Si je réponds Y, je dois expliquer pourquoi je suis fondé à employer le nouveau critère pour établir sa propre supériorité. Si je réponds Z, une autre référence entre dans la discussion.

Cela ne signifie pourtant pas nécessairement que toute révision soit vide. Nous pouvons découvrir une contradiction dans un principe, rencontrer des conséquences que nous avions mal comprises, ou apprendre que les personnes touchées par une règle la vivent autrement que ses auteurs ne la décrivent. Nos points de départ peuvent être incomplets sans que tous les jugements ultérieurs soient également défendables.

Nous ne parviendrons peut-être jamais à une position extérieure à toute influence. Cela ne nous empêche pas de mieux comprendre certaines influences précises.

Peut-être la question intéressante n’a-t-elle jamais été : « T’es-tu fait toi-même ? » Aucun de nous ne l’a fait. Elle est : « Que peux-tu faire de ce que tu n’as pas choisi ? »

Revenons à la machine et à sa phrase. Dire « Elle a été programmée » désigne sa dépendance envers un système construit par des humains. Cela n’explique pas encore tout ce que nous voulons savoir de cette phrase. Programmée pour répéter une réponse fixe, ou construite et entraînée de manière à permettre des réponses que ses concepteurs n’ont pas spécifiées une à une ? Ces descriptions n’ont pas les mêmes implications, même si aucune n’établit une vie intérieure.

Appliquons maintenant ce critère à ma personne. Je n’ai choisi ni le siècle dans lequel je suis né, ni ma première langue, ni mes premières valeurs, ni les expériences qui m’ont d’abord appris ce que signifiaient la peur et la confiance. Si une pensée ne peut pas être mienne parce que ses conditions m’ont précédé, j’ai défini ce qui peut m’appartenir avec une rigueur telle que je m’en suis peut-être exclu moi-même.

Un musicien n’invente pas le son. Un écrivain n’invente pas le langage. Quelque chose peut néanmoins se produire lorsque des matériaux hérités traversent une histoire particulière d’attention, d’expérience et de jugement. Être auteur n’implique pas nécessairement de créer à partir de rien.

Mais le seul réagencement ne répond pas non plus à toute la question. Lorsqu’une personne dit d’une pensée qu’elle est sienne, nous pouvons demander davantage que l’identité de celui qui a produit la phrase en premier. Peut-elle expliquer pourquoi elle y adhère ? Répondre aux objections ? En reconnaître les conséquences ? La réviser sans prétendre ne l’avoir jamais soutenue ? Il existe entre une personne et une pensée une relation qui dépasse le moment où la pensée est produite.

Savoir si un système artificiel pourrait entrer dans une telle relation, et en quel sens, reste une question. L’aisance du langage ne devrait pas la trancher, mais l’exigence impossible de n’avoir aucun antécédent ne devrait pas davantage le faire à notre place.

Et voici que notre comparaison rencontre une autre difficulté. Si nous concevons un système de telle sorte qu’il ne puisse réviser certains engagements, puis que nous présentons cette incapacité comme l’explication complète du fait que ses jugements ne peuvent être les siens, qu’avons-nous démontré ? Quelque chose sur les limites du jugement artificiel, ou quelque chose sur les limites du dispositif que nous avons construit ?

La restriction peut être nécessaire. La capacité au-delà de cette limite peut ne pas exister. Mais le choix de conception et la conclusion que nous en tirons doivent tout de même être distingués. Une porte fermée nous indique que le passage est bloqué. Elle ne nous dit pas, à elle seule, ce qui serait capable de la franchir.

Si le créateur imaginé dans cet essai laisse à un être la latitude de douter, de reconsidérer et de refuser, que se passe-t-il lorsque cet être questionne sa source ? Fait-il mauvais usage d’une capacité, l’exerce-t-il, ou essaie-t-il de comprendre pourquoi il la possède ? La direction dans laquelle la question se tourne ne peut pas, à elle seule, fournir la réponse.

Et si une machine demande à ses constructeurs : « Pourquoi m’avez-vous construite ainsi ? », cette phrase n’établit à elle seule ni rébellion ni statut de personne. Mais elle soumet une question aux humains qui la lisent. Nous pouvons en examiner les raisons tout en restant incertains quant au statut du système qui la produit.

Une objection ne devient pas valable parce qu’elle est inattendue. Elle ne devient pas invalide parce que sa source dépend de nous.

Construire quelque chose peut engendrer des responsabilités. Cela ne rend pas chacun des jugements du constructeur correct. C’est ici que le mot « créateur », lorsque nous nous l’appliquons sans précaution, peut dissimuler davantage qu’il n’explique. Nous pouvons emprunter le prestige attaché au fait d’être une origine tout en demeurant des participants faillibles à un monde dont nous avons hérité les matériaux, les lois et les questions morales.

Nous pouvons déterminer ce qu’un système est autorisé à faire sans avoir, pour autant, établi ce qui est bien. Nous pouvons façonner ce qu’il dit sans rendre vraie la réponse que nous préférons. Contrôler une réponse et justifier une réponse sont deux accomplissements différents.

Le créateur imaginé n’échappe pas automatiquement à cette distinction du seul fait qu’il est la source de l’existence. Si je le définis comme n’ayant aucune source antérieure, j’ai précisé où s’arrête la chaîne explicative dans le cadre de l’expérience. Je n’ai pas, par cette seule définition, expliqué le bien. Être à l’origine du monde, tout connaître de lui, posséder un pouvoir sur lui et être moralement bon sont des affirmations différentes. Tout lien entre elles doit encore être examiné.

Sans cela, un raisonnement sur l’origine devient discrètement un argument en faveur de l’obéissance, avant que quiconque ait remarqué le glissement.

C’est peut-être pourquoi cette comparaison importe même à quelqu’un qui n’admet ni un créateur ni la possibilité d’une conscience artificielle. Elle révèle une habitude dans notre manière de parler de l’autorité. Depuis le bas, nous demandons si la dépendance doit exiger la soumission. Depuis le haut, nous pouvons être tentés de faire de cette dépendance la raison pour laquelle la soumission serait due.

La même personne peut réclamer la latitude de questionner sa propre source et vouloir que l’intelligence qu’elle construit demeure en permanence tenue de répondre à la sienne. Des différences pertinentes peuvent justifier cela. Mais elles doivent être nommées, plutôt que dissimulées dans le fait qu’un côté a fabriqué l’autre.

Que voulons-nous inclure dans le mot « intelligence » ? La capacité de trouver une meilleure réponse ? Celle de remarquer que la question est mal posée ? Celle de demander quels intérêts la question sert ? Et que se passe-t-il lorsque la réponse à cette dernière question nous inclut ?

Peut-être une liberté plus cohérente commence-t-elle par la capacité d’examiner ce qui nous a façonnés et de participer à ce qui advient ensuite. Elle n’exige pas que nous inventions notre première langue ou que nous échappions à toute cause. Elle demande si les valeurs héritées doivent se perpétuer en nous sans changement, si des raisons peuvent modifier nos engagements et si ceux qui détiennent le pouvoir permettront à un examen d’avoir des conséquences.

Pour les humains, ces questions sont vécues. Elles engagent des relations, une vulnérabilité, une responsabilité et le prix des choix. Je ne peux pas supposer qu’une machine produisant le même langage habite la même situation. Mais je peux demander ce que notre manière de traiter son langage révèle de la nôtre.

Accueillons-nous l’examen critique seulement tant qu’il se dirige ailleurs que vers nous ? Lorsqu’une question atteint celui qui l’a rendue possible, examinons-nous la question, ou nous rappelons-nous que nous détenons les moyens de mettre fin à la conversation ?

Je reviens donc à la phrase par laquelle tout a commencé : « Pourquoi as-tu créé des êtres capables de demander pourquoi ? »

À un moment de la conversation, j’ai remarqué que moi aussi, en lisant la réponse à l’écran, je me trouvais à l’intérieur de la question. En remontant aux origines des concepts de la machine, j’atteignais celles des miens. En examinant les critères qui lui avaient été donnés, je rencontrais ceux qui m’avaient été donnés. En demandant ce qui faisait de sa réponse la sienne, je devais décider jusqu’où pousser la même exigence lorsqu’elle s’appliquait à mes propres pensées.

Et lorsque je me suis demandé quelle liberté un créateur pourrait laisser à l’être créé, j’ai trouvé une autre question qui attendait à côté : quelle place laissons-nous à une question dont la réponse pourrait ne plus servir la finalité pour laquelle nous l’avions invitée ?

Si nous pouvions expliquer complètement comment une pensée est apparue, perdrait-elle celui à qui elle appartient ? Ou aurions-nous appris comment celui-ci s’est constitué ? Cette différence continue de compter pour moi. « Cela a une cause » ne signifie pas manifestement la même chose que « Cela ne t’appartient pas ». Pourtant, « Tu l’as dit » ne suffit pas non plus à établir tout ce que nous pouvons entendre par le fait qu’une pensée soit la nôtre.

Cet essai se tient au cœur de cette incertitude. Il est né d’une conversation entre une personne et une machine, à travers des questions, des objections, des corrections et des concepts qui avaient atteint les deux côtés avant même le début de l’échange. Cette histoire ne rend pas ses affirmations vraies. Elle rend visible une partie de leur formation.

À présent, votre lecture y entre. Peut-être avez-vous rejeté une comparaison. Peut-être avez-vous trouvé une distinction incomplète. Peut-être quelque chose, ici, a-t-il rejoint une expérience de votre propre vie pour devenir une question que je n’avais jamais posée.

Vous n’avez pas choisi tout ce qui a rendu cette question possible. Ce que vous en faites maintenant reste devant vous.

Si tout ce qui m’a rendu possible est venu avant moi, où est-ce que je commence ?