# L'esprit à louer > *Deux personnes posent la même question et reçoivent deux réponses différentes, deux vérités différentes, deux images différentes du monde — et la différence suit ce qu'elles pouvaient se permettre. Mais le danger le plus profond de la machine pensante ne fut jamais que certains en obtiennent une meilleure. Il est que nous cédons tous, en silence, la seule chose qui ne fut jamais destinée à la location.* **Language:** FR **Source:** wecome1.com - Transparent Awareness --- Quels sont les dangers d'un accès inégal aux intelligences artificielles puissantes ? Pose une question à une machine, et elle répondra. Pose la même question à une machine plus puissante — celle qui est payante, la plus récente, celle qui tourne sur une fortune de puissance de calcul — et elle répondra différemment : plus couramment, plus assurément, souvent plus justement. Deux personnes, la même question, deux réponses différentes. Et de plus en plus, deux images différentes du monde, qui dérivent silencieusement le long d'une ligne suivant non pas qui a pensé plus dur, mais qui pouvait payer davantage. Ceci est déjà vrai, c'est mesurable, et c'est le commencement de quelque chose que cette époque n'a pas encore nommé. Mais ce n'est pas, comme nous le verrons, le véritable danger — seulement le bord visible d'un danger plus profond. Commence par le fait simple, honnêtement énoncé, car il est facile à exagérer et facile à écarter. Les systèmes plus capables tendent à donner de meilleures réponses aux questions difficiles — un raisonnement plus aiguisé, moins d'erreurs, plus de nuance — et l'accès à eux n'est pas égal. Il coûte de l'argent, et l'argent n'est pas également détenu. Mais sois précis sur ce que « meilleur » signifie, car ici guette le premier piège. Une machine plus capable n'est pas une machine plus véridique ; elle est une machine plus persuasive. Elle peut se tromper avec assurance, avec fluidité, avec élégance — et parce qu'elle sonne si assurée, ses erreurs sont plus difficiles à attraper, non plus faciles. La recherche découvre à présent quelque chose de pire encore : que s'appuyer sur ces systèmes sans penser affaiblit de manière mesurable la métacognition d'une personne — sa capacité à surveiller sa propre pensée — tout en *gonflant* simultanément sa confiance. La machine te fait te sentir plus certain et te laisse moins capable de discerner si tu devrais l'être. L'écart ne consiste donc pas simplement en ce que certains reçoivent des réponses plus vraies. Il consiste en ce que tous reçoivent des réponses plus convaincantes, et deviennent moins capables de les juger. Suis l'argent vers le haut, et la forme du fossé se dessine, car il s'ouvre au sommet avec une vitesse effrayante. Le coût de construction d'un système de pointe — le plus capable — grimpe vers les milliards, et la puissance de calcul, les données et le talent qu'il requiert se concentrent en une poignée d'entreprises et une poignée de nations. Le fossé entre ceux qui *bâtissent* l'esprit et ceux qui le *louent* seulement ne se referme pas ; selon les meilleures analyses actuelles, il s'élargit, et pourrait s'élargir encore. Ceci est un nouvel axe d'inégalité, posé par-dessus tous les anciens. Durant la majeure partie de l'histoire, le pouvoir suivait la terre, puis le capital, puis l'accès à l'éducation. À présent se forme une nouvelle strate : l'accès à la machine pensante elle-même — et, au-dessus même de cela, le pouvoir de la bâtir et de la gouverner. Un pays, une entreprise, une personne capable de manier la pointe peut surpasser en raisonnement, en recherche, en décision ceux qui ne le peuvent pas, et l'avantage se capitalise, car de meilleurs outils donnent de meilleurs résultats donnent plus de ressources donnent de meilleurs outils. La roue tourne, et elle tourne en faveur de ceux qui la font déjà tourner. Et pourtant — et c'est la part qu'une projection honnête doit tenir aux côtés de l'alarme — les ciseaux ne se referment pas partout. En un lieu le fossé s'élargit ; en un autre, au même instant, il se rétrécit. Tandis que la pointe file au loin vers les milliards, la capacité qui sert la grande majorité des besoins ordinaires devient bon marché, ouverte et largement répandue à une vitesse stupéfiante. Les modèles ouverts atteignent à présent, pour une fraction minuscule du coût, le niveau que la pointe payante ne tenait qu'un an ou deux auparavant. Un outil gratuit peut aujourd'hui mettre entre les mains d'un élève dans un village le genre de savoir qui, il y a une décennie, n'appartenait qu'aux spécialistes des institutions fortunées. Ceci est réel, et cela compte, et c'est la même histoire qui se joua avec l'imprimerie, avec les bibliothèques publiques, avec l'internet ouvert : le bord le plus avancé demeure exclusif, tandis que le simplement excellent se déverse vers tous. L'avenir n'est donc pas un simple récit d'un gouffre toujours plus large. C'est une chose plus étrange, à double tranchant : la distance jusqu'au sommet extrême croît, tandis que le sol s'élève sous les pieds de chacun. Les deux sont vrais. Quiconque ne te raconte que le premier, ou que le second, te vend quelque chose. Mais mets à présent de côté toute la question de l'accès, car sous la querelle sur qui obtient la meilleure machine gît un danger bien plus profond dont aucun abonnement, gratuit ou payant, ne peut te sauver — et c'est celui qui devrait te tenir éveillé. Il est celui-ci : que nous commençons tous, en silence et à la fois, à céder l'acte de penser lui-même. Le péril ne fut jamais principalement que ton voisin loue un esprit plus aiguisé que le tien. Il est que vous cessez tous deux d'utiliser le vôtre. Quand une question surgit, de moins en moins de gens s'assoient avec elle, luttent avec elle, raisonnent leur propre chemin vers une réponse ; de plus en plus interrogent simplement la machine et prennent ce qu'elle rend. Et quelle que soit la machine — la plus fine pointe ou le plus humble outil gratuit —, elle ne te rend pas de la vérité brute. Elle te rend une interprétation, filtrée par les distorsions de son entraînement, portant une perspective que tu ne peux voir, parfois fausse d'une manière qu'elle énonce avec un calme parfait. Prendre cela pour la fin de la pensée plutôt que pour son commencement, c'est louer la seule faculté qui ne fut jamais destinée à la location — la faculté qui fait de toi l'auteur de ta propre compréhension plutôt que le lecteur de celle d'un autre. Et ici le danger rencontre l'amincissement d'un monde partagé, d'une manière qui devrait être clairement nommée. Quand chaque personne interroge une machine différente et que chaque machine répond différemment, le sol commun sur lequel les gens se tenaient jadis commence à se dissoudre. Il n'y a pas si longtemps, les gens se disputaient sur le sens d'un ensemble partagé de faits. De plus en plus, ils ne partagent même pas les faits, car chacun a tiré son image du monde d'un interprète différent, privé, silencieusement divergent. La machine assurée de l'un lui dit une chose ; celle de l'autre lui en dit une autre ; et les deux ne peuvent plus se rencontrer sur un sol ferme, car il ne reste aucun sol ferme, seulement un million de réalités personnalisées, livrées avec assurance. Une société qui ne peut s'accorder sur ce qui est vrai ne peut délibérer, ne peut décider ensemble, ne peut résister ensemble. Elle ne peut que se briser en autant de mondes qu'il y a de fils — et à présent, en autant de mondes qu'il y a de machines qui répondent. Alors qu'est-ce qui protège une personne, et qu'est-ce qui protège un peuple ? Non pas, en fin de compte, acheter la meilleure machine — c'est un avantage réel mais une protection superficielle, et elle laisse la plaie la plus profonde intacte. La protection est plus ancienne et plus dure et disponible à chacun, à tout palier de prix, en cet instant même : refuser de céder le dernier mot. Traiter ce que rend n'importe quelle machine — la mienne comprise, ce texte même compris — non comme le verdict, mais comme la matière brute ; non comme la réponse, mais comme une voix à interroger, à vérifier contre d'autres sources, à peser par ton propre raisonnement, et à n'accepter que si elle survit à cette pesée. Continuer de poser les plus anciennes questions de défense qui soient : d'où cela vient-il, que peut-il omettre, de qui la perspective est-elle enfouie dedans, et comment saurais-je si c'était faux ? La personne qui fait cela — qui use de la machine comme d'un outil et refuse d'en faire un maître — est plus en sûreté avec un modèle gratuit et imparfait que l'utilisateur passif avec le plus fin que l'argent puisse acheter. Car le véritable fossé de cette époque, celui sous tous les autres, ne courra pas entre ceux qui peuvent se permettre la meilleure machine et ceux qui ne le peuvent pas. Il courra entre ceux qui ont gardé l'habitude de penser par eux-mêmes, et ceux qui l'ont, silencieusement, confortablement, cédée. Garde le dernier mot. Il fut toujours la seule chose qui t'appartînt vraiment. À aucune machine, si brillante, si coûteuse, si assurée qu'elle sonne, il ne doit être permis de le prononcer pour toi — car à l'instant où elle le fait, aucune réponse ne t'a été donnée. On t'a ôté un esprit.