Parfois, lorsque j’imagine l’avenir, je pense à une personne dont nous ne connaîtrons peut-être jamais le nom, assise dans une pièce que nous ne verrons jamais. Sur l’écran devant elle apparaissent des systèmes que des millions de personnes perçoivent comme des choses distinctes : l’argent, l’électricité, les communications, les transports, l’identité. Quelque part, sous ces noms familiers, des liens existent. Une pensée m’accompagne dans cette pièce : un hacker pourrait détruire le monde, ou le sauver. J’y vois une possibilité qui mérite d’être examinée. Personne ne possède de clé universelle de la civilisation. Pourtant, plus nous organisons notre vie à travers des systèmes connectés, plus nous devons prendre au sérieux ce qui se produit lorsque la capacité d’influencer ces systèmes se concentre entre très peu de mains. Les champs de bataille physiques n’ont pas disparu. Des gens perdent encore leur foyer et leur vie sous l’effet de la violence physique. Mais un conflit peut aussi traverser les systèmes qui permettent à une société de fonctionner. Une intervention effectuée derrière un écran peut avoir des conséquences pour quelqu’un qui ne le verra jamais. Par « le monde », j’entends les mécanismes ordinaires que nous nous attendons à retrouver intacts demain matin. Le paiement qui aboutit. Le dossier médical qui correspond à la bonne personne. Le message qui arrive à destination. Les preuves que nous pouvons encore distinguer d’une invention. Une grande partie de la vie quotidienne repose sur cette attente silencieuse. J’y participe volontiers. Je veux moins d’étapes, des réponses plus rapides, moins de complications. J’aime pouvoir gérer les choses depuis un seul endroit. Lorsqu’un système se souvient de quelque chose à ma place, je lui en suis reconnaissant. Lorsqu’il simplifie une tâche difficile, je m’arrête rarement pour me demander quelle part de mes propres capacités je risque de ne plus exercer. Puis une autre question m’interrompt : si la connexion disparaît un jour, perdrai-je seulement le service, ou aussi ma capacité à agir sans lui ? Je peux imaginer la différence à travers de petits détails inconfortables. Un service de navigation tombe en panne, et je découvre que j’ai parcouru ma propre ville sans apprendre à la connaître. Un compte devient inaccessible, et les documents qui me permettent de prouver qui je suis se trouvent derrière cet accès que je viens de perdre. Une recommandation automatisée disparaît, et je réalise depuis combien de temps je n’ai pas réfléchi par moi-même à ce genre de décision. Cela ne signifie pas que nous devrions tout mémoriser ou renoncer aux outils utiles. La vie humaine a toujours dépendu de connaissances détenues par d’autres. Ce qui me préoccupe, c’est le moment où une autre manière de faire cesse d’être possible parce que nous avons arrêté de la pratiquer, de la financer, ou même d’imaginer que nous pourrions en avoir besoin. L’interruption révèle alors une dépendance qui était déjà là. Cela change mon regard sur la personne dans cette pièce. Son pouvoir provient en partie de notre organisation. Chaque solution de secours abandonnée, chaque concentration d’autorité, chaque décision de rendre un système indispensable contribue à déterminer jusqu’où une intervention pourrait porter. L’action finale peut être celle d’une seule personne. Les conditions qui en amplifient les effets appartiennent à une histoire bien plus longue. Si un individu pouvait provoquer une perturbation d’une ampleur extraordinaire, je voudrais donc savoir autre chose que la manière dont il a acquis une capacité aussi exceptionnelle. Je voudrais aussi comprendre comment la capacité d’agir de tant d’autres personnes en est venue à dépendre d’un si petit nombre de points d’accès. Et que voudrait cette personne ? L’argent est une réponse évidente pour de nombreux crimes. Mais la personne que j’imagine pourrait rechercher quelque chose que l’argent ne suffit pas à satisfaire : l’expérience de décider de ce que les autres ont le droit de faire. Elle pourrait vouloir démontrer que des gouvernements, des institutions et des millions de personnes ordinaires peuvent être contraints d’attendre sa permission. Elle pourrait rechercher la reconnaissance, la vengeance, une victoire idéologique, ou la satisfaction intime de conformer le monde à sa propre vision. Je ne peux pas connaître son mobile à l’avance. Mais je soupçonne qu’à l’échelle de cette expérience de pensée, le pouvoir et le contrôle méritent au moins autant d’attention que le profit. Une telle personne pourrait avoir peu d’intérêt à tout détruire. Un monde qui fonctionne lui offrirait peut-être davantage de choses à contrôler. Elle pourrait souhaiter que les transactions continuent, que les messages arrivent et que les portes s’ouvrent, à condition de conserver le pouvoir d’en modifier les conditions. Que signifierait la liberté dans un système qui continuerait à proposer des choix, si quelqu’un d’autre pouvait décider silencieusement lesquels restent possibles ? C’est ici que je reviens à Matrix. La pilule rouge et la pilule bleue donnent une forme mémorable au choix entre découvrir une réalité troublante et demeurer dans une illusion familière. Pourtant, je m’attarde sur ce qui vient après ce choix. Comprendre le fonctionnement du système ne nous dit pas encore ce que nous devrions faire de ce savoir. Supposons que je me réveille. Supposons que je voie les mécanismes que les autres ne peuvent pas voir. En quoi cela me rendrait-il apte à décider de leur vie ? Pour cette expérience de pensée, je voudrais emprunter les couleurs et passer des pilules aux chapeaux. Je les utilise comme une métaphore, plutôt que comme une classification technique. Le rouge porte le trouble qui accompagne le fait de percer à jour un système, ainsi que la tentation d’intervenir au nom de cette révélation. Le blanc porte la promesse de protéger, et la responsabilité à l’épreuve de laquelle cette promesse doit tenir. Les deux peuvent naître d’un désir sincère d’aider. Une personne qui voit une injustice peut se sentir obligée d’agir là où les institutions établies ont échoué. Attendre peut aussi avoir des conséquences. Mais la conviction qu’il faut faire quelque chose peut progressivement devenir la conviction que tout ce que je décide de faire est justifié. Ceux qui hésitent peuvent commencer à paraître ignorants. Ceux qui s’opposent peuvent commencer à paraître complices. À quel moment la personne qui veut libérer les autres du contrôle commence-t-elle à traiter leur désaccord comme un obstacle supplémentaire à surmonter ? La possibilité troublante, c’est que la domination pourrait s’accompagner d’une explication sincère de sa nécessité. La personne qui l’impose pourrait croire qu’avec assez de temps et assez de contrôle, elle parviendrait enfin à rendre le monde juste. Je voudrais savoir si, dans le monde juste qu’elle imagine, il reste des personnes ayant le droit de le refuser. La motivation du bon hacker semble plus facile à nommer : prévenir les dommages, protéger les personnes, révéler les abus, préserver la liberté. Je reconnais ces objectifs. Mais leur familiarité peut nous conduire à passer trop vite sur les choix qu’ils exigent. Protéger quelles personnes ? Révéler quelles informations ? Préserver la liberté de qui lorsque deux libertés entrent en conflit ? Quel risque peut-on imposer à des inconnus en essayant de les protéger ? Une divulgation peut révéler des agissements répréhensibles tout en exposant une personne vulnérable. Une mise à l’arrêt peut interrompre une activité abusive tout en interrompant quelque chose dont dépendent des innocents. La compétence technique peut révéler ce qui est possible sans dissiper l’incertitude sur les conséquences humaines. Pour moi, la valeur éthique devrait inclure la volonté de répondre de ces conséquences. Cette personne devrait distinguer ce qu’elle sait de ce qu’elle suppose, limiter la portée d’une intervention, accepter que ses actes soient examinés et laisser une place à la correction. Elle devrait se soucier du consentement même lorsqu’il est difficile à obtenir, ainsi que des personnes dont la souffrance ne figurera jamais dans le récit de sa réussite. Cela n’exige pas l’absence d’ambition ou de fierté. Je m’intéresserais davantage à ce qui se produit lorsque l’ambition rencontre une limite. Cette personne peut-elle accepter que le droit d’un autre être humain à choisir compte davantage que l’élégance de sa solution ? Peut-être que l’une des mesures du bien qu’elle accomplit est la capacité accrue des autres à agir sans elle. Il y a là une forme exigeante de générosité. Réparer quelque chose sans s’organiser pour devenir indispensable. Rendre le savoir accessible sans maintenir ceux qui l’utilisent dans la dépendance. Contribuer à créer des conditions dans lesquelles les autres peuvent remettre en question votre jugement et, si nécessaire, vous remplacer. Quelqu’un voudrait-il encore sauver le monde si cela ne lui donnait aucune autorité durable sur lui ? L’intelligence artificielle et l’automatisation rendent cette question plus aiguë à mes yeux. Si des outils toujours plus puissants permettent à l’intention d’une personne de produire des effets bien au-delà de ce qu’elle pourrait accomplir seule, alors la distance entre décider et agir devient une préoccupation morale. Une hypothèse peut se propager à travers de nombreuses actions avant que quiconque ait la possibilité de la remettre en question. La personne qui déclenche ces actions peut disposer d’une capacité d’intervention qui dépasse sa compréhension. Je voudrais que la capacité de suspendre une décision, de la réexaminer et de revenir sur ses effets grandisse avec la capacité de l’exécuter. Il en va de même pour les institutions. Nous ne pouvons pas assurer la sécurité d’une société simplement en espérant que celui qui acquiert un pouvoir exceptionnel aura un caractère exceptionnel. Nous devons aussi nous demander si les systèmes eux-mêmes permettent de contenir les erreurs, de remettre l’autorité en question et de maintenir les services essentiels lorsqu’un élément tombe en panne. Sinon, le récit nous laisse attendre une bonne personne assez puissante pour en vaincre une mauvaise, tandis que tous les autres restent dépendants de l’issue. C’est un avenir étrangement passif à imaginer pour une époque qui promet d’accroître notre capacité d’agir. J’ai commencé par une personne dans une pièce. Je pense toujours que cette personne compte. Le courage de quelqu’un pourrait empêcher une catastrophe. L’appétit de contrôle d’un autre pourrait contribuer à en provoquer une. Leurs motivations, leurs méthodes et leur volonté d’accepter des limites pourraient affecter des vies bien au-delà de ce qu’ils peuvent voir. Mais je ne peux plus regarder cette personne sans voir aussi les décisions qui ont placé tant de choses à sa portée, y compris les décisions ordinaires que je prends lorsque j’échange une petite part supplémentaire de ma participation contre de la commodité. Chapeau rouge ou blanc ? Je veux savoir ce que cette personne peut voir, ce qu’elle cherche à accomplir et ce qu’elle est prête à faire. Je veux aussi savoir ce qui se passe lorsque quelqu’un lui dit qu’elle se trompe. Et si, un jour, elle nous annonce qu’elle a sauvé le monde, aurons-nous encore les connaissances, les moyens et la liberté de décider par nous-mêmes si elle l’a réellement fait ?