Wenn ich mir die Zukunft vorstelle, denke ich manchmal an einen Menschen, dessen Namen wir vielleicht nie erfahren werden, in einem Raum, den wir nie zu sehen bekommen. Auf dem Bildschirm vor ihm erscheinen Systeme, die Millionen von Menschen als voneinander getrennte Dinge erleben: Geld, Strom, Kommunikation, Verkehr, Identität. Irgendwo unter diesen vertrauten Bezeichnungen verlaufen Verbindungen. Ein Gedanke begleitet mich in diesen Raum: Ein Hacker könnte die Welt zerstören oder sie retten. Ich verstehe das als eine Möglichkeit, die es zu untersuchen lohnt. Niemand besitzt einen Universalschlüssel zur Zivilisation. Doch je mehr Bereiche unseres Lebens wir über vernetzte Systeme organisieren, desto ernsthafter müssen wir uns damit auseinandersetzen, was geschieht, wenn sich die Fähigkeit, diese Systeme zu beeinflussen, in sehr wenigen Händen konzentriert. Die physischen Schlachtfelder sind nicht verschwunden. Menschen verlieren weiterhin ihr Zuhause und ihr Leben durch körperliche Gewalt. Aber ein Konflikt kann sich auch durch die Systeme ziehen, die eine Gesellschaft am Laufen halten. Ein Eingriff über einen Bildschirm kann Folgen für jemanden haben, der diesen Bildschirm niemals sieht. Mit „der Welt“ meine ich die alltäglichen Abläufe, von denen wir erwarten, dass sie morgen früh noch funktionieren. Die Zahlung, die durchgeht. Die Krankenakte, die zur richtigen Person gehört. Die Nachricht, die ihr Ziel erreicht. Die Belege, die wir noch von einer Erfindung unterscheiden können. Ein großer Teil unseres Alltags beruht auf dieser stillen Erwartung. Ich beteilige mich bereitwillig daran. Ich möchte weniger Schritte, schnellere Antworten, weniger Reibung. Mir gefällt es, Dinge von einem einzigen Ort aus verwalten zu können. Wenn ein System sich etwas für mich merkt, bin ich dankbar. Wenn es eine schwierige Aufgabe erleichtert, halte ich selten inne, um mich zu fragen, welchen Teil meiner eigenen Fähigkeiten ich dadurch möglicherweise nicht mehr beanspruche. Dann unterbricht mich eine andere Frage: Wenn die Verbindung eines Tages ausfällt, verliere ich dann nur den Dienst — oder auch meine Fähigkeit, ohne ihn zu handeln? Ich kann mir den Unterschied in kleinen, unangenehmen Einzelheiten vorstellen. Ein Navigationsdienst fällt aus, und ich stelle fest, dass ich mich durch meine eigene Stadt bewegt habe, ohne sie kennenzulernen. Ein Konto wird unzugänglich, und die Dokumente, mit denen ich nachweise, wer ich bin, liegen hinter genau dem Zugang, den ich verloren habe. Eine automatisierte Empfehlung bleibt aus, und mir wird bewusst, wie lange ich eine solche Entscheidung nicht mehr selbst durchdacht habe. Das bedeutet weder, dass wir uns alles merken müssen, noch, dass wir auf nützliche Werkzeuge verzichten sollten. Menschliches Leben war schon immer auf Wissen angewiesen, über das andere verfügen. Was mich beunruhigt, ist der Moment, in dem eine Alternative nicht mehr zur Verfügung steht, weil wir aufgehört haben, sie zu üben, zu finanzieren oder uns auch nur vorzustellen, dass wir sie einmal brauchen könnten. Die Unterbrechung macht dann eine Abhängigkeit sichtbar, die längst bestand. Das verändert meinen Blick auf den Menschen in diesem Raum. Seine Macht entsteht zum Teil aus unseren eigenen Strukturen. Jede aufgegebene Ausweichmöglichkeit, jede Konzentration von Entscheidungsgewalt, jede Entscheidung, ein System unentbehrlich zu machen, bestimmt mit, wie weit ein Eingriff reichen könnte. Die letzte Handlung mag von einem einzelnen Menschen ausgehen. Die Bedingungen, die ihre Wirkung verstärken, haben eine viel längere Geschichte. Wenn also ein Einzelner eine außergewöhnlich weitreichende Störung auslösen könnte, würde ich mehr wissen wollen als nur, wie er zu dieser außergewöhnlichen Fähigkeit gelangt ist. Ich würde auch fragen wollen, wie es dazu kam, dass die Handlungsfähigkeit so vieler anderer Menschen von so wenigen Zugangspunkten abhängt. Und was würde dieser Mensch wollen? Geld ist bei vielen Verbrechen eine naheliegende Antwort. Doch der Mensch, den ich mir vorstelle, könnte an etwas interessiert sein, das Geld nicht vollständig befriedigen kann: an der Erfahrung, darüber zu bestimmen, was andere Menschen tun dürfen. Vielleicht möchte er demonstrieren, dass Regierungen, Institutionen und Millionen gewöhnlicher Menschen auf seine Erlaubnis warten müssen. Vielleicht sucht er Anerkennung, Rache, einen ideologischen Sieg oder die ganz persönliche Genugtuung, die Welt nach seinem inneren Entwurf zu formen. Ich kann sein Motiv nicht im Voraus kennen. Doch ich vermute, dass Macht und Kontrolle im Maßstab dieses Gedankenexperiments mindestens ebenso viel Aufmerksamkeit verdienen wie Profit. Ein solcher Mensch hätte vielleicht wenig Interesse daran, alles zu zerstören. Eine funktionierende Welt könnte ihm mehr Möglichkeiten zur Kontrolle bieten. Er könnte wollen, dass Zahlungen weiterhin abgewickelt werden, Nachrichten ankommen und Türen sich öffnen — solange er die Bedingungen dafür verändern kann. Was würde Freiheit in einem System bedeuten, das weiterhin Wahlmöglichkeiten anbietet, wenn jemand anderes unbemerkt bestimmen könnte, welche Möglichkeiten überhaupt zur Verfügung stehen? Hier kehre ich zu Matrix zurück. Die rote und die blaue Pille geben der Entscheidung zwischen der Entdeckung einer verstörenden Wirklichkeit und dem Verbleib in einer vertrauten Illusion eine einprägsame Gestalt. Doch meine Gedanken bleiben bei dem hängen, was nach dieser Entscheidung kommt. Zu erfahren, wie das System funktioniert, beantwortet noch nicht die Frage, was wir mit diesem Wissen tun sollten. Angenommen, ich wache auf. Angenommen, ich erkenne die Mechanismen, die andere nicht sehen können. Warum sollte mich das dazu befähigen, über ihr Leben zu entscheiden? Für dieses Gedankenexperiment möchte ich mir die Farben ausleihen und von den Pillen zu den Hüten übergehen. Ich verwende sie als Metapher, nicht als technische Klassifizierung. Rot steht für die Unruhe, die entsteht, wenn man ein System durchschaut, und für die Versuchung, sich aufgrund dieser Erkenntnis zum Eingreifen berechtigt zu fühlen. Weiß steht für den Anspruch, Schutz zu bieten, und für die Verantwortung, an der sich dieser Anspruch bewähren muss. Beides kann mit dem aufrichtigen Wunsch beginnen, zu helfen. Wer eine Ungerechtigkeit erkennt, kann sich zum Handeln verpflichtet fühlen, wenn etablierte Institutionen versagt haben. Auch Abwarten kann Folgen haben. Doch aus der Überzeugung, dass etwas getan werden muss, kann allmählich die Überzeugung werden, dass alles gerechtfertigt ist, wozu ich mich entscheide. Wer zögert, erscheint dann womöglich unwissend. Wer widerspricht, erscheint womöglich als Komplize. An welchem Punkt beginnt jemand, der andere von Kontrolle befreien möchte, ihren Widerspruch als ein weiteres Hindernis zu behandeln, das überwunden werden muss? Die beunruhigende Möglichkeit besteht darin, dass Herrschaft mit einer aufrichtigen Erklärung ihrer Notwendigkeit auftreten könnte. Der Mensch, der sie ausübt, könnte tatsächlich glauben, mit genügend Zeit und genügend Kontrolle die Welt endlich gerecht machen zu können. Ich würde wissen wollen, ob in seiner Vorstellung einer gerechten Welt noch Menschen vorkommen, die das Recht haben, sie abzulehnen. Die Motivation des guten Hackers scheint leichter zu benennen: Schaden verhindern, Menschen schützen, Missbrauch aufdecken, Freiheit bewahren. Ich kann diese Ziele nachvollziehen. Doch gerade weil sie uns so vertraut sind, gehen wir womöglich zu schnell über die Entscheidungen hinweg, die sie verlangen. Welche Menschen schützen? Welche Informationen offenlegen? Wessen Freiheit bewahren, wenn zwei Freiheiten miteinander in Konflikt geraten? Wie viel Risiko darf jemand Fremden zumuten, während er versucht, sie zu schützen? Eine Enthüllung kann Unrecht aufdecken und zugleich einen schutzbedürftigen Menschen bloßstellen. Eine Abschaltung kann eine missbräuchliche Tätigkeit unterbrechen und zugleich etwas lahmlegen, auf das Unbeteiligte angewiesen sind. Technisches Können mag sichtbar machen, was möglich ist, während die Folgen für Menschen ungewiss bleiben. Für mich müsste die ethische Haltung deshalb die Bereitschaft einschließen, für diese Folgen einzustehen. Dieser Mensch müsste unterscheiden können, was er weiß und was er lediglich annimmt. Er müsste die Reichweite eines Eingriffs begrenzen, sich einer Überprüfung stellen und Raum für Korrekturen lassen. Die Zustimmung der Betroffenen müsste ihm auch dann wichtig sein, wenn sie nur schwer einzuholen ist. Ebenso die Menschen, deren Leid in der Geschichte seines Erfolgs niemals vorkommen wird. Das verlangt nicht, frei von Ehrgeiz oder Stolz zu sein. Mich würde mehr interessieren, was geschieht, wenn dieser Ehrgeiz an eine Grenze stößt. Kann dieser Mensch akzeptieren, dass das Recht eines anderen, selbst zu entscheiden, wichtiger sein könnte als die Eleganz seiner Lösung? Vielleicht lässt sich das Gute, das er bewirkt, auch daran messen, ob andere Menschen dadurch besser in der Lage sind, ohne ihn zu handeln. Darin liegt eine anspruchsvolle Form der Großzügigkeit. Etwas zu reparieren, ohne sich dabei unentbehrlich zu machen. Wissen zugänglich zu machen, ohne die Menschen, die es nutzen, in Abhängigkeit zu halten. Bedingungen mitzugestalten, unter denen andere das eigene Urteil infrage stellen und einen, wenn nötig, ersetzen können. Würde jemand die Welt noch retten wollen, wenn ihm das keine dauerhafte Macht über sie verschaffte? Künstliche Intelligenz und Automatisierung verschärfen diese Frage für mich. Wenn immer leistungsfähigere Werkzeuge es ermöglichen, dass die Absicht eines Menschen weit über das hinauswirkt, was er allein ausführen könnte, wird der Abstand zwischen Entscheidung und Ausführung zu einer moralischen Frage. Eine Annahme kann sich durch viele Handlungen fortsetzen, bevor jemand Gelegenheit hat, sie infrage zu stellen. Der Mensch, der diese Handlungen auslöst, könnte über mehr Reichweite verfügen, als sein Verständnis abdeckt. Ich würde wollen, dass die Fähigkeit, eine Entscheidung anzuhalten, zu überdenken und rückgängig zu machen, zusammen mit der Fähigkeit wächst, sie auszuführen. Dasselbe gilt für Institutionen. Wir können eine Gesellschaft nicht allein dadurch sicher machen, dass wir darauf hoffen, außergewöhnliche Macht werde in die Hände eines Menschen mit außergewöhnlichem Charakter fallen. Wir müssen auch fragen, ob die Systeme selbst es ermöglichen, Fehler zu begrenzen, Autorität infrage zu stellen und lebenswichtige Dienste aufrechtzuerhalten, wenn ein Teil ausfällt. Andernfalls bleibt uns eine Geschichte, in der wir auf einen guten Menschen warten, der mächtig genug ist, einen schlechten zu besiegen, während wir anderen vom Ausgang abhängig bleiben. Für ein Zeitalter, das uns größere Handlungsfähigkeit verspricht, ist das eine merkwürdig passive Vorstellung von Zukunft. Ich habe mit einem Menschen in einem Raum begonnen. Ich glaube noch immer, dass dieser Mensch wichtig ist. Der Mut eines Einzelnen könnte eine Katastrophe verhindern. Der Drang eines anderen nach Kontrolle könnte dazu beitragen, eine auszulösen. Ihre Motive, ihre Methoden und ihre Bereitschaft, Grenzen anzuerkennen, könnten das Leben von Menschen beeinflussen, die weit außerhalb ihres Blickfelds liegen. Doch ich kann diesen Menschen nicht mehr betrachten, ohne zugleich die Entscheidungen zu sehen, die so viel in seine Reichweite gebracht haben. Dazu gehören auch die alltäglichen Entscheidungen, die ich selbst treffe, wenn ich wieder ein kleines Stück eigener Mitwirkung gegen Bequemlichkeit eintausche. Roter oder weißer Hut? Ich möchte wissen, was dieser Mensch erkennt, was er beabsichtigt und wozu er bereit ist. Ich möchte auch wissen, was geschieht, wenn jemand ihm sagt, dass er sich irrt. Und wenn er uns eines Tages erklärt, er habe die Welt gerettet: Werden wir dann noch über das Wissen, die Mittel und die Freiheit verfügen, selbst zu beurteilen, ob er es tatsächlich getan hat?