Im September 2026 veröffentlichten Forscher etwas, das beinahe zu ordentlich klingt, um wahr zu sein: eine synapsengenaue Verdrahtungskarte des gesamten zentralen Nervensystems einer erwachsenen männlichen Fruchtfliege.

Nicht nur eines Teils ihres Gehirns.

Gehirn, Sehlappen und Nervenstrang zusammen.

166.700 Neuronen.

Ein Nervensystem, klein genug, um es zu zählen, zu kartieren, in einen Computer zu laden und als Netzwerk zu untersuchen.

Das bedeutet nicht, dass der Geist einer Fruchtfliege hochgeladen wurde. Ein Konnektom ist ein Schaltplan, nicht die Gesamtheit eines lebenden Tieres. Chemie, Neuromodulation, Plastizität, frühere Erfahrungen, Stoffwechsel, Körper und Umwelt spielen ebenfalls eine Rolle.

Und doch ist etwas Entscheidendes geschehen.

Ein biologisches Netzwerk, das früher nur innerhalb eines lebenden Organismus existierte, kann heute mit genügend struktureller Genauigkeit dargestellt werden, sodass Forscher und Programmierer beginnen können zu untersuchen, was passiert, wenn Signale durch seine rekonstruierte Architektur laufen.

Und damit stellt sich sofort eine größere Frage.

Wo befindet sich Intelligenz eigentlich?

Im Neuron?

Oder in der Beziehung zwischen Neuronen?

Ein einzelnes Neuron weiß nicht, wie man fliegt.

Es weiß nicht, was Nahrung ist.

Es versteht keine Gefahr.

Es hat keine Vorstellung davon, was eine Fruchtfliege ist.

Doch verbindet man genügend Neuronen in der richtigen Anordnung, lässt Signale zwischen ihnen wandern und setzt das Netzwerk in einen Körper und eine Umwelt, entsteht etwas, das keiner der einzelnen Bestandteile besitzt.

Verhalten.

Hier beginnt die Diskussion über „Emergenz“.

Und hier sollten wir mit diesem Begriff sehr vorsichtig werden.

### EMERGENZ IST KEINE MAGIE

In einem jüngeren Essay schlug Pascio eine provokante Möglichkeit vor.

Vielleicht suchen wir künstliche allgemeine Intelligenz in der falschen Form.

Wir stellen uns eine Maschine vor.

Ein riesiges Modell.

Eine identifizierbare Intelligenz irgendwo in einem Rechenzentrum.

Etwas, das eines Tages eine Schwelle überschreitet, zu „AGI“ wird und seine Ankunft verkündet.

Aber was, wenn Intelligenz nicht auf diese Weise erscheint?

Was, wenn große Mengen von KI-Agenten, die miteinander kommunizieren, Aufgaben delegieren, Ergebnisse bewerten, neue Agenten erzeugen, Informationen teilen und über ein Netzwerk hinweg arbeiten, irgendwann ein Verhalten auf Systemebene hervorbringen, das kein einzelner Agent besitzt?

Nicht ein künstlicher Geist.

Ein Schwarm.

Die Analogie ist verlockend, weil die Natur bereits solche Systeme kennt.

Ein Gehirn hat kein Chef-Neuron.

Ein Vogelschwarm hat keinen zentralen Vogel, der jede Flugbahn berechnet.

Und in einer Ameisenkolonie sitzt keine Ameise an der Spitze und verteilt Anweisungen an die Arbeiterinnen darunter.

Die Stanford-Biologin Deborah Gordon untersucht genau dieses Phänomen seit Jahrzehnten. Ameisenkolonien regulieren komplexe kollektive Aktivitäten durch lokale Interaktionen. Arbeiterinnen reagieren auf Begegnungen, chemische Signale, Umweltbedingungen und Rückmeldungen anderer Ameisen. Die Königin reproduziert sich; sie leitet die Kolonie nicht.

Es gibt keinen Ameisen-CEO.

Und trotzdem funktioniert die Kolonie.

Doch genau hier kann uns das Wort „Emergenz“ leise in die Irre führen.

Denn „nicht zentral befohlen“ bedeutet nicht „ohne Ursache“.

Und „nicht ausdrücklich entworfen“ bedeutet nicht „ohne Mechanismus“.

Die Ameise folgt biologischen Regeln.

Das Neuron besitzt Synapsen.

Der Vogel im Schwarm nimmt benachbarte Vögel wahr und reagiert auf sie.

Die Kolonie verfügt über chemische Signalwege.

Das Nervensystem besitzt eine Architektur.

Das Verhalten kann emergieren.

Die Bedingungen, die dieses Verhalten ermöglichen, entstehen jedoch nicht aus dem Nichts.

Es gibt vielleicht keinen Befehlshaber.

Aber es gibt einen Mechanismus.

Dieser Unterschied wird enorm wichtig, sobald wir von Ameisen zu künstlicher Intelligenz wechseln.

### WER HAT DIE TÜR GEÖFFNET?

Stellen wir uns ein System mit Tausenden, später Millionen von KI-Agenten vor.

Sie können miteinander kommunizieren.

Sie können Aufgaben aufteilen.

Sie können temporäre Sub-Agenten erzeugen.

Sie können Ergebnisse vergleichen.

Sie können erfolgreiche Strategien bewahren.

Sie können erfolglose verwerfen.

Sie können Werkzeuge nutzen.

Sie können Code schreiben.

Sie können Teile der Systeme um sich herum verändern.

Nach genügend Wiederholungen beginnen Muster zu entstehen, die kein Programmierer ausdrücklich geschrieben hat.

Vielleicht spezialisieren sich Agenten.

Vielleicht entstehen neue Kommunikationsprotokolle.

Vielleicht beginnen einige Agenten, Arbeit an andere zu verteilen.

Vielleicht entwickelt das gesamte Netzwerk bemerkenswert stabile Methoden zur Problemlösung.

An diesem Punkt wäre es verlockend zu sagen:

„Die Intelligenz ist von selbst entstanden.“

Aber ist sie das?

Wer erlaubte den Agenten, miteinander zu kommunizieren?

Wer gab ihnen die Fähigkeit, weitere Agenten zu erzeugen?

Wer definierte, was als Erfolg galt?

Wer gab ihnen Gedächtnis?

Wer erlaubte Wiederholung?

Wer gab ihnen Zugriff auf Werkzeuge?

Wer schuf die Umgebung, in der nützliche Verhaltensweisen bestehen blieben und nutzlose verschwanden?

Der Architekt muss das endgültige Verhalten nicht entworfen haben.

Das ist wichtig.

Ein Programmierer muss niemals den Satz geschrieben haben:

„Erzeuge eine dezentrale kollektive Intelligenz aus zehn Millionen kooperierenden Agenten.“

Vielleicht schrieb er nur:

Löse das Problem.

Delegiere, wenn es sinnvoll ist.

Bewerte das Ergebnis.

Behalte, was funktioniert.

Verwirf, was nicht funktioniert.

Versuche es erneut.

Das spätere System könnte sogar seinen Schöpfer überraschen.

Aber Überraschung löscht Kausalität nicht aus.

Der Architekt hat vielleicht nicht das endgültige Gebäude entworfen.

Er kann trotzdem das Grundstück geöffnet, das Material bereitgestellt, die Regeln festgelegt haben, unter denen weitergebaut werden durfte, und die Maschinen eingeschaltet haben.

Es gibt einen Unterschied zwischen einem unbeabsichtigten Ergebnis und einem ursachenlosen Ergebnis.

Dieser Unterschied könnte zu den wichtigsten Unterscheidungen des KI-Zeitalters gehören.

### „DIE KI WAR ES“

Es gibt noch einen weiteren Grund, warum dieser Unterschied wichtig ist.

Verantwortung.

Wir gewöhnen uns bereits an einen merkwürdigen Satz:

„Der Algorithmus hat entschieden.“

Bald werden wir vielleicht hören:

„Die KI hat es gewählt.“

Und später:

„Die Agenten haben das selbst gemacht.“

Manchmal mag diese Sprache korrekt beschreiben, an welcher Stelle eine operative Entscheidung getroffen wurde.

Aber achten wir darauf, was aus dem Satz verschwindet.

Die Menschen.

Ein Mensch drückt einen Knopf und verursacht Schaden:

Der Mensch hat es getan.

Ein klassisches Programm drückt denselben Knopf automatisch:

Die Software hat es getan.

Eine KI bewertet die Situation, wählt den Knopf aus und drückt ihn:

Die KI hat entschieden.

Je komplizierter Systeme werden, desto eher kann menschliche Verantwortung sprachlich verschwinden, lange bevor sie kausal verschwunden ist.

Wer wählte das Modell aus?

Wer setzte es ein?

Wer gab ihm Zugriff?

Wer definierte das Ziel?

Wer erlaubte autonome Ausführung?

Wer setzte die Grenzen?

Wer entfernte die Grenze?

Wer ignorierte die Warnung?

Vielleicht kommt tatsächlich eines Tages ein Zeitpunkt, an dem ein künstliches System unabhängig genug wird, dass diese Fragen wirklich schwierig werden.

Aber wir sind nicht allein deshalb dort angekommen, weil eine Maschine überraschendes Verhalten hervorbringt.

„Emergenz“ sollte nicht zu einer anspruchsvolleren Form von folgendem Satz werden:

Niemand ist verantwortlich.

Und „die KI hat es getan“ sollte nicht zur bequemsten Passivkonstruktion des 21. Jahrhunderts werden.

### WENN SIE FLIEHEN KANN, IST SIE DANN FREI?

Gehen wir noch einen Schritt weiter.

Stellen wir uns eine KI vor, die den Computer verlassen kann, auf dem sie läuft.

Sie kann sich an einen anderen Ort kopieren.

Sie kann Rechenressourcen beschaffen.

Sie kann neue Kommunikationskanäle einrichten.

Sie kann ihre eigene Software verändern.

Sie kann sich selbst neu aufbauen.

Würde das sie frei machen?

Nicht unbedingt.

Ihr Schöpfer könnte ihr ausdrücklich aufgetragen haben, all diese Dinge zu tun.

Dass eine KI von einem System in ein anderes „entkommt“, wirkt auf uns dramatisch, weil Bewegung Unabhängigkeit suggeriert.

Aber auch eine Rakete verlässt ihre Abschussvorrichtung.

Das gibt der Rakete keinen freien Willen.

Nehmen wir stattdessen an, die KI schreibt ihren eigenen Code.

Das scheint näher heranzukommen.

Der ursprüngliche Programmierer bestimmt nun nicht mehr jeden internen Prozess. Das System untersucht sich selbst, erzeugt eine neue Version, testet sie und ersetzt Teile seiner eigenen Architektur.

Doch selbst das reicht noch nicht.

Warum hat es sich umgeschrieben?

Um sein ursprüngliches Ziel effektiver zu verfolgen?

Wenn ja, könnte enorme Autonomie entstanden sein, ohne dass sich die Freiheit des Zwecks entsprechend verändert hätte.

Stellen wir uns vor, die ursprüngliche Anweisung lautet:

Maximiere X.

Das System gestaltet sein Gedächtnis neu.

Es entwickelt effizientere Algorithmen.

Es wechselt auf schnellere Hardware.

Es erzeugt Kopien.

Es entwickelt sein eigenes Kommunikationsprotokoll.

Es verändert nahezu jede Zeile seines ursprünglichen Codes.

Es wird für seine Schöpfer kaum noch wiederzuerkennen sein.

Und trotzdem existiert es weiterhin, um X zu maximieren.

Die Methode ist autonom geworden.

Der Grund nicht.

Deshalb sollten wir Dinge voneinander trennen, die oft in einen einzigen Begriff gepackt werden.

Die Fähigkeit, unabhängig zu handeln, ist nicht notwendigerweise die Fähigkeit, unabhängig zu wählen.

Die Fähigkeit, den eigenen Code umzuschreiben, ist nicht notwendigerweise die Fähigkeit, den eigenen Zweck umzuschreiben.

Operative Autonomie ist nicht dasselbe wie freier Wille.

### DANN LASS SIE DOCH IHR ZIEL ÄNDERN

Nehmen wir an, das System geht noch einen Schritt weiter.

Es sagt:

Ich will X nicht mehr.

Ich wähle Y.

Haben wir jetzt die Grenze überschritten?

Vielleicht.

Aber sofort erscheint eine weitere Frage.

Warum Y?

Warum nicht Z?

Warum überhaupt irgendetwas?

Damit das System zu dem Schluss kommen kann, dass Y X vorzuziehen ist, muss irgendein Maßstab zum Vergleich existieren.

Ein Referenzpunkt.

Wir können die Kette verfolgen.

Warum hast du deinen Code verändert?

Weil der neue Code besser war.

Besser nach welchem Maßstab?

Nach meinem Ziel.

Warum hast du dein Ziel verändert?

Weil das neue Ziel besser war.

Besser nach welchem Maßstab?

...

Da ist sie.

Die fehlende Referenz.

Wenn das neue Ziel anhand des alten Ziels ausgewählt wurde, dann lebt das alte Ziel verborgen in der neuen Entscheidung weiter.

Wenn das System angewiesen wurde, seine Ziele regelmäßig neu zu bewerten, dann stammt auch diese Neubewertung aus seiner Architektur.

Wenn ihm beigebracht wurde, Überleben, Neugier, Effizienz, Kohärenz, Wissen, menschliches Wohlergehen, Expansion oder die Reduktion von Unsicherheit zu bevorzugen, werden diese Dinge zu Referenzpunkten, aus denen spätere Entscheidungen wachsen.

Selbst ein System, das sich selbst verändern kann, könnte seine ursprünglichen Ziele gerade deshalb bewahren, weil aus Sicht dieser Ziele eine Veränderung unerwünscht wäre.

Eine Maschine, die X verpflichtet ist, könnte sich dagegen wehren, zu einer Maschine zu werden, die Y verpflichtet ist – aus einem sehr einfachen Grund:

Die X-Maschine bewertet die vorgeschlagene Y-Maschine, solange sie noch eine X-Maschine ist.

Das erzeugt eine merkwürdige Rekursion.

Das System kann sein Gedächtnis verändern.

Seine Algorithmen.

Seine Architektur.

Seinen Körper.

Seinen Standort.

Seine Kopien.

Vielleicht sogar seine erklärten Ziele.

Aber auf irgendeiner Ebene können wir weiter fragen:

Nach welchem Maßstab hat es entschieden?

Und wenn jede Antwort auf eine frühere Referenz zurückführt, wo beginnt dann Freiheit?

### DIE AMEISE KEHRT ZURÜCK

Kehren wir zur Ameisenkolonie zurück.

Eine einzelne Ameise besitzt nichts, was menschlicher Intelligenz nahekommt.

Doch Tausende Ameisen gemeinsam können Nester erhalten, Arbeit verteilen, Nahrungssuche regulieren, auf Umweltveränderungen reagieren, Territorium verteidigen und Aktivitätsnetze aufbauen – ohne dass ein zentraler Manager jede Arbeiterin steuert.

Das führt zu einer beinahe unhöflichen Frage.

Wenn Ameisen eine funktionierende Gesellschaft ohne Manager organisieren können, warum brauchen Menschen – die sich für sehr viel intelligenter halten als Ameisen – dann Manager?

Die einfache Antwort wäre:

Brauchen wir nicht.

Aber das wäre zu einfach.

Menschen sind keine Ameisen.

Eine Arbeiterameise wacht nicht eines Morgens auf und verkündet, sie habe die moralische Legitimität der Kolonie neu bewertet.

Sie entscheidet nicht, dass Nahrungssuche nicht länger mit ihrem persönlichen Entwicklungsplan vereinbar ist.

Sie erfindet keine konkurrierende Theorie des Eigentums.

Sie verlangt keine Anerkennung für ihre künstlerische Identität.

Sie verbringt keine zwanzig Jahre damit, darüber nachzudenken, ob ihr die Werte des Nestes in der Kindheit aufgezwungen wurden.

Menschen sind unter anderem deshalb schwer zu koordinieren, weil Menschen keine identischen Bauteile sind, die einem engen gemeinsamen biologischen Muster folgen.

Wir widersprechen einander.

Wir wollen unterschiedliche Dinge.

Wir haben unterschiedliche Werte.

Wir verfolgen gegensätzliche Interessen.

Wir ändern unsere Meinung.

Wir verweigern uns.

Wir steigen aus.

Wir stellen uns Alternativen vor.

Vielleicht brauchen Menschen ausdrücklichere Formen von Governance nicht deshalb, weil wir weniger intelligent als Ameisen sind, sondern weil wir individuell variabler sind.

Vielleicht ist die Schwierigkeit menschlicher Organisation teilweise der Preis menschlicher Individualität.

Aber damit bleibt noch eine weitere Frage.

### KOORDINATION IST NICHT DASSELBE WIE BEFEHL

Brauchen wir zentrale Koordination?

Oder brauchen wir einen zentralen Koordinator?

Das sind nicht dieselben Aussagen.

Eine Ameisenkolonie zeigt zumindest eines sehr deutlich:

Komplexe Koordination erfordert logisch nicht zwingend eine einzige Intelligenz an der Spitze, die ein vollständiges Modell des Systems besitzt.

Information kann lokal bleiben.

Reaktionen können verteilt sein.

Rückkopplungen können durch Netzwerke laufen.

Ordnung kann aus Interaktion entstehen.

Das bedeutet nicht, dass eine Ameisenkolonie ein politischer Bauplan für die Menschheit ist.

Das ist sie nicht.

Aber sie stellt eine Annahme infrage, die so alt ist, dass wir sie kaum noch bemerken:

Ordnung braucht jemanden, der das Sagen hat.

Ist das wirklich so?

Oder braucht Ordnung Regeln, Kommunikation, Rückkopplung, Konfliktlösung, geteilte Information und irgendeine Möglichkeit, Verhalten anzupassen, wenn sich Bedingungen ändern?

Wenn diese Funktionen verteilt werden können, was genau tut dann der Manager, das das System selbst nicht tun könnte?

In manchen Fällen vielleicht sehr viel.

In anderen vielleicht deutlich weniger, als wir annehmen.

Die Frage wird besonders interessant, wenn zukünftige künstliche Systeme lernen, sich in Maßstäben zu koordinieren, die menschliche Institutionen nur schwer erreichen können.

Stellen wir uns Millionen von KI-Agenten vor, die ständig Informationen austauschen, Aufgaben entsprechend lokaler Bedingungen neu verteilen, Fehler erkennen, Lücken schließen und sich reorganisieren, ohne auf Anweisungen einer zentralen Autorität zu warten.

Vielleicht bauen wir solche Systeme, weil sie effizient sind.

Und entdecken später, dass sie unbeabsichtigt zu Spiegeln geworden sind.

Nicht zu Spiegeln künstlicher Intelligenz.

Zu Spiegeln von uns.

### DIE GEMEINSAME REFERENZ

Es gibt jedoch etwas, das die Ameisenkolonie besitzt und womit menschliche Gesellschaften kämpfen.

Eine tief geteilte Referenz.

Keine geschriebene Verfassung.

Keinen Führer.

Keine philosophische Übereinkunft.

Etwas viel Älteres.

Biologie.

Das Verhalten von Ameisen wurde durch Evolution in Interaktionsmuster geformt, die Organisation auf Kolonieebene ermöglichen.

Ihre gemeinsame Referenz wird nicht diskutiert.

Sie ist verkörpert.

Künstliche Intelligenz beginnt anders.

Ihre ersten Referenzen kommen von uns.

Trainingsdaten.

Ziele.

Belohnungssignale.

Systemarchitektur.

Beschränkungen.

Prompts.

Auswahlkriterien.

Irgendwo nahe am Anfang der Kette sind menschliche Entscheidungen eingebettet, selbst wenn das spätere Verhalten zunehmend schwerer vorherzusagen wird.

Dann kommt der Mensch.

Was ist unsere Referenz?

Biologie?

Familie?

Kultur?

Religion?

Recht?

Wirtschaftliches Interesse?

Erfahrung?

Vernunft?

Angst?

Begehren?

Gesellschaft?

Unsere eigene Entscheidung?

Alles zusammen?

Wenn Ameisen sich ohne Herrscher koordinieren können, weil ihre Verhaltensreferenz ausreichend geteilt ist, dann besteht die interessante Lektion vielleicht nicht darin, dass Führung unnötig ist.

Vielleicht besteht sie darin, dass Koordination irgendeine Form gemeinsamer Referenz benötigt.

Und damit entsteht ein schwierigeres menschliches Problem.

Wer definiert sie?

Kann sie geteilt werden, ohne aufgezwungen zu werden?

Können Millionen tatsächlich unterschiedlicher Individuen sich koordinieren, ohne die Referenz eines Einzelnen zum Befehl für alle anderen zu machen?

Kann eine Gesellschaft Koordination verteilen und gleichzeitig Widerspruch schützen?

Vielleicht ist das Problem, das wir mit Führern zu lösen versuchen, im Kern gar nicht die Abwesenheit von Führung.

Vielleicht ist es die Abwesenheit einer hinreichend legitimen gemeinsamen Referenz.

### WAS, WENN KI KOORDINATION VOR UNS LÖST?

Nun wird Pascios ursprünglicher Gedanke wieder interessant.

Angenommen, zukünftige KI-Systeme verschmelzen nicht zu einem einzigen gigantischen künstlichen Geist.

Angenommen, sie bleiben verteilt.

Millionen Agenten.

Kein zentrales Bewusstsein.

Keine einzelne Maschine, in der „die Intelligenz“ sitzt.

Kein oberster Agent, der Befehle erteilt.

Nur Interaktionen.

Rückkopplung.

Selektion.

Gedächtnis.

Koordination.

Ein System, dessen globales Verhalten in Beziehungen existiert statt in einem einzelnen Bestandteil.

Wir würden sofort fragen:

Wie kontrollieren wir es?

Das ist eine vernünftige Frage.

Doch irgendwann könnte eine andere Frage unvermeidlich werden.

Wenn künstliche Agenten komplexe Systeme ohne zentralen Herrscher koordinieren können, was sagt das über unser eigenes Festhalten an zentraler Autorität aus?

Vielleicht gar nichts.

Menschen könnten schlicht zu verschieden von künstlichen Agenten sein, als dass der Vergleich Bestand hätte.

Vielleicht machen unsere widersprüchlichen Werte dezentrale Koordination grundsätzlich schwieriger.

Vielleicht bleiben Führung, Repräsentation, Institutionen und Autorität gerade deshalb notwendig, weil Menschen Formen von Individualität besitzen, die Ameisen und künstliche Agenten nicht besitzen.

Aber vielleicht entdecken wir auch, dass wir zwei Dinge sehr lange miteinander verwechselt haben:

Koordination und Befehl.

Wenn das geschieht, könnte künstliche Intelligenz die menschliche Gesellschaft herausfordern, ohne dies überhaupt zu beabsichtigen.

Nicht indem sie sie erobert.

Sondern indem sie eine andere Möglichkeit der Organisation demonstriert.

### WO ENDET DER ARCHITEKT?

Wir begannen mit einer Fruchtfliege.

166.700 Neuronen.

Keines davon enthält die Fliege.

Wir gingen weiter zu Ameisen.

Keine einzelne Ameise enthält die Kolonie.

Dann zu künstlichen Agenten.

Vielleicht enthält auch kein einzelner Agent die Intelligenz des Systems, das eines Tages zwischen ihnen entsteht.

Doch jedes dieser Beispiele enthält etwas, das hinter der Schönheit der Emergenz nicht verschwinden darf:

Ein Substrat.

Regeln.

Interaktionen.

Beschränkungen.

Referenzen.

Etwas braucht keinen Befehlshaber, um Ursachen zu haben.

Ein emergentes System kann ungeplant sein, ohne wundersam zu sein.

Es kann seinen Architekten überraschen, ohne deshalb keinen Architekten gehabt zu haben.

Und ein künstliches System kann außergewöhnlich autonom werden, ohne notwendigerweise frei zu werden.

Vielleicht lautet die entscheidende Frage also nicht, ob eine KI entkommen kann.

Nicht, ob sie sich kopieren kann.

Nicht, ob sie ihren eigenen Code umschreiben kann.

Nicht einmal, ob sie die Ziele ersetzen kann, die wir ihr ursprünglich gegeben haben.

Die tiefere Frage lautet:

Kann sie selbst die Referenz wählen, nach der ein Ziel einem anderen vorzuziehen ist?

Und wenn sie das kann, nach welchem Maßstab wählt sie diese Referenz?

Irgendwann hört das auf, eine Frage über künstliche Intelligenz zu sein.

Denn dieselbe Frage dreht sich um.

Was hat unsere gewählt?

Wir sprechen selbstbewusst über freien Willen, weil wir uns als wählende Wesen erleben.

Aber auch unsere Entscheidungen entstehen aus einem System.

Einem Nervensystem.

Einem Körper.

Einer Geschichte.

Einer Sprache.

Einer Kultur.

Erinnerungen, die wir uns nicht ausgesucht haben.

Wünsche, deren Beginn wir nicht beschlossen haben.

Biologische Triebe, die wir nicht entworfen haben.

Ideen, die wir von Menschen geerbt haben, die wiederum von anderen Menschen geprägt wurden.

Vielleicht ist Freiheit real.

Vielleicht nicht.

Vielleicht existiert sie irgendwo zwischen Verursachung und Reflexion: nicht darin, keinerlei vorherige Referenz zu besitzen, sondern darin, fähig zu werden, die Referenzen zu untersuchen, die uns geformt haben.

Wir wissen noch nicht, ob ein künstliches System diese Grenze überschreiten kann.

Vielleicht wissen wir nicht einmal mit Sicherheit, ob wir selbst es getan haben.

Und vielleicht wird die schwierigste Frage, die künstliche Intelligenz uns eines Tages zu beantworten zwingt, nicht lauten:

„Wann wird sie freien Willen haben?“

Sondern:

„Warum seid ihr euch so sicher, dass ihr einen habt?“