A veces, cuando imagino el futuro, pienso en una persona cuyo nombre quizá nunca lleguemos a conocer, sentada en una habitación que jamás veremos. En la pantalla que tiene delante aparecen sistemas que millones de personas perciben como cosas separadas: dinero, electricidad, comunicaciones, transporte, identidad. En algún lugar, bajo esos nombres familiares, existen conexiones. Una idea me acompaña hasta esa habitación: un hacker podría destruir el mundo, o salvarlo. Lo planteo como una posibilidad que merece ser examinada. Nadie posee una llave universal de la civilización. Sin embargo, cuanto más organizamos nuestra vida a través de sistemas conectados, más seriamente debemos considerar qué ocurre cuando la capacidad de influir en ellos se concentra en muy pocas manos. Los campos de batalla físicos no han desaparecido. La gente sigue perdiendo su hogar y su vida a causa de la violencia física. Pero un conflicto también puede atravesar los sistemas que mantienen en funcionamiento una sociedad. Una intervención realizada desde una pantalla puede tener consecuencias para alguien que nunca llegue a verla. Por «el mundo» entiendo los mecanismos cotidianos que esperamos encontrar intactos mañana por la mañana. El pago que se procesa. El historial médico que corresponde a la persona correcta. El mensaje que llega a su destino. Las pruebas que todavía podemos distinguir de una invención. Buena parte de la vida cotidiana descansa sobre esa expectativa silenciosa. Participo en ella de buena gana. Quiero menos pasos, respuestas más rápidas, menos complicaciones. Me gusta poder gestionarlo todo desde un mismo lugar. Cuando un sistema recuerda algo por mí, lo agradezco. Cuando facilita una tarea difícil, rara vez me detengo a preguntar qué parte de mis propias capacidades podría estar dejando de ejercitar. Entonces me interrumpe otra pregunta: si un día desaparece la conexión, ¿perderé únicamente el servicio o también mi capacidad de actuar sin él? Puedo imaginar la diferencia en pequeños detalles incómodos. Un servicio de navegación deja de funcionar y descubro que he recorrido mi propia ciudad sin aprender a conocerla. Una cuenta se vuelve inaccesible y los documentos con los que demuestro quién soy quedan detrás de ese mismo acceso que acabo de perder. Una recomendación automatizada desaparece y me doy cuenta de cuánto tiempo ha pasado desde que razoné por mi cuenta una decisión de ese tipo. Nada de esto significa que debamos recordarlo todo o renunciar a las herramientas útiles. La vida humana siempre ha dependido del conocimiento que poseen otros. Lo que me inquieta es el momento en que una alternativa deja de estar disponible porque hemos dejado de practicarla, de financiarla o incluso de imaginar que podríamos necesitarla. La interrupción revela entonces una dependencia que ya existía. Esto cambia mi manera de ver a la persona que está en esa habitación. Su poder procede, en parte, de cómo nos hemos organizado. Cada alternativa de respaldo descartada, cada concentración de autoridad, cada decisión de volver indispensable un sistema contribuye a determinar hasta dónde podría llegar una intervención. La acción final puede ser obra de una sola persona. Las condiciones que amplifican sus efectos pertenecen a una historia mucho más larga. Por eso, si un individuo pudiera provocar una alteración extraordinaria, querría saber algo más que cómo adquirió una capacidad tan excepcional. También querría entender cómo la capacidad de actuar de tantas otras personas llegó a depender de tan pocos puntos de acceso. ¿Y qué querría esa persona? El dinero es una respuesta evidente para muchos delitos. Pero la persona que imagino podría interesarse por algo que el dinero no puede satisfacer del todo: la experiencia de decidir qué les está permitido hacer a los demás. Podría querer demostrar que gobiernos, instituciones y millones de personas corrientes pueden verse obligados a esperar su permiso. Podría buscar reconocimiento, venganza, una victoria ideológica o la satisfacción íntima de amoldar el mundo a su propia visión. No puedo conocer de antemano su motivación. Pero sospecho que, a la escala de este experimento mental, el poder y el control merecen al menos tanta atención como el beneficio económico. Una persona así podría tener poco interés en destruirlo todo. Un mundo que siguiera funcionando podría ofrecerle más cosas que controlar. Tal vez quisiera que las transacciones continuaran, que los mensajes llegaran y que las puertas se abrieran, siempre que conservara la capacidad de modificar las condiciones. ¿Qué significaría la libertad dentro de un sistema que siguiera ofreciendo opciones, si alguien más pudiera decidir en silencio cuáles están disponibles? Aquí es donde vuelvo a Matrix. La pastilla roja y la azul dan una forma memorable a la elección entre descubrir una realidad perturbadora y permanecer dentro de una ilusión familiar. Sin embargo, me detengo en lo que viene después de esa elección. Comprender cómo funciona el sistema no resuelve qué deberíamos hacer con ese conocimiento. Supongamos que despierto. Supongamos que puedo ver los mecanismos que otros no pueden ver. ¿Por qué me capacitaría eso para decidir sobre sus vidas? Para este experimento mental, quiero tomar prestados los colores y pasar de las pastillas a los sombreros. Los utilizo como una metáfora, no como una clasificación técnica. El rojo representa la inquietud de comprender lo que hay detrás de un sistema, junto con la tentación de intervenir amparándose en esa revelación. El blanco representa la pretensión de proteger y la responsabilidad ante la que esa pretensión debe sostenerse. Ambos pueden partir de un deseo sincero de ayudar. Quien ve una injusticia puede sentirse obligado a actuar allí donde las instituciones establecidas han fallado. Esperar también puede tener consecuencias. Pero la convicción de que hay que hacer algo puede convertirse poco a poco en la convicción de que cualquier cosa que yo decida hacer está justificada. Quienes vacilan pueden empezar a parecer ignorantes. Quienes se oponen pueden empezar a parecer cómplices. ¿En qué momento la persona que quiere liberar a los demás del control empieza a tratar su desacuerdo como otro obstáculo que debe superar? La posibilidad inquietante es que la dominación podría llegar acompañada de una explicación sincera de por qué resulta necesaria. Quien la impone podría creer que, con tiempo suficiente y control suficiente, por fin lograría hacer del mundo un lugar justo. Yo querría saber si en ese mundo justo que imagina seguiría habiendo personas con derecho a rechazarlo. La motivación del buen hacker parece más fácil de nombrar: evitar daños, proteger a las personas, revelar abusos, preservar la libertad. Reconozco esos objetivos. Pero su familiaridad puede llevarnos a pasar demasiado rápido por las decisiones que exigen. ¿Proteger a qué personas? ¿Revelar qué información? ¿Preservar la libertad de quién cuando dos libertades entran en conflicto? ¿Cuánto riesgo puede alguien imponer a desconocidos mientras intenta protegerlos? Una revelación puede sacar a la luz un abuso y, al mismo tiempo, dejar expuesta a una persona vulnerable. Una desconexión puede interrumpir una operación abusiva y también algo de lo que dependen personas inocentes. La habilidad técnica puede mostrar lo que es posible sin despejar la incertidumbre sobre sus consecuencias humanas. Para mí, el valor ético tendría que incluir la voluntad de responder por esas consecuencias. Esa persona debería distinguir lo que sabe de lo que supone, limitar el alcance de una intervención, aceptar que sus actos sean examinados y dejar espacio para corregirlos. Tendría que importarle el consentimiento incluso cuando obtenerlo resultara incómodo, y también las personas cuyo sufrimiento nunca aparecerá en el relato de su logro. Eso no exige carecer de ambición o de orgullo. Me interesaría más lo que ocurre cuando la ambición encuentra un límite. ¿Puede esa persona aceptar que el derecho de otro ser humano a elegir podría importar más que la elegancia de su solución? Quizá una forma de medir el bien que hace sea observar si los demás adquieren una mayor capacidad de actuar sin ella. Hay una forma exigente de generosidad en eso. Reparar algo sin disponer las cosas para volverse indispensable. Hacer accesible el conocimiento sin mantener en la dependencia a quienes lo utilizan. Contribuir a crear condiciones en las que otras personas puedan cuestionar tu criterio y, cuando sea necesario, reemplazarte. ¿Seguiría alguien queriendo salvar el mundo si hacerlo no le concediera una autoridad duradera sobre él? La inteligencia artificial y la automatización vuelven esta pregunta más acuciante para mí. Si unas herramientas cada vez más capaces permiten que la intención de una persona produzca efectos que van mucho más allá de lo que podría ejecutar por sí sola, entonces la distancia entre decidir y hacer se convierte en una cuestión moral. Una suposición puede propagarse a través de muchas acciones antes de que alguien tenga la oportunidad de cuestionarla. Quien pone en marcha esas acciones puede disponer de un alcance mayor que su comprensión. Querría que la capacidad de detener una decisión, reconsiderarla y revertirla creciera junto con la capacidad de ejecutarla. Lo mismo se aplica a las instituciones. No podemos hacer que una sociedad sea segura simplemente esperando que quien adquiera un poder excepcional tenga un carácter excepcional. También debemos preguntarnos si los propios sistemas permiten contener los errores, cuestionar la autoridad y mantener los servicios esenciales cuando una parte falla. De lo contrario, la historia nos deja esperando a una buena persona lo bastante poderosa como para derrotar a una mala, mientras los demás seguimos dependiendo del desenlace. Es un futuro extrañamente pasivo para imaginar en una época que promete ampliar nuestra capacidad de actuar. Empecé con una persona en una habitación. Sigo pensando que esa persona importa. El valor de alguien podría evitar una catástrofe. El afán de control de otro podría contribuir a provocarla. Sus motivaciones, sus métodos y su disposición a aceptar límites podrían afectar a vidas que quedan mucho más allá de su campo de visión. Pero ya no puedo mirar a esa persona sin ver también las decisiones que pusieron tanto a su alcance, incluidas las decisiones cotidianas que yo mismo tomo cuando intercambio otra pequeña parte de mi participación por comodidad. ¿Sombrero rojo o blanco? Quiero saber qué puede ver esa persona, qué pretende y qué está dispuesta a hacer. También quiero saber qué ocurre cuando alguien le dice que está equivocada. Y si un día nos dice que ha salvado el mundo, ¿seguiremos teniendo el conocimiento, los medios y la libertad para decidir por nosotros mismos si realmente lo ha hecho?