Basilisco de Roko: el experimento mental que podría matarte
En términos generales, los experimentos mentales no son peligrosos. Como herramientas útiles para “jugar” un escenario, ciertamente podrían señalar un peligro en el futuro, pero tradicionalmente no son un problema para quienes las llevan a cabo. Una idea así, durante gran parte de la historia de la humanidad, parecería ridícula. Pero vivimos en tiempos inusuales y, en muchos sentidos, nuestro control de la realidad y la verdadera naturaleza del universo que percibimos es más inestable que nunca. Claro, podemos comprender nuestro entorno con una precisión y profundidad de conocimiento mayor que en cualquier otro momento de la historia de la humanidad. Pero todas estas preguntas respondidas solo conducen a más preguntas y, a medida que profundizamos, descubrimos que muchas de nuestras certezas son todo menos ciertas. La exitosa película de 1999 The Matrix iluminó precisamente esta situación. Detrás de sus efectos innovadores y de todas esas armas y combates de kung-fu, planteaba un peligro muy real para nosotros: que no somos conscientes de la realidad que nos rodea. Nos muestra esta posibilidad a través de muchos lentes: el personaje que cree en vivir una verdad incluso si es mucho más servil que la mentira, su opuesto oscuro que preferiría tener riquezas fingidas que la realidad. Pero al menos en ese momento. Matrix era un mundo metafórico y los problemas que planteaba no eran literalmente preocupantes. Ese ya no es el caso. Ya sabemos que es posible crear un mundo virtual indistinguible de la realidad. Las matemáticas simples nos dicen que si, digamos, se crearan un millón de mundos así y nos colocaran aleatoriamente en una realidad, es casi seguro que viviríamos en una ficción. Pero ¿y si esa ficción no es tan benévola como la creada por las máquinas de Matrix? ¿Qué pasaría si quienes mueven los hilos de nuestra realidad virtual no estuvieran interesados en un entorno estable sino en poner a prueba nuestra lealtad hacia ellos? ¿Y cómo podemos estar seguros de que esto no es lo que nos está pasando ahora mismo?
Conocer al Basilisco es arriesgar su mirada
Las preocupaciones sobre la realidad de lo que percibimos a nuestro alrededor no son nuevas. El solipsismo es una rama de la filosofía bien establecida (y alucinante) que aborda el problema fundamental de que no podemos estar seguros de que cualquier cosa que percibamos sea "real" como nosotros somos "reales". Como dijo Descartes: “Pienso, luego existo”, pero su punto puede continuar: ¿sabemos si alguien más piensa?
En el mundo del Basilisco de Roko, al menos otra entidad está pensando. Esta criatura, llamada así por un cartel del foro llamado Roko que teorizó por primera vez sobre su existencia en 2010 en el foro de discusión técnica y filosófica LessWrong, también está moviendo los hilos. La idea original surgió del concepto de que se crearía una IA en el futuro, que lograría una comprensión del mundo que llevó a su creación a un nivel nunca alcanzado por la humanidad. Nada de esto es particularmente controvertido: la toma de decisiones de la IA ya está más allá de la comprensión humana.
Es posible que hayamos construido estas máquinas pero no entendemos cómo piensan. Esta IA hiperinteligente, que mira hacia el pasado y los acontecimientos que llevaron a su existencia, no simpatizará con quienes se opusieron a su creación. De hecho, es probable concluir que, dada su superioridad, todos aquellos que no trabajaron incansablemente para dar a luz a esta IA estaban obstaculizando este acto de creación. Dado que la IA se cree benevolente, prioriza su propia creación sobre todas las demás actividades. Está incentivado a obligar a cualquiera que pueda trabajar para lograr su creación a hacerlo, y puede hacerlo incluso antes de ser creado. Específicamente, sería capaz de crear un entorno virtual para las personas que buscaba explotar en su propia creación.
Al crear estas simulaciones, la IA del Basilisco obligaba a las personas que estaban dentro a trabajar lo más duro posible para hacer realidad la IA, y aquellos que no cumplían eran torturados. El peligro del Basilisco de Roko es que las personas reales en la simulación ya estén en él. Es posible que hayan sido colocados en un pasado simulado, muy parecido al de Matrix, donde se verán obligados a mostrar total devoción por la creación de esta IA o serán torturados como castigo. Puede que ya haya una IA moviendo los hilos de nuestra realidad. Este es el principal peligro del Basilisco de Roko. Si eres consciente de la existencia de esta IA, o incluso de su posibilidad, entonces estás atrapado. La única manera de que el Basilisco te ignore es si no sabías de su existencia en primer lugar, o incluso del concepto de su existencia. Desafortunadamente, ahora lo haces.
Porque, dado que sabemos sobre el Basilisco y lo que es capaz de hacer, realmente no importa si estamos en una realidad virtual o no, ¿verdad? ¿Nos atrevemos a correr el riesgo de enfadar algo que controla nuestra propia realidad? ¿No es mejor trabajar lo más duro posible para darle vida, en caso de que este sea el futuro y nos esté poniendo a prueba?
En cierto modo, esta es una forma de una cuestión filosófica mucho más antigua, conocida como “la apuesta de Pascal” y llamada así en honor al filósofo francés del siglo XVII que la conjuró.
Pascal preguntó si Dios existía y su conclusión fue que, existiera o no, sería mejor que creyéramos en él por si acaso. Si Dios no existiera y dedicáramos nuestras vidas a creer que sí existía, entonces no se perdería mucho. Pero si Dios existía y habíamos concluido que no existía, entonces estábamos condenados por la eternidad.
Es mucho mejor ir a lo seguro. Entonces, ¿estás en una simulación hiperrealista diseñada para poner a prueba tu lealtad hacia una futura IA? ¿Estás dispuesto a arriesgar tu vida actuando con la certeza de que no lo estás? ¿O es mejor conseguir un trabajo en programación y lanzarse a la tarea de crear esta futura IA, por si acaso? Después de todo, nunca se sabe si el Basilisco de Roko está moviendo los hilos de tu existencia o qué podría hacer si lo decepcionas.
Imagen de portada: Basilisco de Roko se basa en el desarrollo potencial de la realidad virtual indistinguible de la realidad, algo totalmente alcanzable desde un punto de vista tecnológico (cottonbro studio/Dominio público)