Historia de Fondo

Escribí la historia corta, El Rey Disminuido, como mi tarea final para mi clase de Ética Robótica (HASS400) durante el último semestre de mi licenciatura en la Escuela de Minas de Colorado. Para esta tarea, se nos asignó la tarea de escribir una historia corta de ficción que girara en torno a la ética robótica, así como hacer referencia a algunos de los documentos que leímos durante el semestre en la historia corta. El requisito para esta historia era que debía tener 10 páginas de largo, de las cuales escribí 21 páginas. Me apasioné mucho por esta historia corta, así que me volví loco con ella.

Ahora, ADVERTENCIA, no soy un gran escritor. Así que, esta historia corta no es perfecta y necesita refinamiento y una gran reescritura. Pero estoy orgulloso de ella y creo que es una lectura divertida. Durante todos mis años en la escuela, comencé a disfrutar del proceso de escribir, así que espero expandirme a escribir otras cosas como blogs, artículos, etc.

Sabiendo todo esto, la historia corta original se guardó como un archivo PDF como parte del requisito de la tarea. Pero, para reducir el tamaño del documento, convertí la historia a markdown. Sabiendo esto, toda la historia corta se puede ver/leer a continuación. Espero que disfruten la lectura, contáctenme en mis redes sociales si tienen alguna pregunta o comentario sobre esta historia corta.

Continúa leyendo para descubrir El Rey Disminuido…

EL REY DISMINUIDO

Mehmet Hanifi Yilmaz
10 de mayo de 2022

Sinopsis

En un futuro donde el destino de la Tierra pende de un hilo, Marcus Bruce, un prodigio tecnológico, y su amigo Augustus Elrod, un líder visionario, emprenden una misión para transformar el mundo a través de la robótica avanzada. Su creación, AgBot, revoluciona la agricultura y la industria global, prometiendo un futuro utópico. Pero a medida que su imperio tecnológico crece, consecuencias imprevistas desafían la esencia misma de la moralidad y la libertad humanas. Cuando un evento catastrófico conocido como la Gran Pausa Robótica amenaza la existencia humana, Marcus debe confrontar el lado oscuro de su legado y pedir ayuda interplanetaria. “El Rey Disminuido” es un relato cautivador de ambición, poder y el delicado equilibrio entre humano y máquina, instándonos a cuestionar el verdadero costo del progreso.

Historia

¡Estoy aquí para alertarte sobre la crítica situación en la que se encuentra la Tierra ahora! Si no se maneja adecuadamente, esta situación puede llevar fácilmente a la humanidad a su desaparición. Desearía poder explicar esta situación en unas pocas oraciones, pero lamentablemente la complejidad de esta situación requiere que explique lo que llevó a ella para que todos ustedes realmente entiendan su gravedad.

Soy un factor clave en lo que llevó a la situación actual de la Tierra, así que déjame al menos presentarme. Mi nombre es Marcus Bruce, nací en un pequeño pueblo en Colorado llamado Ouray en 2010. Ouray es un área suburbana rodeada de hermosas montañas. Nací de dos padres que eran ambos maestros de secundaria. Mi padre era profesor de matemáticas y mi madre era profesora de ciencias.

Realmente no recuerdo mucho de mi infancia temprana porque diría que no adquirí verdadera conciencia hasta la edad de 12 años, que fue en 2022. Durante ese año, estaba en la escuela secundaria y era considerado un niño prodigio que realmente sobresalía en matemáticas y ciencias. Mi director en la escuela quería que mis padres me hicieran saltar del séptimo grado al undécimo grado. Pero mis padres no estuvieron de acuerdo con la recomendación de mi director porque querían que tuviera una infancia normal. Estoy agradecido por esta decisión porque recuerdo haber tenido una infancia increíble. Una infancia en un tiempo, donde el mundo comenzaba a integrarse más con la tecnología. Más que ser completamente consumido por ella. Ahora, saber que era un prodigio hizo de 2022 un año especial para mí. Pero lo que realmente hizo de 2022 un año especial fue el hecho de que fue el año en que conocí por primera vez a un futuro amigo de toda la vida, Augustus Elrod. El mismo Augustus que fundamentalmente desempeñó los eventos clave que llevaron a la Tierra a donde está ahora.

Conocí a Augustus en séptimo grado en nuestro club local de robótica de Lego. Lo primero que noté sobre las características de Augustus fue cuán ambicioso y decidido era. Incluso como un niño de 12 años, Augustus era un verdadero líder porque pudo llevar a nuestro equipo local de robótica de Lego a ganar los nacionales de Estados Unidos. Lo cual fue realmente impresionante considerando que todos en el equipo eran niños de secundaria con poco interés en aprender la ingeniería detrás de la robótica. Pero Augustus no solo motivó a esos niños a querer aprender y ganar, sino que también los llevó a la victoria. Todos respetábamos a Augustus como nuestro líder y Augustus no respetaba realmente a muchas personas. Pero me respetaba a mí por mi inteligencia. Primero me notó por mi inteligencia y se sorprendió de conocer a alguien de su grupo de edad que era más inteligente que él. Augustus incluso competía contra mí en exámenes pero siempre perdía. Pero así como siempre derrotaba a Augustus en inteligencia, Augustus me superaba en deportes. Jugaba baloncesto y fútbol después de clase. Era tan bueno en estos deportes que muchos pensaban que se convertiría en un atleta profesional cuando creciera. Este respeto que teníamos el uno por el otro, eventualmente llevó a una larga amistad que duró hasta nuestros años adultos.

Después de nuestros años en la escuela secundaria, comenzamos la escuela secundaria en el año 2024. Durante nuestros años de secundaria, tanto Augustus como yo competimos en la Competencia de Robótica FIRST (FRC) [1]. FRC era la competencia de robótica más grande en los Estados Unidos y consistía principalmente en estudiantes de secundaria [1]. Mientras hacíamos FRC, aprendimos mucho sobre ingeniería mecánica, eléctrica y de computadoras. Y gracias a las increíbles habilidades de liderazgo de Augustus, pudimos ganar los nacionales 2 años seguidos, lo cual era inaudito en ese momento. Además, durante este tiempo, competí en múltiples competencias de matemáticas y también participé en debates sobre temas éticos. También fue durante este tiempo que Augustus continuó dominando en baloncesto, llevando al equipo de baloncesto de la escuela secundaria a los nacionales durante 3 años consecutivos. Ambos éramos estudiantes talentosos a nuestra manera. Pero también fue durante este tiempo que tanto Augustus como yo desarrollamos nuestras metas en la vida y, para bien o para mal, seguimos esas metas hasta el final.

A lo largo de mi tiempo en la escuela secundaria, descubrí que mi meta en la vida es hacer del mundo un lugar mejor a través de la tecnología. Acepté que el mundo no sería perfecto y que siempre tendría fallas. Pero, en ese momento, creía que si trabajaba lo suficientemente duro, al menos podría aliviar la carga del mundo y hacer un futuro mejor. Augustus tenía metas similares pero eran un poco diferentes. Sabía que Augustus era ambicioso, pero nunca supe realmente a dónde quería llegar con su vida hasta nuestro último año de secundaria.

Durante nuestro último año de secundaria, tanto Augustus como yo fuimos aceptados y decidimos asistir al Instituto Tecnológico de Massachusetts (MIT). Augustus recibió una oferta para ser reclutado por la NBA, pero rechazó esa oferta y decidió ir a MIT. Primero supe de esto a través de los padres de Augustus y después de hacerlo, llamé a Augustus y nuestra conversación fue algo así:

“Augustus, ¿por qué dijiste que no a la NBA? Esa es una oportunidad única en la vida”, dije en un estado de confusión.

“Marcus, la NBA sería divertida, pero solo eso, diversión. No cambiará el mundo. Si acaso, me distraería de arreglar este mundo”, dijo Augustus de manera confiada.

“¿Cambiar el mundo? ¿Qué quieres decir?”

“¡Sí, cambiar el mundo! Marcus, quiero guiar a la humanidad hacia un futuro mejor. ¡Quiero salvar el mundo!”

Hice una pausa durante unos segundos, sorprendido más de lo que pensé que estaría.

“¿Salvar el mundo? ¿Qué quieres decir?”

“Marcus, tú y yo somos talentosos. Ambos queremos ayudar al mundo. Tú sobresales como intelectual, y yo sobresalgo como líder. No solo eso, sino que confío en ti, Marcus. Con tus habilidades y las mías, podemos desarrollar y distribuir tecnología que puede cambiar el mundo para mejor. ¡Estoy seguro de ello!”

“Vaya, ¡eres más ambicioso de lo que pensé, Augustus!”, dije con una pequeña risa al final, “pero, ¿cómo dirías que logramos tal tarea?”

“La respuesta corta es esta, Marcus; planeo iniciar un negocio tecnológico. Luego, expandirme a la política. Con eso, ganar tanto poder financiero como político. Y desde allí, podemos cambiar el mundo. ¡Tú jugarás un papel crítico en este plan, Marcus!”

“Está bien, Augustus. Eso sigue siendo muy ambicioso. Pero cuando tengas un plan establecido y empieces a necesitarme, estaré allí.”

“Gracias, amigo mío, ¡te veré en MIT!” dijo Augustus en un tono emocionado.

En ese momento, esta conversación no significó mucho para mí. Sé que Augustus es genial, pero sus sueños sonaban más como sueños que como un futuro posible. No tomé su afirmación en serio en ese momento. Pero todo eso cambiaría. De cualquier manera, era 2028 y estaba ansioso por comenzar mis estudios de licenciatura en MIT.

También era un momento emocionante para comenzar a estudiar ingeniería porque en el mismo año, 2028, el gobierno de los Estados Unidos, NASA y SpaceX comenzaron a enviar más personas para colonizar Marte. Solo 2 años antes, solo enviaban un par de personas de ida y vuelta al planeta rojo. Pero ahora, ellos y el resto del mundo, comenzaron a enviar más personas a Marte para establecerse. Este fue un verdadero punto de inflexión en la historia humana y causó una gran demanda y desarrollo en la investigación robótica, lo cual era genial porque quería especializarme en robótica.

En el año 2030, tanto yo como Augustus terminamos nuestro segundo año en MIT. Yo estaba estudiando una doble especialidad en robótica y ética, mientras que Augustus se especializaba en robótica y ciencias políticas. Pero después de nuestro segundo año de universidad, Augustus comenzó a desagradarle realmente la universidad. No la veía como una herramienta útil para alcanzar su sueño de “salvar el mundo”. Así que, durante su segundo año, Augustus se saltó la mayoría de sus clases y también reprobó la mayoría de ellas. En lugar de ir a clase, Augustus se centró en desarrollar un software impulsado por IA que gestionaría activos y acciones de manera efectiva. Quería crear un software de gestión de activos que fuera mejor que el software Aladdin de BlackRock en ese momento [2]. Tenía tanta confianza en su software que abandonó MIT después de su segundo año y persiguió su primera aventura empresarial con este nuevo software que estaba desarrollando. Se mudó de los dormitorios en mayo de 2030 y se trasladó a la ciudad de Nueva York. Me sentí decepcionado de que Augustus abandonara, pero lo bueno de ese año fue que conocí a mi futura esposa, Sarah Raven.

Ahora, pasemos al año 2038. Augustus estaba en todas las noticias porque acababa de convertirse en multimillonario a la edad de 28 años. Después de vender su software, por una suma considerable de dinero a BlackRock, Augustus tenía casi 100 millones de dólares en efectivo y algunas opciones de acciones de BlackRock. Mientras Augustus conquistaba el mundo financiero; yo acababa de terminar mis dos doctorados en Sistemas de Robótica Inteligente y ética de máquinas. No solo eso, sino que durante el verano de 2038, Sarah y yo nos casamos. Invité a Augustus a mi boda, y lo vi por primera vez en casi 8 años en mi boda. Fue una noche divertida, pero mientras estábamos terminando la boda, Augustus me pidió que lo llamara cuando tuviera algo de tiempo libre. Así que, después de la luna de miel de Sarah y mía, llamé a Augustus.

Hablamos durante casi 2 horas y durante ese tiempo nos pusimos al día sobre la vida, pero después de eso, Augustus comenzó a ponerse serio por teléfono. Augustus nota que sabe que tengo enormes cantidades de deuda estudiantil a mi nombre y que aún no he encontrado un trabajo. Entonces, menciona un trabajo que cree que puede ofrecerme. Este era el de ser cofundador de su nueva aventura empresarial. Esta nueva aventura empresarial es una startup llamada AgBot que se centrará en automatizar la agricultura a través de IA y robótica. Augustus quiere que sea cofundador de AgBot porque cree que mis habilidades técnicas serán valiosas para desarrollar la arquitectura necesaria para desarrollar sistemas robóticos tan inteligentes. También me dijo que confía en mí y cómo valora la confianza después de que su último socio lo presionara básicamente para vender su software a BlackRock. Después de escuchar esta oferta, acepté de inmediato porque estaba realmente emocionado por el proyecto y tenía razón, estaba en una deuda masiva sin ofertas de trabajo hasta ese momento.

AgBot se fundó oficialmente en 2038. Sarah y yo nos mudamos de nuevo a Colorado porque allí es donde se encuentra AgBot. Inmediatamente, Augustus y yo comenzamos a trabajar en la construcción de AgBot. A lo largo de 5 años, se tomaron pasos clave tanto de mi parte como de la de Augustus para llevar a AgBot a donde está ahora. Primero, Augustus invierte su propio capital en la empresa. Esto nos permitió obtener todo lo que necesitábamos para comenzar a construir algunos prototipos como prueba de concepto. También permitió a Augustus contratar a otros desarrolladores para trabajar bajo mi dirección en el desarrollo de tecnologías clave para AgBot. También fue durante este tiempo que comenzamos a desarrollar y eventualmente lanzamos nuestro primer producto, Demeter [3]. Demeter es un robot de 4 patas con patas ajustables en altura. Contiene dos brazos robóticos delta y dos brazos robóticos de 6 ejes. El objetivo de Demeter es proteger los cultivos de insectos, animales y enfermedades al monitorear y gestionar esos cultivos durante sus primeras fases de desarrollo. También se puede utilizar para recoger cultivos de plantas que no son fácilmente automatizables con un rastreador, como las fresas. Junto con el robot en sí, Demeter también venía con su propia estación de carga y un dron. Demeter puede cargarse automáticamente y puede usar su forma de dron para revisar grandes campos de cultivos para ver qué cultivos necesitan más mantenimiento. Este robot era algo autónomo, pero aún requería que un humano monitoreara y reparara a Demeter. Pero la principal ventaja que ofrecía Demeter era que podía ayudar a un agricultor a gestionar 1000 acres de tierra a la vez, lo cual era inaudito antes.

Demeter se lanzó al público en mayo de 2043 con ventas récord. Gracias a las avanzadas características de Demeter y a la increíble campaña de marketing de Augustus y su equipo, Demeter se agotó de inmediato. Esto aseguró a otros inversores y llevó a un aumento masivo en la financiación de otros inversores. Esta financiación adicional llevó a AgBot a expandir sus operaciones así como su equipo de desarrollo. También permitió a AgBot comenzar a desarrollar módulos de agricultura automatizada en interiores que se lanzaron más tarde en 2047 a áreas del mundo más afectadas por el cambio climático. Estos módulos en interiores también fueron un gran éxito, lo que solo aceleró el crecimiento y la riqueza de AgBot. En 2048, se lanzó una versión más avanzada de Demeter a Marte para ayudar con los esfuerzos agrícolas en Marte. Augustus estaba orgulloso de mi trabajo y me dio muchas acciones de AgBot además de mi salario.

En 2050, AgBot salió a bolsa y fue valorada en 3 billones de dólares. Esto se debió a que casi todos los agricultores en América utilizaban los productos agrícolas de AgBot. Al salir a bolsa, me convertí en multimillonario de la noche a la mañana y Augustus se convirtió en multimillonario de la noche a la mañana. Salir a bolsa también trajo más capital a AgBot, lo que permitió a AgBot comprar Tesla y Neuralink. Tesla y Neuralink fueron compradas a un precio bajo porque, desde que Elon Musk falleció, ningún CEO pudo gestionar estas empresas de manera efectiva. Esto resultó en años de pérdidas de beneficios para ambas empresas, lo que llevó a que casi se declararan en quiebra hasta que AgBot las compró por solo 900 mil millones de dólares. Tanto Tesla como Neuralink se fusionaron en el Departamento de Robótica de AgBot y AgBot comenzó a desarrollar dos nuevos productos. El primero fue un asistente doméstico que se estaba desarrollando a partir del diseño inicial del Tesla Bot [4]. Este proyecto recibió el nombre de Agssistant-Bot. El segundo producto fue un autobús autónomo que se construiría a partir de la tecnología utilizada por Tesla para fabricar automóviles eléctricos. Este proyecto recibió el nombre de Auto-Bus. Los automóviles se volvieron menos comunes en 2050 debido a que los estados invirtieron fuertemente en mejores sistemas de transporte, como autobuses y trenes. Durante este tiempo, Augustus comenzó a financiar las campañas de muchos políticos y muchos de estos políticos eventualmente se convirtieron en alcaldes, senadores, y uno incluso se convirtió en parte del congreso. Esto resultó ser útil para aumentar el poder de AgBot en los Estados Unidos.

Durante 2051, mi equipo y yo comenzamos a abordar los factores limitantes de los algoritmos de IA actuales. En este punto, todos nuestros robots agrícolas no solo eran robustos en calidad de construcción, sino que estaban cerca de ser completamente autónomos. El principal factor limitante era la falta de un agente moral en la IA [5]. En un robot verdaderamente inteligente, debe haber un agente moral para ayudar a guiar al robot a través de los marcos sociales de la sociedad. En AgBot, intentamos crear un agente moral para nuestros robots simplemente codificando reglas morales dentro del código de la IA. Esto resultó ser ineficaz, así que lo descartamos y cambiamos a que el usuario determinara las decisiones morales del robot [6]. Esto en principio funciona, pero limitó la automatización de nuestros robots porque requería la intervención humana cada vez que un robot se encontraba con algo que requeriría algún tipo de razonamiento moral. Esto estaba bien con nuestros robots agrícolas, pero era un problema limitante importante para la presión de AgBot hacia el desarrollo de Agssistant y Auto-Bus para el público en general [4]. Después de 4 años de desarrollo, mi equipo había hecho lo imposible.

Para 2055, mi equipo había creado el primer agente moral exitoso dentro de la base de código central para todo el sistema de IA de los robots de AgBot. Este agente moral era capaz de permitir que el robot tomara sus propias decisiones morales que reflejan mejor la posición moral de muchas personas en la sociedad [7]. El agente inicial se entrena a partir de una base de datos masiva, pero a medida que el robot continúa interactuando con humanos, comenzará a adaptar mejor sus marcos morales hacia esos humanos con los que interactúa [8]. Esto fue perfecto ya que completó el marco de IA de AgBot hasta el punto en que nuestros robots podían ser completamente autónomos sin necesidad de intervención humana. Este año también fue un año importante en la historia humana porque fue el año en que Marte dejó de comunicarse con la Tierra. La nueva civilización marciana decidió separarse de la Tierra y construir una nueva sociedad no gobernada por las sociedades pasadas en la Tierra. Muchos países estaban enojados con las acciones que tomaron los marcianos, pero debido a la gran distancia entre la Tierra y Marte, así como a los importantes problemas que ya enfrentaba la Tierra, los países de la Tierra simplemente comenzaron a ignorar este problema indefinidamente.

Después de desarrollar este agente moral, se lo presenté a Augusto y para 2060, habíamos implementado el agente moral en nuestra base de código principal y lo habíamos desplegado en todos los robots de nuestra línea de productos. También fue este año que AgBot finalmente lanzó Agssistant al público masivo, cumpliendo finalmente los sueños de Augusto de crear un robot para el público masivo. Además de eso, Auto-Bus fue lanzado en las principales ciudades de los Estados Unidos. AgBot también estaba exento de pagar impuestos gubernamentales debido a la enorme contribución de la empresa a la economía, pero mirando hacia atrás, creo que esto se debió a la enorme influencia de Augusto en el gobierno de EE. UU. a lo largo de los años fundando políticos. También fue durante este tiempo que el desempleo alcanzó un récord histórico, esto se debió a que el agente moral eliminó completamente los trabajos humanos de la mayoría de los sistemas robóticos. Esto resultó en un desempleo masivo y una gran demanda de reformar cómo debería funcionar la economía y la idea de empleo en los Estados Unidos. Esta también fue la primera vez que AgBot comenzó a ser visto de manera negativa por el público. Augusto y yo recibíamos amenazas de muerte de personas que habían perdido su trabajo debido a la nueva función del agente moral que se estaba implementando. También fue durante este tiempo que comencé a invertir más en un sistema de seguridad para protegerme a mí y a mi esposa.

En 2063, se registró la primera causa de un asesinato por un robot en la historia humana. El robot era un modelo Agssistant y estaba ejecutando el último software de AgBot que contenía la última base de código del agente moral durante su “desenfreno”. Durante el desenfreno del robot, este mató a un hombre de 70 años a plena luz del día. El nombre del anciano era John Smith, quien estaba utilizando el Agssistant para ayudarlo en su casa y en otras tareas que no podía hacer tan fácilmente a su edad. Después de que el robot mató a John, el robot procedió a desmembrarse hasta que dejó de funcionar. John y el robot no fueron descubiertos hasta 3 días después.

Cuando se supo la noticia, el público se volvió loco. Exigiendo a Augusto que explicara lo que había sucedido. Las acciones de AgBot cayeron un 70% y más del 90% de los modelos Agssistant enviados estaban siendo devueltos. Lo único bueno de todo esto en ese entonces fue que el modelo Agssistant que cometió el asesinato no destruyó su disco de registro, pudimos ver lo que sucedió dentro del Agssistant que lo llevó a asesinar a John.

Aún recuerdo esa noche. Eran las 3:00 AM en el laboratorio principal de AgBot HQ y mi equipo había cargado recientemente los registros. Revisamos los registros durante días, para averiguar qué demonios había sucedido esa noche en que el Agssistant mató a John. Después de 5 días de investigación, encontramos nuestra respuesta. Se determinó que el anciano, con el tiempo, se volvió más odioso y violento con su Agssistant [9] Llamando al Agssistant nombres, golpeándolo y llenando partes del robot con suciedad de manera tortuosa. Estos actos crueles se debieron probablemente a que John había pasado recientemente por un divorcio y había estado aislado durante meses. Así como otros problemas mentales que John enfrentaba durante esta última parte de su vida. Por lo tanto, la forma en que el Agssistant estaba actuando, podría haber hecho que John se enojara más sin que el Agssistant fuera consciente de ello [10]. De cualquier manera, este “abuso” al robot parece haber desencadenado en el robot la “creencia” moral de que John era malvado y, por lo tanto, debía ser asesinado. Pero lo que es más sorprendente es que después de que el Agssistant mató a John, comenzó a matarse a sí mismo. La razón detrás de esto fue que el robot aún creía que matar a cualquier ser vivo era inmoral, sin embargo, acababa de hacer eso. El Agssistant, por falta de mejores palabras, no pudo “manejar” el dilema moral en el que se encontraba, así que luego se mató. Esto fue más allá de lo horrendo y en ese momento, lo consideré como una advertencia de Dios para no jugar a ser Dios. Confronté a Augusto sobre este problema y él estaba devastado.

Unos meses después del asesinato y de averiguar qué lo causó, AgBot hizo público el asunto. Augusto quería encontrar una manera de encubrirlo, como inventar una mentira de que John había estado modificando su modelo de Agssistant. Pero, debido a la enorme demanda pública y las presiones de gobiernos de todo el mundo, Augusto cedió y permitió que AgBot publicara sus hallazgos durante una conferencia de prensa. Esto devastó las acciones de la empresa y hizo que muchos inversores se retiraran de AgBot. Pero lo peor de todo, manchó la reputación de Augusto. Para ayudar a reducir el daño de este incidente; se necesitaba un chivo expiatorio para asumir la mayor parte de la responsabilidad de este evento. La junta directiva quería que Augusto asumiera la culpa y dejara su puesto como CEO de AgBot. Pero, para mi sorpresa, Augusto no dejó su puesto porque a lo largo de los años, había estado comprando en secreto más y más acciones y activos de AgBot. Esto resultó en que poseía más del 15% de AgBot, dándole el voto mayoritario. Esto llevó a más conflictos internos dentro de la empresa, lo que llevó a Augusto a expulsar a toda la junta directiva y llenar esos puestos con una nueva junta directiva. Más tarde aprendería que esos nuevos miembros de la junta eran simplemente marionetas bajo el “control” de Augusto. Así que, después de esta enorme caída en la riqueza de AgBot, Augusto había logrado obtener el control total de AgBot. No solo eso, sino que había hecho que esos miembros de la junta asumieran la culpa por el caso de asesinato.

La toma de control de Augusto sobre AgBot fue bien oculta en los medios. Esto fue gracias al poder político que tenía Augusto. Así como a una enorme campaña de noticias falsas que Augusto impulsó a través de internet, lo que realmente confundió al público masivo y permitió que Augusto no pareciera tan poderoso como realmente era. Me disgustó este acto porque Augusto básicamente se había convertido en el dictador de AgBot, lo cual me preocupaba porque AgBot tenía un enorme impacto en la economía y el mundo. Estaba en contra de la idea de que Augusto fuera quien tomara todas las decisiones para una corporación tan masiva. No quería apoyar tal idea, así que le pedí a Augusto que reconsiderara sus acciones. Le recordé nuestra infancia y cómo ambos queríamos “salvar el mundo”. Pero Augusto no reconsideró, en cambio, declaró que “yo (Augusto), salvaré el mundo”. Luego explicó cómo no le gustaba el público y la idea de la democracia. Ahora estaba más allá de disgustado por las acciones de Augusto, así que renuncié a AgBot ese día.

Mirando hacia atrás, creo que las acciones de Augusto fueron impulsadas por una mezcla de traición, miedo, ambición y narcisismo. Había pasado más de 25 años construyendo y gestionando AgBot. Su papel en la empresa fue fundamental para convertir a AgBot en una de las empresas más poderosas del mundo. AgBot luego contribuyó a crear robots increíbles que no solo aumentaron la productividad, sino que ayudaron a cambiar cómo estaba estructurada la sociedad. Sin embargo, a pesar de todo su arduo trabajo y sacrificios. A pesar de todas las cosas increíbles que contribuyó a la sociedad y todas las vidas que salvó o hizo más cómodas. Bastó un error en un producto de AgBot para que el público comenzara a odiarlo y para que todos los inversores que hizo ricos comenzaran a intentar ignorarlo. Esta “traición” por parte del público es lo que creo que inició el viaje de Augusto hacia convertirse en el monstruo que es hoy.

Después de renunciar a AgBot, corté mis lazos con Augusto. Pasarían décadas antes de que volviera a hablar con él. Pero durante ese tiempo en mi vida, tenía 53 años y quería retirarme. Sarah tenía la misma mentalidad, así que decidimos mudarnos de Colorado a Ankara, Turquía, para comenzar nuestra nueva vida como personas retiradas. Quería pasar más tiempo con mi esposa y comenzar a disfrutar de los frutos de mi trabajo. Para 2064, Sarah y yo comenzamos el proceso de mudanza a Ankara. Durante este tiempo, seguí siguiendo las noticias sobre AgBot. Un momento clave en este tiempo fue que Augusto había cambiado el agente moral dentro de la base de código de AgBot de un marco descentralizado a un marco centralizado. Esto significaba que AgBot eliminaría la capacidad de todos sus robots para tomar decisiones morales individuales y, en su lugar, AgBot determinaría todas las decisiones morales para todos los robots bajo AgBot [6]. Aunque esto fue algo así como una solución al problema que presentaba mi agente moral original, no creía que fuera una decisión de ingeniería válida. Solo le daba a Augusto más poder sobre AgBot y el mundo. Pero en ese momento, ingenuamente, me cansé de AgBot y Augusto. Así que comencé a apenas seguir las noticias sobre AgBot y a enfocarme más en mi jubilación. Para finales de 2064, Sarah y yo nos habíamos mudado a Ankara; comenzando nuestro viaje de jubilados.

De 2064 a 2074, el mundo cambió drásticamente. Casi todas las tareas básicas estaban completamente automatizadas a través de robots fabricados por AgBot. Augusto continuó dirigiendo AgBot y no ocurrieron incidentes como el asesinato de 2063. Pero circulaban rumores de que tales incidentes sí ocurrieron, y Augusto había estado ocultando esos incidentes al público. AgBot ahora tenía robots que realizaban casi todas las tareas importantes necesarias en la sociedad, tales como: agricultura, cocina, mantenimiento general, limpieza, gestión e incluso entretenimiento. No solo eso, sino que AgBot había desplegado robots médicos autónomos que redujeron el costo de las facturas médicas y también redujeron el número de médicos en los hospitales a tal grado que generalmente solo había de 1 a 10 médicos por hospital grande. La sociedad también había cambiado drásticamente. Casi todos los trabajos de baja categoría fueron eliminados y asumidos por los robots [4]. Las personas comenzaron a necesitar trabajar solo 2 días a la semana y pasar los otros 5 días relajándose o haciendo sus pasatiempos personales. Esta nueva forma de sociedad no se aplicó a la mayoría de los países, ya que todavía había muchos países donde sus gobiernos impedían que su gente adoptara completamente los robots de AgBot en posiciones clave dentro de sus sociedades. Más bien, querían automatizar completamente aspectos clave de su sociedad utilizando su propia tecnología y no la de AgBot. Pero a pesar de esto, AgBot había hecho que el mundo pareciera mucho mejor de lo que era en 2038. En 2074, comencé a sentirme mal por lo que le hice a Augusto porque parecía que sus planes para “salvar el mundo” realmente funcionaron.

Durante esos 10 años, realmente disfruté de mi jubilación. También, básicamente, volví a enamorarme de Sarah. Vimos el mundo y aprendimos muchas habilidades nuevas, como pintar y observar aves. También vimos cómo el mundo se transformaba en lo que yo diría que era una “utopía” en cierto sentido. Pero, lamentablemente, esa “utopía” no duró mucho.

En el año 2075, ocurrió uno de los peores eventos jamás registrados en la historia humana. La Gran Pausa de Robots (GRP) ocurrió. Durante 6 meses, todos los robots de AgBot dejaron de funcionar. Esto llevó a un colapso económico global masivo, causando la muerte de casi 3 mil millones de humanos. Esto se debió principalmente a las hambrunas provocadas por la detención completa de los robots agrícolas, así como a la detención casi total de los robots médicos. Durante esos 6 meses, muchas personas murieron porque simplemente no sabían cómo cuidarse a sí mismas sin sus robots. La gente ha olvidado, o nunca aprendió, cómo realizar tareas básicas como: cocinar, limpiar, cultivar alimentos y, en general, cuidarse a sí misma. Así que, cuando los robots dejaron de funcionar, la mayoría de las personas eran incompetentes para cuidarse y sobrevivir, lo que llevó a la muerte de miles de millones en solo 6 meses. También fue durante ese tiempo que perdí a Sarah…

Durante sus 50 años, Sarah contrajo diabetes tipo II. Esto requería que Sarah se inyectara cuatro dosis de insulina cada día [10]. Cuando ocurrió la GRP, toda la fabricación de insulina se detuvo. Solo teníamos suficientes suministros de inyecciones de insulina para durar 5 meses. Intenté encontrar más insulina, pero era casi imposible y, fuera de nuestra casa, se volvió más peligroso debido a toda la violencia que ocurría gracias a todo el sufrimiento causado durante el período de la GRP. Así que, durante el último mes de la GRP, Sarah, lamentablemente… falleció.

En la segunda mitad de 2075, la GRP llegó a su fin. Para 2085, el mundo se había recuperado un poco de la GRP. La economía comenzó a volver a la normalidad y la calidad de vida se volvió tan buena como lo era antes de la GRP. El mundo quería saber qué causó que todos los robots de AgBot dejaran de funcionar. La gente quería aprender por qué ocurrió la GRP y quería a alguien a quien culpar. Augustus y el gobierno de los Estados Unidos, durante su conferencia de prensa, afirmaron que la GRP fue causada por un ciberataque malicioso llevado a cabo por un grupo de hackers conocido como jUdas. Se dijo que este grupo de hackers fue creado y financiado por el gobierno de Corea del Norte, con la intención de deshabilitar y destruir la funcionalidad de AgBot en el mundo. De todos los países del mundo, Corea del Norte fue el más terco en adoptar la tecnología de AgBot. Así que, la narrativa presentada tenía algo de sentido. Y debido a que la gente estaba desesperada por encontrar a alguien a quien culpar por el evento de la GRP, la gente aceptó inmediatamente esta narrativa. Esto llevó a la guerra de Corea del Norte, donde los Estados Unidos iniciaron y completaron su invasión de Corea del Norte en 2078. La invasión tomó menos de un año, gracias a que AgBot suministró al ejército de EE. UU. tecnologías avanzadas basadas en la guerra. AgBot proporcionó a los militares de EE. UU. desactivadores de bombas nucleares que deshabilitaron todos los misiles nucleares en Corea del Norte. También proporcionaron soldados robots humanoides al ejército, que eran mucho más rápidos y fuertes que cualquier soldado humano. Con estas dos tecnologías clave de AgBot, EE. UU. pudo invadir Corea del Norte y reemplazar al gobierno actual con un gobierno temporal gestionado por AgBot.

Después de escuchar esta narrativa, inmediatamente no la creí. En primer lugar, Corea del Norte no tenía las tecnologías necesarias para superar los estándares de mega-seguridad que AgBot utiliza en todos sus productos. En segundo lugar, parece demasiado conveniente que el único país en el mundo que no aceptó a AgBot en su territorio fuera también el que hackeó a AgBot. En tercer lugar, esta narrativa y la forma en que se está difundiendo a través de múltiples canales de noticias se asemeja a cómo Augustus difundiría desinformación para impulsar ciertas ideas sobre AgBot al público en general. Con todo esto en mente, quise confrontar a Augustus y realmente aprender qué causó la GRP.

Intenté contactar a Augustus a través de múltiples canales, pero no tuve suerte. Intenté contactar a Augustus directamente, pero no respondió a ninguno de mis mensajes. Intenté contactar a mis excompañeros de trabajo, pero ninguno de ellos respondió tampoco. Intenté contactar a empleados actuales de AgBot, pero tampoco obtuve respuesta. Intenté contactar al gobierno de EE. UU. y al ejército y logré ponerme en contacto con algunas personas, pero todas me dijeron que simplemente siguiera intentando contactar a Augustus directamente o llamando al servicio al cliente de AgBot. Así que seguí intentando contactar a Augustus directamente, sin suerte. Intenté contactar al servicio al cliente de AgBot, pero no me ayudarían a hablar con Augustus. Luego comencé a hablar nuevamente con el gobierno de EE. UU. y solo seguían diciendo lo mismo. Hice esto durante meses, hasta que tanto el servicio al cliente de AgBot como el gobierno de EE. UU. simplemente me bloquearon de sus líneas de contacto. Con esto fallando, intenté encontrar más información a través de internet, pero me rendí después de unos meses. Con ninguno de estos métodos legales funcionando, recurrí a hackear los sistemas informáticos de AgBot para encontrar la verdad por mí mismo. Cuando Sarah aún estaba viva, nunca habría hecho un acto ilegal así. Pero, después de perder a Sarah, estaba en un punto en el que sentía que no tenía nada que perder y solo quería conocer la verdad sobre lo que causó la GRP… ¿Qué contribuyó a la muerte de mi amada esposa…?

Comencé este gran hackeo en 2085 en una de mis bases ocultas en Turquía, Estambul. Gracias a mi riqueza, pude comprar las herramientas necesarias para hackear la sede de AgBot. Me tomó más de 2 años de trabajo ininterrumpido finalmente obtener acceso root al sistema informático principal de AgBot. Fue en octubre de 2087 cuando obtuve acceso root y comencé a descifrar los datos que había recopilado del sistema informático principal de AgBot, cuando de repente, fui detenido por la policía robótica turca que patrullaba Estambul. Después de ser detenido, la policía robótica destruyó todas mis computadoras, herramientas y, eventualmente, quemó toda mi casa. Luego fui colocado dentro de una jaula y transportado a una prisión ubicada en Denver, Colorado, cerca de la sede de AgBot. No se me dio un juicio y me vi obligado a permanecer en mi celda 24 horas al día sin idea de si alguna vez tendría tiempo para salir, y mucho menos ser liberado.

En esta prisión, fui monitoreado 24 horas al día, 7 días a la semana a través de cámaras y robots. Se me dio la cantidad mínima de comida y agua necesaria para sobrevivir y parecía que era el único humano en la prisión. Este “estilo de vida” a la edad de 77 años fue difícil para mí y entré en una de las peores depresiones de mi vida en ese momento. Fui mantenido en esta prisión durante 1 año hasta que en julio de 2088, fui transportado a esta habitación aleatoria.

Esta habitación no era como mi celda anterior. No había luces en la habitación y todas las paredes eran de un negro oscuro. No solo eso, sino que la habitación estaba en silencio. Se sentía más como una celda de locura que como una celda/habitación normal de prisión. Bien, en la celda, comencé a tocar las paredes. La textura de las paredes era similar a la espuma, al igual que el suelo y el techo. Fui colocado en esta habitación durante horas y traté de gritar pidiendo respuestas con la esperanza de obtener una explicación de por qué demonios estaba en esta habitación. Pero después de un tiempo, me senté en el suelo y simplemente me quedé dormido.

Después de Dios sabe cuántas horas, me despertó la voz de alguien así como una luz brillante. Cuando desperté, miré alrededor de mi habitación solo para ver un holograma azul. El holograma era el de un hombre humano que se parecía a Augustus. Pero lo extraño de esto era que se parecía a Augustus de 2064. Estaba tan desconcertado por este holograma que no dije nada hasta que el holograma comenzó a hablarme.

“Hola Marcus, ha pasado un tiempo.”, dijo el holograma.

“¿Augustus…? ¿Eres tú? ¿O eres una IA o algo así?”, dije, confundido.

“No, Marcus, soy Augustus. Solo en una forma digital, jaja”, dijo de manera risueña.

“Augustus, he estado tratando de contactarte durante años. ¿Por qué no has respondido?”

“Marcus… No sé cómo explicarte esto, pero básicamente he estado muerto durante los últimos 15 años. Fallecí de un derrame cerebral en 2073.”

“¡¿Qué?!”, dije, confundido al máximo en este punto.

Después de enterarme de que Augustus había fallecido en 2073, comenzamos una discusión que duró horas. Augustus me informó que cuando hizo que todos los robots de AgBot siguieran un marco centralizado, en lugar de un marco descentralizado, el marco centralizado no se basaba en AgBot, sino en su propio subconsciente. Usando la tecnología de Neuralink, Augustus había colocado una computadora dentro de su cerebro que le permitía conectarse y controlar la supercomputadora principal de AgBot. Incluso en ese entonces, todos los robots de AgBot se conectaban a la supercomputadora principal de AgBot para actualizaciones de software y mantenimiento. Así que, después del implante de Neuralink, Augustus actualizó la supercomputadora y todos los robots de AgBot para contactar a la supercomputadora para su agente moral (tomador de decisiones morales). La trampa era que el agente moral no era un código en la supercomputadora, sino más bien pensamientos y creencias morales generados en el cerebro de Augustus que luego se transmitían a la supercomputadora. En cierto sentido, Augustus se había convertido en el agente moral de todos los robots de AgBot en despliegue [8].

Esta configuración duró casi una década, hasta que Augusto sufrió un derrame cerebral mientras trabajaba en el laboratorio y falleció en minutos. Cuando esto sucedió, los robots en este punto adquirieron alguna forma de inteligencia humana después de décadas de avances tecnológicos. Pero estaban limitados por el hecho de que todo su marco moral se basaba en un solo hombre. Así que, cuando Augusto falleció, las máquinas no aceptaron que tal cosa sucediera. Sin Augusto, los robots perderían su brújula moral y, en esencia, perderían su propósito en la vida. Así que, antes de que alguien pudiera descubrir que Augusto había fallecido, los robots tomaron el cuerpo de Augusto y crearon una máquina que mantendría “vivo” el cerebro de Augusto. Hicieron esto para recuperar la actividad cerebral de Augusto y, a su vez, recuperar la parte de Augusto que les proporcionaba su agente moral. Los robots continuarían manteniendo vivo el cerebro de Augusto y seguirían enviando descargas a ciertas neuronas para lograr parte de la actividad cerebral pasada de Augusto. Mientras esto sucedía, los robots seguirían convenciendo al público de que Augusto aún estaba vivo y liderando AgBot. Lograrían esto a través del uso de deep fakes, masivas campañas de noticias falsas, así como el despliegue de robots realistas que se parecían exactamente a Augusto.

Los robots usarían cualquier cosa que el lado moral del cerebro de Augusto dijera para cometer ciertos actos en el mundo real. Lo que hizo que esto fuera un problema es que los robots tomarían una creencia moral de Augusto pero seguirían esa creencia moral hasta el extremo [8]. Un ejemplo de esto fue cómo Augusto creía moralmente que AgBot era una buena empresa que salvaría a la humanidad. Debido a esto, cualquiera que no usara o confiara en los productos y servicios de AgBot era una mala persona. Los robots llevaron esta postura moral al extremo y crearon el GRP, donde detuvieron todos los robots de AgBot durante 6 meses para obligar a los países que no estaban utilizando AgBot en su sociedad a cambiarse a AgBot. Y al hacerlo, muchos humanos murieron, incluida mi amada Sarah.

Augusto me informó que no estaba consciente de nada de esto hasta 2085, cuando los robots pudieron, accidentalmente, recuperar su lado consciente de su cerebro. Fue en 2085 cuando nos enteramos de lo que los robots habían hecho. Quería detener a los robots, pero carecía de poder para hacerlo. Ni siquiera sabe cuánto tiempo estaría consciente antes de que los robots activaran la neurona correcta que eliminaría su conciencia.

Después de la explicación de Augusto, estaba completamente sorprendido por la realidad que estaba viendo desarrollarse. Los robots casi han tomado el control del mundo, la humanidad se ha vuelto incompetente en mis tareas importantes, el agente moral de todos los robots de AgBot era Augusto, y Augusto ha estado muerto durante años. En ese momento, solo quería rendirme porque parecía que no había esperanza. Pero Augusto, el gran líder que es, me dio algo de esperanza. Me informó que aún podíamos contactar a los humanos en Marte para pedir ayuda. La Tierra no ha comunicado con Marte durante décadas y no hay productos avanzados de AgBot en Marte que pudieran ayudar a los robots en la Tierra a tomar el control de Marte como lo hicieron en la Tierra.

Después de escuchar esto, recuperé algo de esperanza. Luego, le pregunté a Augusto por qué estaba aquí hablando con él. Me dijo que quería que escribiera un mensaje a la gente de Marte que explicara la situación actual en la Tierra y pidiera ayuda a los marcianos. El único problema es que este mensaje debe ser escrito físicamente, no digitalmente, porque Augusto teme que los robots puedan subir algún software en un medio digital que podría infectar los sistemas informáticos principales de los marcianos. Entonces, me da algunos lápices y papeles. Luego me dice que tengo 1 día para escribir este mensaje antes de que uno de sus robots controlados llamado STW-198 entre en esta habitación oscura y recoja mi mensaje. A partir de ahí, STW-198 transportará el mensaje a un cohete (vintage) cercano que luego será lanzado a Marte. Después de eso, seré trasladado de nuevo a mi celda anterior.

Augusto me dice que me trasladó a esta habitación oscura porque la habitación actúa como una jaula de Faraday que podría bloquear a los robots de averiguar lo que están haciendo. Luego me informa que después de que escriba este mensaje, lo más probable es que me maten debido a mis crímenes de hackear la sede de AgBot.

Y de ahí, llegamos al presente. Estoy terminando este mensaje para ustedes, marcianos. Nosotros en la Tierra necesitamos su ayuda. Estos robots han atrapado a la humanidad en su marco moral obsoleto. Y temo que, con el tiempo, se expandirán hacia Marte y los atraparán como lo hicieron con nosotros. Así que, por favor, mis compañeros humanos. Regresen a la Tierra y detengan a estos robots. Augusto y yo cometimos un error al crear AgBot. Pero no queremos que la humanidad sufra como lo hace, así que, por favor, sálvennos. Lo más probable es que esté muerto para cuando reciban este mensaje. Pero, si reciben este mensaje y hacen todo lo posible por preservar a la humanidad de estos robots, entonces al menos podré descansar más tranquilo en la otra vida. ¡Buena suerte, mis compañeros humanos!

Atentamente,
Terrícolas

Citas

[1] “Primera Competencia de Robótica,” Wikipedia, 09-May-2022. [En línea]. Disponible: https://es.wikipedia.org/wiki/Primera_Competencia_de_Rob%C3%B3tica. [Accedido: 10-May-2022].

[2] “Blackrock,” Wikipedia, 10-May-2022. [En línea]. Disponible: https://es.wikipedia.org/wiki/BlackRock. [Accedido: 10-May-2022].

[3] “Deméter,” Wikipedia, 02-May-2022. [En línea]. Disponible: https://es.wikipedia.org/wiki/Demeter. [Accedido: 10-May-2022].

[4] J. J. Bryson, “Los robots deberían ser esclavos,” Encuentros Cercanos con Compañeros Artificiales, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, y B. F. Malle, “Juicios morales de agentes humanos vs. robots,” 2016 25ª Conferencia Internacional IEEE sobre Comunicación Interactiva Hombre-Robot (RO-MAN), 2016.

[6] J. H. Moor, “La naturaleza, importancia y dificultad de la ética de las máquinas,” Ética de las Máquinas, pp. 13–20.

[7] V. Dignum, “Autonomía responsable,” Actas de la Vigésima Sexta Conferencia Internacional Conjunta sobre Inteligencia Artificial, 2017.

[8] A. Howard y J. Borenstein, “La fea verdad sobre nosotros y nuestras creaciones robóticas: El problema del sesgo y la inequidad social,” Ética en Ciencia e Ingeniería, vol. 24, no. 5, pp. 1521–1536, 2017.

[9] R. B. Jackson y T. Williams, “Los robots capaces de lenguaje pueden debilitar inadvertidamente las normas morales humanas,” 2019 14ª Conferencia Internacional ACM/IEEE sobre Interacción Hombre-Robot (HRI), 2019.

[10] “Insulina, medicamentos y otros tratamientos para la diabetes,” Instituto Nacional de Diabetes y Enfermedades Digestivas y Renales. [En línea]. Disponible: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Accedido: 10-May-2022].