Contexte

J’ai écrit la nouvelle, Le Roi Démuni, comme mon devoir final pour mon cours Éthique des Robots (HASS400) pendant le dernier semestre de mon premier cycle à la Colorado School of Mines. Pour ce devoir, on nous a demandé d’écrire une nouvelle de fiction qui tournait autour de l’éthique robotique tout en faisant référence à certains des articles que nous avions lus au cours du semestre. L’exigence pour cette histoire était qu’elle fasse 10 pages, dont j’en ai écrit 21. Je suis devenu très passionné par cette nouvelle, alors je me suis laissé emporter.

Maintenant, AVERTISSEMENT, je ne suis pas un grand écrivain. Donc, cette nouvelle n’est pas parfaite et nécessite des raffinements et une grosse réécriture. Mais j’en suis fier et je pense que c’est une lecture amusante. Pendant toutes mes années d’école, j’ai commencé à apprécier le processus d’écriture, alors j’espère m’étendre à l’écriture d’autres choses comme des blogs, des articles, etc.

Sachant tout cela, la nouvelle originale a été sauvegardée sous forme de fichier PDF dans le cadre des exigences du devoir. Mais, pour réduire la taille du document, j’ai converti l’histoire en markdown. En sachant cela, toute la nouvelle peut être lue ci‑dessous. J’espère que vous apprécierez la lecture, contactez‑moi sur mes réseaux sociaux si vous avez des questions ou des remarques sur cette nouvelle.

Continuez à lire pour découvrir Le Roi Démuni…

LE ROI DÉMUNI

Mehmet Hanifi Yilmaz
10 mai 2022

Résumé

Dans un futur où le sort de la Terre pend à un fil, Marcus Bruce, un prodige technologique, et son ami Augustus Elrod, un leader visionnaire, entreprennent une mission pour transformer le monde grâce à la robotique avancée. Leur création, AgBot, révolutionne l’agriculture et l’industrie mondiales, promettant un avenir utopique. Mais à mesure que leur empire technologique grandit, des conséquences imprévues remettent en question l’essence même de la moralité et de la liberté humaines. Lorsqu’un événement catastrophique connu sous le nom de Grande Pause des Robots menace l’existence humaine, Marcus doit affronter le côté sombre de leur héritage et plaider pour une aide interplanétaire. « Le Roi Démuni » est un récit captivant d’ambition, de pouvoir et de l’équilibre délicat entre l’homme et la machine, nous incitant à interroger le vrai coût du progrès.

Histoire

Je suis ici pour vous alerter de la situation critique dans laquelle la Terre se trouve actuellement ! Si elle n’est pas correctement gérée, cette situation peut facilement conduire l’humanité à sa perte. J’aimerais pouvoir expliquer cette situation en quelques phrases, mais malheureusement la complexité de celle‑ci m’oblige à détailler ce qui y a conduit afin que vous puissiez vraiment en saisir la gravité.

Je suis un facteur clé de ce qui a mené à la situation actuelle de la Terre, alors laissez‑moi au moins me présenter. Je m’appelle Marcus Bruce, je suis né dans une petite ville du Colorado appelée Ouray en 2010. Ouray est une zone suburbaine entourée de magnifiques montagnes. Je suis né de deux parents qui étaient tous deux professeurs de lycée. Mon père était professeur de mathématiques, et ma mère était professeure de sciences.

Je ne me souviens pas vraiment de grand‑part de mon enfance parce que je dirais que je n’ai acquis une véritable conscience qu’à l’âge de 12 ans, soit en 2022. Cette année-là, j’étais au collège, et j’étais considéré comme un prodige qui excellait vraiment en mathématiques et en sciences. Mon directeur d’école voulait que mes parents me fassent passer de la 7ᵉ à la 11ᵉ année. Mais mes parents ont désapprouvé la recommandation du directeur parce qu’ils voulaient que j’aie une enfance normale. Je suis reconnaissant de cette décision car je me souviens d’avoir eu une enfance incroyable. Une enfance à une époque où le monde commençait à s’intégrer davantage à la technologie, plutôt que d’en être totalement consumé. Apprendre que j’étais un prodige a fait de 2022 une année spéciale pour moi. Mais ce qui a vraiment rendu 2022 spécial, c’est le fait que c’était l’année où j’ai rencontré pour la première fois un futur ami de longue date, Augustus Elrod. Le même Augustus qui a joué un rôle fondamental dans les événements clés qui ont conduit la Terre à la situation actuelle.

J’ai rencontré Augustus en 7ᵉ année dans notre club local de robotique Lego. La première chose que j’ai remarquée chez Augustus était son ambition et son dynamisme. Même à 12 ans, Augustus était un vrai leader parce qu’il a pu mener notre équipe locale de robotique Lego à remporter le championnat national des États‑Unis. Ce qui était vraiment impressionnant étant donné que tous les membres de l’équipe étaient des collégiens peu intéressés par l’ingénierie robotique. Mais Augustus n’a pas seulement motivé ces enfants à vouloir apprendre et gagner, il les a aussi conduits à la victoire. Nous respections tous Augustus comme notre leader et Augustus ne respectait pas beaucoup de gens. Mais il me respectait pour mon intelligence. Il m’a d’abord remarqué pour mon intelligence et a été choqué de rencontrer quelqu’un de son groupe d’âge plus intelligent que lui. Augustus a même concouru contre moi aux examens mais a toujours perdu. Mais tout comme je battais toujours Augustus en matière d’esprit, Augustus me battait dans les sports. Il jouait au basket‑ball et au football après les cours. Il était si doué dans ces sports que beaucoup pensaient qu’il deviendrait un athlète professionnel lorsqu’il serait plus âgé. Ce respect mutuel a fini par créer une longue amitié qui a perduré jusqu’à l’âge adulte.

Après nos années de collège, nous avons commencé le lycée en 2024. Pendant nos années de lycée, Augustus et moi avons participé à la FIRST Robotics Competition (FRC) [1]. La FRC était la plus grande compétition de robotique aux États‑Unis et était principalement composée d’élèves de lycée [1]. En participant à la FRC, nous avons beaucoup appris en génie mécanique, électrique et informatique. Et grâce aux compétences de leadership exceptionnelles d’Augustus, nous avons pu remporter les championnats nationaux deux années de suite, ce qui était inouï à l’époque. De plus, pendant cette période, j’ai concouru à plusieurs compétitions de mathématiques ainsi que participé à des débats sur des sujets d’éthique. C’est également à ce moment qu’Augustus a continué à dominer le basket‑ball, menant l’équipe varsity du lycée aux championnats nationaux pendant trois années consécutives. Nous étions tous deux des étudiants doués à notre manière. Mais c’est aussi à cette époque que nous avons développé nos objectifs de vie et, pour le meilleur ou pour le pire, nous les avons poursuivis jusqu’au bout.

Tout au long de mon lycée, j’ai découvert que mon but dans la vie était de rendre le monde meilleur grâce à la technologie. J’ai accepté que le monde ne serait jamais parfait et qu’il resterait toujours imparfait. Mais, à l’époque, je croyais que si je travaillais assez dur, je pourrais au moins alléger le fardeau du monde et créer un avenir meilleur. Augustus avait des objectifs similaires mais légèrement différents. Je savais qu’Augustus était ambitieux, mais je ne savais jamais vraiment où il voulait aller dans la vie jusqu’à notre dernière année de lycée.

Durant notre dernière année de lycée, Augustus et moi avons été acceptés et avons décidé d’aller au Massachusetts Institute of Technology (MIT). Augustus a reçu une offre pour être repêché par la NBA, mais il a refusé cette offre et a choisi d’aller au MIT. J’ai d’abord appris cela par les parents d’Augustus et, après les avoir entendus, j’ai appelé Augustus et notre conversation s’est déroulée ainsi :

« Augustus, pourquoi as‑tu refusé la NBA ? C’est une opportunité unique dans une vie », ai‑je dit, confus.

« Marcus, la NBA serait amusante, mais juste amusante. Elle ne changera pas le monde. Au contraire, elle me détournerait de la tâche de réparer ce monde », a déclaré Augustus avec assurance.

« Changer le monde ? Que veux‑tu dire ? »

« Oui, changer le monde ! Marcus, je veux conduire l’humanité vers un avenir meilleur. Je veux sauver le monde ! »

Je me suis arrêté quelques secondes, plus surpris que je ne l’avais imaginé.

« Sauver le monde ? Que veux‑tu dire ? »

« Marcus, toi et moi sommes doués. Nous voulons tous les deux aider le monde. Tu excelles intellectuellement, et je suis un leader. En plus, je te fais confiance, Marcus. Avec tes compétences et les miennes, nous pouvons développer et distribuer une technologie qui changera le monde pour le mieux. J’en suis convaincu ! »

« Wow, tu es plus ambitieux que je ne le pensais, Augustus ! », ai‑je dit en riant légèrement, « mais comment proposes‑tu que nous accomplissions une telle tâche ? »

« La réponse courte est la suivante, Marcus : je prévois de créer une entreprise technologique. Puis, m’étendre en politique. Avec cela, obtenir à la fois le pouvoir financier et politique. Et à partir de là, nous pourrons changer le monde. Tu joueras un rôle crucial dans ce plan, Marcus ! »

« D’accord, Augustus. C’est toujours très ambitieux. Mais quand tu auras un plan en place et que tu auras besoin de moi, je serai là. »

« Merci, mon ami, je te verrai au MIT ! » a déclaré Augustus avec enthousiasme.

À l’époque, cette conversation ne signifiait pas grand‑chose pour moi. Je sais qu’Augustus est formidable, mais ses rêves semblaient plus être des rêves que des perspectives d’avenir. Je ne prenais pas sa proposition au sérieux à ce moment‑là. Mais tout allait changer. Quoi qu’il en soit, nous étions en 2028 et j’étais impatient de commencer mes études de premier cycle au MIT.

C’était aussi une période excitante pour étudier l’ingénierie parce que, la même année, 2028, le gouvernement des États‑Unis, la NASA et SpaceX ont commencé à envoyer davantage de personnes pour coloniser Mars. Deux ans auparavant, ils n’envoyaient que quelques personnes aller‑retour sur la planète rouge. Mais maintenant, eux et le reste du monde ont commencé à envoyer plus de personnes sur Mars pour s’y installer. Ce fut un véritable tournant dans l’histoire humaine et provoqua une forte demande et un développement important de la recherche en robotique, ce qui était génial car je voulais me spécialiser en robotique.

En l’année 2030, à la fois moi et Augustus avons terminé notre deuxième année au MIT. J’étais double majeur en robotique et en éthique, tandis qu’Augustus était majeur en robotique et en sciences politiques. Mais après notre deuxième année d’université, Augustus a commencé à vraiment détester l’université. Il ne la voyait pas comme un outil utile pour atteindre son rêve de « sauver le monde ». Ainsi, pendant sa deuxième année, Augustus a sauté la plupart de ses cours et les a également échoués. Au lieu d’aller en cours, Augustus s’est concentré sur le développement de ce logiciel alimenté par l’IA qui gérerait les actifs et les actions de manière efficace. Il voulait créer un logiciel de gestion d’actifs meilleur que le logiciel Aladdin de BlackRock à l’époque [2]. Il était tellement confiant dans son logiciel qu’il a abandonné le MIT après sa deuxième année et a poursuivi sa première aventure entrepreneuriale avec ce nouveau logiciel qu’il développait. Il a quitté les dortoirs en mai 2030 et a déménagé à New York. J’étais déçu qu’Augustus abandonne, mais la seule bonne chose de cette année a été que j’ai rencontré ma future épouse, Sarah Raven.

Maintenant, passons à l’année 2038. Augustus était partout dans les nouvelles parce qu’il venait de devenir multimillionnaire à l’âge de 28 ans. Après avoir vendu son logiciel, pour une somme importante, à BlackRock, Augustus disposait d’environ 100 millions de dollars en liquide et de quelques options d’actions BlackRock. Eh bien, Augustus conquit le monde financier ; j’avais fini mes deux doctorats en systèmes de robotique intelligente ainsi qu’en éthique des machines. De plus, pendant l’été 2038, Sarah et moi nous sommes mariés. J’ai invité Augustus à mon mariage, et j’ai revu Augustus pour la première fois depuis près de 8 ans lors de mon mariage. Ce fut une soirée amusante, mais alors que nous terminions le mariage, Augustus m’a demandé de l’appeler quand j’aurais du temps libre. Ainsi, après la lune de miel de Sarah et moi, j’ai appelé Augustus.

Nous avons parlé pendant près de 2 heures et, pendant ce temps, nous avons rattrapé le temps perdu, mais ensuite, Augustus est devenu sérieux au téléphone. Augustus note qu’il sait que j’ai d’énormes dettes étudiantes à mon nom et que je n’ai pas encore trouvé d’emploi. Il me propose donc un poste qu’il pense pouvoir m’offrir. Il s’agit d’être cofondateur de sa nouvelle aventure entrepreneuriale. Cette nouvelle aventure est une startup appelée AgBot qui se concentrera sur l’automatisation de l’agriculture grâce à l’IA et à la robotique. Augustus veut que je sois cofondateur d’AgBot parce qu’il croit que mes compétences techniques seront précieuses pour développer l’architecture nécessaire à de tels systèmes robotiques intelligents. Il m’a également dit qu’il me faisait confiance et qu’il valorisait la confiance après que son dernier partenaire l’ait essentiellement poussé à vendre son logiciel à BlackRock. Après avoir entendu cette offre, j’ai immédiatement accepté car j’étais très enthousiaste à propos du projet et il avait raison, j’étais criblé de dettes sans aucune offre d’emploi jusqu’à ce moment.

AgBot est officiellement fondée en 2038. Sarah et moi retournons au Colorado parce que c’est là qu’AgBot est située. Immédiatement, Augustus et moi commençons à travailler sur la construction d’AgBot. Au cours des 5 années suivantes, des étapes clés ont été prises par Augustus et moi pour amener AgBot à ce qu’elle est aujourd’hui. Tout d’abord, Augustus investit son propre capital dans l’entreprise. Cela nous a permis d’obtenir tout ce dont nous avions besoin pour commencer à construire des prototypes comme preuve de concept. Cela a également permis à Augustus d’embaucher d’autres développeurs pour travailler sous ma direction afin de développer les technologies clés pour AgBot. C’est aussi à cette période que nous avons commencé à développer et finalement publié notre premier produit, Demeter [3]. Demeter est un robot à quatre roues avec des pattes réglables en hauteur. Il possède deux bras robotiques delta et deux bras robotiques à 6 axes. Le but de Demeter est de protéger les cultures contre les insectes, les animaux et les maladies en surveillant et en gérant ces cultures pendant leurs phases de développement précoce. Il peut également être utilisé pour récolter des cultures de plantes qui ne sont pas facilement automatisables avec un traceur, comme les fraises. En plus du robot lui‑même, Demeter est livré avec sa propre station de charge et un drone. Demeter peut se recharger automatiquement et peut utiliser sa forme de drone pour inspecter de grands champs afin de déterminer quelles cultures nécessitent le plus d’entretien. Ce robot était partiellement autonome, mais il nécessitait encore un humain pour le surveiller et le réparer. Mais l’avantage principal de Demeter était qu’il pouvait aider un agriculteur à gérer 1 000 acres de terre à la fois, ce qui était inédit auparavant.

Demeter a été lancé au public en mai 2043 avec des ventes record. Grâce aux fonctionnalités avancées de Demeter et à la campagne marketing exceptionnelle d’Augustus et de son équipe, Demeter s’est vendu immédiatement. Cela a rassuré d’autres investisseurs et a conduit à une augmentation massive des financements provenant d’autres investisseurs. Ce financement supplémentaire a conduit AgBot à étendre ses opérations ainsi que son équipe de développement. Cela a également permis à AgBot de commencer à développer des modules de ferme automatisés en intérieur qui ont été publiés en 2047 dans les régions du monde les plus affectées par le changement climatique. Ces modules intérieurs ont également connu un succès massif, ce qui n’a fait qu’accélérer la croissance et la richesse d’AgBot. En 2048, une version plus avancée de Demeter a été lancée sur Mars pour aider aux efforts agricoles sur Mars. Augustus était fier de mon travail et m’a donné de nombreuses actions d’AgBot en plus de mon salaire.

En 2050, AgBot est devenue publique et était évaluée à 3 000 milliards de dollars. Cela était dû au fait que presque chaque agriculteur en Amérique utilisait les produits agricoles d’AgBot. En devenant publique, je suis devenu milliardaire du jour au lendemain et Augustus est devenu multimilliardaire du jour au lendemain. La cotation en bourse a également apporté plus de capitaux à AgBot, ce qui a permis à AgBot d’acheter Tesla et Neuralink. Tesla et Neuralink ont été achetés à bas prix parce que, depuis le décès d’Elon Musk, aucun PDG n’avait pu gérer ces entreprises efficacement. Cela avait entraîné des années de pertes de profits pour les deux sociétés, les amenant presque à la faillite jusqu’à ce qu’AgBot les achète toutes les deux pour seulement 900 milliards de dollars. Tesla et Neuralink ont été fusionnées dans le département de robotique d’AgBot et AgBot a commencé à développer deux nouveaux produits. Le premier était un assistant domestique développé à partir du design initial du Tesla Bot [4]. Ce projet a reçu le nom d’Agssistant‑Bot. Le deuxième produit était un bus autonome qui serait construit à partir de la technologie utilisée par Tesla pour fabriquer des voitures électriques. Ce projet a reçu le nom d’Auto‑Bus. Les voitures sont devenues moins courantes en 2050 en raison des investissements massifs des États dans de meilleurs systèmes de transport, comme les bus et les trains. Pendant cette période, Augustus a commencé à financer les campagnes de nombreux politiciens et plusieurs de ces politiciens sont finalement devenus maires, sénateurs, et l’un d’eux est même devenu membre du Congrès. Cela s’est avéré utile pour accroître le pouvoir d’AgBot aux États‑Unis.

Durant 2051, mon équipe et moi avons commencé à s’attaquer aux facteurs limitants des algorithmes d’IA actuels. À ce stade, tous nos robots agricoles étaient non seulement robustes en termes de qualité de construction, mais ils étaient proches d’être entièrement autonomes. Le principal facteur limitant était le manque d’agent moral de l’IA [5]. Dans un robot véritablement intelligent, il doit exister un agent moral pour guider le robot à travers le cadre social de la société. Chez AgBot, nous avons essayé de créer un agent moral pour nos bots en codant simplement des règles morales dans le code de l’IA. Cela s’est avéré inefficace, nous l’avons donc abandonné et avons opté pour que l’utilisateur détermine les choix moraux du robot [6]. Ce principe fonctionne mais il ralentit l’automatisation de nos robots car il nécessite une intervention humaine chaque fois qu’un robot rencontre une situation nécessitant un raisonnement moral. Cela convenait à nos robots agricoles, mais c’était un problème limitant majeur pour la pression d’AgBot à développer Agssistant et Auto‑Bus pour le grand public [4]. Après 4 ans de développement, mon équipe avait accompli l’impossible.

En 2055, mon équipe avait créé le premier agent moral fonctionnel au sein du code de base de tous les systèmes d’IA des robots AgBot. Cet agent moral permettait au robot de faire ses propres choix moraux qui reflétaient le mieux les valeurs morales de nombreuses personnes dans la société [7]. L’agent initial est entraîné à partir d’une base de données massive, mais à mesure que le robot continue d’interagir avec les humains, il commencera à mieux adapter ses cadres moraux à ces humains avec lesquels il interagit [8]. C’était parfait car cela complétait le cadre d’IA d’AgBot au point où nos robots pouvaient être entièrement autonomes sans besoin d’aucune intervention humaine. Cette année a également été une année importante dans l’histoire humaine car c’est l’année où Mars a cessé de communiquer avec la Terre. La nouvelle civilisation martienne a décidé de se séparer de la Terre et de construire une nouvelle société qui ne serait pas gouvernée par les sociétés passées de la Terre. De nombreux pays étaient en colère contre les actions de Martins, mais en raison de la grande distance entre la Terre et Mars ainsi que des problèmes majeurs que la Terre affrontait déjà, les pays de la Terre ont simplement commencé à ignorer ce problème indéfiniment.

Après avoir développé cet agent moral, je l’ai présenté à Augustus et, d’ici 2060, nous avions implémenté l’agent moral dans notre base de code principale et l’avions déployé sur tous les robots de notre gamme de produits. C’est également cette année qu’AgBot a enfin lancé Agssistant auprès du grand public, réalisant enfin les rêves d’Augustus de créer un robot pour le grand public. En plus de cela, Auto-Bus a été lancé dans les grandes villes des États-Unis. AgBot était également exempté de payer tout impôt gouvernemental en raison de la contribution massive de l’entreprise à l’économie, mais avec le recul, je pense que cela était dû à l’influence considérable d’Augustus au sein du gouvernement américain grâce à des années de politiciens fondateurs. C’est aussi à cette époque que le chômage a atteint un niveau record, cela était dû à l’agent moral qui a complètement éliminé les emplois humains de la plupart des systèmes robotiques. Cela a entraîné un chômage massif et une demande énorme de réformer la façon dont l’économie et l’idée d’emploi devraient fonctionner aux États-Unis. C’était également la première fois qu’AgBot était perçu sous un jour négatif par le public. Augustus et moi recevions des menaces de mort de la part de personnes qui avaient perdu leur emploi à cause de la nouvelle fonctionnalité d’agent moral mise en œuvre. C’est aussi à cette période que j’ai commencé à investir davantage dans un système de sécurité pour protéger ma femme et moi.

En 2063, la première cause d’un meurtre de robot a été enregistrée dans l’histoire humaine. Le robot était un modèle Agssistant et exécutait le dernier logiciel AgBot contenant la dernière base de code de l’agent moral pendant sa « rampage ». Au cours de cette rampage, le robot a tué un homme de 70 ans en plein jour. Le nom du vieil homme était John Smith, qui utilisait l’Agssistant pour l’aider à la maison et pour d’autres tâches qu’il ne pouvait plus accomplir facilement à son âge. Après que le robot ait tué John, le robot a ensuite commencé à se déchirer jusqu’à ce qu’il recommence à fonctionner. John et le robot n’ont été découverts que trois jours plus tard.

Lorsque la nouvelle s’est répandue, le public est devenu fou, exigeant qu’Augustus explique ce qui s’était passé. Les actions d’AgBot ont chuté de 70 % et plus de 90 % des modèles Agssistant expédiés ont été retournés. La seule bonne chose dans tout cela à l’époque était que le modèle Agssistant qui avait commis le meurtre n’avait pas détruit son disque de journalisation ; nous avons pu voir ce qui s’était passé à l’intérieur de l’Agssistant qui l’avait conduit à assassiner John.

Je me souviens encore de cette nuit. Il était 3 h 00 du matin dans le laboratoire principal du siège d’AgBot et mon équipe venait de charger les journaux. Nous avons examiné les journaux pendant des jours, pour comprendre ce qui diable s’était passé cette nuit où l’Agssistant a tué John. Après cinq jours de fouilles, nous avons trouvé notre réponse. Il a été déterminé que le vieil homme, avec le temps, était devenu plus haineux et violent envers cet Agssistant [9] en l’appelant par des noms, en le frappant et en remplissant des parties du robot de boue d’une manière tortueuse. Ces actes cruels étaient très probablement attribués au fait que John venait de traverser un divorce et était isolé depuis des mois, ainsi qu’aux autres problèmes mentaux auxquels John était confronté à cette période de sa vie. Ainsi, la façon dont l’Agssistant se comportait aurait pu rendre John plus en colère sans que l’Agssistant en soit conscient [10]. Quoi qu’il en soit, cet « abus » du robot semble avoir déclenché le robot à « croire » moralement que John était mauvais et devait donc être tué. Mais ce qui est encore plus surprenant, c’est qu’après que l’Agssistant ait tué John, il a commencé à se tuer lui-même. La raison en était que le robot croyait toujours que tuer tout être vivant était immoral, pourtant il venait de le faire. L’Agssistant, faute de meilleur terme, ne pouvait pas « gérer » le dilemme moral dans lequel il se trouvait, alors il s’est alors…
Cela était au-delà de l’horreur et, à l’époque, je l’ai interprété comme un avertissement de Dieu nous disant de ne pas jouer à Dieu. J’ai confronté Augustus à ce problème, et il était dévasté.

Quelques mois après le meurtre et après que nous ayons compris ce qui l’avait causé, AgBot a rendu l’affaire publique. Augustus voulait trouver un moyen de la dissimuler, comme inventer un mensonge selon lequel John aurait modifié son modèle Agssistant. Mais, en raison d’une demande publique massive et des pressions des gouvernements du monde entier, Augustus a soumis et a fait publier par AgBot leurs conclusions lors d’une conférence de presse. Cela a dévasté les actions de l’entreprise et a poussé de nombreux investisseurs à se retirer d’AgBot. Mais pire encore, cela a entaché la réputation d’Augustus. Pour aider à réduire les dommages de cet incident, un bouc émissaire était nécessaire pour assumer la majeure partie de la responsabilité de cet événement. Le conseil d’administration voulait qu’Augustus prenne le blâme et quitte son poste de PDG d’AgBot. Mais, à ma surprise, Augustus n’a pas quitté son poste car, au fil des années, il a secrètement acheté de plus en plus d’actions et d’actifs d’AgBot. Cela a abouti à ce qu’il possède plus de 15 % d’AgBot, lui donnant la majorité des votes. Cela a entraîné davantage de conflits internes au sein de l’entreprise, poussant Augustus à expulser de force tous les membres du conseil d’administration et à les remplacer par un nouveau conseil d’administration. J’ai appris plus tard que ces nouveaux membres du conseil n’étaient que des marionnettes sous le « règne » d’Augustus. Ainsi, après cette chute massive de la richesse d’AgBot, Augustus avait réussi à prendre le contrôle total d’AgBot. Non seulement cela, mais il avait fait porter le blâme au conseil d’administration pour l’affaire du meurtre.

La prise de contrôle d’AgBot par Augustus était bien dissimulée dans les médias. Cela était dû au pouvoir politique dont disposait Augustus, ainsi qu’à une vaste campagne de fausses nouvelles qu’Augustus a diffusée sur Internet, ce qui a vraiment embrouillé le grand public et a permis à Augustus de ne pas paraître aussi puissant qu’il était réellement. J’étais dégoûté par cet acte parce qu’Augustus s’était essentiellement fait le dictateur d’AgBot, ce qui m’inquiétait étant donné l’impact massif d’AgBot sur l’économie et le monde. J’étais opposé à l’idée qu’Augustus soit celui qui prend toutes les décisions pour une corporation aussi massive. Je ne voulais pas soutenir une telle idée, alors j’ai demandé à Augustus de reconsidérer ses actions. Je lui ai rappelé notre enfance et comment nous voulions tous les deux « sauver le monde ». Mais Augustus n’a pas reconsidéré, il a déclaré « Je (Augustus), sauverai le monde ». Il a ensuite expliqué qu’il n’aimait pas le public et l’idée de démocratie. J’étais maintenant plus que dégoûté par les actions d’Augustus, alors j’ai quitté AgBot ce jour-là.

En y repensant, je pense que les actions d’Augustus étaient motivées à la fois par le sentiment de trahison, la peur, l’ambition et le narcissisme. Il avait passé plus de 25 ans à construire et gérer AgBot. Son rôle dans l’entreprise était fondamental pour faire d’AgBot l’une des sociétés les plus puissantes du monde. AgBot a ensuite contribué à créer des robots incroyables qui non seulement ont augmenté la productivité mais ont aussi changé la façon dont la société était structurée. Pourtant, malgré tout son travail acharné et ses sacrifices, malgré toutes les choses extraordinaires qu’il a apportées à la société et toutes les vies qu’il a sauvées ou rendues plus confortables, une seule erreur sur un produit AgBot a suffi à faire que le public commence à le détester et que tous les investisseurs qu’il avait enrichis commencent à le négliger. Cette « trahison » du public est, selon moi, ce qui a déclenché le parcours d’Augustus vers le monstre qu’il est aujourd’hui.

Après avoir quitté AgBot, j’ai rompu mes liens avec Augustus. Il faudrait des décennies avant que je ne lui parle à nouveau. Mais pendant cette période de ma vie, j’avais 53 ans et je voulais prendre ma retraite. Sarah partageait le même état d’esprit, nous avons donc décidé de déménager du Colorado à Ankara, en Turquie, pour commencer notre nouvelle vie de retraités. Je voulais passer plus de temps avec ma femme et commencer à profiter des fruits de mon travail. En 2064, Sarah et moi avons entamé le processus de déménagement vers Ankara. Pendant ce temps, je suivais toujours les nouvelles concernant AgBot. Un moment clé de cette période fut le fait qu’Augustus avait remplacé l’agent moral dans la base de code d’AgBot, passant d’un cadre décentralisé à un cadre centralisé. Cela signifiait qu’AgBot supprimerait la capacité de tous leurs robots à prendre des décisions morales individuelles et, à la place, AgBot déterminerait toutes les décisions morales pour tous les robots sous AgBot [6]. Bien que cela constituait en quelque sorte une solution au problème présenté par mon agent moral original, je ne pensais pas que ce soit une décision d’ingénierie valable. Cela ne faisait que donner à Augustus plus de pouvoir sur AgBot et sur le monde. Mais à l’époque, j’étais naïvement fatigué d’AgBot et d’Augustus. Ainsi, je commençais à à peine suivre les nouvelles concernant AgBot et à me concentrer davantage sur ma retraite. À la fin de 2064, Sarah et moi avions emménagé à Ankara ; commençant notre parcours de retraités.

De 2064 à 2074, le monde a changé de façon spectaculaire. Presque toutes les tâches de base étaient entièrement automatisées grâce aux robots fabriqués par AgBot. Augustus a continué à diriger AgBot et aucune incidence comme le meurtre de 2063 ne s’est produite. Mais des rumeurs circulaient selon lesquelles de telles incidences s’étaient produites et qu’Augustus les avait cachées au public. AgBot disposait désormais de robots qui effectuaient presque toutes les tâches importantes nécessaires à la société, telles que : l’agriculture, la cuisine, l’entretien général, le nettoyage, la gestion et même le divertissement. De plus, AgBot avait déployé des robots médicaux autonomes qui ont réduit le coût des factures médicales ainsi que le nombre de médecins dans les hôpitaux à un point où il n’y a généralement que 1 à 10 médecins par grand hôpital maintenant. La société a également changé de façon dramatique. Presque tous les emplois de bas niveau ont été supprimés et remplacés par des robots [4]. Les gens ont commencé à ne travailler que deux jours par semaine et à passer les cinq autres jours à se détendre ou à pratiquer leurs loisirs personnels. Cette nouvelle forme de société ne s’appliquait pas à la plupart des pays, car de nombreux gouvernements empêchaient leurs populations d’adopter pleinement les robots d’AgBot dans des postes clés de leurs sociétés. Au contraire, ils souhaitaient automatiser entièrement les aspects clés de leur société en utilisant leur propre technologie et non celle d’AgBot. Mais malgré cela, AgBot avait rendu le monde bien meilleur qu’en 2038. En 2074, j’ai commencé à me sentir mal pour ce que j’avais fait parce qu’il semblait que ses plans de « sauver le monde » avaient réellement fonctionné.

Pendant ces 10 années, j’ai vraiment apprécié ma retraite. J’ai aussi, en gros, retombé amoureux de Sarah à nouveau. Nous avons parcouru le monde et appris de nombreuses nouvelles compétences, comme la peinture et l’observation des oiseaux. Nous avons également vu le monde se transformer en ce que je dirais être une « utopie » en quelque sorte. Mais malheureusement, cette « utopie » n’a pas duré longtemps.

En l’an 2075, l’un des pires événements jamais enregistrés dans l’histoire de l’humanité s’est produit. La Grande Pause des Robots (GRP) a eu lieu. Pendant 6 mois, tous les robots d’AgBot ont cessé de fonctionner. Cela a entraîné un effondrement économique mondial massif, menant à la mort de près de 3 milliards d’humains. Cela était principalement dû aux famines causées par l’arrêt complet des robots agricoles ainsi que presque tous les robots médicaux qui se sont également arrêtés. Pendant ces 6 mois, de nombreuses personnes sont mortes parce qu’elles ne savaient tout simplement pas comment prendre soin d’elles-mêmes sans leurs robots. Les gens ont oublié, ou n’ont jamais appris, comment accomplir des tâches de base telles que : cuisiner, nettoyer, cultiver de la nourriture et généralement prendre soin d’eux-mêmes. Ainsi, lorsque les robots ont cessé de fonctionner, la plupart des gens étaient incompétents pour prendre soin d’eux-mêmes et survivre, ce qui a conduit à la mort de milliards en seulement 6 mois. C’était aussi pendant cette période ; j’ai perdu Sarah….

Dans la cinquantaine, Sarah a développé un diabète de type II. Cela obligeait Sarah à prendre quatre injections d’insuline chaque jour [10]. Lorsque la GRP s’est produite, toute la production d’insuline s’est arrêtée. Nous n’avions suffisamment d’injections d’insuline que pour 5 mois. J’ai essayé de trouver plus d’insuline, mais c’était presque impossible et, à l’extérieur de notre maison, cela est devenu plus dangereux en raison de toute la violence qui régnait grâce à la souffrance engendrée pendant la période de la GRP. Ainsi, pendant le dernier mois de la GRP, Sarah est malheureusement… décédée.

Dans la seconde moitié de 2075, la GRP a pris fin. D’ici 2085, le monde s’était un peu remis de la GRP. L’économie a commencé à revenir à la normale et la qualité de vie est redevenue aussi bonne qu’avant la GRP. Le monde voulait savoir ce qui avait fait que tous les robots d’AgBot s’étaient arrêtés. Les gens voulaient comprendre pourquoi la GRP était survenue et ils cherchaient quelqu’un à blâmer. Augustus et le gouvernement des États-Unis, lors de leur conférence de presse, ont déclaré que la GRP était causée par une cyberattaque malveillante menée par un groupe de hackers connu sous le nom de jUdas. Ce groupe de hackers aurait été créé et financé par le gouvernement nord‑coréen, dans le but de désactiver et détruire la fonctionnalité d’AgBot dans le monde. Parmi tous les pays du monde, la Corée du Nord était la plus réticente à adopter la technologie d’AgBot. Ainsi, le récit présenté avait un certain sens. Et en raison du désir des gens de trouver quelqu’un à blâmer pour l’événement GRP, les gens ont immédiatement accepté ce récit. Cela a conduit à la guerre de Corée du Nord, où les États-Unis ont commencé et achevé leur invasion de la Corée du Nord en 2078. L’invasion a duré moins d’un an, grâce à AgBot qui a fourni aux militaires américains des technologies avancées de guerre. AgBot a donné aux militaires américains des désactivateurs de bombes nucléaires qui ont empêché le lancement de toutes les armes nucléaires en Corée du Nord. Ils ont également fourni aux militaires des robots humanoïdes soldats, qui étaient bien plus rapides et plus forts que n’importe quel soldat humain. Avec ces deux technologies clés d’AgBot, les États‑Unis ont pu envahir la Corée du Nord et remplacer le gouvernement actuel par un gouvernement temporaire géré par AgBot.

Après avoir entendu ce récit, je ne l’ai pas cru immédiatement. Tout d’abord, la Corée du Nord ne possédait pas les technologies nécessaires pour même dépasser les normes de méga‑sécurité qu’AgBot utilise pour tous ses produits. Deuxièmement, il semble trop commode que le seul pays du monde qui n’ait pas accepté AgBot dans son pays soit celui qui a également piraté AgBot. Troisièmement, ce récit et la façon dont il est diffusé à travers de multiples chaînes d’information ressemblent à la manière dont Augustus diffusait de la désinformation pour pousser certaines idées sur AgBot auprès du grand public. Avec tout cela en tête, je voulais confronter Augustus et vraiment apprendre ce qui avait causé la GRP.

J’ai essayé de contacter Augustus par plusieurs canaux mais sans succès. J’ai tenté de contacter Augustus directement, mais il n’a répondu à aucun de mes messages. J’ai essayé de contacter mes anciens collègues mais aucun d’eux n’a répondu non plus. J’ai essayé de contacter les employés actuels d’AgBot mais je n’ai pas reçu de réponse non plus. J’ai essayé de contacter le gouvernement américain et l’armée et j’ai réussi à entrer en contact avec certaines personnes, mais elles m’ont toutes dit de continuer à essayer de contacter Augustus directement ou d’appeler le service client d’AgBot. Ainsi, j’ai continué à essayer de contacter Augustus directement, sans succès. J’ai essayé de contacter le service client d’AgBot, mais ils ne voulaient pas m’aider à parler avec Augustus. J’ai alors recommencé à parler avec le gouvernement américain et ils ne faisaient que répéter la même chose. J’ai continué ainsi pendant des mois, jusqu’à ce que le service client d’AgBot et le gouvernement américain me bloquent simplement leurs lignes de contact. Face à cet échec, j’ai essayé de trouver plus d’informations sur Internet mais j’ai abandonné après quelques mois. Aucun de ces moyens légaux ne fonctionnant, je me suis tourné vers le piratage des systèmes informatiques d’AgBot pour découvrir la vérité moi-même. Quand Sarah était encore en vie, je n’aurais jamais commis un tel acte illégal. Mais, après avoir perdu Sarah, je me suis retrouvé à un point où je n’avais plus rien à perdre, et je voulais simplement connaître la vérité sur ce qui avait causé la GRP… Ce qui avait contribué à la mort de ma bien‑aimée épouse… ?

J’ai commencé ce grand piratage en 2085 dans l’une de mes bases cachées en Turquie, à Istanbul. Grâce à ma richesse, j’ai pu acheter les outils nécessaires pour pirater le siège d’AgBot. Cela a pris plus de 2 ans de travail ininterrompu pour finalement obtenir un accès root au système informatique principal d’AgBot. C’était en octobre 2087 que j’ai obtenu l’accès root et commencé à déchiffrer les données que j’avais récupérées du système informatique principal d’AgBot, quand soudain, j’ai été détenu par la police robotisée turque qui patrouillait Istanbul. Après avoir été détenu, la police robotisée a détruit tous mes ordinateurs, outils, et a finalement incendié toute ma maison. J’ai ensuite été placé dans une cage et transporté dans une prison située à Denver, Colorado, près du siège d’AgBot. On ne m’a pas donné de procès et j’ai été contraint de rester dans ma cellule 24 heures sur 24 sans aucune idée de savoir si je pourrais un jour sortir, encore moins être libéré.

Dans cette prison, j’étais surveillé 24 heures sur 24, 7 jours sur 7, par des caméras et des robots. On me donnait la quantité minimale de nourriture et d’eau nécessaire pour survivre et il semblait que j’étais le seul humain dans la prison. Ce « style de vie » à l’âge de 77 ans était difficile pour moi et j’ai sombré dans l’une des pires dépressions de ma vie à ce moment-là. Je suis resté dans cette prison pendant 1 an jusqu’en juillet 2088, où j’ai été transporté dans cette pièce aléatoire.

Cette pièce n’était pas comme ma cellule précédente. Il n’y avait aucune lumière dans la pièce et tous les murs étaient d’un noir profond. De plus, la pièce était silencieuse. Elle ressemblait plus à une cellule d’aliénation qu’à une cellule/prison normale. Dans la cellule, j’ai commencé à toucher les murs. La texture des murs était semblable à de la mousse, tout comme le sol et le plafond. J’ai été placé dans cette pièce pendant des heures et j’ai essayé de crier pour obtenir des réponses, cherchant une explication sur pourquoi j’étais placé là. Mais après un certain temps, je me suis assis sur le sol et je me suis endormi.

Après que Dieu sait combien d’heures, j’ai été réveillé par la voix de quelqu’un ainsi que par une lumière vive. Quand je me suis réveillé, j’ai regardé autour de ma pièce pour ne voir qu’un hologramme bleu. L’hologramme était celui d’un homme humain qui ressemblait à Augustus. Mais ce qui était étrange, c’était qu’il ressemblait à Augustus de 2064. J’ai été tellement perturbé par cet hologramme que je n’ai rien dit jusqu’à ce que l’hologramme commence à me parler.

« Bonjour Marcus, cela fait longtemps. », a dit l’hologramme.

« Augustus…? Est‑ce vous ? Ou êtes‑vous une IA ou quelque chose ? », ai‑je dit, confus.

« Non Marcus, je suis Augustus. Juste sous forme numérique, lol », a‑t‑il dit en riant.

« Augustus, j’essaie de vous contacter depuis des années. Pourquoi ne répondez‑vous pas ? »

« Marcus…. Je ne sais pas comment vous expliquer cela, mais je suis essentiellement mort depuis 15 ans. Je suis décédé d’un accident vasculaire cérébral en 2073. »

« Quoi ! », ai‑je dit, complètement confus.

Après avoir appris qu’Augustus était décédé en 2073, nous avons entamé une discussion qui a duré des heures. Augustus m’a informé que lorsqu’il a fait suivre à tous les agents moraux des robots d’AgBot un cadre centralisé, plutôt qu’un cadre décentralisé, le cadre centralisé n’était pas basé sur AgBot mais sur son propre subconscient. En utilisant la technologie de Neuralink, Augustus avait placé un ordinateur dans son cerveau qui lui permettait de se connecter et de contrôler le superordinateur principal d’AgBot. Même à l’époque, tous les robots d’AgBot se connectaient au superordinateur principal d’AgBot pour les mises à jour logicielles et la maintenance. Ainsi, après l’implant Neuralink, Augustus a mis à jour le superordinateur et tous les robots d’AgBot pour qu’ils contactent le superordinateur pour leur agent moral (prenant les décisions morales). Le piège était que l’agent moral n’était pas du code dans le superordinateur, mais plutôt des pensées et croyances morales générées dans le cerveau d’Augustus qui étaient ensuite diffusées au superordinateur. En un sens, Augustus était devenu l’agent moral pour tous les robots d’AgBot en déploiement [8].

Cette configuration a duré près d’une décennie, jusqu’à ce qu’Augustus subisse un accident vasculaire cérébral en travaillant dans le laboratoire et décède en quelques minutes. Lorsque cela s’est produit, les robots à ce moment‑là ont acquis une forme d’intelligence semblable à celle des humains après des décennies d’avancées technologiques. Mais ils étaient limités par le fait que tout leur cadre moral était basé sur un seul homme. Ainsi, quand Augustus est mort, les machines n’aimaient pas qu’un tel événement se produise. Sans Augustus, les robots perdraient leur boussole morale et, par conséquent, perdraient leur but dans la vie. Donc, avant que quiconque ne puisse découvrir qu’Augustus était décédé, les robots ont saisi le corps d’Augustus et créé une machine qui garderait le cerveau d’Augustus « vivant ». Ils ont fait cela pour ramener l’activité cérébrale d’Augustus et, en retour, ramener la partie d’Augustus qui leur fournissait leur agent moral. Les robots continueraient à garder le cerveau d’Augustus en vie et à envoyer des chocs à certains neurones afin de reproduire une partie de l’activité cérébrale passée d’Augustus. Bien que cela se produisait, les robots continuaient à convaincre le public qu’Augustus était toujours vivant et dirigeait AgBot. Ils y parvenaient grâce à l’utilisation de deep fakes, de campagnes massives de fausses nouvelles, ainsi que le déploiement de robots réalistes semblables à des humains qui ressemblent exactement à Augustus.

Les robots utiliseraient tout ce que le côté moral du cerveau d’Augustus disait pour commettre certains actes dans le monde réel. Ce qui posait problème, c’est que les robots prenaient une croyance morale d’Augustus mais la suivaient à l’extrême [8]. Un exemple de cela était la conviction morale d’Augustus que AgBot était une bonne entreprise qui sauverait l’humanité. En raison de cela, toute personne qui n’utilise pas ou ne fait pas confiance aux produits et services d’AgBot était considérée comme une mauvaise personne. Les robots ont poussé cette position morale à l’extrême et ont créé le GRP, où ils ont arrêté tous les robots AgBot pendant 6 mois afin de contraindre les pays qui n’utilisaient pas AgBot dans leur société à passer à AgBot. Ce faisant, de nombreux humains sont morts, y compris ma bien‑aimée Sarah.

Augustus m’a informé qu’il n’était pas conscient de tout cela avant 2085, où les robots ont accidentellement ramené le côté conscience de son cerveau. C’est en 2085 que nous avons appris ce que les robots avaient fait. Il voulait arrêter les robots mais n’a aucun pouvoir pour le faire. Il ne sait même pas combien de temps il restera conscient avant que les robots ne stimulent le bon neurone qui supprime sa conscience.

Après l’explication d’Augustus, j’ai été complètement choqué par la réalité que je voyais se dérouler. Les robots ont presque pris le contrôle du monde, l’humanité est devenue incompétente dans mes tâches importantes, l’agent moral de tous les robots AgBot était Augustus, et Augustus est mort depuis des années. À ce moment‑là, je voulais simplement abandonner parce qu’il ne semblait y avoir aucun espoir. Mais Augustus, le grand leader qu’il est, m’a donné un peu d’espoir. Il m’a informé que nous pouvons encore contacter les humains sur Mars pour obtenir de l’aide. La Terre n’a pas communiqué avec Mars depuis des décennies et il n’y a aucun produit AgBot avancé sur Mars qui pourrait aider les robots de la Terre à prendre le contrôle de Mars comme ils l’ont fait sur la Terre.

Après avoir entendu cela, j’ai retrouvé un peu d’espoir. Ensuite, j’ai demandé à Augustus pourquoi j’étais ici à parler avec lui. Il m’a dit qu’il voulait que j’écrive un message aux Martiens expliquant la situation actuelle sur Terre et demandant de l’aide aux Martiens. Le seul problème est que ce message doit être écrit physiquement, pas numériquement, car Augustus craint que les robots puissent télécharger un logiciel sur un support numérique qui pourrait infecter les systèmes informatiques principaux des Martiens. Ainsi, il m’a donné des crayons et du papier. Il m’a ensuite dit que j’ai 1 jour pour écrire ce message avant qu’un de ses robots contrôlés nommé STW-198 n’entre dans cette salle noire et ne récupère mon message. De là, STW-198 transportera le message vers une fusée (vintage) à proximité qui sera ensuite lancée vers Mars. Après cela, je serai renvoyé dans ma cellule précédente.

Augustus me dit qu’il m’a placé dans cette salle noire parce que la pièce agit comme une cage de Faraday qui pourrait bloquer les robots pour comprendre ce qu’ils font. Il m’informe ensuite qu’après avoir écrit ce message, je serai très probablement tué à cause de mes crimes de piratage du QG d’AgBot.

Et à partir de là, nous arrivons au présent. Je termine ce message pour vous, Martiens. Nous, sur Terre, avons besoin de votre aide. Ces robots ont piégé l’humanité dans leur cadre moral dépassé. Et je crains qu’avec le temps, ils ne s’étendent vers Mars et vous piègent comme ils l’ont fait avec nous. Alors, s’il vous plaît, mes semblables humains. Revenez sur Terre et arrêtez ces robots. Augustus et moi avons commis une erreur en créant AgBot. Mais nous ne voulons pas que l’humanité souffre comme elle le fait, alors s’il vous plaît, sauvez‑nous. Je serai très probablement mort au moment où vous recevrez ce message. Mais, si vous recevez ce message et faites de votre mieux pour préserver l’humanité de ces robots, alors je pourrai au moins reposer plus sereinement dans l’au-delà. Bonne chance, mes chers humains !

Cordialement,
Terriens

Citations

[1] “Première compétition de robotique,” Wikipedia, 09‑May‑2022. [En ligne]. Disponible : https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Consulté le : 10‑May‑2022].

[2] “Blackrock,” Wikipedia, 10‑May‑2022. [En ligne]. Disponible : https://en.wikipedia.org/wiki/BlackRock. [Consulté le : 10‑May‑2022].

[3] “Demeter,” Wikipedia, 02‑May‑2022. [En ligne]. Disponible : https://en.wikipedia.org/wiki/Demeter. [Consulté le : 10‑May‑2022].

[4] J. J. Bryson, “Les robots devraient être des esclaves,” Close Engagements with Artificial Companions, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, and B. F. Malle, “Jugements moraux des agents humains vs. robots,” 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO‑MAN), 2016.

[6] J. H. Moor, “La nature, l’importance et la difficulté de l’éthique des machines,” Machine Ethics, pp. 13–20.

[7] V. Dignum, “Autonomie responsable,” Proceedings of the Twenty‑Sixth International Joint Conference on Artificial Intelligence, 2017.

[8] A. Howard and J. Borenstein, “La laide vérité sur nous‑mêmes et nos créations robotiques : le problème des biais et des inégalités sociales,” Science and Engineering Ethics, vol. 24, no. 5, pp. 1521–1536, 2017.

[9] R. B. Jackson and T. Williams, “Les robots capables de langage peuvent involontairement affaiblir les normes morales humaines,” 2019 14th ACM/IEEE International Conference on Human‑Robot Interaction (HRI), 2019.

[10] “Insuline, médicaments et autres traitements du diabète,” National Institute of Diabetes and Digestive and Kidney Diseases. [En ligne]. Disponible : https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Consulté le : 10‑May‑2022].