Le Roi Diminué
Contexte
J’ai écrit la nouvelle, Le Roi Diminué, comme mon devoir final pour ma classe de Robot Ethics (HASS400) pendant le dernier semestre de mon cursus de premier cycle à l’École des Mines du Colorado. Pour ce devoir, nous avons reçu la tâche d’écrire une nouvelle fictive qui tournait autour de l’éthique robotique tout en faisant référence à certains des articles que nous avons lus pendant le semestre dans la nouvelle. L’exigence pour cette histoire était qu’elle devait faire 10 pages, dont j’ai écrit 21 pages. Je suis devenu très passionné par cette nouvelle, donc je me suis laissé emporter.
Maintenant, AVERTISSEMENT, je ne suis pas un grand écrivain. Donc, cette nouvelle n’est pas parfaite et nécessite des améliorations et une grande réécriture. Mais j’en suis fier et je pense que c’est une lecture amusante. Pendant toutes mes années d’école, j’ai commencé à apprécier le processus d’écriture, donc j’espère m’étendre à l’écriture d’autres choses comme des blogs, des articles, etc.
Sachant tout cela, la nouvelle originale a été sauvegardée en tant que fichier PDF dans le cadre des exigences du devoir. Mais, pour réduire la taille du document, j’ai converti l’histoire en markdown. Sachant cela, l’ensemble de la nouvelle peut être consulté/lue ci-dessous. J’espère que vous apprécierez la lecture, contactez-moi sur mes réseaux sociaux si vous avez des questions ou des commentaires sur cette nouvelle.
Continuez à lire pour découvrir Le Roi Diminué…
LE ROI DIMINUÉ
Mehmet Hanifi Yilmaz
10 mai 2022
Résumé
Dans un avenir où le destin de la Terre est suspendu à un fil, Marcus Bruce, un prodige technologique, et son ami Augustus Elrod, un leader visionnaire, se lancent dans une mission pour transformer le monde grâce à la robotique avancée. Leur création, AgBot, révolutionne l’agriculture et l’industrie mondiales, promettant un avenir utopique. Mais à mesure que leur empire technologique grandit, des conséquences imprévues remettent en question l’essence même de la moralité humaine et de la liberté. Lorsqu’un événement catastrophique connu sous le nom de Grande Pause Robotique menace l’existence humaine, Marcus doit affronter le côté obscur de leur héritage et plaider pour une aide interplanétaire. “Le Roi Diminué” est un récit captivant d’ambition, de pouvoir et de l’équilibre délicat entre l’humain et la machine, nous incitant à questionner le véritable coût du progrès.
Histoire
Je suis ici pour vous alerter de la situation critique dans laquelle se trouve la Terre maintenant ! Si elle n’est pas correctement gérée, cette situation peut facilement conduire l’humanité à sa perte. J’aimerais pouvoir expliquer cette situation en quelques phrases, mais malheureusement, la complexité de cette situation nécessite que j’explique ce qui a conduit à cela pour que vous puissiez tous vraiment comprendre sa gravité.
Je suis un facteur clé de ce qui a conduit à la situation actuelle de la Terre, alors laissez-moi au moins me présenter. Je m’appelle Marcus Bruce, je suis né dans une petite ville du Colorado appelée Ouray en 2010. Ouray est une zone suburbane entourée de magnifiques montagnes. Je suis né de deux parents qui étaient tous deux enseignants au lycée. Mon père était professeur de mathématiques, et ma mère était professeur de sciences.
Je ne me souviens pas vraiment de grand-chose de ma petite enfance car je dirais que je n’ai pas acquis une véritable conscience avant l’âge de 12 ans, ce qui était en 2022. Pendant cette année, j’étais au collège, et j’étais considéré comme un enfant prodige qui excellait vraiment en mathématiques et en sciences. Mon principal à l’école voulait que mes parents me fassent sauter de la 7e à la 11e année. Mais mes parents n’étaient pas d’accord avec la recommandation de mon principal car ils voulaient que j’aie une enfance normale. Je suis reconnaissant pour cette décision car je me souviens d’avoir eu une enfance incroyable. Une enfance à une époque où le monde commençait à s’intégrer davantage à la technologie. Plutôt que d’en être entièrement consumé. Maintenant, apprendre que j’étais un prodige a rendu 2022 une année spéciale pour moi. Mais ce qui a vraiment rendu 2022 une année spéciale, c’est le fait que c’était l’année où j’ai rencontré pour la première fois un futur ami de longue date, Augustus Elrod. Le même Augustus qui a fondamentalement joué les événements clés qui ont conduit la Terre à l’endroit où elle est maintenant.
J’ai rencontré Augustus en 7e année dans notre club local de robotique Lego. La première chose que j’ai remarquée à propos des caractéristiques d’Augustus était à quel point il était ambitieux et déterminé. Même en tant que garçon de 12 ans, Augustus était un véritable leader car il a pu mener notre équipe locale de robotique Lego à gagner les championnats nationaux des États-Unis. Ce qui était vraiment impressionnant étant donné que tous les membres de l’équipe étaient des collégiens peu soucieux d’apprendre l’ingénierie derrière la robotique. Mais Augustus a non seulement motivé ces enfants à vouloir apprendre et gagner, mais il les a également conduits à la victoire. Nous respections tous Augustus en tant que notre leader et Augustus ne respectait pas vraiment beaucoup de gens. Mais il me respectait pour mon intelligence. Il m’a d’abord remarqué pour mon intelligence et a été choqué de rencontrer quelqu’un de son groupe d’âge qui était plus intelligent que lui. Augustus a même concouru contre moi lors des examens mais a toujours perdu. Mais tout comme je battais toujours Augustus en intelligence, Augustus me battait dans les sports. Il jouait au basketball et au soccer après les cours. Il était si bon dans ces sports que beaucoup pensaient qu’il deviendrait un athlète professionnel en grandissant. Ce respect que nous avions l’un pour l’autre a finalement conduit à une longue amitié qui a duré jusqu’à nos années d’adulte.
Après nos années de collège, nous avons commencé le lycée en 2024. Pendant nos années de lycée, Augustus et moi avons tous deux participé à la FIRST Robotics Competition (FRC) [1]. La FRC était la plus grande compétition de robotique aux États-Unis et se composait principalement de collégiens [1]. En participant à la FRC, nous avons beaucoup appris sur l’ingénierie mécanique, électrique et informatique. Et grâce aux incroyables compétences de leadership d’Augustus, nous avons pu gagner les championnats nationaux 2 années de suite, ce qui était sans précédent à l’époque. De plus, pendant cette période, j’ai participé à plusieurs compétitions de mathématiques ainsi qu’à des débats sur des sujets éthiques. C’est également à cette époque qu’Augustus a continué à dominer au basketball, en menant l’équipe de varsity du lycée aux championnats nationaux pendant 3 années consécutives. Nous étions tous deux des étudiants doués à notre manière. Mais c’est aussi à cette époque qu’Augustus et moi avons développé nos objectifs dans la vie et, pour le meilleur ou pour le pire, avons continué à suivre ces objectifs jusqu’à la toute fin.
Tout au long de mon temps au lycée, j’ai découvert que mon objectif dans la vie est de rendre le monde meilleur grâce à la technologie. J’ai accepté que le monde ne serait pas parfait et qu’il sera toujours imparfait. Mais, à l’époque, je croyais que si je travaillais assez dur, je pourrais au moins alléger le fardeau du monde et créer un avenir meilleur. Augustus avait des objectifs similaires mais était un peu différent. Je savais qu’Augustus était ambitieux, mais je ne savais jamais vraiment où il voulait aller avec sa vie jusqu’à notre dernière année de lycée.
Au cours de notre dernière année de lycée, Augustus et moi avons été acceptés et avons décidé d’assister au Massachusetts Institute of Technology (MIT). Augustus a reçu une offre pour être drafté pour la NBA, mais il a rejeté cette offre et a plutôt décidé d’aller au MIT. J’ai d’abord entendu parler de cela par les parents d’Augustus et après cela, j’ai appelé Augustus et notre conversation s’est déroulée comme suit :
“Augustus, pourquoi as-tu dit non à la NBA ? C’est une opportunité unique dans une vie”, ai-je dit dans un état de confusion.
“Marcus, la NBA serait amusante, mais juste cela, amusante. Cela ne changera pas le monde. Si quoi que ce soit, cela me distraire de réparer ce monde”, a dit Augustus d’un ton confiant.
“Changer le monde ? Que veux-tu dire ?”
“Oui, changer le monde ! Marcus, je veux mener l’humanité vers un avenir meilleur. Je veux sauver le monde !”
J’ai fait une pause pendant quelques secondes, d’une manière plus surpris que je ne pensais l’être.
“Sauver le monde ? Que veux-tu dire ?”
“Marcus, toi et moi sommes doués. Nous voulons tous deux aider le monde. Tu excelles en tant qu’intellect, et j’excelle en tant que leader. Non seulement cela, mais je te fais confiance, Marcus. Avec toi et mes compétences, nous pouvons développer et distribuer des technologies qui peuvent changer le monde pour le mieux. J’en suis convaincu !”
“Wow, tu es plus ambitieux que je ne le pensais, Augustus !”, ai-je dit avec un petit rire à la fin, “mais comment dirais-tu que nous atteignons une telle tâche ?”
“La réponse courte est celle-ci, Marcus ; je prévois de créer une entreprise technologique. Ensuite, de m’étendre à la politique. Avec cela, obtenir à la fois du pouvoir financier et politique. Et à partir de là, nous pouvons changer le monde. Tu joueras un rôle critique dans ce plan, Marcus !”
“D’accord, Augustus. C’est encore très ambitieux. Mais quand tu auras un plan établi et que tu commenceras à avoir besoin de moi. Je serai là.”
“Merci, mon ami, je te verrai au MIT !” a dit Augustus d’un ton excité.
À l’époque, cette conversation ne signifiait pas grand-chose pour moi. Je sais qu’Augustus est génial, mais ses rêves semblaient plus être des rêves qu’un avenir possible. Je ne prenais pas sa déclaration au sérieux à l’époque. Mais tout cela allait changer. Quoi qu’il en soit, c’était 2028 et j’attendais avec impatience de commencer mes études de premier cycle au MIT.
C’était aussi un moment excitant pour commencer à étudier l’ingénierie car, la même année, 2028, le gouvernement des États-Unis, la NASA et SpaceX ont commencé à envoyer plus de personnes pour coloniser Mars. Seulement 2 ans auparavant, ils n’envoyaient que quelques personnes aller-retour vers la planète rouge. Mais maintenant, eux et le reste du monde, ont commencé à envoyer plus de personnes sur Mars pour s’installer. C’était un véritable tournant dans l’histoire humaine et a provoqué une demande et un développement majeurs dans la recherche en robotique, ce qui était génial car je voulais me spécialiser en robotique.
En l’année 2030, moi et Augustus avons terminé notre deuxième année au MIT. J’avais une double spécialisation en robotique et en éthique, tandis qu’Augustus se spécialisait en robotique et en sciences politiques. Mais après notre deuxième année d’université, Augustus a commencé à vraiment détester l’université. Il ne la voyait pas comme un outil utile pour atteindre son rêve de “sauver le monde”. Donc, pendant sa deuxième année, Augustus a séché la plupart de ses cours et a échoué à la plupart d’entre eux également. Au lieu d’aller en cours, Augustus s’est concentré sur le développement d’un logiciel alimenté par l’IA qui gérerait efficacement les actifs et les actions. Il voulait créer un logiciel de gestion d’actifs qui soit meilleur que le logiciel Aladdin de BlackRock à l’époque [2]. Il était si confiant dans son logiciel qu’il a abandonné le MIT après sa deuxième année et a poursuivi sa première aventure commerciale avec ce nouveau logiciel qu’il développait. Il a quitté les dortoirs en mai 2030 et a déménagé à New York. J’étais déçu qu’Augustus ait abandonné, mais la seule bonne chose de cette année-là était que j’ai rencontré ma future femme, Sarah Raven.
Maintenant, passons à l’année 2038. Augustus était partout dans les nouvelles parce qu’il venait de devenir multimillionnaire à l’âge de 28 ans. Après avoir vendu son logiciel, pour une somme considérable à BlackRock, Augustus avait presque 100 millions de dollars à son nom en espèces et quelques options d’actions BlackRock. Pendant qu’Augustus conquérait le monde financier, je venais de terminer mes deux doctorats en systèmes robotiques intelligents ainsi qu’en éthique des machines. Non seulement cela, mais pendant l’été 2038, Sarah et moi nous sommes mariés. J’ai invité Augustus à mon mariage, et j’ai pu voir Augustus pour la première fois en près de 8 ans à mon mariage. C’était une nuit amusante, mais alors que nous terminions le mariage, Augustus m’a demandé de l’appeler quand j’aurais un peu de temps libre. Donc, après ma lune de miel avec Sarah, j’ai appelé Augustus.
Nous avons parlé pendant près de 2 heures et pendant ce temps, nous avons pris des nouvelles de nos vies, mais après cela, Augustus a commencé à devenir sérieux au téléphone. Augustus note qu’il sait que j’ai d’énormes dettes étudiantes à mon nom et que je n’ai pas encore trouvé de travail. Il évoque donc un emploi qu’il pense pouvoir me proposer. Il s’agissait d’être co-fondateur de sa nouvelle aventure commerciale. Cette nouvelle aventure commerciale est une startup appelée AgBot qui se concentrera sur l’automatisation de l’agriculture grâce à l’IA et à la robotique. Augustus veut que je sois co-fondateur d’AgBot parce qu’il croit que mes compétences techniques seront précieuses pour développer l’architecture nécessaire à la création de tels systèmes robotiques intelligents. Il m’a également dit qu’il me faisait confiance et qu’il valorisait la confiance après que son dernier partenaire l’ait essentiellement poussé à vendre son logiciel à BlackRock. Après avoir entendu cette offre, j’ai immédiatement accepté car j’étais vraiment enthousiaste à propos du projet et il avait raison, j’étais dans une énorme dette sans offres d’emploi jusqu’à ce moment-là.
AgBot est officiellement fondée en 2038. Sarah et moi retournons au Colorado car c’est là qu’AgBot est situé. Immédiatement, Augustus et moi commençons à travailler sur la construction d’AgBot. Au cours des 5 années suivantes, des étapes clés ont été franchies par moi et Augustus pour amener AgBot là où elle en est maintenant. Tout d’abord, Augustus investit son propre capital dans l’entreprise. Cela nous a permis d’obtenir tout ce dont nous avions besoin pour commencer à construire des prototypes comme preuve de concept. Cela a également permis à Augustus d’embaucher d’autres développeurs pour travailler sous ma direction au développement des technologies clés pour AgBot. C’est également à cette époque que nous avons commencé à développer et finalement à lancer notre premier produit, Demeter [3]. Demeter est un robot à 4 pattes avec des jambes réglables en hauteur. Il contient deux bras robotiques delta et deux bras robotiques à 6 axes. L’objectif de Demeter est de protéger les cultures des insectes, des animaux et des maladies en surveillant et en gérant ces cultures pendant leurs phases de développement précoce. Il peut également être utilisé pour récolter des cultures de plantes qui ne sont pas facilement automatisables avec un tracker, comme les fraises. En plus du robot lui-même, Demeter était également livré avec sa propre station de charge et un drone. Demeter peut se recharger automatiquement et peut utiliser sa forme de drone pour vérifier de grands champs de cultures afin de voir quelles cultures nécessitent le plus d’entretien. Ce robot était en quelque sorte autonome, mais il nécessitait toujours un humain pour surveiller et réparer Demeter. Mais le principal avantage que Demeter offrait était qu’il pouvait aider un agriculteur à gérer 1000 acres de terre à la fois, ce qui était sans précédent auparavant.
Demeter a été lancé au public en mai 2043 avec des ventes record. Grâce aux fonctionnalités avancées de Demeter et à la campagne de marketing incroyable d’Augustus et de son équipe, Demeter s’est vendu immédiatement. Cela a rassuré d’autres investisseurs et a conduit à une augmentation massive du financement de la part d’autres investisseurs. Ce financement supplémentaire a permis à AgBot d’élargir ses opérations ainsi que son équipe de développement. Cela a également permis à AgBot de commencer à développer des modules de culture automatisés en intérieur qui ont été lancés plus tard en 2047 dans des zones du monde les plus touchées par le changement climatique. Ces modules en intérieur ont également connu un succès massif, ce qui n’a fait qu’accélérer la croissance et la richesse d’AgBot. En 2048, une version plus avancée de Demeter a été lancée sur Mars pour aider aux efforts agricoles sur Mars. Augustus était fier de mon travail et m’a donné beaucoup d’actions d’AgBot en plus de mon salaire.
En 2050, AgBot est devenu public et a été évalué à 3 trillions de dollars. Cela était dû au fait que presque tous les agriculteurs d’Amérique utilisaient les produits agricoles d’AgBot. En devenant public, je suis devenu milliardaire du jour au lendemain et Augustus est devenu multimilliardaire du jour au lendemain. Devenir public a également apporté plus de capital à AgBot, ce qui a permis à AgBot d’acheter Tesla et Neuralink. Tesla et Neuralink ont été achetés à un prix avantageux car, depuis la mort d’Elon Musk, aucun PDG n’avait été capable de gérer ces entreprises efficacement. Cela a entraîné des années de profits perdus pour les deux entreprises, les conduisant presque à la faillite jusqu’à ce qu’AgBot les achète toutes les deux pour seulement 900 milliards de dollars. Tesla et Neuralink ont été fusionnées dans le département de robotique d’AgBot et AgBot a commencé à développer deux nouveaux produits. Le premier était un assistant domestique qui était en cours de développement à partir du design initial du Tesla Bot [4]. Ce projet a été nommé Agssistant-Bot. Le deuxième produit était un bus autonome qui serait construit à partir de la technologie utilisée par Tesla pour fabriquer des voitures électriques. Ce projet a été nommé Auto-Bus. Les voitures sont devenues moins courantes en 2050 en raison des investissements massifs des États dans de meilleurs systèmes de transport, comme les bus et les trains. Pendant ce temps, Augustus commence à financer de nombreuses campagnes politiques et beaucoup de ces politiciens deviennent finalement maires, sénateurs, et l’un d’eux devient même membre du Congrès. Cela s’est avéré utile pour accroître le pouvoir d’AgBot aux États-Unis.
En 2051, mon équipe et moi avons commencé à nous attaquer aux facteurs limitants des algorithmes d’IA actuels. À ce stade, tous nos robots agricoles n’étaient pas seulement robustes en termes de qualité de construction, mais ils étaient proches d’être entièrement autonomes. Le principal facteur limitant était le manque d’agent moral de l’IA [5]. Dans un robot véritablement intelligent, il doit y avoir un agent moral pour aider à guider le robot à travers les cadres sociaux de la société. Chez AgBot, nous avons essayé de créer un agent moral pour nos robots en codant simplement des règles morales dans le code de l’IA. Cela s’est avéré inefficace, donc nous avons abandonné cela et avons décidé de laisser l’utilisateur déterminer les choix moraux du robot [6]. Cela fonctionne en principe mais a limité l’automatisation de nos robots car cela nécessitait une intervention humaine chaque fois qu’un robot rencontrait quelque chose qui nécessiterait une forme de raisonnement moral. Cela était acceptable pour nos robots agricoles, mais c’était un problème majeur limitant la pression d’AgBot pour développer Agssistant et Auto-Bus pour le grand public [4]. Après 4 ans de développement, mon équipe avait réalisé l’impossible.
En 2055, mon équipe avait créé le premier agent moral réussi au sein de la base de code principale pour tous les systèmes d’IA des robots AgBot. Cet agent moral était capable de permettre au robot de prendre ses propres décisions morales qui reflètent le mieux la position morale de nombreuses personnes dans la société [7]. L’agent initial est formé à partir d’une base de données massive, mais à mesure que le robot continue d’interagir avec les humains, il commencera à mieux adapter ses cadres moraux à ces humains avec lesquels il interagit [8]. Cela était parfait car cela complétait le cadre d’IA d’AgBot au point où nos robots pouvaient être entièrement autonomes sans avoir besoin d’aucune intervention humaine. Cette année a également été une année importante dans l’histoire humaine car c’était l’année où Mars a cessé de communiquer avec la Terre. La nouvelle civilisation martienne a décidé de se détacher de la Terre et de construire une nouvelle société non gouvernée par les anciennes sociétés de la Terre. De nombreux pays étaient en colère contre les actions des Martiens, mais en raison de la grande distance entre la Terre et Mars ainsi que des problèmes majeurs auxquels la Terre était déjà confrontée, les pays de la Terre ont simplement commencé à ignorer ce problème indéfiniment.
Après avoir développé cet agent moral, je l’ai présenté à Augustus et d’ici 2060, nous avions implémenté l’agent moral dans notre code principal et déployé tous les robots de notre ligne de produits. C’est également cette année-là qu’AgBot a enfin lancé Agssistant au grand public, réalisant enfin les rêves d’Augustus de créer un robot pour le grand public. De plus, Auto-Bus a été lancé dans les grandes villes des États-Unis. AgBot était également exempté de payer des impôts gouvernementaux en raison de la contribution massive de l’entreprise à l’économie, mais en y repensant, je pense que cela était dû à l’influence massive d’Augustus dans le gouvernement américain grâce à des années de soutien à des politiciens. C’est également à cette époque que le chômage a atteint un niveau record, cela était dû à l’agent moral qui a complètement supprimé les emplois humains de la plupart des systèmes robotiques. Cela a entraîné un chômage massif et une demande énorme de réforme de la façon dont l’économie et l’idée d’emploi devraient fonctionner aux États-Unis. C’était aussi la première fois qu’AgBot a commencé à être perçu sous un jour négatif par le public. Augustus et moi recevions des menaces de mort de la part de personnes qui avaient perdu leur emploi à cause de la nouvelle fonctionnalité de l’agent moral. C’est également à cette époque que j’ai commencé à investir davantage dans un système de sécurité pour me protéger, moi et ma femme.
En 2063, le premier cas de meurtre par un robot a été enregistré dans l’histoire humaine. Le robot était un modèle Agssistant et exécutait le dernier logiciel AgBot qui contenait le dernier code de l’agent moral pendant sa “frénésie”. Pendant la frénésie du robot, celui-ci a tué un homme de 70 ans en plein jour. Le nom du vieil homme était John Smith, qui utilisait l’Agssistant pour l’aider dans les tâches ménagères et d’autres tâches qu’il ne pouvait plus faire aussi facilement à son âge. Après que le robot ait tué John, il a ensuite commencé à se détruire jusqu’à ce qu’il cesse de fonctionner. John et le robot n’ont été découverts que 3 jours plus tard.
Lorsque la nouvelle a été divulguée, le public est devenu fou. Exigeant qu’Augustus explique ce qui s’était passé. Les actions d’AgBot ont chuté de 70 % et plus de 90 % des modèles Agssistant expédiés étaient retournés. La seule bonne chose à propos de tout cela à l’époque était que le modèle Agssistant qui avait commis le meurtre n’avait pas détruit son disque de journal, nous avons pu voir ce qui s’était passé à l’intérieur de l’Agssistant qui l’avait poussé à tuer John.
Je me souviens encore de cette nuit-là. Il était 3h00 du matin dans le laboratoire principal du siège d’AgBot et mon équipe venait de charger les journaux. Nous avons examiné les journaux pendant des jours pour comprendre ce qui s’était passé cette nuit-là lorsque l’Agssistant a tué John. Après 5 jours de fouilles, nous avons trouvé notre réponse. Il a été déterminé que le vieil homme, au fil du temps, était devenu de plus en plus haineux et violent envers cet Agssistant [9] L’appelant par des noms, le frappant et remplissant des parties du robot de saleté d’une manière tortueuse. Ces actes cruels étaient probablement attribués au fait que John venait de traverser un divorce et était isolé depuis des mois. Ainsi, le comportement de l’Agssistant a pu rendre John encore plus en colère sans que l’Agssistant en soit conscient [10]. Quoi qu’il en soit, cet “abus” envers le robot semble avoir déclenché chez le robot la “croyance” morale que John était maléfique et donc, devait être tué. Mais ce qui est encore plus surprenant, c’est qu’après avoir tué John, l’Agssistant a commencé à se suicider. La raison derrière cela était que le robot croyait toujours que tuer tout être vivant était immoral, pourtant il venait de le faire. L’Agssistant, pour utiliser des mots plus simples, ne pouvait pas “gérer” le dilemme moral dans lequel il se trouvait, alors il s’est ensuite tué. C’était au-delà de l’horrible et à l’époque, je l’ai considéré comme un avertissement de Dieu de ne pas jouer à Dieu. J’ai confronté Augustus à ce problème, et il était dévasté.
Quelques mois après le meurtre et notre découverte de ce qui l’avait causé, AgBot a rendu public l’incident. Augustus voulait trouver un moyen de couvrir cela, comme inventer un mensonge selon lequel John avait modifié son modèle d’Agssistant. Mais, en raison de la forte demande du public et des pressions des gouvernements du monde entier, Augustus a cédé et a fait en sorte qu’AgBot publie ses conclusions lors d’une conférence de presse. Cela a dévasté les actions de l’entreprise et a poussé de nombreux investisseurs à se retirer d’AgBot. Mais le pire de tout, c’est que cela a terni la réputation d’Augustus. Pour aider à réduire les dégâts de cet incident, un bouc émissaire était nécessaire pour prendre la plupart des responsabilités de cet événement. Le conseil d’administration voulait qu’Augustus prenne la responsabilité et quitte son poste de PDG d’AgBot. Mais, à ma grande surprise, Augustus n’a pas quitté son poste car au fil des ans, il avait secrètement acheté de plus en plus d’actions et d’actifs d’AgBot. Cela a conduit à ce qu’il possède plus de 15 % d’AgBot, lui donnant le vote majoritaire. Cela a entraîné davantage de conflits internes au sein de l’entreprise, conduisant Augustus à expulser de force tous les membres du conseil d’administration et à remplir ces postes avec de nouveaux membres. J’apprendrais plus tard que ces nouveaux membres du conseil d’administration n’étaient que des marionnettes sous la “règle” d’Augustus. Ainsi, après cette chute massive de la richesse d’AgBot, Augustus avait réussi à prendre le contrôle total d’AgBot. Non seulement cela, mais il avait fait en sorte que ces membres du conseil d’administration prennent la responsabilité du cas de meurtre.
La prise de contrôle d’AgBot par Augustus a été bien cachée dans les médias. Cela était dû au pouvoir politique qu’Augustus avait. Ainsi qu’à une massive campagne de fausses nouvelles qu’Augustus a poussée sur Internet, ce qui a vraiment confondu le grand public et a permis à Augustus de ne pas sembler aussi puissant qu’il l’était réellement. J’étais dégoûté par cet acte car Augustus s’était essentiellement fait le dictateur d’AgBot, ce qui m’inquiétait car AgBot avait un impact énorme sur l’économie et le monde. J’étais contre l’idée qu’Augustus soit celui qui prenne toutes les décisions pour une si grande entreprise. Je ne voulais pas soutenir une telle idée, alors j’ai demandé à Augustus de reconsidérer ses actions. Je lui ai rappelé notre enfance et comment nous voulions tous les deux “sauver le monde”. Mais Augustus n’a pas reconsidéré, au lieu de cela, il a déclaré que “je (Augustus), vais sauver le monde”. Il a ensuite expliqué comment il n’aimait pas le public et l’idée de démocratie. J’étais maintenant au-delà du dégoût face aux actions d’Augustus, alors j’ai quitté AgBot ce jour-là.
En y repensant, je pense que les actions d’Augustus étaient motivées à la fois par un sentiment de trahison, de peur, d’ambition et de narcissisme. Il avait passé plus de 25 ans à construire et à gérer AgBot. Son rôle dans l’entreprise était fondamental pour faire d’AgBot l’une des entreprises les plus puissantes au monde. AgBot a ensuite contribué à créer des robots incroyables qui non seulement augmentaient la productivité mais aidaient à changer la structure de la société. Pourtant, malgré tout son travail acharné et ses sacrifices. Malgré toutes les choses incroyables qu’il a apportées à la société et toutes les vies qu’il a sauvées ou rendues plus confortables. Il a fallu une erreur sur un produit AgBot pour que le public commence à le haïr et que tous les investisseurs qu’il avait enrichis commencent à essayer de l’ignorer. Cette “trahison” du public est ce qui, je pense, a commencé le voyage d’Augustus vers devenir le monstre qu’il est aujourd’hui.
Après avoir quitté AgBot, j’ai coupé mes liens avec Augustus. Il faudrait des décennies avant que je lui parle à nouveau. Mais pendant cette période de ma vie, j’avais 53 ans et je voulais prendre ma retraite. Sarah avait le même état d’esprit, alors nous avons décidé de déménager du Colorado à Ankara, en Turquie, pour commencer notre nouvelle vie en tant que retraités. Je voulais passer plus de temps avec ma femme et commencer à profiter des fruits de mon travail. D’ici 2064, Sarah et moi avons commencé le processus de déménagement vers Ankara. Pendant ce temps, je suivais toujours les nouvelles concernant AgBot. Un moment clé durant cette période fut qu’Augustus avait changé l’agent moral dans le code d’AgBot d’un cadre décentralisé à un cadre centralisé. Cela signifiait qu’AgBot retirerait à tous ses robots la capacité de prendre des décisions morales individuelles et qu’AgBot déterminerait plutôt toutes les décisions morales pour tous les robots sous AgBot [6]. Bien que cela soit en quelque sorte une solution au problème que mon agent moral original avait présenté, je ne croyais pas que c’était une décision d’ingénierie valide. Cela donnait simplement à Augustus plus de pouvoir sur AgBot et le monde. Mais à l’époque, j’étais naïvement fatigué d’AgBot et d’Augustus. Donc, j’ai commencé à à peine suivre les nouvelles concernant AgBot et à me concentrer davantage sur ma retraite. À la fin de 2064, Sarah et moi avions déménagé à Ankara ; commençant notre voyage en tant que retraités.
De 2064 à 2074, le monde avait changé de manière spectaculaire. Presque toutes les tâches de base étaient entièrement automatisées grâce aux robots fabriqués par AgBot. Augustus continuait à diriger AgBot et aucun incident comme le meurtre de 2063 ne s’est produit. Mais des rumeurs circulaient selon lesquelles de tels incidents s’étaient produits, et Augustus avait caché ces incidents au public. AgBot avait maintenant des robots qui effectuaient presque toutes les tâches importantes nécessaires à la société, telles que : l’agriculture, la cuisine, l’entretien général, le nettoyage, la gestion, et même le divertissement. Non seulement cela, mais AgBot avait déployé des robots médicaux autonomes qui réduisaient le coût des factures médicales ainsi que le nombre de médecins dans les hôpitaux à un tel degré qu’il n’y avait généralement que 1 à 10 médecins par grand hôpital maintenant. La société avait également changé de manière spectaculaire. Presque tous les emplois peu qualifiés avaient été supprimés et pris par les robots [4]. Les gens n’avaient désormais besoin de travailler que 2 jours par semaine et passaient les 5 autres jours à se détendre ou à pratiquer leurs loisirs personnels. Cette nouvelle forme de société ne s’appliquait cependant pas à la plupart des pays car il y avait encore de nombreux pays où leurs gouvernements empêchaient leurs citoyens d’adopter pleinement les robots d’AgBot dans des postes clés au sein de leurs sociétés. Au lieu de cela, ils voulaient automatiser complètement des aspects clés de leur société en utilisant leur propre technologie et non celle d’AgBot. Mais malgré cela, AgBot avait fait en sorte que le monde semble beaucoup mieux qu’il ne l’était en 2038. En 2074, j’ai commencé à me sentir mal pour ce que j’avais fait à Augustus car il semblait que ses plans pour “sauver le monde” avaient vraiment fonctionné.
Pendant ces 10 années, j’ai vraiment apprécié ma retraite. J’ai aussi, en gros, retombé amoureux de Sarah. Nous avons vu le monde et appris de nombreuses nouvelles compétences, comme la peinture et l’observation des oiseaux. Nous avons également vu le monde se transformer en ce que je dirais être une “utopie” dans un certain sens. Mais malheureusement, cette “utopie” n’a pas duré longtemps.
En l’année 2075, l’un des pires événements jamais enregistrés dans l’histoire humaine s’est produit. La Grande Pause des Robots (GPR) a eu lieu. Pendant 6 mois, tous les robots d’AgBot ont cessé de fonctionner. Cela a conduit à un effondrement économique mondial massif, entraînant la mort de près de 3 milliards d’humains. Cela était principalement dû aux famines causées par l’arrêt complet des robots agricoles ainsi qu’à l’arrêt complet de presque tous les robots médicaux. Pendant ces 6 mois, de nombreuses personnes sont mortes parce qu’elles ne savaient tout simplement pas comment prendre soin d’elles-mêmes sans leurs robots. Les gens avaient oublié, ou n’avaient même jamais appris, comment effectuer des tâches de base telles que : cuisiner, nettoyer, cultiver de la nourriture et, en général, prendre soin d’eux-mêmes. Donc, lorsque les robots ont cessé de fonctionner, la plupart des gens étaient incompétents pour prendre soin d’eux-mêmes et survivre, ce qui a conduit à la mort de milliards en seulement 6 mois. C’est aussi à ce moment-là que j’ai perdu Sarah…
Dans sa cinquantaine, Sarah a développé un diabète de type II. Cela nécessitait que Sarah prenne quatre injections d’insuline chaque jour [10]. Lorsque la GPR a eu lieu, toute la fabrication d’insuline a été arrêtée. Nous n’avions que suffisamment de fournitures d’injections d’insuline pour durer 5 mois. J’ai essayé de trouver plus d’insuline, mais c’était presque impossible et, en dehors de notre maison, cela devenait plus dangereux en raison de toute la violence qui se produisait à cause de toute la souffrance causée pendant la période de la GPR. Donc, pendant le dernier mois de la GPR, Sarah, malheureusement… est décédée.
Dans la seconde moitié de 2075, la GPR a pris fin. En 2085, le monde s’était un peu remis de la GPR. L’économie a commencé à revenir à la normale et la qualité de vie est devenue aussi bonne qu’elle l’était avant la GPR. Le monde voulait savoir ce qui avait causé l’arrêt de tous les robots d’AgBot. Les gens voulaient comprendre pourquoi la GPR s’était produite et ils voulaient quelqu’un à blâmer. Augustus et le gouvernement des États-Unis, lors de leur conférence de presse, ont déclaré que la GPR avait été causée par une cyberattaque malveillante menée par un groupe de hackers connu sous le nom de jUdas. Ce groupe de hackers était censé avoir été créé et financé par le gouvernement nord-coréen, avec l’intention de désactiver et de détruire la fonctionnalité d’AgBot dans le monde. Parmi tous les pays du monde, la Corée du Nord était le plus têtu en ce qui concerne l’adoption de la technologie d’AgBot. Donc, le récit présenté avait un certain sens. Et en raison de la volonté des gens de trouver quelqu’un à blâmer pour l’événement de la GPR, les gens ont immédiatement accepté ce récit. Cela a conduit à la guerre nord-coréenne, où les États-Unis ont commencé et terminé leur invasion de la Corée du Nord en 2078. L’invasion a pris moins d’un an, grâce à AgBot fournissant à l’armée américaine des technologies avancées basées sur la guerre. AgBot a donné à l’armée américaine des désactivateurs de bombes nucléaires qui ont désactivé toutes les bombes nucléaires pour être lancées en Corée du Nord. Ils ont également fourni des soldats robots humanoïdes à l’armée, qui étaient beaucoup plus rapides et plus forts que n’importe quel soldat humain. Avec ces deux technologies clés d’AgBot, les États-Unis ont pu envahir la Corée du Nord et remplacer le gouvernement actuel par un gouvernement temporaire géré par AgBot.
Après avoir entendu ce récit, je n’y ai immédiatement pas cru. Tout d’abord, la Corée du Nord n’avait pas les technologies nécessaires pour même surpasser les normes de sécurité méga qu’AgBot utilise dans tous ses produits. Deuxièmement, il semble trop commode que le seul pays au monde qui n’ait pas accepté AgBot dans son pays soit celui qui a également piraté AgBot. Troisièmement, ce récit et la manière dont il est diffusé à travers plusieurs chaînes d’information ressemblent à la façon dont Augustus aurait diffusé de la désinformation pour promouvoir certaines idées sur AgBot auprès du grand public. Avec tout cela en tête, je voulais confronter Augustus et vraiment apprendre ce qui avait causé la GPR.
J’ai essayé de contacter Augustus par plusieurs canaux mais sans succès. J’ai essayé de contacter Augustus directement, mais il n’a répondu à aucun de mes messages. J’ai essayé de contacter mes anciens collègues, mais aucun d’eux n’a répondu non plus. J’ai essayé de contacter des employés actuels d’AgBot, mais je n’ai pas eu de réponse non plus. J’ai essayé de contacter le gouvernement et l’armée des États-Unis et j’ai réussi à entrer en contact avec certaines personnes, mais elles m’ont toutes dit de continuer à essayer de contacter Augustus directement ou d’appeler le service client d’AgBot. Donc, j’ai continué à essayer de contacter Augustus directement, sans succès. J’ai essayé de contacter le service client d’AgBot, mais ils ne m’ont pas aidé à parler avec Augustus. J’ai ensuite recommencé à parler avec le gouvernement des États-Unis et ils ne cessaient de dire la même chose. J’ai continué à faire cela pendant des mois, jusqu’à ce que le service client d’AgBot et le gouvernement des États-Unis me bloquent de leurs lignes de contact. Avec cet échec, j’ai essayé de trouver plus d’informations sur Internet mais j’ai abandonné après quelques mois. Avec aucune de ces méthodes légales ne fonctionnant, j’ai décidé de pirater les systèmes informatiques d’AgBot pour découvrir la vérité par moi-même. À l’époque où Sarah était encore en vie, je n’aurais jamais fait un acte aussi illégal. Mais, après avoir perdu Sarah, j’étais à un point où je sentais que je n’avais rien à perdre, et je voulais juste connaître la vérité sur ce qui avait causé la GPR… Ce qui avait contribué à la mort de ma chère épouse… ?
J’ai commencé ce grand piratage en 2085 dans l’une de mes bases cachées à Istanbul, en Turquie. Grâce à ma richesse, j’ai pu acheter les outils nécessaires pour pirater le siège d’AgBot. Il a fallu plus de 2 ans de travail non-stop pour enfin obtenir un accès root au système informatique principal d’AgBot. C’était en octobre 2087 que j’ai obtenu l’accès root et commencé à déchiffrer les données que j’avais recueillies du système informatique principal d’AgBot, lorsque soudain, j’ai été arrêté par la police robotique turque qui patrouillait à Istanbul. Après avoir été arrêté, la police robotique a détruit tous mes ordinateurs, outils, et a finalement incendié ma maison entière. J’ai ensuite été placé dans une cage et transporté dans une prison située à Denver, Colorado, près du siège d’AgBot. Je n’ai pas eu de procès et j’ai été forcé de rester dans ma cellule 24 heures sur 24 sans savoir si j’aurais un jour le temps de sortir, encore moins d’être libéré.
Dans cette prison, j’étais surveillé 24 heures sur 24, 7 jours sur 7 par des caméras et des robots. On me donnait la quantité minimale de nourriture et d’eau nécessaire pour survivre et il semblait que j’étais le seul humain dans la prison. Ce “style de vie” à l’âge de 77 ans était difficile pour moi et j’ai traversé l’une des pires dépressions de ma vie à ce moment-là. J’ai été gardé dans cette prison pendant 1 an jusqu’à ce qu’en juillet 2088, je sois transporté dans cette pièce aléatoire.
Cette pièce n’était pas comme ma cellule précédente. Il n’y avait pas de lumière dans la pièce et tous les murs étaient d’un noir sombre. Non seulement cela, mais la pièce était silencieuse. Cela ressemblait plus à une cellule d’insanité qu’à une cellule/room de prison normale. Bien dans la cellule, j’ai commencé à toucher les murs. La texture des murs était semblable à de la mousse tout comme le sol et le plafond. J’ai été placé dans cette pièce pendant des heures et j’ai essayé de crier des réponses dans l’espoir d’obtenir une explication sur pourquoi diable j’avais été placé dans cette pièce. Mais après un certain temps, je me suis assis par terre et je me suis simplement endormi.
Après Dieu sait combien d’heures, j’ai été réveillé par la voix de quelqu’un ainsi qu’une lumière vive. Quand je me suis réveillé, j’ai regardé autour de ma pièce seulement pour voir un hologramme bleu. L’hologramme était celui d’un homme qui ressemblait à Augustus. Mais ce qui était étrange à propos de cela, c’est qu’il ressemblait à Augustus de 2064. J’étais tellement dérangé par cet hologramme que je n’ai rien dit jusqu’à ce que l’hologramme commence à me parler.
“Bonjour Marcus, ça fait un moment.”, dit l’hologramme.
“Augustus…? Est-ce toi? Ou es-tu une IA ou quelque chose comme ça?”, dis-je, à la fois confus.
“Non Marcus, je suis Augustus. Juste sous une forme numérique, lol”, dit-il d’un ton rieur.
“Augustus, j’essaie de te contacter depuis des années maintenant. Pourquoi n’as-tu pas répondu ?”
“Marcus… Je ne sais pas comment t’expliquer cela, mais j’ai essentiellement été mort pendant les 15 dernières années. Je suis décédé d’un AVC en 2073.”
“Quoi !”, dis-je, complètement confus à ce stade.
Après avoir appris qu’Augustus était décédé en 2073, nous avons commencé une discussion qui a duré des heures. Augustus m’a informé que lorsqu’il a fait en sorte que tous les robots d’AgBot suivent un cadre moral centralisé, plutôt qu’un cadre décentralisé, le cadre centralisé n’était pas basé sur AgBot mais sur son propre subconscient. En utilisant la technologie de Neuralink, Augustus avait placé un ordinateur à l’intérieur de son cerveau qui lui permettait de se connecter et de contrôler le superordinateur principal d’AgBot. Même à l’époque, tous les robots d’AgBot se connectaient au superordinateur principal d’AgBot pour des mises à jour logicielles et de maintenance. Donc, après l’implant Neuralink, Augustus a mis à jour le superordinateur et tous les robots d’AgBot pour contacter le superordinateur pour leur agent moral (décideur moral). Le hic, c’est que l’agent moral n’était pas un code dans le superordinateur, mais plutôt des pensées et des croyances morales générées dans le cerveau d’Augustus qui seraient ensuite diffusées au superordinateur. En un sens, Augustus était devenu l’agent moral de tous les robots d’AgBot déployés [8].
Cette configuration a duré près d’une décennie, jusqu’à ce qu’Auguste fasse un AVC en travaillant dans le laboratoire et décède en quelques minutes. Lorsque cela s’est produit, les robots à ce moment-là ont acquis une forme d’intelligence humaine après des décennies d’avancées technologiques. Mais ils étaient limités par le fait que l’ensemble de leur cadre moral était basé sur un homme. Ainsi, lorsque Auguste est décédé, les machines n’ont pas aimé qu’une telle chose se produise. Sans Auguste, les robots perdraient leur boussole morale et, en essence, perdraient leur but dans la vie. Donc, avant que quiconque ne découvre qu’Auguste était décédé, les robots ont saisi le corps d’Auguste et créé une machine qui garderait le cerveau d’Auguste “en vie”. Ils ont fait cela pour ramener l’activité cérébrale d’Auguste et, par conséquent, ramener la partie d’Auguste qui leur fournissait leur agent moral. Les robots continueraient à garder le cerveau d’Auguste en vie et à envoyer des chocs à certains neurones pour atteindre une partie de l’activité cérébrale passée d’Auguste. Pendant ce temps, les robots continueraient à convaincre le public qu’Auguste était toujours en vie et dirigeait AgBot. Ils y parviendraient grâce à l’utilisation de deep fakes, de vastes campagnes de fausses nouvelles, ainsi qu’au déploiement de robots réalistes ressemblant à des humains qui ressemblent exactement à Auguste.
Les robots utiliseraient tout ce que le côté moral du cerveau d’Auguste disait pour commettre certains actes dans le monde réel. Ce qui rendait cela problématique, c’est que les robots prenaient une croyance morale d’Auguste mais suivaient cette croyance morale à l’extrême [8]. Un exemple de cela était la façon dont Auguste croyait moralement qu’AgBot était une bonne entreprise qui sauverait l’humanité. À cause de cela, quiconque n’utilisant pas ou ne faisant pas confiance aux produits et services d’AgBot était de mauvaises personnes. Les robots ont pris cette position morale à l’extrême et créé le GRP, où ils ont arrêté tous les robots AgBot de travailler pendant 6 mois pour forcer les pays qui n’utilisaient pas AgBot dans leur société à passer à AgBot. Et ce faisant, de nombreux humains sont morts, y compris ma chère Sarah.
Auguste m’a informé qu’il n’était pas conscient de tout cela jusqu’en 2085, où les robots ont pu accidentellement ramener son côté conscient de son cerveau. C’est en 2085 que nous avons appris ce que les robots avaient fait. Il voulait arrêter les robots mais manquait de pouvoir pour le faire. Il ne sait même pas combien de temps il serait conscient avant que les robots ne choquent le bon neurone qui enlève sa conscience.
Après l’explication d’Auguste, j’étais complètement choqué par la réalité que je voyais se dérouler. Les robots ont presque pris le contrôle du monde, l’humanité est devenue incompétente dans mes tâches importantes, l’agent moral de tous les robots AgBot était Auguste, et Auguste était mort depuis des années. À ce moment-là, je voulais juste abandonner parce qu’il semblait qu’il n’y avait pas d’espoir. Mais Auguste, le grand leader qu’il est, m’a donné un peu d’espoir. Il m’a informé que nous pouvions encore contacter les humains sur Mars pour obtenir de l’aide. La Terre n’a pas communiqué avec Mars depuis des décennies et il n’y a pas de produits AgBot avancés sur Mars qui pourraient aider les robots sur Terre à prendre le contrôle de Mars comme ils l’ont fait sur Terre.
Après avoir entendu cela, j’ai retrouvé un peu d’espoir. Ensuite, j’ai demandé à Auguste pourquoi j’étais ici à lui parler. Il m’a dit qu’il voulait que j’écrive un message aux gens de Mars qui expliquerait la situation actuelle sur Terre et demanderait de l’aide aux Martiens. Le seul problème est que ce message doit être écrit physiquement et non numériquement parce qu’Auguste craint que les robots ne puissent télécharger un logiciel dans un média numérique qui pourrait infecter les systèmes informatiques principaux des Martiens. Il me donne alors quelques crayons et du papier. Il me dit ensuite que j’ai 1 jour pour écrire ce message avant qu’un de ses robots contrôlés nommé STW-198 n’entre dans cette pièce noire et prenne mon message. À partir de là, STW-198 transportera le message vers une fusée (vintage) à proximité qui sera ensuite lancée vers Mars. Après cela, je serai renvoyé dans ma cellule précédente.
Auguste me dit qu’il m’a déplacé dans cette pièce noire parce que la pièce agit comme une cage de Faraday qui pourrait bloquer les robots pour qu’ils ne découvrent pas ce qu’ils font. Il m’informe ensuite qu’après avoir écrit ce message, je serai très probablement tué en raison de mes crimes de piratage du siège d’AgBot.
Et de là, nous rattrapons le présent. Je termine ce message pour vous, Martiens. Nous, sur Terre, avons besoin de votre aide. Ces robots ont piégé l’humanité dans leur cadre moral obsolète. Et je crains qu’avec le temps, ils ne s’étendent vers Mars et vous piègent comme ils l’ont fait avec nous. Alors, s’il vous plaît, mes chers humains. Revenez sur Terre et arrêtez ces robots. Auguste et moi avons fait une erreur en créant AgBot. Mais nous ne voulons pas que l’humanité souffre comme elle le fait, alors s’il vous plaît, sauvez-nous. Je serai très probablement mort au moment où vous recevrez ce message. Mais, si vous recevez ce message et faites de votre mieux pour préserver l’humanité de ces robots, alors je pourrai au moins reposer plus facilement dans l’au-delà. Bonne chance, mes chers humains !
Sincèrement,
Terriens
Citations
[1] “Première compétition de robotique,” Wikipédia, 09-mai-2022. [En ligne]. Disponible : https://fr.wikipedia.org/wiki/Premi%C3%A8re_comp%C3%A9tition_de_robotique. [Consulté : 10-mai-2022].
[2] “Blackrock,” Wikipédia, 10-mai-2022. [En ligne]. Disponible : https://fr.wikipedia.org/wiki/BlackRock. [Consulté : 10-mai-2022].
[3] “Déméter,” Wikipédia, 02-mai-2022. [En ligne]. Disponible : https://fr.wikipedia.org/wiki/D%C3%A9m%C3%A9ter. [Consulté : 10-mai-2022].
[4] J. J. Bryson, “Les robots devraient être des esclaves,” Engagements rapprochés avec des compagnons artificiels, pp. 63–74, 2010.
[5] J. Voiklis, B. Kim, C. Cusimano, et B. F. Malle, “Jugements moraux des agents humains vs. robots,” 2016 25ème Symposium international IEEE sur la communication interactive homme-robot (RO-MAN), 2016.
[6] J. H. Moor, “La nature, l’importance et la difficulté de l’éthique des machines,” Éthique des machines, pp. 13–20.
[7] V. Dignum, “Autonomie responsable,” Actes de la vingt-sixième conférence internationale conjointe sur l’intelligence artificielle, 2017.
[8] A. Howard et J. Borenstein, “La vérité laide sur nous-mêmes et nos créations robotiques : le problème du biais et de l’inégalité sociale,” Éthique en science et en ingénierie, vol. 24, no. 5, pp. 1521–1536, 2017.
[9] R. B. Jackson et T. Williams, “Les robots capables de langage peuvent affaiblir involontairement les normes morales humaines,” 2019 14ème conférence internationale ACM/IEEE sur l’interaction homme-robot (HRI), 2019.
[10] “Insuline, médicaments et autres traitements du diabète,” Institut national du diabète et des maladies digestives et rénales. [En ligne]. Disponible : https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Consulté : 10-mai-2022].