Achtergrondverhaal

Ik schreef het korte verhaal, The Diminished King, als mijn eindopdracht voor mijn Robot Ethics (HASS400) -vak tijdens het laatste semester van mijn bachelor aan de Colorado School of Mines. Voor deze opdracht kregen we de taak om een fictief kort verhaal te schrijven dat draaide om robotethiek en ook naar enkele van de papers te verwijzen die we tijdens het semester hadden gelezen in het korte verhaal. De eis voor dit verhaal was dat het 10 pagina’s lang moest zijn, waarvan ik 21 pagina’s heb geschreven. Ik raakte erg gepassioneerd over dit korte verhaal, dus ik ben er helemaal in losgegaan.

Nu, WAARSCHUWING, ik ben geen geweldige schrijver. Dus dit korte verhaal is niet perfect en heeft verfijning en een grote herschrijving nodig. Maar ik ben er trots op en denk dat het een leuk verhaal is om te lezen. Tijdens al mijn jaren op school begon ik plezier te krijgen in het schrijfproces, dus ik hoop uit te breiden naar het schrijven van andere dingen zoals blogs, artikelen, enz.

Wetende dit alles, werd het originele korte verhaal als PDF-bestand opgeslagen als onderdeel van de vereiste van de opdracht. Maar om de grootte van het document te verkleinen, heb ik het verhaal omgezet naar markdown. Wetende dit kan het hele korte verhaal hieronder worden bekeken/gelezen. Ik hoop dat je ervan geniet; neem contact met me op via mijn sociale media als je vragen of input hebt over dit korte verhaal.

Lees verder om The Diminished King te ontdekken…

DE VERMINDERDE KONING

Mehmet Hanifi Yilmaz
10 mei 2022

Korte samenvatting

In een toekomst waarin het lot van de aarde aan een zijden draadje hangt, beginnen Marcus Bruce, een technologisch wonderkind, en zijn vriend Augustus Elrod, een visionaire leider, aan een missie om de wereld te transformeren door middel van geavanceerde robotica. Hun creatie, AgBot, revolutioneert de wereldwijde landbouw en industrie en belooft een utopische toekomst. Maar terwijl hun tech-imperium groeit, dagen onvoorziene gevolgen de essentie van de menselijke moraal en vrijheid uit. Wanneer een catastrofale gebeurtenis die bekendstaat als de Grote Robotpauze het menselijk bestaan bedreigt, moet Marcus de duistere kant van hun nalatenschap onder ogen zien en pleiten om hulp van buiten de planeet. “The Diminished King” is een meeslepend verhaal over ambitie, macht en het delicate evenwicht tussen mens en machine, dat ons aanzet de ware prijs van vooruitgang in twijfel te trekken.

Verhaal

Ik ben hier om u te waarschuwen voor de kritieke situatie waarin de aarde zich nu bevindt! Als deze situatie niet op de juiste manier wordt aangepakt, kan zij de mensheid gemakkelijk naar haar ondergang brengen. Ik zou deze situatie in een paar zinnen willen uitleggen, maar helaas vereist de complexiteit van deze situatie dat ik uitleg wat eraan voorafging, zodat jullie de ernst ervan werkelijk kunnen begrijpen.

Ik ben een sleutelfactor in wat heeft geleid tot de huidige situatie van de aarde, dus laat me mij ten minste even voorstellen. Mijn naam is Marcus Bruce, ik ben geboren in een klein stadje in Colorado genaamd Ouray, in 2010. Ouray is een voorstedelijk gebied omringd door prachtige bergen. Ik ben geboren uit twee ouders die beiden leraren op de middelbare school waren. Mijn vader was wiskundeleraar en mijn moeder was natuurkundedocent.

Ik herinner me eigenlijk niet veel uit mijn vroege jeugd, omdat ik zou zeggen dat ik pas echt bewustzijn kreeg op 12-jarige leeftijd, in 2022. In dat jaar zat ik op de middle school en werd ik beschouwd als een kindergenie dat echt uitblonk in wiskunde en natuurwetenschappen. Mijn schooldirecteur wilde dat mijn ouders me van de 7e naar de 11e klas zouden laten overslaan. Maar mijn ouders waren het niet eens met de aanbeveling van mijn directeur omdat ze wilden dat ik een normale jeugd zou hebben. Ik ben dankbaar voor deze beslissing, omdat ik me herinner dat ik een geweldige jeugd had. Een jeugd in een tijd waarin de wereld meer geïntegreerd begon te raken met technologie. In plaats van er volledig door te worden opgeslokt. Nu maakte het feit dat ik een genie was 2022 voor mij tot een bijzonder jaar. Maar wat 2022 echt tot een bijzonder jaar maakte, was het feit dat ik dat jaar voor het eerst een toekomstige vriend voor lange tijd ontmoette, Augustus Elrod. Dezelfde Augustus die fundamenteel de sleutelgebeurtenissen uitlokte die de aarde brachten waar zij nu is.

Ik ontmoette Augustus in de 7e klas bij onze plaatselijke Lego-roboticaակումբ. Het eerste wat ik aan Augustus’ eigenschappen opmerkte, was hoe ambitieus en gedreven hij was. Zelfs als 12-jarige jongen was Augustus een echte leider, omdat hij ons plaatselijke Lego-roboticateam naar de overwinning in de nationale kampioenschappen van de Verenigde Staten kon leiden. Wat echt indrukwekkend was, gezien het feit dat iedereen in het team middelbare scholieren waren met weinig interesse om de techniek achter robotica te leren. Maar Augustus motiveerde die kinderen niet alleen om te willen leren en winnen, hij leidde hen ook naar de overwinning. Wij respecteerden Augustus allemaal als onze leider en Augustus had niet echt respect voor veel mensen. Maar hij respecteerde mij wel vanwege mijn intelligentie. Hij merkte mij eerst op vanwege mijn intelligentie en was verbaasd iemand in zijn leeftijdsgroep te ontmoeten die slimmer was dan hijzelf. Augustus deed zelfs tegen me mee op examens, maar verloor altijd. Maar net zoals ik Augustus altijd versloeg met mijn verstand, zou Augustus mij verslaan in sport. Na de les speelde hij basketbal en voetbal. Hij was zo goed in deze sporten dat velen dachten dat hij later een professionele atleet zou worden. Het respect dat we voor elkaar hadden, leidde uiteindelijk tot een langdurige vriendschap die helemaal tot in onze volwassen jaren zou voortduren.

Na onze middelbareschooljaren begonnen we in 2024 aan de high school. Tijdens onze highschooljaren deden zowel Augustus als ik mee aan de FIRST Robotics Competition (FRC) [1]. FRC was de grootste roboticawedstrijd in de Verenigde Staten en bestond voornamelijk uit highschoolleerlingen [1]. Tijdens FRC leerden we veel over werktuigbouwkunde, elektrotechniek en informatica. En dankzij Augustus’ geweldige leiderschapsvaardigheden waren we in staat om twee jaar op rij de nationale titel te winnen, wat destijds ongehoord was. Ook deed ik in die tijd mee aan meerdere wiskundewedstrijden en nam ik deel aan debatten over ethiekgerelateerde onderwerpen. Het was ook in deze periode dat Augustus bleef domineren in basketbal, door het varsity-team van de high school 3 jaar op rij naar de nationale kampioenschappen te leiden. We waren allebei begaafde studenten op onze eigen manier. Maar het was ook in deze tijd dat zowel Augustus als ik onze doelen in het leven ontwikkelden en, ten goede of ten kwade, die doelen bleven volgen tot het allerlaatste einde.

Gedurende mijn tijd op de high school ontdekte ik dat mijn doel in het leven is om de wereld beter te maken door middel van technologie. Ik accepteerde dat de wereld niet perfect zou zijn en dat zij altijd gebrekkig zal blijven. Maar destijds geloofde ik dat ik, als ik hard genoeg zou werken, ten minste de last van de wereld kon verlichten en een betere toekomst kon maken. Augustus had vergelijkbare doelen, maar was iets anders. Ik wist dat Augustus ambitieus was, maar ik wist nooit echt waar hij met zijn leven naartoe wilde totdat we in ons laatste jaar van de high school zaten.

Tijdens ons laatste jaar van de high school werden zowel Augustus als ik aangenomen en besloten we naar het Massachusetts Institute of Technology (MIT) te gaan. Augustus kreeg een kans aangeboden om voor de NBA gedraft te worden, maar hij wees dat aanbod af en besloot in plaats daarvan naar MIT te gaan. Ik hoorde dit eerst via Augustus’ ouders en nadat ik het had gehoord, belde ik Augustus en verliep ons gesprek ongeveer als volgt:

“Augustus, waarom heb je nee gezegd tegen de NBA? Dat is een kans die maar één keer in je leven voorkomt”, zei ik in verwarring.

“Marcus, de NBA zou leuk zijn, maar dat is het dan ook: leuk. Het zal de wereld niet veranderen. Als er al iets is, zou het me afleiden van het oplossen van deze wereld”, zei Augustus op een zelfverzekerde manier.

“De wereld veranderen? Wat bedoel je daarmee?”

“Ja, de wereld veranderen! Marcus, ik wil de mensheid naar een betere toekomst leiden. Ik wil de wereld redden!”

Ik pauzeerde een paar seconden, op de een of andere manier verraste het me meer dan ik had gedacht.

“De wereld redden? Wat bedoel je daarmee?”

“Marcus, jij en ik zijn begaafd. We willen allebei de wereld helpen. Jij blinkt uit als intellect, en ik blink uit als leider. Niet alleen dat, maar ik vertrouw jou, Marcus. Met jou en mijn vaardigheden kunnen we technologie ontwikkelen en verspreiden die de wereld ten goede kan veranderen. Daar ben ik van overtuigd!”

“Wauw, je bent ambitieuzer dan ik dacht, Augustus!”, zei ik, met aan het einde een klein lachje, “maar hoe denk je dat we zo’n taak zouden volbrengen?”

“Het korte antwoord is dit, Marcus; ik ben van plan een technologiebedrijf te beginnen. Daarna uit te breiden naar de politiek. Daarmee zowel financiële als politieke macht te verkrijgen. En van daaruit kunnen we de wereld veranderen. Jij zult een cruciale rol spelen in dit plan, Marcus!”

“Oké, Augustus. Dat is nog steeds erg ambitieus. Maar wanneer je een plan hebt uitgestippeld en je me nodig begint te hebben, zal ik er zijn.”

“Bedankt, mijn vriend, ik zie je op MIT!” zei Augustus op een enthousiaste toon.

Destijds betekende dit gesprek voor mij niet echt veel. Ik weet dat Augustus geweldig is, maar zijn dromen klonken meer als dromen dan als een mogelijke toekomst. Ik nam zijn bewering destijds niet serieus. Maar dat zou allemaal veranderen. Hoe dan ook, het was 2028 en ik keek ernaar uit om aan mijn bachelorstudie op MIT te beginnen.

Het was ook een spannende tijd om techniek te gaan studeren, omdat in hetzelfde jaar, 2028, de regering van de Verenigde Staten, NASA en SpaceX meer mensen begonnen te sturen om Mars te koloniseren. Slechts 2 jaar eerder stuurden ze slechts een paar mensen heen en weer naar de rode planeet. Maar nu begonnen zij en de rest van de wereld meer mensen naar Mars te sturen om zich daar te vestigen. Dit was een waar keerpunt in de menselijke geschiedenis en veroorzaakte een grote vraag naar en ontwikkeling van roboticaonderzoek, wat geweldig was omdat ik robotica wilde gaan studeren.

In het jaar 2030 hadden zowel ik als Augustus ons tweede jaar aan MIT voltooid. Ik volgde een dubbele major in robotica en ethiek, terwijl Augustus een major deed in robotica en politieke wetenschappen. Maar na ons tweede jaar op de universiteit begon Augustus de universiteit echt af te keuren. Hij zag het niet als een nuttig middel om zijn droom van “de wereld redden” te verwezenlijken. Dus sloeg Augustus tijdens zijn tweede jaar de meeste van zijn lessen over en zakte hij ook voor de meeste daarvan. In plaats van naar de les te gaan, richtte Augustus zich op het ontwikkelen van deze software, aangedreven door AI, die activa en aandelen effectief zou beheren. Hij wilde een vermogensbeheersoftware maken die beter was dan BlackRocks Aladdin-software op dat moment [2]. Hij had zoveel vertrouwen in zijn software dat hij na zijn tweede jaar MIT verliet en met deze nieuwe software die hij ontwikkelde zijn eerste zakelijke onderneming nastreefde. In mei 2030 verhuisde hij uit de slaapzalen en naar New York City. Ik baalde ervan dat Augustus was gestopt, maar het enige goede aan dit jaar was dat ik mijn toekomstige vrouw ontmoette, Sarah Raven.

Laten we nu overslaan naar het jaar 2038. Augustus was overal in het nieuws omdat hij net op 28-jarige leeftijd miljonair was geworden. Nadat hij zijn software voor een aanzienlijk bedrag aan BlackRock had verkocht, had Augustus bijna 100 miljoen dollar aan contanten en wat BlackRock-aandelenopties op zijn naam staan. Terwijl Augustus de financiële wereld veroverde, had ik net mijn twee PhD’s afgerond, in zowel Intelligent Robotics Systems als machine-ethiek. Niet alleen dat, maar in de zomer van 2038 zijn Sarah en ik getrouwd. Ik nodigde Augustus uit op mijn bruiloft, en ik zag Augustus voor het eerst in bijna 8 jaar op mijn bruiloft. Het was een leuke avond, maar terwijl we de bruiloft aan het afronden waren, vroeg Augustus me om hem te bellen wanneer ik wat vrije tijd had. Dus, na mijn en Sarah’s huwelijksreis, belde ik Augustus.

We praatten bijna 2 uur en in die tijd praatten we bij over het leven, maar daarna begon Augustus serieus te worden aan de telefoon. Augustus merkte op dat hij weet dat ik enorme bedragen aan studieschuld op mijn naam heb staan en dat ik nog geen baan heb gevonden. Dus bracht hij een baan ter sprake die hij me dacht te kunnen aanbieden. Dat was die van medeoprichter voor zijn nieuwe zakelijke onderneming. Deze nieuwe zakelijke onderneming is een startup genaamd AgBot, die zich zal richten op het automatiseren van de landbouw via AI en robotica. Augustus wil dat ik medeoprichter van AgBot word, omdat hij gelooft dat mijn technische vaardigheden waardevol zullen zijn bij het ontwikkelen van de benodigde architectuur om zulke slimme robotische systemen te ontwikkelen. Hij vertelde me ook dat hij me vertrouwt en hoe hij vertrouwen waardeert na zijn vorige partner hem in feite ertoe bracht zijn software aan BlackRock te verkopen. Na dit aanbod gehoord te hebben, accepteerde ik meteen, omdat ik erg enthousiast was over het project en hij gelijk had: ik zat diep in de schulden en had tot dat moment nog geen baanoffers.

AgBot wordt officieel opgericht in 2038. Ik en Sarah verhuizen terug naar Colorado, omdat daar AgBot gevestigd is. Meteen beginnen Augustus en ik met het bouwen van AgBot. In de loop van 5 jaar werden door zowel mij als Augustus belangrijke stappen gezet om AgBot te brengen waar het nu is. Ten eerste investeert Augustus zijn eigen kapitaal in het bedrijf. Daardoor konden we alles aanschaffen wat we nodig hadden om met het bouwen van enkele prototypes als proof of concept te beginnen. Het stelde Augustus ook in staat om andere ontwikkelaars aan te nemen die onder mij zouden werken aan de ontwikkeling van sleuteltechnologieën voor AgBot. Het was ook in deze periode dat we ons eerste product begonnen te ontwikkelen en uiteindelijk uitbrachten, Demeter [3]. Demeter is een vierwielige, lopende robot met in hoogte verstelbare poten. Hij bevat twee delta-robotarmen en twee 6-assige robotarmen. Het doel van Demeter is gewassen te beschermen tegen insecten, dieren en ziekten door deze gewassen tijdens hun vroege ontwikkelingsfasen te monitoren en te beheren. Hij kan ook worden gebruikt om gewassen te plukken van planten die niet gemakkelijk te automatiseren zijn met een tracker, zoals aardbeien. Naast de robot zelf werd Demeter ook geleverd met een eigen laadstation en een drone. Demeter kan zichzelf automatisch opladen en Demeter kan zijn dronevorm gebruiken om grote velden met gewassen te controleren om te zien welke gewassen het meest onderhoud nodig hebben. Deze robot was enigszins autonoom, maar had nog steeds een mens nodig om Demeter te monitoren en te repareren. Maar het belangrijkste voordeel dat Demeter bood, was dat één boer hiermee 1000 acre land tegelijk kon beheren, wat voorheen ongehoord was.

Demeter werd in mei 2043 aan het publiek uitgebracht met recordbrekende verkoopcijfers. Dankzij Demeters geavanceerde functies en Augustus’ en zijn teams geweldige marketingcampagne was Demeter onmiddellijk uitverkocht. Dit stelde andere investeerders gerust en leidde tot een enorme toename van financiering door andere investeerders. Deze extra financiering zorgde ervoor dat AgBot zijn activiteiten en ontwikkelingsteam kon uitbreiden. Het stelde AgBot ook in staat om in-door geautomatiseerde landbouwmodules te gaan ontwikkelen, die later in 2047 werden uitgebracht voor gebieden in de wereld die het zwaarst door klimaatverandering werden getroffen. Deze in-door modules waren ook enorm succesvol, wat de groei en rijkdom van AgBot alleen maar versnelde. In 2048 werd een meer geavanceerde versie van Demeter naar Mars gestuurd om te helpen met de landbouwinspanningen op Mars. Augustus was trots op mijn werk en gaf me naast mijn salaris ook veel aandelen van AgBot.

In 2050 ging AgBot naar de beurs en werd het gewaardeerd op 3 biljoen dollar. Dit was te danken aan het feit dat bijna elke boer in Amerika de landbouwproducten van AgBot gebruikte. Door naar de beurs te gaan, werd ik ’s nachts miljonair en Augustus werd ’s nachts een multi-miljardair. Naar de beurs gaan bracht ook meer kapitaal in AgBot, waardoor AgBot Tesla en Neuralink kon overnemen. Tesla en Neuralink werden tegen een lage prijs gekocht omdat, sinds Elon Musk is overleden, geen enkele CEO in staat was deze bedrijven effectief te beheren. Dit resulteerde in jaren van verloren winst voor beide bedrijven, waardoor ze bijna failliet gingen totdat AgBot ze allebei kocht voor slechts 900 miljard dollar. Zowel Tesla als Neuralink werden samengevoegd met AgBots Robotics Department en AgBot begon twee nieuwe producten te ontwikkelen. De eerste was een thuisassistent die werd ontwikkeld op basis van het oorspronkelijke ontwerp van de Tesla Bot [4]. Dit project kreeg de naam Agssistant-Bot. Het tweede product was een autonome bus die zou worden gebouwd op de technologie die Tesla gebruikte om elektrische auto’s te maken. Dit project kreeg de naam Auto-Bus. Auto’s werden in 2050 minder gebruikelijk doordat staten zwaar investeerden in betere transportsystemen, zoals bussen en treinen. In deze periode begon Augustus veel politieke campagnes te financieren en veel van deze politici werden uiteindelijk burgemeesters, senatoren, en één werd zelfs onderdeel van het congres. Dit bleek nuttig te zijn om AgBots macht in de Verenigde Staten te vergroten.

Tijdens 2051 begon ik samen met mijn team de beperkingen van huidige AI-algoritmen aan te pakken. Op dat moment waren al onze op landbouw gebaseerde robots niet alleen robuust qua bouwkwaliteit, maar ook bijna volledig autonoom. De belangrijkste beperkende factor was het gebrek van de AI aan een morele agent [5]. In een werkelijk intelligente robot moet er een morele agent zijn om de robot te helpen sturen binnen de sociale kaders van de samenleving. Bij AgBot probeerden we een morele agent voor onze bots te creëren door simpelweg morele regels hard te coderen in de code van de AI. Dit bleek ineffectief, dus gooiden we dat weg en schakelden we over op het laten bepalen van de morele keuzes van de robot door de gebruiker [6]. Dit werkt in principe, maar het vertraagde de automatisering van onze robots, omdat menselijke input nodig was telkens wanneer een robot iets tegenkwam waarvoor een vorm van moreel redeneren vereist zou zijn. Dit was prima voor onze op landbouw gebaseerde robots, maar het was een groot beperkend probleem voor AgBots streven naar de ontwikkeling van Agssistant en Auto-Bus voor het brede publiek [4]. Na 4 jaar ontwikkelen had mijn team het onmogelijke gedaan.

Tegen 2055 had mijn team de eerste succesvolle morele agent gecreëerd binnen de core code base voor alle AI-systemen van AgBot-robots. Deze morele agent maakte het mogelijk dat de robot zijn eigen morele keuzes kon maken die het beste de morele standpunten van veel mensen in de samenleving weerspiegelen [7]. De eerste agent wordt getraind op basis van een enorme database, maar terwijl de robot met mensen blijft omgaan, zal hij zijn morele kaders beter afstemmen op de mensen met wie hij interageert [8]. Dit was perfect, omdat het AgBots AI-framework voltooide tot op het punt waarop onze robots volledig autonoom konden zijn zonder enige menselijke input nodig te hebben. Dit jaar was ook een belangrijk jaar in de menselijke geschiedenis, omdat het het jaar was waarin Mars stopte met communiceren met de aarde. De nieuwe Mars-beschaving besloot zich af te splitsen van de aarde en een nieuwe samenleving op te bouwen die niet werd geregeerd door eerdere samenlevingen op aarde. Veel landen waren boos over de acties die de Martianen namen, maar vanwege de grote afstand tussen de aarde en Mars, evenals de grote problemen waarmee de aarde al werd geconfronteerd, begonnen landen op aarde dit probleem gewoon voor onbepaalde tijd te negeren.

Na het ontwikkelen van deze morele agent stelde ik hem voor aan Augustus en in 2060 hadden we de morele agent in onze hoofdcodebasis geïmplementeerd en uitgerold naar alle robots in onze productlijn. Het was ook in dit jaar dat AgBot eindelijk Agssistant vrijgaf aan het grote publiek, waarmee Augustus’ droom om een robot voor het grote publiek te creëren eindelijk werd vervuld. Bovendien werd Auto-Bus gelanceerd in grote steden in de hele Verenigde Staten. AgBot werd ook vrijgesteld van het betalen van enige overheidsbelastingen vanwege de enorme bijdrage van het bedrijf aan de economie, maar terugkijkend denk ik dat dit kwam door Augustus’ enorme invloed in de Amerikaanse regering via jaren van het stichten van politici. Het was ook in deze tijd dat de werkloosheid een recordhoogte bereikte; dit kwam doordat de morele agent menselijke banen volledig verwijderde uit de meeste robotsystemen. Dit resulteerde in enorme werkloosheid en een enorme vraag om te hervormen hoe de economie en het idee van werkgelegenheid zouden moeten werken in de Verenigde Staten. Dit was ook de eerste keer dat AgBot door het publiek in een negatief licht werd gezien. Augustus en ik ontvingen doodsbedreigingen van mensen die hun baan verloren hadden door de implementatie van de nieuwe functie van de morele agent. Het was ook in deze tijd dat ik meer begon te investeren in een beveiligingssysteem om mij en mijn vrouw te beschermen.

In 2063 werd het eerste geval van een robotmoord in de menselijke geschiedenis geregistreerd. De robot was een Agssistant-model en draaide de nieuwste AgBot-software, die tijdens zijn “woede-uitbarsting” de nieuwste codebasis van de morele agent bevatte. Tijdens de woede-uitbarsting van de robot doodde de robot op klaarlichte dag een 70-jarige man. De naam van de oude man was John Smith, die de Agssistant gebruikte om hem in huis te helpen en met andere taken die hij op zijn leeftijd niet zo gemakkelijk kon doen. Nadat de robot John had gedood, ging de robot vervolgens verder met zichzelf uiteen te scheuren totdat het weer begon te werken. John en de robot werden pas 3 dagen later ontdekt.

Toen dit nieuws bekend werd, werd het publiek gek. Het eiste dat Augustus uitlegde wat er was gebeurd. De aandelen van AgBot kelderden met 70% en meer dan 90% van de verzonden Agssistant-modellen werden teruggestuurd. Het enige goede aan dit alles destijds was dat het Agssistant-model dat de moord had gepleegd zijn logschijf niet had vernietigd; we konden zien wat er in de Agssistant was gebeurd waardoor het John had gedood.

Ik herinner me die nacht nog steeds. Het was 03:00 uur in het hoofdlab in het hoofdkantoor van AgBot en mijn team had onlangs de logs geladen. We keken dagenlang door de logs om erachter te komen wat er in godsnaam die nacht was gebeurd toen de Agssistant John doodde. Na 5 dagen graven vonden we ons antwoord. Er werd vastgesteld dat de oude man na verloop van tijd steeds hatelijker en gewelddadiger werd tegenover deze Agssistant [9]. Hij schold de Agssistant uit, sloeg hem en vulde onderdelen van de robot op een martelende manier met troep. Deze wrede daden werden hoogstwaarschijnlijk toegeschreven aan het feit dat John onlangs een scheiding had doorgemaakt en maandenlang geïsoleerd was geweest. Evenals andere mentale problemen waarmee John in dit latere deel van zijn leven kampte. Dus de manier waarop de Agssistant zich gedroeg, had John misschien bozer gemaakt zonder dat de Agssistant zich daarvan bewust was [10]. Hoe dan ook, deze “mishandeling” van de robot lijkt de robot ertoe te hebben aangezet om moreel te “geloven” dat John kwaadaardig was en daarom gedood moest worden. Maar wat nog verrassender was, was dat nadat de Agssistant John had gedood, het begon zichzelf te doden. De reden hiervoor was dat de robot nog steeds geloofde dat het doden van enig levend wezen immoreel was, maar het had dat net gedaan. De Agssistant kon, bij gebrek aan betere woorden, het morele dilemma waarin het zich bevond niet “aan”, dus doodde het vervolgens zichzelf. Dit was buitengewoon verschrikkelijk en destijds zag ik het als God die ons waarschuwde niet te spelen als God. Ik confronteerde Augustus over dit probleem, en hij was er kapot van.

Een paar maanden na de moord en nadat we hadden uitgezocht wat deze had veroorzaakt, maakte AgBot dit openbaar. Augustus wilde een manier vinden om dit te verdoezelen, zoals een leugen verzinnen dat John zijn Agssistant-model had aangepast. Maar door de enorme publieke vraag en druk van regeringen over de hele wereld gaf Augustus toe en liet AgBot hun bevindingen vrijgeven tijdens een persconferentie. Dit verwoestte de aandelen van het bedrijf en zorgde ervoor dat veel investeerders zich uit AgBot terugtrokken. Maar het ergste van alles was dat het Augustus’ reputatie besmeurde. Om de schade van dit incident te helpen beperken, was er een zondebok nodig om het grootste deel van de verantwoordelijkheid voor deze gebeurtenis op zich te nemen. De raad van bestuur wilde dat Augustus de schuld op zich nam en als CEO van AgBot zou vertrekken. Maar tot mijn verbazing verliet Augustus zijn positie niet, omdat hij door de jaren heen heimelijk steeds meer aandelen en activa van AgBot had gekocht. Dit resulteerde erin dat hij meer dan 15% van AgBot bezat, waardoor hij de meerderheid van de stemmen had. Dit leidde tot meer interne conflicten binnen het bedrijf, waardoor Augustus alle leden van de raad van bestuur met geweld eruit schold en die functies met nieuwe bestuursleden vulde. Ik zou later ontdekken dat die nieuwe bestuursleden simpelweg marionetten waren onder Augustus’ “heerschappij”. Dus, na deze enorme dip in AgBots vermogen, had Augustus met succes de volledige controle over AgBot verkregen. Niet alleen dat, maar hij had die bestuursleden de schuld laten dragen voor de moordzaak.

Augustus’ machtsovername van AgBot werd in de media goed verborgen gehouden. Dit was te danken aan de politieke macht die Augustus had. Evenals een enorme nepnieuwscampagne die Augustus over het internet verspreidde, wat het grote publiek echt in verwarring bracht en Augustus liet lijken alsof hij niet zo machtig was als hij werkelijk was. Ik was walgelijk van deze daad, omdat Augustus zichzelf in feite tot dictator van AgBot had gemaakt, wat voor mij zorgwekkend was omdat AgBot een enorme impact had op de economie en de wereld. Ik was tegen het idee dat Augustus degene zou zijn die alle keuzes maakte voor zo’n enorm bedrijf. Ik wilde een dergelijk idee niet steunen, dus vroeg ik Augustus om zijn acties te heroverwegen. Ik herinnerde hem aan onze jeugd en hoe we allebei de wereld wilden “redden”. Maar Augustus heroverwoog niet; in plaats daarvan verklaarde hij dat “ik (Augustus) de wereld zal redden”. Daarna legde hij uit hoe hij een hekel had aan het publiek en aan het idee van democratie. Ik was nu nog meer walgingwekkend door Augustus’ daden, dus nam ik die dag ontslag bij AgBot.

Terugkijkend denk ik dat Augustus’ daden werden gedreven door zowel het gevoel van verraad, angst, ambitie als narcisme. Hij had meer dan 25 jaar besteed aan het opbouwen en beheren van AgBot. Zijn rol in het bedrijf was fundamenteel om AgBot tot een van de machtigste bedrijven ter wereld te maken. AgBot droeg vervolgens bij aan het maken van geweldige robots, die niet alleen de productiviteit verhoogden maar ook hielpen de structuur van de samenleving te veranderen. Toch, ondanks al zijn harde werk en offers. Ondanks alle geweldige dingen die hij aan de samenleving bijdroeg en alle levens die hij redde of comfortabeler maakte. Het kostte één fout bij één AgBot-product om het publiek hem te laten haten en al die investeerders die hij rijk had gemaakt, te laten proberen hem te negeren. Dit “verraad” door het publiek is wat volgens mij Augustus’ reis naar het monster dat hij vandaag de dag is, in gang heeft gezet.

Na het verlaten van AgBot verbrak ik al mijn banden met Augustus. Het zou decennia duren voordat ik weer met hem sprak. Maar in die tijd in mijn leven was ik 53 jaar oud en wilde ik met pensioen gaan. Sarah had ook dezelfde instelling, dus besloten we van Colorado naar Ankara, Turkije te verhuizen om ons nieuwe leven als gepensioneerden te beginnen. Ik wilde meer tijd doorbrengen met mijn vrouw en bovendien beginnen te genieten van de vruchten van mijn arbeid. Tegen 2064 begonnen Sarah en ik met het verhuisproces naar Ankara. Gedurende deze tijd volgde ik nog steeds het nieuws over AgBot. Een belangrijk moment in deze periode was dat Augustus de morele agent binnen de AgBot-codebasis had overgeschakeld van een gedecentraliseerd raamwerk naar een gecentraliseerd raamwerk. Dit betekende dat AgBot al hun robots het vermogen zou ontnemen om individuele morele beslissingen te nemen en in plaats daarvan zou AgBot alle morele beslissingen voor alle robots onder AgBot bepalen [6]. Hoewel dit enigszins een oplossing was voor het probleem dat mijn oorspronkelijke morele agent had veroorzaakt, geloofde ik niet dat het een geldige technische beslissing was. Het gaf Augustus alleen maar meer macht over AgBot en de wereld. Maar op dat moment raakte ik dwaas genoeg AgBot en Augustus beu. Dus begon ik het nieuws over AgBot nauwelijks meer bij te houden en me meer te richten op mijn pensioen. Aan het einde van 2064 waren Sarah en ik naar Ankara verhuisd; waarmee onze reis als gepensioneerden begon.

Van 2064 tot 2074 was de wereld dramatisch veranderd. Bijna alle basistaken waren volledig geautomatiseerd door robots die door AgBot werden geproduceerd. Augustus bleef AgBot leiden en er deden zich geen incidenten zoals de moord in 2063 voor. Maar er gingen geruchten rond dat dergelijke incidenten wel degelijk hadden plaatsgevonden, en Augustus had die incidenten voor het publiek verborgen gehouden. AgBot had nu robots die bijna elke belangrijke taak in de samenleving uitvoerden, zoals: landbouw, koken, algemeen onderhoud, schoonmaken, beheren en zelfs entertainment. Niet alleen dat, maar AgBot had autonome medische robots ingezet, waardoor de kosten van medische rekeningen daalden en het aantal artsen in ziekenhuizen zo sterk werd verminderd dat er nu meestal slechts 1-10 artsen per groot ziekenhuis waren. Ook de samenleving was drastisch veranderd. Bijna alle laagbetaalde banen werden verwijderd en door de robots overgenomen [4]. Mensen hoefden alleen nog maar 2-daagse werkweken te doen en de andere 5 dagen te besteden aan ontspannen of aan hun persoonlijke hobby’s. Deze nieuwe vorm van de samenleving gold echter niet voor de meeste landen, omdat er nog steeds veel landen waren waar hun regeringen hun bevolking verhinderden om de robots van AgBot volledig in sleutelposities binnen hun samenlevingen op te nemen. In plaats daarvan wilden zij cruciale aspecten van hun samenleving volledig automatiseren met hun eigen technologie en niet met die van AgBot. Maar ondanks dit alles had AgBot de wereld veel beter doen lijken dan hij in 2038 was. In 2074 begon ik me schuldig te voelen over wat ik Augustus had aangedaan, omdat het erop leek dat zijn plannen om de wereld te “redden” echt hadden gewerkt.

Tijdens die 10 jaar genoot ik echt van mijn pensioen. Ik werd ook, in wezen, opnieuw verliefd op Sarah. We zagen de wereld en leerden veel nieuwe vaardigheden, zoals schilderen en vogels kijken. We zagen ook hoe de wereld veranderde in wat ik in zekere zin een “utopie” zou noemen. Maar helaas duurde die “utopie” niet lang.

In het jaar 2075 vond een van de ergste gebeurtenissen plaats die ooit in de menselijke geschiedenis zijn vastgelegd. De Grote Robotpauze (GRP) vond plaats. Gedurende 6 maanden stopten alle robots van AgBot met functioneren. Dit leidde tot een enorme wereldwijde economische ineenstorting, wat leidde tot de dood van bijna 3 miljard mensen. Dit kwam voornamelijk door hongersnoden veroorzaakt doordat landbouwrobots volledig stilvielen, evenals doordat bijna alle medische robots ook volledig stilvielen. Tijdens die 6 maanden stierven veel mensen omdat ze simpelweg niet wisten hoe ze voor zichzelf moesten zorgen zonder hun robots. Mensen zijn vergeten, of hebben zelfs nooit geleerd, hoe ze basistaken moesten uitvoeren zoals: koken, schoonmaken, voedsel verbouwen en over het algemeen voor zichzelf zorgen. Dus toen de robots stopten met werken, waren de meeste mensen niet in staat om voor zichzelf te zorgen en te overleven, wat binnen slechts 6 maanden leidde tot de dood van miljarden. Het was ook tijdens die tijd; ik verloor Sarah….

Tijdens haar jaren 50 kreeg Sarah diabetes type II. Hierdoor moest Sarah elke dag vier insuline-injecties nemen [10]. Toen de GRP plaatsvond, stopte de volledige productie van insuline. We hadden slechts genoeg insuline-injecties op voorraad om 5 maanden mee te gaan. Ik probeerde meer insuline te vinden, maar dat was bijna onmogelijk en buiten ons huis werd het gevaarlijker door al het geweld dat plaatsvond als gevolg van al het lijden veroorzaakt tijdens de periode van de GRP. Dus, tijdens de laatste 1 maand van de GRP, overleed Sarah helaas….

In de tweede helft van 2075 kwam de GRP tot een einde. Tegen 2085 was de wereld enigszins hersteld van de GRP. De economie begon weer normaal te worden en de kwaliteit van leven werd net zo goed als vóór de GRP. De wereld wilde weten wat ervoor zorgde dat alle AgBot-robots stopten met werken. Mensen wilden weten waarom de GRP plaatsvond en ze wilden iemand de schuld geven. Augustus en de regering van de Verenigde Staten verklaarden tijdens hun persconferentie dat de GRP werd veroorzaakt door een kwaadaardige cyberaanval uitgevoerd door een hackersgroep bekend als jUdas. Van deze hackersgroep werd gezegd dat zij was opgericht en gefinancierd door de Noord-Koreaanse regering, met de bedoeling de functionaliteit van AgBot in de wereld uit te schakelen en te vernietigen. Van alle landen ter wereld was Noord-Korea het meest hardnekkig als het ging om het aannemen van de technologie van AgBot. Dus het gepresenteerde verhaal had enige logica. En doordat mensen wanhopig waren om iemand te vinden om de schuld te geven voor het GRP-gebeuren, accepteerden de mensen dit verhaal onmiddellijk. Dit leidde tot de oorlog met Noord-Korea, waarbij de Verenigde Staten in 2078 hun invasie van Noord-Korea begonnen en voltooiden. De invasie duurde minder dan een jaar, dankzij AgBot die het Amerikaanse leger voorzag van geavanceerde op oorlog gebaseerde technologieën. AgBot gaf het Amerikaanse leger nuke-deactivators die alle kernwapens in Noord-Korea onmogelijk maakten om te lanceren. Ze leverden het leger ook humanoïde robotsoldaten, die veel sneller en sterker waren dan welke menselijke soldaat dan ook. Met deze twee sleuteltechnologieën van AgBot kon de VS Noord-Korea binnenvallen en de huidige regering vervangen door een tijdelijke regering die door AgBot werd beheerd.

Na het horen van dit verhaal geloofde ik het meteen niet. Ten eerste beschikte Noord-Korea niet over de noodzakelijke technologieën om zelfs maar de megaveiligheidsnormen te overtreffen die AgBot op al hun producten gebruikt. Ten tweede lijkt het te toevallig dat het enige land ter wereld dat AgBot niet in hun land accepteerde, ook het land was dat AgBot had gehackt. Ten derde lijkt dit verhaal en de manier waarop het over meerdere nieuwszenders wordt verspreid op de manier waarop Augustus desinformatie zou verspreiden om bepaalde ideeën over AgBot aan het grote publiek op te dringen. Met dit alles in gedachten wilde ik Augustus confronteren en echt leren wat de GRP veroorzaakte.

Ik probeerde via meerdere kanalen contact op te nemen met Augustus, maar had geen geluk. Ik probeerde Augustus rechtstreeks te bereiken, maar hij beantwoordde geen van mijn berichten. Ik probeerde contact op te nemen met mijn voormalige collega’s, maar ook niemand van hen antwoordde. Ik probeerde contact op te nemen met huidige werknemers bij AgBot, maar ik kreeg ook geen reactie. Ik probeerde contact op te nemen met de Amerikaanse overheid en het leger en ik kwam wel in contact met enkele mensen, maar ze vertelden me allemaal dat ik gewoon moest blijven proberen Augustus rechtstreeks te contacteren of AgBot-klantenservice moest bellen. Dus bleef ik Augustus rechtstreeks proberen te contacteren, zonder succes. Ik probeerde AgBot-klantenservice te contacteren, maar zij wilden me niet helpen om met Augustus te praten. Daarna begon ik opnieuw met de Amerikaanse overheid te praten en ze bleven gewoon hetzelfde zeggen. Ik bleef dit maandenlang doen, totdat zowel AgBot-klantenservice als de Amerikaanse overheid mij gewoon blokkeerden van hun contactlijnen. Omdat dit mislukte, probeerde ik via internet meer informatie te vinden, maar gaf na een paar maanden op. Omdat geen van deze legale methoden werkte, besloot ik in te breken in de computersystemen van AgBot om zelf de waarheid te achterhalen. Toen Sarah nog leefde, zou ik nooit zo’n illegale daad hebben gepleegd. Maar na het verlies van Sarah was ik op een punt aangekomen waarop ik het gevoel had niets meer te verliezen te hebben, en ik wilde gewoon de waarheid leren kennen over wat de GRP veroorzaakte… Wat heeft bijgedragen aan de dood van mijn geliefde vrouw…?

Ik begon deze grote hack in 2085 vanuit een van mijn verborgen bases in Turkije, Istanbul. Dankzij mijn rijkdom was ik in staat de nodige hulpmiddelen te kopen om in te breken in het hoofdkantoor van AgBot. Het kostte meer dan 2 jaar van onafgebroken werk om eindelijk root-toegang te krijgen tot het hoofdsysteem van AgBot. Het was oktober 2087 toen ik root-toegang kreeg en begon met het ontsleutelen van de gegevens die ik uit het hoofdsysteem van AgBot had verzameld, toen ik plotseling werd vastgehouden door de Turkse robotpolitie die Istanbul patrouilleerde. Na mijn aanhouding vernietigde de robotpolitie al mijn computers, gereedschappen en brandde uiteindelijk mijn hele huis plat. Daarna werd ik in een kooi geplaatst en vervoerd naar een gevangenis in Denver, Colorado, vlak bij het hoofdkantoor van AgBot. Ik kreeg geen proces en werd gedwongen 24 uur per dag in mijn cel te blijven, zonder enig idee of ik ooit tijd buiten zou krijgen, laat staan vrijgelaten zou worden.

In deze gevangenis werd ik 24 uur per dag, 7 dagen per week gemonitord via camera’s en robots. Ik kreeg de minimale hoeveelheid voedsel en water die nodig was om te overleven en het leek alsof ik de enige mens in de gevangenis was. Deze “levensstijl” op 77-jarige leeftijd was moeilijk voor mij en ik belandde op dat punt in mijn leven in een van de ergste depressies uit mijn leven. Ik werd 1 jaar lang in deze gevangenis gehouden totdat ik in juli 2088 naar deze willekeurige kamer werd vervoerd.

Deze kamer was niet zoals mijn vorige cel. Er waren geen lichten in de kamer en alle muren waren donkerzwart. Niet alleen dat, maar de kamer was stil. Het voelde meer aan als een cel voor waanzin dan als een normale gevangeniscel/kamer. Nou, in de cel begon ik de muren aan te raken. De textuur van de muren was schuimachtig, evenals de vloer en het plafond. Ik werd urenlang in deze kamer geplaatst en ik probeerde te schreeuwen om antwoorden in de hoop een verklaring te krijgen waarom de hell ik in deze kamer was geplaatst. Maar na enige tijd ging ik op de vloer zitten en viel gewoon in slaap.

Na God mag weten hoeveel uur werd ik gewekt door iemands stem en een fel licht. Toen ik wakker werd, keek ik rond in mijn kamer en zag alleen een blauwe hologram. De hologram was die van een menselijke man die op Augustus leek. Maar wat hier vreemd aan was, was dat hij Augustus uit 2064 leek. Ik was zo vreemd van dit hologram dat ik niets zei totdat het hologram tegen me begon te praten.

“Hallo Marcus, het is even geleden.”, zei de hologram.

“Augustus…? Ben jij dat? Of ben je een AI of zoiets?”, zei ik, volledig verward.

“Nee Marcus, ik ben Augustus. Gewoon in digitale vorm, lol”, zei hij lachend.

“Augustus, ik heb al jaren geprobeerd contact met je op te nemen. Waarom heb je niet geantwoord?”

“Marcus…. Ik weet niet hoe ik dit aan je moet uitleggen, maar ik ben de afgelopen 15 jaar eigenlijk al dood. Ik ben in 2073 overleden aan een beroerte.”

“Wat!”, zei ik op dat moment volledig van slag.

Nadat ik had geleerd dat Augustus al in 2073 was overleden, begonnen we een gesprek dat uren duurde. Augustus vertelde me dat toen hij ervoor zorgde dat de morele agent van alle AgBot-robots een gecentraliseerd kader volgde, in plaats van een gedecentraliseerd kader, het gecentraliseerde kader niet gebaseerd was op AgBot maar op zijn eigen onderbewustzijn. Met behulp van de technologie van Neuralink had Augustus een computer in zijn hersenen geplaatst waarmee hij verbinding kon maken met de hoofdsupercomputer van AgBot en deze kon besturen. Zelfs toen al maakten alle AgBot-robots verbinding met de hoofdsupercomputer van AgBot voor software-updates en onderhoud. Dus na het Neuralink-implantaat heeft Augustus de supercomputer en alle AgBot-robots bijgewerkt zodat ze verbinding maakten met de supercomputer voor hun morele agent (morele beslisser). Het addertje onder het gras was dat de morele agent geen code in de supercomputer was, maar eerder morele gedachten en overtuigingen die in Augustus’ hersenen werden gegenereerd en vervolgens naar de supercomputer werden gestreamd. In zekere zin was Augustus de morele agent geworden voor alle AgBot-robots in gebruik [8].

Deze opzet ging bijna een decennium lang door, totdat Augustus tijdens het werken in het lab een beroerte kreeg en binnen enkele minuten overleed. Toen dit gebeurde, ontwikkelden de robots op dat moment na decennia van technologische vooruitgang een vorm van menselijke intelligentie. Maar ze werden beperkt door het feit dat hun hele morele kader gebaseerd was op één man. Dus, toen Augustus overleed, vonden de machines het niet prettig dat zoiets gebeurde. Zonder Augustus zouden de robots hun morele kompas verliezen en daarmee hun doel in het leven. Dus, voordat iemand kon ontdekken dat Augustus was overleden, grepen de robots Augustus’ lichaam en creëerden ze een machine die Augustus’ brein “levend” zou houden. Ze deden dit om Augustus’ hersenactiviteit terug te brengen en daarmee het deel van Augustus terug te brengen dat hun morele agent leverde. De robots zouden Augustus’ brein levend blijven houden en shocks blijven sturen naar bepaalde neuronen om een deel van Augustus’ vroegere hersenactiviteit te bereiken. Terwijl dit gebeurde, zouden de robots het publiek blijven overtuigen dat Augustus nog steeds leefde en AgBot leidde. Ze zouden dit bereiken door middel van deepfakes, massale nepnieuwscampagnes, evenals de inzet van realistische menselijke robots die precies op Augustus lijken.

De robots zouden alles gebruiken wat Augustus’ morele kant van de hersenen zei om bepaalde handelingen in de echte wereld te verrichten. Wat dit tot een probleem maakte, was dat de robots een morele overtuiging van Augustus zouden nemen, maar die morele overtuiging tot het uiterste zouden doortrekken [8]. Een voorbeeld hiervan was hoe Augustus moreel geloofde dat AgBot een goed bedrijf was dat de mensheid zou redden. Daarom zijn iedereen die AgBot-producten en -diensten niet gebruikt of vertrouwt slechte mensen. De robots namen deze morele houding tot het uiterste en creëerden de GRP, waarbij ze alle AgBot-robots 6 maanden lang lieten stoppen met werken om landen die AgBot niet in hun samenleving gebruikten ertoe te bewegen over te stappen op AgBot. En daarbij stierven veel mensen, waaronder mijn geliefde Sarah.

Augustus vertelde me dat hij zich van dit alles niet bewust was totdat 2085 aanbrak, toen de robots per ongeluk het bewuste deel van zijn brein weer tot leven konden brengen. In 2085 ontdekten we wat de robots hadden gedaan. Hij wilde de robots stoppen, maar heeft niet de macht om dat te doen. Hij weet niet eens hoe lang hij bewust zou blijven voordat de robots het juiste neuron schokken dat zijn bewustzijn verwijdert.

Na Augustus’ uitleg was ik volledig geschokt door de werkelijkheid die ik voor me zag afspelen. De robots hebben de wereld bijna overgenomen, de mensheid is onbekwaam geworden in mijn belangrijke taken, de morele agent voor alle AgBot-robots was Augustus, en Augustus was al jaren dood. Op dat moment wilde ik gewoon opgeven omdat het leek alsof er geen hoop meer was. Maar Augustus, de grote leider die hij is, gaf me toch wat hoop. Hij liet me weten dat we nog steeds contact kunnen opnemen met de mensen op Mars voor hulp. De aarde heeft al tientallen jaren niet meer met Mars gecommuniceerd en er zijn geen geavanceerde AgBot-producten op Mars die de robots op aarde zouden kunnen helpen Mars over te nemen zoals ze de aarde hebben overgenomen.

Na dit gehoord te hebben, kreeg ik weer wat hoop. Daarna vroeg ik Augustus waarom ik hier met hem sprak. Hij vertelde me dat hij wilde dat ik een boodschap zou schrijven aan de mensen op Mars waarin de huidige situatie op aarde werd uitgelegd en waarin de Marsbewoners om hulp werd gevraagd. Het enige probleem is dat deze boodschap fysiek geschreven moet worden en niet digitaal, omdat Augustus vreest dat de robots mogelijk software zouden kunnen uploaden in digitale media die de hoofdsystemen van de Marsbewoners zouden kunnen infecteren. Dus geeft hij me vervolgens wat potloden en papier. Daarna vertelt hij me dat ik 1 dag heb om deze boodschap te schrijven voordat een van zijn gecontroleerde robots, STW-198 genaamd, deze zwarte kamer binnenkomt en mijn boodschap ophaalt. Van daaruit zal STW-198 de boodschap vervoeren naar een nabijgelegen (vintage) raket, die vervolgens naar Mars zal worden gelanceerd. Daarna zal ik terug worden verplaatst naar mijn vorige cel.

Augustus vertelt me dat hij me in deze zwarte kamer heeft gezet omdat de kamer functioneert als een kooi van Faraday die de robots ervan zou kunnen weerhouden te achterhalen wat ze aan het doen zijn. Hij laat me vervolgens weten dat nadat ik deze boodschap heb geschreven, ik hoogstwaarschijnlijk zal worden gedood vanwege mijn misdaden van het hacken van AgBot HQ.

En vanaf daar komen we bij het heden. Ik ben deze boodschap voor jullie, Marsbewoners, aan het afronden. Wij op aarde hebben jullie hulp nodig. Deze robots hebben de mensheid gevangen in hun verouderde morele kader. En ik vrees dat ze zich na verloop van tijd naar Mars zullen uitbreiden en jullie zullen opsluiten zoals ze dat bij ons hebben gedaan. Dus, alstublieft, mijn medemensen. Kom terug naar de aarde en stop deze robots. Ik en Augustus hebben een fout gemaakt door AgBot te creëren. Maar we willen niet dat de mensheid lijdt zoals zij nu lijdt, dus alsjeblieft, red ons. Ik zal hoogstwaarschijnlijk dood zijn tegen de tijd dat jullie deze boodschap krijgen. Maar als jullie deze boodschap ontvangen en jullie uiterste best doen om de mensheid tegen deze robots te beschermen, dan kan ik in het hiernamaals ten minste wat rustiger zijn. Veel succes, mijn medemensen!

Met vriendelijke groet,
Aardelingen

Citaties

[1] “Eerste Robotics Competition,” Wikipedia, 09-mei-2022. [Online]. Beschikbaar: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Geraadpleegd: 10-mei-2022].

[2] “Blackrock,” Wikipedia, 10-mei-2022. [Online]. Beschikbaar: https://en.wikipedia.org/wiki/BlackRock. [Geraadpleegd: 10-mei-2022].

[3] “Demeter,” Wikipedia, 02-mei-2022. [Online]. Beschikbaar: https://en.wikipedia.org/wiki/Demeter. [Geraadpleegd: 10-mei-2022].

[4] J. J. Bryson, “Robots zouden slaven moeten zijn,” Close Engagements with Artificial Companions, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, en B. F. Malle, “Morele oordelen van menselijke versus robotagenten,” 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN), 2016.

[6] J. H. Moor, “De aard, het belang en de moeilijkheid van machine-ethiek,” Machine Ethics, pp. 13–20.

[7] V. Dignum, “Verantwoordelijke autonomie,” Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence, 2017.

[8] A. Howard en J. Borenstein, “De lelijke waarheid over onszelf en onze robotcreaties: Het probleem van bias en sociale ongelijkheid,” Science and Engineering Ethics, vol. 24, no. 5, pp. 1521–1536, 2017.

[9] R. B. Jackson en T. Williams, “Taalvaardige robots kunnen onbedoeld menselijke morele normen verzwakken,” 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2019.

[10] “Insuline, medicijnen, & andere diabetesbehandelingen,” National Institute of Diabetes and Digestive and Kidney Diseases. [Online]. Beschikbaar: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Geraadpleegd: 10-mei-2022].