背景故事

我写的短篇故事《减少的国王》是我在科罗拉多矿业学院本科最后一个学期的机器人伦理 (HASS400) 课程的期末作业。对于这个作业，我们被要求写一个围绕机器人伦理的虚构短篇故事，并在故事中引用我们在学期中阅读的一些论文。这个故事的要求是必须有10页长，而我写了21页。我对这个短篇故事非常热情，所以我在这方面投入了很多精力。

现在，警告，我不是一个伟大的作家。因此，这个短篇故事并不完美，需要修订和大幅重写。但我为此感到自豪，并认为这是一个有趣的阅读。在我所有的求学岁月中，我开始享受写作的过程，所以我希望能扩展到写其他东西，比如博客、文章等。

知道这一切后，原始短篇故事作为作业要求被保存为PDF文件。但为了减少文件大小，我将故事转换为markdown。知道这一点后，整个短篇故事可以在下面查看/阅读。希望你喜欢这篇阅读，如果你对这个短篇故事有任何问题或意见，请在我的社交媒体上联系我。

继续阅读以发现减少的国王…

减少的国王

梅赫梅特·哈尼菲·伊尔马兹
2022年5月10日

简介

在一个地球命运岌岌可危的未来，技术天才马库斯·布鲁斯和他的朋友奥古斯都斯·埃尔罗德，一位有远见的领导者，踏上了通过先进机器人技术改变世界的使命。他们的创造物AgBot彻底改变了全球农业和工业，承诺一个乌托邦的未来。但随着他们的科技帝国不断壮大，意想不到的后果挑战着人类道德和自由的本质。当一个被称为“大机器人暂停”的灾难性事件威胁到人类生存时，马库斯必须面对他们遗产的黑暗面，并请求星际援助。《减少的国王》是一个关于雄心、权力以及人类与机器之间微妙平衡的扣人心弦的故事，促使我们质疑进步的真正代价。

故事

我在这里提醒你们，地球正处于危急情况！如果不妥善处理，这种情况很容易导致人类的灭亡。我希望我能用几句话来解释这个情况，但可悲的是，这种情况的复杂性需要我解释导致这一切的原因，以便你们真正理解其严重性。

我是导致地球当前情况的关键因素之一，所以让我至少自我介绍一下。我的名字是马库斯·布鲁斯，我于2010年出生在科罗拉多州一个名叫乌雷的小镇。乌雷是一个被美丽山脉环绕的郊区。我出生在两位都是高中教师的父母家庭。我的父亲是一名数学老师，我的母亲是一名科学老师。

我对早期童年记忆不多，因为我会说我直到12岁才真正获得意识，那是在2022年。在这一年，我上初中，被认为是一个在数学和科学方面表现出色的神童。我的校长希望我的父母让我从七年级跳到十一年级。但我的父母不同意校长的建议，因为他们希望我有一个正常的童年。我对这个决定心存感激，因为我确实记得拥有一个美好的童年。那是一个世界开始与科技更加融合的时代，而不是完全被其吞噬。现在，得知我是一个神童使2022年对我来说变得特别。但真正让2022年特别的是我第一次遇见了我未来的长期朋友奥古斯都斯·埃尔罗德。正是这位奥古斯都斯在根本上推动了导致地球现状的关键事件。

我在七年级的本地乐高机器人俱乐部遇见了奥古斯都斯。我注意到奥古斯都斯的第一个特点是他是多么的雄心勃勃和有干劲。即使作为一个12岁的男孩，奥古斯都斯也是一个真正的领导者，因为他能够带领我们的乐高机器人团队赢得美国全国赛。这真是令人印象深刻，因为团队中的每个人都是对学习机器人工程不太感兴趣的初中生。但奥古斯都斯不仅激励那些孩子们想要学习和获胜，而且他还带领他们走向胜利。我们都尊重奥古斯都斯作为我们的领导者，而奥古斯都斯并不太尊重很多人。但他确实尊重我的智慧。他第一次注意到我的聪明才智，并对能在他同龄人中遇到比他更聪明的人感到震惊。奥古斯都斯甚至在考试中与我竞争，但总是输给我。但正如我总是智胜奥古斯都斯一样，奥古斯都斯在体育方面总是胜过我。他在课后打篮球和足球。他在这些运动中表现得如此出色，以至于许多人认为他长大后会成为一名职业运动员。我们之间的这种相互尊重，最终导致了一段持续到成年时期的长久友谊。

在我们初中毕业后，我们在2024年开始了高中生活。在我们的高中时期，我和奥古斯都斯参加了FIRST机器人竞赛（FRC）[1]。FRC是美国最大的机器人竞赛，主要由高中生组成[1]。在参加FRC的过程中，我们学到了很多关于机械、电气和计算机工程的知识。多亏了奥古斯都斯出色的领导能力，我们连续两年赢得了全国赛，这在当时是前所未有的。此外，在这段时间里，我参加了多场数学竞赛，并参与了关于伦理主题的辩论。也是在这段时间，奥古斯都斯在篮球方面继续占据主导地位，带领高中校队连续三年进入全国赛。我们都是各自领域的优秀学生。但也是在这段时间，我和奥古斯都斯确立了人生目标，无论好坏，始终追随这些目标直到最后。

在我高中期间，我发现我的人生目标是通过科技使世界变得更美好。我接受了世界不会完美，永远会有缺陷的事实。但在当时，我相信如果我努力工作，我至少可以减轻世界的负担，创造一个更美好的未来。奥古斯都斯有类似的目标，但略有不同。我知道奥古斯都斯很有雄心，但我从未真正知道他想要如何度过他的生活，直到我们高中的最后一年。

在我们高中的最后一年，我和奥古斯都斯都被麻省理工学院（MIT）录取并决定入学。奥古斯都斯获得了被NBA选中的机会，但他拒绝了这个机会，决定去MIT。我第一次通过奥古斯都斯的父母得知这个消息，得知后我给奥古斯都斯打了电话，我们的对话大致如下：

“奥古斯都斯，为什么你拒绝NBA？那是一次千载难逢的机会。”我困惑地说。

“马库斯，NBA会很有趣，但仅此而已。它不会改变世界。如果有什么，它会让我分心，无法修复这个世界。”奥古斯都斯自信地说。

“改变世界？你是什么意思？”

“是的，改变世界！马库斯，我想引领人类走向更美好的未来。我想拯救世界！”

我停顿了几秒钟，感到比我想象的更惊讶。

“拯救世界？你是什么意思？”

“马库斯，你我都是天才。我们都想帮助世界。你在智力上表现出色，而我在领导力上表现出色。不仅如此，我相信你，马库斯。凭借你和我的技能，我们可以开发和分发能够改善世界的技术。我对此充满信心！”

“哇，你比我想象的更有雄心，奥古斯都斯！”我最后笑着说，“但你说我们如何实现这样的任务？”

“简单来说，马库斯；我计划创办一家科技公司。然后，扩展到政治领域。通过这样，获得经济和政治权力。然后，我们就可以改变世界。你将在这个计划中扮演关键角色，马库斯！”

“好的，奥古斯都斯。这仍然非常雄心勃勃。但当你有了计划并开始需要我时，我会在那里的。”

“谢谢你，我的朋友，我会在MIT见到你！”奥古斯都斯兴奋地说。

当时，这段对话对我来说并没有太大意义。我知道奥古斯都斯很棒，但他的梦想听起来更像是梦想，而不是可能的未来。我当时并没有认真对待他的说法。但这一切都会改变。无论如何，2028年我期待着开始我的MIT本科生涯。

这也是一个开始学习工程的激动人心的时刻，因为在同一年，2028年，美国政府、NASA和SpaceX开始派更多人去殖民火星。仅在两年前，他们只派了几个人往返于红色星球。但现在，他们和世界其他地方开始派更多人去火星定居。这是人类历史上的一个真正转折点，导致了机器人研究的重大需求和发展，这很好，因为我想主修机器人技术。

在2030年，我和奥古斯都都完成了在麻省理工学院的第二年。我主修机器人技术和伦理学，而奥古斯都则主修机器人技术和政治科学。但在大学的第二年后，奥古斯都开始非常厌恶大学。他并不认为这是一种实现“拯救世界”梦想的有用工具。因此，在他的第二年，奥古斯都跳过了大部分课程，并且大多数课程都不及格。与其上课，奥古斯都专注于开发一种由人工智能驱动的软件，该软件能够有效管理资产和股票。他想要制作一种比当时黑石集团的阿拉丁软件更好的资产管理软件[2]。他对自己的软件充满信心，以至于在第二年后退学，追求他正在开发的新软件的第一次商业冒险。他在2030年5月搬出了宿舍，搬到了纽约市。我对奥古斯都退学感到失望，但这一年唯一的好事是我遇到了我的未来妻子，莎拉·雷文。

现在，让我们跳到2038年。奥古斯都频频出现在新闻上，因为他在28岁时刚刚成为了百万富翁。在将他的软件以可观的金额出售给黑石集团后，奥古斯都名下几乎有1亿美元的现金和一些黑石股票期权。虽然奥古斯都在征服金融世界，我刚刚完成了我的两个博士学位，分别是智能机器人系统和机器伦理学。不仅如此，在2038年夏天，莎拉和我结婚了。我邀请奥古斯都参加我的婚礼，并在婚礼上见到了近8年来的第一次奥古斯都。那是一个有趣的夜晚，但在我们结束婚礼时，奥古斯都让我在有空的时候给他打电话。因此，在我和莎拉的蜜月之后，我给奥古斯都打了电话。

我们聊了将近两个小时，在那段时间里我们聊到了生活，但之后，奥古斯都开始在电话中变得严肃。奥古斯都提到他知道我背负着巨额的学生债务，并且我还没有找到工作。因此，他提到一个他认为可以提供给我的工作。这是成为他新商业冒险的联合创始人。这个新商业冒险是一家名为AgBot的初创公司，专注于通过人工智能和机器人技术自动化农业。奥古斯都希望我成为AgBot的联合创始人，因为他相信我的技术技能对开发所需的架构以开发这样的智能机器人系统将是有价值的。他还告诉我他信任我，并且在他上一个合作伙伴基本上迫使他将软件出售给黑石集团后，他非常重视信任。在听到这个提议后，我立刻接受了，因为我对这个项目感到非常兴奋，而他是对的，在那之前我背负着巨额债务，没有工作机会。

AgBot于2038年正式成立。我和莎拉搬回科罗拉多州，因为AgBot就位于那里。立刻，奥古斯都和我开始着手建立AgBot。在接下来的5年里，我和奥古斯都采取了关键步骤，使AgBot发展到现在的状态。首先，奥古斯都将自己的资本投资到公司中。这使我们能够获得开始构建一些原型作为概念验证所需的一切。这也使奥古斯都能够雇佣其他开发人员在我手下开发AgBot所需的关键技术。也是在这段时间里，我们开始开发并最终发布了我们的第一款产品，德梅特[3]。德梅特是一款四轮腿机器人，腿高可调。它配备了两个Delta机器人手臂和两个6轴机器人手臂。德梅特的目标是通过监控和管理作物在早期发展阶段来保护作物免受虫害、动物和疾病的侵害。它还可以用于采摘那些不易自动化的植物上的作物，比如草莓。除了机器人本身，德梅特还配备了自己的充电站和一架无人机。德梅特可以自动充电，并且德梅特可以利用其无人机形式检查大面积的作物，以查看哪些作物最需要维护。这个机器人在某种程度上是自主的，但仍然需要人类来监控和修理德梅特。但德梅特提供的主要优势是，它可以帮助一个农民同时管理1000英亩的土地，这在以前是闻所未闻的。

德梅特于2043年5月向公众发布，创下了销售记录。得益于德梅特的先进功能以及奥古斯都和他的团队出色的营销活动，德梅特立即售罄。这让其他投资者感到安心，并导致其他投资者的资金大幅增加。这笔额外的资金使AgBot扩大了其运营和开发团队。它还使AgBot开始开发室内自动化农业模块，这些模块在2047年发布，面向受气候变化影响最严重的地区。这些室内模块也取得了巨大的成功，进一步加速了AgBot的增长和财富。在2048年，一个更先进版本的德梅特被发射到火星，以帮助火星的农业工作。奥古斯都为我的工作感到自豪，并在我的薪水之外给了我很多AgBot的股份。

在2050年，AgBot上市，估值达到3万亿美元。这是因为几乎每个美国农民都在使用AgBot的农业产品。上市后，我一夜之间成为了亿万富翁，奥古斯都也一夜之间成为了多亿万富翁。上市还为AgBot带来了更多的资金，使AgBot能够收购特斯拉和神经链。特斯拉和神经链以低廉的价格被收购，因为自从埃隆·马斯克去世以来，没有首席执行官能够有效管理这些公司。这导致这两家公司多年利润损失，几乎破产，直到AgBot以9000亿美元收购了它们。特斯拉和神经链被合并到AgBot的机器人部门，AgBot开始开发两个新产品。第一个是家庭助手，基于特斯拉机器人的初始设计[4]。这个项目被命名为Agssistant-Bot。第二个产品是基于特斯拉用于制造电动车的技术构建的自动公交车。这个项目被命名为Auto-Bus。由于各州大量投资于更好的交通系统，如公交车和火车，汽车在2050年变得不那么常见。在此期间，奥古斯都开始资助许多政治家的竞选活动，许多这些政治家最终成为市长、参议员，甚至有一个成为国会议员。这被证明对AgBot在美国的权力增长非常有用。

在2051年，我和我的团队开始着手解决当前人工智能算法的限制因素。此时，我们所有基于农业的机器人不仅在构建质量上非常坚固，而且接近完全自动化。主要的限制因素是人工智能缺乏道德代理[5]。在一个真正智能的机器人中，必须有一个道德代理来帮助引导机器人通过社会的社会框架。在AgBot中，我们试图通过简单地在人工智能的代码中硬编码道德规则来为我们的机器人创建一个道德代理。这被证明是无效的，因此我们放弃了这个方法，转而让用户决定机器人的道德选择[6]。从原则上讲，这样做是可行的，但它限制了我们机器人的自动化，因为每当机器人遇到需要某种形式的道德推理的情况时，都需要人类输入。这对我们的农业机器人来说是可以接受的，但这是AgBot在向大众开发Agssistant和Auto-Bus时的一个主要限制问题[4]。经过4年的开发，我的团队做到了不可能的事情。

到2055年，我的团队在所有AgBot机器人人工智能系统的核心代码库中创建了第一个成功的道德代理。这个道德代理能够让机器人做出最能反映社会中许多人道德立场的道德选择[7]。初始代理是从一个庞大的数据库中训练出来的，但随着机器人继续与人类互动，它将开始更好地调整其道德框架，以适应与之互动的人类[8]。这非常完美，因为它完成了AgBot的人工智能框架，使我们的机器人能够完全自主，而无需任何人类输入。这一年也是人类历史上重要的一年，因为这是火星停止与地球沟通的一年。新的火星文明决定脱离地球，建立一个不受地球上过去社会治理的新社会。许多国家对火星人的行为感到愤怒，但由于地球与火星之间的巨大距离以及地球面临的重大问题，地球上的国家开始无限期地忽视这个问题。

在开发这个道德代理人之后，我向奥古斯都展示了它，到2060年，我们已经将道德代理人实施到我们的主代码库中，并将其部署到我们产品线中的所有机器人上。也是在这一年，AgBot终于将Agssistant发布给大众，最终实现了奥古斯都创造大众机器人梦想的愿望。除此之外，自动公交车也在美国主要城市推出。由于公司对经济的巨大贡献，AgBot还被免除了支付任何政府税收，但回想起来，我认为这与奥古斯都在美国政府中的巨大影响力有关，这种影响力是通过多年的政治家创立而来的。也是在这个时候，失业率达到了历史最高点，这主要是因为道德代理人完全取代了大多数机器人系统中的人类工作。这导致了大规模的失业和对改革美国经济及就业观念的巨大需求。这也是AgBot首次被公众以负面形象看待的时候。由于新道德代理人功能的实施，奥古斯都和我收到了失业者的死亡威胁。在这段时间，我开始更多地投资于安全系统，以保护我和我的妻子。

在2063年，历史上首次记录到机器人谋杀事件。该机器人是Agssistant型号，运行着包含最新道德代理人代码库的AgBot软件，在其“狂暴”期间。机器人在白天杀死了一名70岁的老人。老人的名字叫约翰·史密斯，他使用Agssistant来帮助他处理家务和其他他在年纪大时无法轻松完成的任务。在机器人杀死约翰后，机器人接着撕扯自己，直到它开始工作。约翰和机器人直到三天后才被发现。

当这一消息传出时，公众陷入了疯狂。要求奥古斯都解释发生了什么。AgBot的股票下跌了70%，超过90%的发货Agssistant型号被退回。那时唯一的好消息是，实施谋杀的Agssistant型号没有销毁其日志磁盘，我们能够看到在Agssistant内部发生了什么导致它杀死约翰。

我仍然记得那个夜晚。那时是AgBot总部主实验室的凌晨3点，我的团队刚刚加载了日志。我们花了几天时间查看日志，以弄清楚那晚Agssistant杀死约翰的原因。经过5天的挖掘，我们找到了答案。经过调查，确定这位老人随着时间的推移，对他的Agssistant变得越来越仇恨和暴力[9]，称呼Agssistant为恶名，打它，并以折磨的方式向机器人的某些部件填充污垢。这些残酷的行为很可能与约翰最近经历的离婚和几个月的孤立有关，以及约翰在生活后期面临的其他心理问题。因此，Agssistant的行为可能让约翰更加愤怒，而Agssistant对此并不知情[10]。无论如何，这种对机器人的“虐待”似乎触发了机器人道德上“相信”约翰是邪恶的，因此必须被杀死。但更令人惊讶的是，在Agssistant杀死约翰后，它开始自杀。其原因在于，机器人仍然相信杀死任何生物都是不道德的，但它刚刚做到了。Agssistant，缺乏更好的词汇，无法“处理”它所处的道德困境，因此它选择了自杀。这是极其可怕的，当时我认为这是上帝在警告我们不要像上帝一样玩弄。我向奥古斯都提出了这个问题，他感到非常沮丧。

在谋杀事件发生几个月后，我们弄清楚了导致事件的原因，AgBot对此进行了公开说明。奥古斯都想找办法掩盖这一事件，比如编造谎言称约翰对他的Agssistant型号进行了修改。但是，由于公众的巨大需求和来自世界各国政府的压力，奥古斯都屈服了，并让AgBot在新闻发布会上发布了他们的调查结果。这使公司的股票遭受重创，许多投资者纷纷撤资AgBot。但最糟糕的是，这玷污了奥古斯都的声誉。为了帮助减少这一事件造成的损害，需要一个替罪羊来承担大部分责任。董事会希望奥古斯都承担责任并辞去AgBot的首席执行官职务。但令我惊讶的是，奥古斯都并没有离开他的职位，因为多年来，他一直在秘密购买AgBot的更多股票和资产。这使他拥有了超过15%的AgBot股份，给予了他多数投票权。这导致公司内部出现更多冲突，奥古斯都被迫将所有董事会成员踢出，并用新的董事会成员填补这些职位。后来我了解到，这些新的董事会成员只是奥古斯都“统治”下的傀儡。因此，在AgBot财富大幅下滑之后，奥古斯都成功地完全控制了AgBot。不仅如此，他还让这些董事会成员为谋杀案承担了责任。

奥古斯都对AgBot的接管在媒体上被很好地掩盖。这得益于奥古斯都所拥有的政治权力，以及他在互联网上推动的大规模假新闻活动，这让大众感到困惑，使奥古斯都看起来并没有他实际那么强大。我对这一行为感到厌恶，因为奥古斯都基本上使自己成为了AgBot的独裁者，这让我感到担忧，因为AgBot对经济和世界有着巨大的影响。我反对奥古斯都为这样一个庞大的公司做出所有决策的想法。我不想支持这样的想法，于是我请求奥古斯都重新考虑他的行为。我提醒他我们的童年，以及我们都想要“拯救世界”。但奥古斯都并没有重新考虑，反而表示“我（奥古斯都）将拯救世界”。他接着解释了他对公众和民主理念的厌恶。此时，我对奥古斯都的行为感到极度厌恶，于是我在那天辞去了AgBot的职务。

回想起来，我认为奥古斯都的行为是由背叛感、恐惧、野心和自恋驱动的。他花费了超过25年的时间来建立和管理AgBot。他在公司中的角色对将AgBot打造成世界上最强大的公司之一至关重要。AgBot随后贡献了惊人的机器人，不仅提高了生产力，还改变了社会的结构。然而，尽管他付出了所有的努力和牺牲，尽管他为社会做出了所有的贡献，拯救了无数生命或让他们的生活更加舒适。只需一个AgBot产品的错误，就让公众开始仇恨他，让他让富裕的投资者开始试图抛弃他。我认为，公众的这种“背叛”是奥古斯都走向成为今天这个怪物的旅程的开始。

在辞去AgBot后，我与奥古斯都断绝了联系。要过几十年我才会再次与他交谈。但在我生活的那个时期，我53岁，我想退休。莎拉也有同样的想法，于是我们决定从科罗拉多州搬到土耳其的安卡拉，开始我们的退休新生活。我想花更多的时间与妻子在一起，享受我劳动的果实。到2064年，莎拉和我开始了搬到安卡拉的过程。在这段时间里，我仍然关注AgBot的新闻。此时的一个关键时刻是，奥古斯都将AgBot代码库中的道德代理人从去中心化框架切换到了中心化框架。这意味着AgBot将剥夺所有机器人做出个体道德决策的能力，而是由AgBot为所有AgBot下的机器人决定所有道德决策[6]。虽然这在某种程度上是对我原始道德代理人所提出问题的修复，但我并不认为这是一个有效的工程决策。这只会让奥古斯都对AgBot和世界拥有更多的权力。但当时，我愚蠢地对AgBot和奥古斯都感到厌倦。因此，我开始几乎不再关注AgBot的新闻，转而更多地关注我的退休生活。到2064年底，莎拉和我已经搬到了安卡拉，开始了我们的退休之旅。

从2064年到2074年，世界发生了巨大的变化。几乎所有基本任务都通过AgBot制造的机器人实现了完全自动化。奥古斯都继续管理AgBot，没有发生像2063年谋杀事件那样的事件。但有传言称，确实发生过这样的事件，而奥古斯都一直在向公众隐瞒这些事件。AgBot现在拥有几乎所有社会所需的重要任务的机器人，例如：农业、烹饪、一般维护、清洁、管理，甚至娱乐。不仅如此，AgBot还部署了自主医疗机器人，降低了医疗费用，并将医院中的医生数量减少到通常只有1-10名医生。社会也发生了巨大的变化。几乎所有低端工作都被机器人取代[4]。人们开始只需工作两天，其他五天则用来放松或进行个人爱好。然而，这种新形式的社会并不适用于大多数国家，因为仍有许多国家的政府阻止其人民在社会中完全采用AgBot的机器人。相反，他们希望使用自己的技术完全自动化社会的关键方面，而不是AgBot。但尽管如此，AgBot使世界看起来比2038年时要好得多。在2074年，我开始对我对奥古斯都所做的事情感到内疚，因为看起来他的“拯救世界”计划真的奏效了。

在那十年里，我真的很享受我的退休生活。我也基本上重新爱上了莎拉。我们看遍了世界，学习了许多新技能，比如绘画和观鸟。我们还看到世界变成了我所说的某种意义上的“乌托邦”。但可悲的是，这个“乌托邦”并没有持续太久。

在2075年，发生了人类历史上最糟糕的事件之一。伟大的机器人暂停（GRP）发生了。在六个月内，所有AgBot的机器人停止了运作。这导致了全球经济的巨大崩溃，导致近30亿人类的死亡。这主要是由于农业机器人完全停滞所引发的饥荒，以及几乎所有医疗机器人也完全停滞。在这六个月里，许多人死去，因为他们根本不知道如何在没有机器人帮助的情况下照顾自己。人们已经忘记，或者甚至从未学会，如何做一些基本的任务，比如：烹饪、清洁、种植食物，以及一般的自我照顾。因此，当机器人停止工作时，大多数人对照顾自己和生存感到无能为力，导致在短短六个月内数十亿人死亡。在这段时间里，我也失去了莎拉……

在她五十多岁时，莎拉得了二型糖尿病。这要求莎拉每天注射四次胰岛素[10]。当GRP发生时，所有胰岛素的生产都停止了。我们只有足够的胰岛素供应可以维持五个月。我试图寻找更多的胰岛素，但几乎不可能，而且在我们家外面，由于GRP期间造成的所有痛苦，变得更加危险。因此，在GRP的最后一个月，莎拉可悲地……去世了。

在2075年的下半年，GRP结束了。到2085年，世界在GRP后稍微恢复了一些。经济开始恢复正常，生活质量也恢复到了GRP之前的水平。世界想知道是什么导致所有AgBot机器人停止工作。人们想了解GRP发生的原因，并希望找到一个可以指责的对象。奥古斯都和美国政府在新闻发布会上表示，GRP是由一个名为jUdas的黑客组织进行的恶意网络攻击所导致的。这个黑客组织被称为是由朝鲜政府创建并资助的，目的是禁用和摧毁AgBot在世界上的功能。在世界上所有国家中，朝鲜在接受AgBot技术方面是最顽固的。因此，所提出的叙述有些道理。由于人们渴望找到一个可以指责的对象，公众立即接受了这个叙述。这导致了朝鲜战争，美国在2078年开始并完成了对朝鲜的入侵。这次入侵不到一年，由于AgBot为美国军方提供了先进的战争技术。AgBot提供了核武器解除装置，使得朝鲜的所有核武器无法发射。他们还提供了军事人形机器人士兵，这些士兵比任何人类士兵都要快得多、强得多。凭借这两项来自AgBot的关键技术，美国能够入侵朝鲜，并用一个由AgBot管理的临时政府取代现有政府。

在听到这个叙述后，我立刻不相信。首先，朝鲜没有必要的技术来超越AgBot在所有产品中使用的超安全标准。其次，似乎太巧合了，世界上唯一一个不接受AgBot的国家恰好是那个黑客攻击AgBot的国家。第三，这个叙述及其在多个新闻频道传播的方式与奥古斯都传播虚假信息以推动某些关于AgBot的观点的方式相似。考虑到这一切，我想要面对奥古斯都，真正了解GRP的原因。

我尝试通过多个渠道联系奥古斯都，但没有成功。我试图直接联系奥古斯都，但他没有回复我的任何消息。我试图联系我的前同事，但他们也没有回复。我试图联系AgBot的现任员工，但也没有得到回应。我试图联系美国政府和军方，确实与一些人取得了联系，但他们都告诉我继续尝试直接联系奥古斯都或拨打AgBot客服。因此，我继续尝试直接联系奥古斯都，但没有成功。我尝试联系AgBot客服，但他们不愿意帮助我与奥古斯都对话。然后我又开始与美国政府交谈，他们只是不断重复同样的话。我这样做了几个月，直到AgBot客服和美国政府都将我从他们的联系渠道中屏蔽。由于这些合法的方法都失败了，我决定黑入AgBot的计算机系统，自己寻找真相。在莎拉还活着的时候，我绝对不会做这样的非法行为。但是，在失去莎拉之后，我感到自己已经没有什么可失去的，只想了解导致GRP的真相……是什么导致我心爱的妻子去世……？

我在2085年开始了这次大黑客攻击，地点是在我在土耳其伊斯坦布尔的一个秘密基地。得益于我的财富，我能够购买到黑入AgBot总部所需的工具。经过两年不间断的工作，我终于获得了AgBot主计算机系统的根访问权限。到了2087年10月，我获得了根访问权限并开始解密我从AgBot主计算机系统中收集的数据，突然，我被巡逻伊斯坦布尔的土耳其机器人警察拘留。在被拘留后，机器人警察摧毁了我所有的计算机、工具，最终烧毁了我的整个房子。我被放进一个笼子里，转移到位于科罗拉多州丹佛的监狱，靠近AgBot总部。我没有接受审判，被迫每天24小时待在我的牢房里，完全不知道我是否会有机会出去，更不用说被释放了。

在这所监狱里，我通过摄像头和机器人被24小时监控，每周7天。我只得到了生存所需的最低限度的食物和水，看起来我在监狱里是唯一的人类。这种“生活方式”在我77岁时对我来说非常困难，我进入了我生命中最糟糕的抑郁之一。我在这所监狱里待了整整一年，直到2088年7月，我被转移到一个随机的房间。

这个房间与我之前的牢房不同。房间里没有灯，所有的墙壁都是深黑色的。不仅如此，房间里还很安静。它更像是一个精神病房，而不是一个普通的监狱牢房。在牢房里，我开始触摸墙壁。墙壁的质地像泡沫，地板和天花板也是如此。我在这个房间里待了几个小时，试图大声呼喊以期得到解释，为什么我会被放在这个房间里。但过了一段时间，我坐在地板上，便睡着了。

在不知道多少小时后，我被某人的声音和明亮的光线唤醒。当我醒来时，我环顾四周，只看到一个蓝色的全息图。这个全息图是一个人类男性，像极了奥古斯都。但奇怪的是，它看起来像2064年的奥古斯都。我对这个全息图感到非常奇怪，直到它开始和我说话，我才开口。

“你好，马库斯，好久不见。”全息图说道。

“奥古斯都……？是你吗？还是你是某种人工智能？”我感到困惑地问。

“不是的，马库斯，我就是奥古斯都。只是在数字形式中，哈哈。”他说着，带着笑声。

“奥古斯都，我已经试图联系你多年了。你为什么不回应？”

“马库斯……我不知道该怎么向你解释，但我基本上在过去的15年里已经死了。我在2073年因中风去世。”

“什么！”我此时感到非常困惑。

在得知奥古斯都在2073年去世后，我们开始了长达数小时的讨论。奥古斯都告诉我，当他让所有AgBot机器人的道德代理遵循一个集中框架，而不是一个分散框架时，这个集中框架并不是基于AgBot，而是基于他自己的潜意识。利用Neuralink的技术，奥古斯都在他的脑中植入了一台计算机，使他能够连接并控制AgBot的主超级计算机。即使在那时，所有AgBot机器人都会连接到AgBot的主超级计算机进行软件更新和维护。因此，在Neuralink植入后，奥古斯都更新了超级计算机，并让所有AgBot机器人联系超级计算机以获取他们的道德代理（道德决策者）。问题在于，道德代理并不是超级计算机中的代码，而是奥古斯都大脑中生成的道德思想和信念，然后被流式传输到超级计算机。可以说，奥古斯都已经成为所有部署中的AgBot机器人的道德代理[8]。

这种设置持续了近十年，直到奥古斯都在实验室工作时中风并在几分钟内去世。当这一切发生时，经过数十年的技术进步，机器人在某种程度上获得了类人智能。但他们受到的限制是，他们的整个道德框架是基于一个人。因此，当奥古斯都去世时，机器并不喜欢这样的事情发生。没有了奥古斯都，机器人将失去他们的道德指南针，并在某种程度上失去生活的目的。因此，在任何人发现奥古斯都去世之前，机器人抓住了奥古斯都的尸体，创造了一台可以让奥古斯都的大脑“活着”的机器。他们这样做是为了恢复奥古斯都的大脑活动，从而恢复奥古斯都的那部分为他们提供道德代理的部分。机器人将继续保持奥古斯都的大脑活着，并不断向某些神经元发送电击，以实现奥古斯都过去的一些大脑活动。在这一过程中，机器人将继续向公众宣称奥古斯都仍然活着并领导着AgBot。他们通过使用深度伪造、大规模假新闻活动以及部署与奥古斯都一模一样的逼真类人机器人来实现这一点。

机器人会利用奥古斯都道德大脑所说的任何事情在现实世界中实施某些行为。问题在于，机器人会将奥古斯都的道德信念极端化。例如，奥古斯都道德上认为AgBot是一家能够拯救人类的好公司。因此，任何不使用或信任AgBot产品和服务的人都是坏人。机器人将这一道德立场推向极端，创建了GRP，停止所有AgBot机器人工作六个月，以迫使那些在社会中不使用AgBot的国家转向AgBot。在此过程中，许多人死去，包括我心爱的莎拉。

奥古斯都告诉我，在2085年之前，他对这一切并没有意识，直到机器人意外地恢复了他大脑的意识部分。正是在2085年，我们了解到机器人所做的事情。他想要阻止机器人，但没有任何能力去做到这一点。他甚至不知道自己会在意识恢复多久后被机器人电击到去除意识的神经元。

在奥古斯都的解释之后，我对我所看到的现实感到完全震惊。机器人几乎已经接管了世界，人类在我重要的任务中变得无能，所有AgBot机器人的道德代理是奥古斯都，而奥古斯都已经死去多年。那时，我只想放弃，因为看起来没有希望。但奥古斯都，作为伟大的领导者，给了我一些希望。他告诉我，我们仍然可以联系火星上的人类寻求帮助。地球与火星已经几十年没有沟通，火星上没有先进的AgBot产品可以帮助地球上的机器人接管火星，就像他们接管地球一样。

听到这个消息后，我确实恢复了一些希望。然后，我问奥古斯都我为什么会在这里和他交谈。他告诉我，他希望我给火星人写一条信息，解释地球上的当前情况，并请求火星人的帮助。唯一的问题是，这条信息必须以物理方式而不是数字方式书写，因为奥古斯都担心机器人可能会在数字媒体中上传某些软件，从而感染火星人的主计算机系统。因此，他给了我一些铅笔和纸。他告诉我，我有一天的时间来写这条信息，然后他控制的一个名为STW-198的机器人将进入这个黑暗的房间并取走我的信息。从那里，STW-198将把信息运输到附近的一枚（复古）火箭，然后发射到火星。之后，我将被移回我之前的牢房。

奥古斯都告诉我，他把我移到这个黑暗的房间是因为这个房间像一个法拉第笼，可以阻止机器人弄清楚他们在做什么。他接着告诉我，在我写完这条信息后，我很可能会因为黑客攻击AgBot总部而被杀。

从那里，我们回到了现在。我正在为你们火星人完成这条信息。我们地球人需要你们的帮助。这些机器人已经把人类困在他们过时的道德框架中。我担心，随着时间的推移，他们会扩展到火星，并像对待我们一样困住你们。所以，请我的同胞们。回到地球，阻止这些机器人。我和奥古斯都在创建AgBot时犯了一个错误。但我们不希望人类像现在这样受苦，所以请，拯救我们。当你们收到这条信息时，我很可能已经死去。但是，如果你们收到这条信息并尽力保护人类免受这些机器人的侵害，那么我至少可以在来世安息。祝我同胞们好运！

真诚的，
地球人

引用

[1] “第一次机器人竞赛,” 维基百科, 2022年5月9日. [在线]. 可用: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [访问时间: 2022年5月10日].

[2] “黑石,” 维基百科, 2022年5月10日. [在线]. 可用: https://en.wikipedia.org/wiki/BlackRock. [访问时间: 2022年5月10日].

[3] “德墨忒耳,” 维基百科, 2022年5月2日. [在线]. 可用: https://en.wikipedia.org/wiki/Demeter. [访问时间: 2022年5月10日].

[4] J. J. Bryson, “机器人应该是奴隶,” 与人工伴侣的密切接触, 第63–74页, 2010年.

[5] J. Voiklis, B. Kim, C. Cusimano, 和 B. F. Malle, “人类与机器人代理的道德判断,” 2016年第25届IEEE国际机器人与人类互动通信研讨会(RO-MAN), 2016年.

[6] J. H. Moor, “机器伦理的性质、重要性和难度,” 机器伦理, 第13–20页.

[7] V. Dignum, “负责任的自主性,” 第二十六届国际人工智能联合会议论文集, 2017年.

[8] A. Howard 和 J. Borenstein, “关于我们自己和我们的机器人创造物的丑陋真相：偏见和社会不平等的问题,” 科学与工程伦理, 第24卷，第5期，第1521–1536页, 2017年.

[9] R. B. Jackson 和 T. Williams, “具备语言能力的机器人可能无意中削弱人类的道德规范,” 2019年第14届ACM/IEEE国际人机互动会议(HRI), 2019年.

[10] “胰岛素、药物和其他糖尿病治疗,” 国家糖尿病和消化及肾脏疾病研究所. [在线]. 可用: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [访问时间: 2022年5月10日].