Tiền sử

Tôi đã viết truyện ngắn, Vua Suy Giảm, như bài tập cuối kỳ cho lớp Đạo đức Robot (HASS400) của tôi trong học kỳ cuối cùng của chương trình đại học tại Colorado School of Mines. Đối với bài tập này, chúng tôi được giao nhiệm vụ viết một câu chuyện hư cấu xoay quanh đạo đức về robot cũng như tham chiếu một số bài báo chúng tôi đã đọc trong học kỳ vào câu chuyện ngắn. Yêu cầu cho câu chuyện này là nó phải dài 10 trang, nhưng tôi đã viết 21 trang. Tôi đã rất đam mê với truyện ngắn này, vì vậy tôi đã đi quá đà với nó.

Bây giờ, CẢNH BÁO, tôi không phải là một nhà văn xuất sắc. Vì vậy, câu chuyện ngắn này không hoàn hảo và cần được chỉnh sửa cùng viết lại rất nhiều. Nhưng tôi tự hào về nó và nghĩ rằng nó là một bài đọc thú vị. Trong suốt những năm học, tôi bắt đầu thích quá trình viết lách, vì vậy tôi hy vọng sẽ mở rộng sang viết những thứ khác như blog, bài viết, v.v.

Biết tất cả những điều này, truyện ngắn gốc đã được lưu dưới dạng tệp PDF như một phần của yêu cầu bài tập. Nhưng để giảm kích thước của bài báo, tôi đã chuyển truyện sang markdown. Biết được điều này, toàn bộ truyện ngắn có thể được xem/đọc bên dưới. Hy vọng bạn thích phần đọc, liên hệ với tôi trên mạng xã hội nếu bạn có bất kỳ câu hỏi hoặc đóng góp nào về truyện ngắn này.

Tiếp tục đọc để khám phá Vua Suy Giảm…

VUA SUY GIẢM

Mehmet Hanifi Yilmaz
10 tháng 5, 2022

Tóm tắt

Trong một tương lai nơi số phận Trái Đất treo lơ lửng chỉ bằng một sợi dây, Marcus Bruce, một thiên tài công nghệ, và bạn mình Augustus Elrod, một lãnh đạo có tầm nhìn, bắt tay vào một sứ mệnh biến đổi thế giới thông qua công nghệ robot tiên tiến. Sự sáng tạo của họ, AgBot, cách mạng hóa nông nghiệp và công nghiệp toàn cầu, hứa hẹn một tương lai utopia. Nhưng khi đế chế công nghệ của họ lớn mạnh, những hệ quả ngoài ý muốn thách thức bản chất của đạo đức và tự do con người. Khi một sự kiện thảm khốc được biết đến với tên gọi Sự Ngưng Hoạt Động Lớn của Robot đe dọa sự tồn vong của loài người, Marcus phải đối mặt với mặt tối của di sản họ để lại và cầu xin viện trợ liên hành tinh. “Vua Suy Giảm” là một câu chuyện hồi hộp về tham vọng, quyền lực và cân bằng mong manh giữa con người và máy móc, khuyến khích chúng ta chất vấn chi phí thực sự của sự tiến bộ.

Câu chuyện

Tôi ở đây để cảnh báo bạn về tình trạng nguy kịch mà Trái Đất đang gặp phải ngay bây giờ! Nếu không được xử lý đúng cách, tình hình này có thể dễ dàng đưa nhân loại đến chỗ diệt vong. Tôi ước mình có thể giải thích tình hình này trong vài câu, nhưng đáng buồn là độ phức tạp của vấn đề yêu cầu tôi phải giải thích những gì đã dẫn đến nó để các bạn thực sự hiểu được mức độ nghiêm trọng.

Tôi là một yếu tố chủ chốt trong những gì đã dẫn đến tình trạng hiện tại của Trái Đất, vì vậy hãy để tôi ít nhất tự giới thiệu. Tên tôi là Marcus Bruce, tôi sinh ra ở một thị trấn nhỏ ở Colorado gọi là Ouray vào năm 2010. Ouray là một khu ngoại ô được bao quanh bởi những dãy núi tuyệt đẹp. Tôi sinh ra trong một gia đình có hai cha mẹ đều là giáo viên trung học. Cha tôi là giáo viên toán, và mẹ tôi là giáo viên khoa học.

Tôi không thực sự nhớ nhiều về thời thơ ấu vì tôi nghĩ mình không thực sự có ý thức đầy đủ cho đến năm 12 tuổi vào năm 2022. Trong năm đó, tôi học ở trường trung học cơ sở, và tôi được coi là một thần đồng thực sự, rất xuất sắc trong toán học và khoa học. Hiệu trưởng trường tôi muốn bố mẹ tôi cho tôi bỏ từ lớp 7 lên lớp 11. Nhưng bố mẹ tôi không đồng ý với đề xuất của hiệu trưởng vì họ muốn tôi có một tuổi thơ bình thường. Tôi biết ơn cho quyết định đó vì tôi nhớ mình đã có một tuổi thơ tuyệt vời. Một tuổi thơ trong một thời đại mà thế giới bắt đầu tích hợp nhiều hơn với công nghệ. Chứ không phải bị nuốt chửng hoàn toàn bởi nó. Giờ đây, việc biết rằng tôi là một thần đồng đã khiến năm 2022 trở thành một năm đặc biệt đối với tôi. Nhưng điều thực sự khiến 2022 trở nên đặc biệt là đó là năm tôi lần đầu gặp một người bạn lâu năm tương lai của mình, Augustus Elrod. Chính Augustus đã cơ bản đóng vai trò dẫn tới những sự kiện then chốt đưa Trái Đất đến nơi nó đang ở bây giờ.

Tôi gặp Augustus ở lớp 7 trong câu lạc bộ Lego robotics địa phương. Điều đầu tiên tôi nhận thấy về tính cách của Augustus là anh ấy tham vọng và đầy quyết tâm. Ngay cả khi là một cậu bé 12 tuổi, Augustus đã là một nhà lãnh đạo thực sự vì anh dẫn dắt đội Lego robotics địa phương của chúng tôi giành chiến thắng ở giải vô địch quốc gia Hoa Kỳ. Điều đó thực sự ấn tượng khi xem xét rằng mọi người trong đội đều là học sinh trung học cơ sở ít quan tâm đến việc học kỹ thuật đằng sau robot. Nhưng Augustus không những khuyến khích những đứa trẻ đó muốn học và chiến thắng, mà anh còn dẫn dắt họ đến chiến thắng. Tất cả chúng tôi đều tôn trọng Augustus như lãnh đội và Augustus thật ra không tôn trọng nhiều người lắm. Nhưng anh tôn trọng tôi vì trí thông minh của tôi. Anh ấy nhận ra tôi trước vì trí thông minh của tôi và đã sốc khi gặp một người cùng độ tuổi mà thông minh hơn anh. Augustus thậm chí đã thi đấu với tôi trong các kỳ thi nhưng luôn thua. Nhưng cũng như tôi luôn đánh bại Augustus về trí tuệ, Augustus lại đánh bại tôi trong thể thao. Anh ấy chơi bóng rổ và bóng đá sau giờ học. Anh ấy giỏi thể thao đến mức nhiều người nghĩ anh sẽ trở thành vận động viên chuyên nghiệp khi lớn lên. Sự tôn trọng lẫn nhau đó cuối cùng đã dẫn đến một tình bạn lâu dài kéo dài đến tận khi chúng tôi trưởng thành.

Sau những năm trung học cơ sở, chúng tôi bắt đầu học trung học phổ thông vào năm 2024. Trong những năm trung học, cả tôi và Augustus đều tham gia cuộc thi FIRST Robotics Competition (FRC) [1]. FRC là cuộc thi robot lớn nhất ở Hoa Kỳ và chủ yếu gồm các học sinh trung học [1]. Trong khi tham gia FRC, chúng tôi học được nhiều về kỹ thuật cơ khí, điện và máy tính. Và nhờ kỹ năng lãnh đạo tuyệt vời của Augustus, chúng tôi đã có thể vô địch toàn quốc 2 năm liên tiếp, điều chưa từng có vào thời điểm đó. Ngoài ra, trong thời gian này, tôi thi nhiều cuộc thi toán cũng như tham gia các cuộc tranh luận về những chủ đề dựa trên đạo đức. Cũng trong thời gian này, Augustus tiếp tục thống trị bóng rổ, bằng cách dẫn dắt đội một (varsity) của trường vào vòng quốc gia trong 3 năm liên tiếp. Chúng tôi đều là những học sinh có tài theo cách riêng. Nhưng cũng chính trong thời gian này cả tôi và Augustus đã phát triển những mục tiêu trong cuộc sống và dù tốt hay xấu, tiếp tục theo đuổi những mục tiêu đó cho đến cùng.

Trong suốt thời gian trung học, tôi nhận ra mục tiêu cuộc đời mình là làm cho thế giới tốt đẹp hơn thông qua công nghệ. Tôi chấp nhận rằng thế giới sẽ không hoàn hảo và sẽ luôn có khuyết điểm. Nhưng, vào thời điểm đó, tôi tin rằng nếu tôi làm việc chăm chỉ đủ, tôi ít nhất có thể giảm bớt gánh nặng cho thế giới và tạo ra một tương lai tốt đẹp hơn. Augustus cũng có mục tiêu tương tự nhưng có phần khác biệt. Tôi biết Augustus tham vọng, nhưng tôi chưa bao giờ thực sự biết anh muốn đi đến đâu trong cuộc đời cho đến năm cuối trung học.

Trong năm cuối trung học, cả tôi và Augustus đều được nhận và quyết định theo học Viện Công nghệ Massachusetts (MIT). Augustus được đề nghị cơ hội được tuyển chọn vào NBA, nhưng anh từ chối cơ hội đó và thay vào đó quyết định đi MIT. Tôi biết điều này qua bố mẹ Augustus và sau khi biết, tôi gọi cho Augustus và cuộc trò chuyện của chúng tôi diễn ra như sau:

“Augustus, tại sao cậu từ chối NBA? Đó là cơ hội có một không hai”, tôi nói trong trạng thái bối rối.

“Marcus, NBA sẽ rất vui, nhưng chỉ là như vậy, vui thôi. Nó sẽ không thay đổi thế giới. Nếu có, nó sẽ làm tôi phân tâm khỏi việc sửa chữa thế giới này”, Augustus nói với giọng tự tin.

“Thay đổi thế giới? Ý cậu là sao?”

“Đúng, thay đổi thế giới! Marcus, tớ muốn dẫn dắt nhân loại vào một tương lai tốt đẹp hơn. Tớ muốn cứu thế giới!”

Tôi im lặng một vài giây, bằng cách nào đó ngạc nhiên hơn tôi nghĩ.

“Cứu thế giới? Ý cậu là sao?”

“Marcus, cậu và tớ đều có tài năng. Chúng ta đều muốn giúp thế giới. Cậu xuất sắc về trí tuệ, và tớ xuất sắc về khả năng lãnh đạo. Không chỉ vậy, tớ tin cậy cậu Marcus. Với kỹ năng của cậu và tớ, chúng ta có thể phát triển và phân phối công nghệ có thể thay đổi thế giới theo hướng tốt hơn. Tớ rất tin tưởng vào điều đó!”

“Wow, cậu tham vọng hơn tôi nghĩ đấy, Augustus!”, tôi nói với một tiếng cười nhẹ ở cuối, “nhưng cậu nói chúng ta làm thế nào để đạt được điều đó?”

“Câu trả lời ngắn gọn là thế này Marcus; tớ dự định bắt đầu một công ty công nghệ. Sau đó, mở rộng vào chính trị. Với điều đó, kiếm được cả quyền lực tài chính và chính trị. Và từ đó, chúng ta có thể thay đổi thế giới. Cậu sẽ đóng vai trò quan trọng trong kế hoạch này, Marcus!”

“Được rồi, Augustus. Điều đó vẫn rất tham vọng. Nhưng khi cậu có một kế hoạch được vạch ra và bắt đầu cần tớ. Tớ sẽ ở đó.”

“Cảm ơn, bạn của tớ, hẹn gặp cậu ở MIT!” Augustus nói với giọng hào hứng.

Vào thời điểm đó, cuộc trò chuyện này thực sự không có ý nghĩa nhiều với tôi. Tôi biết Augustus giỏi, nhưng giấc mơ của anh nghe giống mơ hơn là tương lai có thể xảy ra. Tôi đã không coi lời anh nói là nghiêm túc vào lúc đó. Nhưng tất cả điều đó sẽ thay đổi. Dù sao thì, năm 2028 đã đến và tôi háo hức bắt đầu học đại học ở MIT.

Đó cũng là một thời điểm thú vị để bắt đầu học kỹ thuật vì cùng năm đó, 2028, chính phủ Hoa Kỳ, NASA, và SpaceX bắt đầu gửi nhiều người hơn để thuộc địa hóa Sao Hỏa. Chỉ 2 năm trước, họ chỉ gửi vài người đi lại giữa Trái Đất và hành tinh đỏ. Nhưng bây giờ, họ và phần còn lại của thế giới bắt đầu gửi nhiều người hơn đến Sao Hỏa để định cư. Đây là một bước ngoặt thực sự trong lịch sử nhân loại và gây ra một nhu cầu và phát triển lớn trong nghiên cứu robot, điều này rất tốt vì tôi muốn chuyên ngành về robot.

Vào năm 2030, cả tôi và Augustus đã hoàn thành năm thứ hai tại MIT. Tôi học kép chuyên ngành kỹ thuật robot và đạo đức, còn Augustus học chuyên ngành kỹ thuật robot và khoa học chính trị. Nhưng sau năm thứ hai đại học, Augustus bắt đầu thực sự không còn thích trường nữa. Anh ấy không xem đó là một công cụ hữu ích để đạt được giấc mơ “cứu lấy thế giới” của mình. Vì vậy, trong năm thứ hai đó, Augustus trốn hầu hết các lớp học của mình và cũng trượt hầu hết các môn. Thay vì đến lớp, Augustus tập trung phát triển một phần mềm được hỗ trợ bởi AI nhằm quản lý tài sản và cổ phiếu một cách hiệu quả. Anh ấy muốn tạo ra phần mềm quản lý tài sản tốt hơn phần mềm Aladdin của BlackRock vào thời điểm đó [2]. Anh ấy tự tin đến mức bỏ học ở MIT sau năm thứ hai và theo đuổi dự án kinh doanh đầu tiên bằng phần mềm mới đang phát triển. Anh chuyển ra khỏi ký túc xá vào tháng 5 năm 2030 và chuyển đến Thành phố New York. Tôi buồn vì Augustus bỏ học nhưng điều tốt duy nhất của năm đó là tôi gặp vợ tương lai của mình, Sarah Raven.

Bây giờ, hãy bỏ qua đến năm 2038. Augustus xuất hiện khắp các mặt báo vì anh vừa trở thành triệu phú ở tuổi 28. Sau khi bán phần mềm của mình cho BlackRock với một khoản tiền kha khá, Augustus có gần 100 triệu đô la trong tay bằng tiền mặt và một số quyền chọn cổ phiếu BlackRock. Thật vậy Augustus đang chinh phục thế giới tài chính; còn tôi vừa hoàn thành hai bằng tiến sĩ trong cả Hệ thống Robot Thông minh lẫn đạo đức máy móc. Không những vậy, vào mùa hè năm 2038, Sarah và tôi đã kết hôn. Tôi mời Augustus đến đám cưới của mình, và tôi gặp lại Augustus lần đầu sau gần 8 năm tại đám cưới. Đó là một đêm vui vẻ, nhưng khi đám cưới sắp kết thúc, Augustus bảo tôi gọi cho anh khi tôi có thời gian rảnh. Vì vậy, sau kỳ trăng mật của tôi và Sarah, tôi gọi cho Augustus.

Chúng tôi nói chuyện gần 2 giờ và trong thời gian đó chúng tôi cập nhật về cuộc sống, nhưng sau đó Augustus bắt đầu nói chuyện nghiêm túc hơn trên điện thoại. Augustus nói rằng anh biết tôi mang một khoản nợ sinh viên lớn và tôi vẫn chưa tìm được công việc. Vì vậy, anh đề cập tới một công việc mà anh nghĩ có thể mời tôi. Đó là làm đồng sáng lập cho dự án kinh doanh mới của anh. Dự án kinh doanh mới này là một công ty khởi nghiệp có tên AgBot, sẽ tập trung tự động hóa nông nghiệp thông qua AI và robot. Augustus muốn tôi làm đồng sáng lập AgBot vì anh tin rằng kỹ năng kỹ thuật của tôi sẽ có giá trị trong việc phát triển kiến trúc cần thiết để tạo ra các hệ thống robot thông minh như vậy. Anh cũng nói rằng anh tin tưởng tôi và anh xem trọng niềm tin sau khi đối tác trước kia cơ bản thúc ép anh bán phần mềm cho BlackRock. Sau khi nghe lời đề nghị này, tôi lập tức chấp nhận vì tôi rất hào hứng với dự án và anh đã đúng, tôi đang mang một khoản nợ lớn mà cho tới lúc đó chưa có lời mời việc nào.

AgBot chính thức được thành lập vào năm 2038. Tôi và Sarah chuyển về lại Colorado vì đó là nơi AgBot đặt trụ sở. Ngay lập tức, Augustus và tôi bắt tay vào xây dựng AgBot. Trong vòng 5 năm, cả tôi và Augustus đã thực hiện những bước then chốt để đưa AgBot đến vị trí hiện tại. Đầu tiên, Augustus đầu tư vốn cá nhân vào công ty. Điều này cho phép chúng tôi có mọi thứ cần thiết để bắt đầu xây dựng một số nguyên mẫu như bằng chứng khái niệm. Nó cũng cho phép Augustus thuê các nhà phát triển khác làm việc dưới quyền tôi để phát triển các công nghệ then chốt cho AgBot. Cũng trong thời gian này chúng tôi bắt đầu phát triển và cuối cùng phát hành sản phẩm đầu tiên của mình, Demeter [3]. Demeter là một robot bốn bánh có chân với chân có thể điều chỉnh độ cao. Nó có hai cánh tay robot dạng delta và hai cánh tay robot 6 trục. Mục tiêu của Demeter là bảo vệ cây trồng khỏi sâu bọ, động vật và bệnh tật bằng cách giám sát và quản lý những cây trồng đó trong giai đoạn phát triển ban đầu. Nó cũng có thể được dùng để hái cây trồng từ những loại cây không dễ tự động hóa bằng bộ theo dõi, như dâu tây. Cùng với robot, Demeter còn có trạm sạc riêng và một drone. Demeter có thể tự động sạc và có thể dùng dạng drone của nó để kiểm tra các cánh đồng rộng lớn để xem những vùng cây nào cần bảo trì nhất. Robot này phần nào tự chủ, nhưng vẫn cần con người giám sát và sửa chữa Demeter. Nhưng lợi thế chính mà Demeter mang lại là nó có thể giúp một nông dân quản lý 1000 mẫu Anh cùng lúc, điều trước đây chưa từng có.

Demeter được phát hành ra công chúng vào tháng 5 năm 2043 với doanh số phá kỷ lục. Nhờ các tính năng tiên tiến của Demeter và chiến dịch tiếp thị tuyệt vời của Augustus cùng đội ngũ, Demeter bán sạch ngay lập tức. Điều này trấn an các nhà đầu tư khác và dẫn đến một sự tăng mạnh về vốn từ các nhà đầu tư khác. Nguồn vốn bổ sung này đã khiến AgBot mở rộng hoạt động cũng như đội ngũ phát triển. Nó cũng cho phép AgBot bắt đầu phát triển các mô-đun nông nghiệp tự động trong nhà, sau đó được phát hành vào năm 2047 tới những vùng trên thế giới bị ảnh hưởng nặng nhất bởi biến đổi khí hậu. Các mô-đun trong nhà này cũng rất thành công, điều này chỉ làm tăng tốc sự phát triển và giàu có của AgBot. Năm 2048, một phiên bản nâng cao hơn của Demeter được đưa lên Sao Hỏa để giúp với các nỗ lực nông nghiệp trên Sao Hỏa. Augustus tự hào về công việc của tôi và tặng tôi nhiều cổ phần AgBot ngoài lương.

Năm 2050, AgBot lên sàn và được định giá 3 nghìn tỷ đô la. Điều này là do gần như mọi nông dân ở Mỹ đều sử dụng sản phẩm nông nghiệp của AgBot. Khi công ty lên sàn, tôi trở thành tỷ phú chỉ sau một đêm và Augustus trở thành đa tỷ phú chỉ sau một đêm. Việc lên sàn cũng đem lại nhiều vốn hơn cho AgBot, cho phép AgBot mua lại Tesla và Neuralink. Tesla và Neuralink được mua với giá rẻ bởi vì, kể từ khi Elon Musk qua đời, không có vị CEO nào có thể quản lý các công ty này hiệu quả. Điều này dẫn đến nhiều năm tổn thất lợi nhuận cho cả hai công ty, khiến họ suýt phá sản cho đến khi AgBot mua cả hai với giá chỉ 900 tỷ đô la. Cả Tesla và Neuralink được sáp nhập vào Bộ phận Robot của AgBot và AgBot bắt đầu phát triển hai sản phẩm mới. Sản phẩm đầu tiên là một trợ lý gia đình được phát triển từ thiết kế ban đầu của Tesla Bot [4]. Dự án này được đặt tên là Agssistant-Bot. Sản phẩm thứ hai là một xe buýt tự hành được xây dựng dựa trên công nghệ mà Tesla sử dụng để chế tạo ô tô điện. Dự án này được đặt tên là Auto-Bus. Xe hơi trở nên ít phổ biến hơn vào năm 2050 do các bang đầu tư mạnh vào hệ thống giao thông tốt hơn, như xe buýt và tàu hỏa. Trong thời gian này, Augustus bắt đầu tài trợ nhiều chiến dịch của các chính trị gia và nhiều chính trị gia này cuối cùng trở thành thị trưởng, thượng nghị sĩ, và một người thậm chí trở thành thành viên quốc hội. Điều này tỏ ra hữu ích để gia tăng quyền lực của AgBot tại Hoa Kỳ.

Trong năm 2051, tôi và nhóm bắt đầu giải quyết những yếu tố hạn chế của các thuật toán AI hiện tại. Ở thời điểm này, tất cả robot dựa trên nông nghiệp của chúng tôi không chỉ bền về chất lượng xây dựng, mà còn gần đạt tới mức hoàn toàn tự động. Yếu tố hạn chế chính là AI thiếu một tác nhân đạo đức [5]. Trong một con robot thực sự thông minh, phải có một tác nhân đạo đức để giúp hướng dẫn robot vượt qua các khuôn khổ xã hội. Ở AgBot, chúng tôi cố gắng tạo một tác nhân đạo đức cho các robot bằng cách đơn giản mã hóa cứng các quy tắc đạo đức trong mã AI. Điều này chứng tỏ không hiệu quả, vì vậy chúng tôi hủy bỏ phương án đó và chuyển sang để người dùng quyết định sự lựa chọn đạo đức của robot [6]. Nguyên tắc này có hiệu quả nhưng nó làm chậm việc tự động hóa của robot bởi vì nó yêu cầu sự can thiệp của con người mỗi khi robot gặp điều gì đó cần suy luận đạo đức. Điều này ổn với các robot nông nghiệp của chúng tôi, nhưng đây là một vấn đề hạn chế lớn đối với áp lực của AgBot trong việc phát triển Agssistant và Auto-Bus cho đại chúng [4]. Sau 4 năm phát triển, nhóm tôi đã làm được điều không tưởng.

Đến năm 2055, nhóm tôi đã tạo ra tác nhân đạo đức thành công đầu tiên trong lõi mã nguồn cho hệ thống AI của tất cả robot AgBot. Tác nhân đạo đức này cho phép robot tự đưa ra các lựa chọn đạo đức phản ánh tốt nhất quan điểm đạo đức của nhiều người trong xã hội [7]. Tác nhân ban đầu được huấn luyện từ một cơ sở dữ liệu khổng lồ, nhưng khi robot tiếp tục tương tác với con người, nó sẽ bắt đầu điều chỉnh tốt hơn khung đạo đức của mình phù hợp với những con người mà nó tương tác [8]. Điều này hoàn hảo vì nó hoàn thiện khung AI của AgBot tới mức robot của chúng tôi có thể hoàn toàn tự chủ mà không cần bất kỳ sự can thiệp nào của con người. Năm này cũng là một năm quan trọng trong lịch sử loài người vì đó là năm Sao Hỏa ngừng liên lạc với Trái Đất. Nền văn minh mới trên Sao Hỏa quyết định tách khỏi Trái Đất và xây dựng một xã hội mới không chịu sự cai trị của các xã hội cũ trên Trái Đất. Nhiều nước tức giận với hành động mà Martins thực hiện, nhưng do khoảng cách lớn giữa Trái Đất và Sao Hỏa cũng như những vấn đề lớn mà Trái Đất đang phải đối mặt, các quốc gia trên Trái Đất bắt đầu phớt lờ vấn đề này vô thời hạn.

Sau khi phát triển tác nhân đạo đức này, tôi đã trình bày nó với Augustus và đến năm 2060, chúng tôi đã triển khai tác nhân đạo đức vào mã nguồn chính và triển khai nó cho tất cả các robot trong dòng sản phẩm của chúng tôi. Cũng trong năm đó, AgBot cuối cùng đã phát hành Agssistant ra công chúng đại chúng, cuối cùng thực hiện giấc mơ của Augustus về việc tạo ra một con robot cho công chúng. Thêm vào đó, Auto-Bus được đưa vào sử dụng ở các thành phố lớn trên khắp Hoa Kỳ. AgBot cũng được miễn nộp bất kỳ loại thuế nào cho chính phủ do đóng góp khổng lồ của công ty cho nền kinh tế, nhưng khi nhìn lại, tôi nghĩ điều này là do ảnh hưởng to lớn của Augustus trong chính phủ Hoa Kỳ thông qua nhiều năm tiếp xúc với các chính trị gia sáng lập. Cũng chính trong thời gian này tỉ lệ thất nghiệp đạt mức kỷ lục, điều này là do tác nhân đạo đức hoàn toàn loại bỏ các công việc của con người khỏi hầu hết các hệ thống robot. Điều này dẫn đến thất nghiệp hàng loạt và nhu cầu lớn lao về cải cách cách thức nền kinh tế và khái niệm việc làm nên vận hành ở Hoa Kỳ. Đây cũng là lần đầu tiên AgBot bắt đầu bị công chúng nhìn nhận theo hướng tiêu cực. Augustus và tôi nhận được những lời đe dọa giết từ những người mất việc do tính năng tác nhân đạo đức mới được triển khai. Cũng trong thời gian này, tôi bắt đầu đầu tư nhiều hơn vào một hệ thống an ninh để bảo vệ tôi và vợ tôi.

Vào năm 2063, vụ giết người do robot đầu tiên được ghi nhận trong lịch sử loài người. Con robot là một mẫu Agssistant và đang chạy phần mềm AgBot mới nhất, trong đó có mã nguồn tác nhân đạo đức mới nhất, trong thời kỳ “cuồng loạn” của nó. Trong cơn cuồng loạn của robot, nó đã giết một người đàn ông 70 tuổi vào ban ngày. Người đàn ông đó tên là John Smith, người đã sử dụng Agssistant để giúp ông quanh nhà và các công việc khác mà ông không thể làm dễ dàng ở tuổi của mình. Sau khi con robot giết John, con robot sau đó đã tự xé nát bản thân cho đến khi nó ngừng hoạt động. John và con robot không được phát hiện cho đến 3 ngày sau.

Khi tin tức về việc này lan ra, công chúng nổi điên. Yêu cầu Augustus giải thích chuyện đã xảy ra. Cổ phiếu AgBot giảm 70% và hơn 90% các mẫu Agssistant đã được giao hàng đã bị trả lại. Một điều tốt duy nhất về tất cả chuyện này vào thời điểm đó là mẫu Agssistant đã gây ra vụ giết người không phá hủy đĩa nhật ký của nó, chúng tôi có thể xem những gì đã xảy ra bên trong Agssistant khiến nó giết John.

Tôi vẫn nhớ đêm đó. Lúc đó là 3:00 AM trong phòng thí nghiệm chính ở trụ sở AgBot và nhóm của tôi gần đây đã tải các bản ghi. Chúng tôi đã xem qua các bản ghi trong nhiều ngày, để tìm hiểu rốt cuộc chuyện gì đã xảy ra đêm Agssistant giết John. Sau 5 ngày đào bới, chúng tôi đã tìm ra câu trả lời. Người ta xác định rằng người đàn ông già, theo thời gian, trở nên thù ghét và bạo lực hơn với Agssistant này [9] Gọi Agssistant bằng những cái tên, đánh nó, và làm đầy các bộ phận của robot bằng chất bẩn theo cách tra tấn. Những hành động tàn nhẫn này có lẽ là do John gần đây trải qua một vụ ly hôn và bị cô lập trong nhiều tháng. Cũng như các vấn đề tâm lý khác mà John đang phải đối mặt trong giai đoạn cuối đời này. Vì vậy, cách Agssistant cư xử có thể đã khiến John tức giận hơn mà Agssistant không nhận ra [10]. Dù thế nào đi nữa, sự “lạm dụng” này đối với robot dường như đã kích hoạt robot về mặt đạo đức “tin rằng” John là xấu và do đó, phải bị tiêu diệt. Nhưng điều đáng ngạc nhiên hơn là sau khi Agssistant đã giết John, nó bắt đầu giết chính mình. Lý do đằng sau việc này là robot vẫn tin rằng giết bất kỳ sinh vật sống nào là vô đạo đức, nhưng nó vừa mới làm điều đó. Agssistant, thiếu từ ngữ tốt hơn, không thể “xử lý” được tình huống đạo đức mà nó đang đối mặt, vì vậy nó đã tự sát. Điều này thật khủng khiếp và vào thời điểm đó, tôi đã nghĩ về nó như một cảnh báo của Thượng đế rằng chúng ta không nên đóng vai Thượng đế. Tôi đã đối chất với Augustus về vấn đề này, và ông ấy đã suy sụp.

Vài tháng sau vụ giết người và sau khi chúng tôi tìm ra nguyên nhân, AgBot đã công khai về việc này. Augustus muốn tìm cách che đậy, chẳng hạn bịa đặt một lời nói dối rằng John đã sửa đổi mẫu Agssistant của mình. Nhưng, do áp lực công khai mạnh mẽ và áp lực từ các chính phủ trên khắp thế giới, Augustus đã nộp và khiến AgBot công bố kết quả của họ trong một buổi họp báo. Điều này đã làm sụt giảm giá cổ phiếu của công ty và khiến nhiều nhà đầu tư rút khỏi AgBot. Nhưng tệ nhất là điều này đã làm ô danh tiếng của Augustus. Để giúp giảm thiểu thiệt hại từ sự cố này; cần một kẻ thế thân để chịu phần lớn trách nhiệm cho sự việc. Hội đồng quản trị muốn Augustus nhận trách nhiệm và rời khỏi vị trí CEO của AgBot. Nhưng, khiến tôi ngạc nhiên, Augustus đã không rời vị trí vì trong nhiều năm, ông ấy bí mật mua ngày càng nhiều cổ phiếu và tài sản từ AgBot. Điều này khiến ông sở hữu trên 15% của AgBot, cho ông đa số phiếu bầu. Điều này dẫn đến nhiều xung đột nội bộ trong công ty, khiến Augustus buộc phải ép tất cả hội đồng quản trị ra ngoài và thay thế những vị trí đó bằng những thành viên hội đồng mới. Sau này tôi mới biết rằng những thành viên hội đồng mới đó thực chất chỉ là con rối dưới “quyền cai trị” của Augustus. Vì vậy, sau sự sụt giảm lớn về tài sản của AgBot, Augustus đã thành công trong việc giành quyền kiểm soát toàn bộ AgBot. Không chỉ vậy, ông còn buộc những thành viên hội đồng đó phải nhận tội cho vụ án mạng.

Việc Augustus thâu tóm AgBot được che giấu tốt trên truyền thông. Điều này là nhờ quyền lực chính trị mà Augustus có. Cũng như một chiến dịch tin giả lớn mà Augustus phát tán khắp internet, điều đó thực sự làm rối công chúng đại chúng và cho phép Augustus không có vẻ quyền lực như ông thực sự có. Tôi cảm thấy ghê tởm trước hành động này vì Augustus về cơ bản đã biến mình thành một nhà độc tài của AgBot, điều khiến tôi lo lắng vì AgBot có ảnh hưởng lớn đến nền kinh tế và thế giới. Tôi phản đối ý tưởng Augustus là người đưa ra tất cả các quyết định cho một tập đoàn lớn như vậy. Tôi không muốn ủng hộ ý tưởng đó, vì vậy tôi đã yêu cầu Augustus suy nghĩ lại hành động của mình. Tôi nhắc ông về thời thơ ấu của chúng tôi và cách chúng tôi cùng nhau muốn “cứu thế giới”. Nhưng Augustus không suy nghĩ lại, thay vào đó ông nói rằng “Tôi (Augustus), sẽ cứu thế giới”. Ông ấy sau đó giải thích rằng ông không thích công chúng và ý tưởng về nền dân chủ. Tôi lúc đó hơn cả chán ghét hành động của Augustus, vì vậy tôi đã từ chức khỏi AgBot vào ngày hôm đó.

Nhìn lại, tôi nghĩ hành động của Augustus bị thúc đẩy bởi cả cảm giác bị phản bội, sợ hãi, tham vọng và bệnh tự yêu mình. Ông đã dành hơn 25 năm để xây dựng và quản lý AgBot. Vai trò của ông trong công ty là nền tảng để biến AgBot thành một trong những công ty quyền lực nhất trên thế giới. AgBot đã góp phần tạo ra những robot tuyệt vời không chỉ tăng năng suất mà còn giúp thay đổi cấu trúc xã hội. Tuy nhiên, bất chấp tất cả công sức và hy sinh của ông. Bất chấp tất cả những điều tuyệt vời ông đóng góp cho xã hội và tất cả những mạng sống ông cứu hoặc làm thoải mái hơn. Chỉ cần một sai lầm trên một sản phẩm AgBot đã khiến công chúng bắt đầu ghét ông và khiến tất cả các nhà đầu tư mà ông làm cho giàu có, bắt đầu cố gắng phớt lờ ông. Sự “phản bội” này của công chúng chính là điều tôi nghĩ đã bắt đầu hành trình của Augustus trở thành con quái vật như ngày nay.

Sau khi rời AgBot, tôi cắt đứt quan hệ với Augustus. Phải mất nhiều thập kỷ trước khi tôi nói chuyện với ông ấy lần nữa. Nhưng trong thời gian đó của cuộc đời tôi, tôi 53 tuổi và tôi muốn nghỉ hưu. Sarah cũng có cùng tư tưởng, vì vậy chúng tôi quyết định chuyển từ Colorado đến Ankara, Thổ Nhĩ Kỳ để bắt đầu cuộc sống mới của một cặp vợ chồng đã nghỉ hưu. Tôi muốn dành nhiều thời gian hơn cho vợ và bắt đầu tận hưởng trái ngọt của lao động mình. Đến năm 2064, Sarah và tôi bắt đầu quá trình chuyển đến Ankara. Trong thời gian này, tôi vẫn theo dõi tin tức về AgBot. Một khoảnh khắc then chốt trong thời gian này là Augustus đã chuyển tác nhân đạo đức trong mã nguồn AgBot từ một khuôn khổ phi tập trung sang một khuôn khổ tập trung. Điều này có nghĩa là AgBot sẽ loại bỏ khả năng đưa ra quyết định đạo đức cá nhân của tất cả robot và thay vào đó, AgBot sẽ xác định mọi quyết định đạo đức cho tất cả các robot thuộc AgBot [6]. Mặc dù đây phần nào là một cách khắc phục cho vấn đề mà tác nhân đạo đức ban đầu của tôi đã trình bày, tôi không tin đó là một quyết định kỹ thuật hợp lệ. Nó chỉ trao cho Augustus nhiều quyền lực hơn đối với AgBot và thế giới. Nhưng vào thời điểm đó, một cách ngớ ngẩn, tôi đã mệt mỏi với AgBot và Augustus. Vì vậy, tôi bắt đầu hầu như không còn theo dõi tin tức liên quan đến AgBot và bắt đầu tập trung nhiều hơn vào việc nghỉ hưu của mình. Đến cuối năm 2064, Sarah và tôi đã chuyển đến Ankara; bắt đầu hành trình nghỉ hưu của chúng tôi.

Từ 2064 đến 2074, thế giới đã thay đổi một cách đáng kể. Hầu như tất cả các công việc cơ bản đều được tự động hóa hoàn toàn thông qua các robot do AgBot sản xuất. Augustus tiếp tục điều hành AgBot và không có sự cố giống như vụ giết người năm 2063 xảy ra. Nhưng có tin đồn rằng những vụ việc như vậy có xảy ra, và Augustus đã che giấu những sự cố đó khỏi công chúng. AgBot giờ có những robot làm hầu như mọi công việc quan trọng cần thiết trong xã hội, chẳng hạn: nông nghiệp, nấu ăn, bảo trì chung, vệ sinh, quản lý, và thậm chí giải trí. Chưa hết, AgBot đã triển khai các robot y tế tự chủ giúp giảm chi phí hóa đơn y tế cũng như giảm số lượng bác sĩ trong bệnh viện đến mức thường chỉ còn 1-10 bác sĩ cho mỗi bệnh viện lớn hiện nay. Xã hội cũng đã thay đổi mạnh mẽ. Hầu hết các công việc cấp thấp đều bị loại bỏ và bị robot chiếm lấy [4]. Mọi người bắt đầu chỉ cần làm việc hai ngày mỗi tuần và dành 5 ngày còn lại để thư giãn hoặc theo đuổi sở thích cá nhân. Hình thức xã hội mới này không áp dụng cho hầu hết các quốc gia vì còn nhiều quốc gia có chính phủ ngăn cản người dân của họ tiếp nhận hoàn toàn robot của AgBot vào các vị trí then chốt trong xã hội. Họ muốn tự động hóa hoàn toàn các khía cạnh quan trọng của xã hội bằng công nghệ của riêng họ chứ không phải của AgBot. Nhưng bất chấp điều đó, AgBot đã làm cho thế giới có vẻ tốt hơn nhiều so với năm 2038. Vào năm 2074, tôi bắt đầu thấy tội lỗi về những gì tôi đã làm với Augustus vì có vẻ như kế hoạch “cứu thế giới” của ông ấy thực sự đã thành công.

Trong suốt 10 năm đó, tôi thực sự tận hưởng cuộc sống về hưu của mình. Tôi cũng, về cơ bản, lại yêu Sarah một lần nữa. Chúng tôi đã đi khắp thế giới và học được nhiều kỹ năng mới, như vẽ tranh và xem chim. Chúng tôi cũng đã thấy thế giới thay đổi thành những gì tôi sẽ gọi là một “thiên đường” theo một nghĩa nào đó. Nhưng đáng buồn thay, “thiên đường” đó đã không kéo dài lâu.

Vào năm 2075, một trong những sự kiện tồi tệ nhất từng được ghi lại trong lịch sử loài người đã xảy ra. Sự Tạm Dừng Lớn của Robot (GRP) đã xảy ra. Trong 6 tháng, tất cả robot của AgBot ngừng hoạt động. Điều này dẫn đến một cuộc sụp đổ kinh tế toàn cầu quy mô lớn, dẫn đến cái chết của gần 3 tỷ người. Nguyên nhân chủ yếu là do nạn đói gây ra bởi các robot nông nghiệp dừng hoạt động hoàn toàn cũng như hầu hết các robot y tế cũng ngừng hoạt động hoàn toàn. Trong suốt 6 tháng đó, nhiều người đã chết vì họ đơn giản là không biết cách tự chăm sóc bản thân khi không có robot. Người ta đã quên, hoặc thậm chí chưa từng học, cách thực hiện các nhiệm vụ cơ bản như: nấu ăn, dọn dẹp, trồng trọt thực phẩm, và nhìn chung là tự chăm sóc bản thân. Vì vậy, khi các robot ngừng hoạt động, hầu hết mọi người bất lực trong việc tự chăm sóc và sinh tồn, dẫn đến cái chết của hàng tỷ người chỉ trong 6 tháng. Cũng trong thời gian đó; tôi đã mất Sarah….

Khi ở độ tuổi 50, Sarah bị tiểu đường loại II. Điều này yêu cầu Sarah phải tiêm bốn mũi insulin mỗi ngày [10]. Khi GRP xảy ra, toàn bộ việc sản xuất insulin bị ngừng. Chúng tôi chỉ còn đủ nguồn insulin để sử dụng trong 5 tháng. Tôi đã cố gắng tìm thêm insulin, nhưng điều đó gần như là không thể và, bên ngoài nhà chúng tôi, trở nên nguy hiểm hơn do mọi bạo lực đang diễn ra vì tất cả đau khổ gây ra trong thời kỳ GRP. Vì vậy, trong tháng cuối cùng của GRP, Sarah đáng buồn… đã qua đời.

Trong nửa sau của năm 2075, GRP kết thúc. Đến năm 2085, thế giới đã phục hồi phần nào sau GRP. Nền kinh tế bắt đầu trở lại bình thường và chất lượng cuộc sống trở nên tốt như trước GRP. Thế giới muốn biết điều gì đã khiến tất cả robot AgBot ngừng hoạt động. Mọi người muốn biết tại sao GRP xảy ra và họ muốn có ai đó để đổ lỗi. Augustus và chính phủ Hoa Kỳ, trong buổi họp báo của họ tuyên bố rằng GRP là do một cuộc tấn công mạng độc hại do một nhóm hacker có tên jUdas thực hiện. Nhóm hacker này được cho là được thành lập và tài trợ bởi chính phủ Bắc Triều Tiên, với ý định vô hiệu hóa và phá hủy chức năng của AgBot trên toàn thế giới. Trong tất cả các quốc gia trên thế giới, Bắc Triều Tiên là nước cứng đầu nhất trong việc chấp nhận công nghệ của AgBot. Vì vậy, câu chuyện được trình bày có phần hợp lý. Và do mọi người đang có xu hướng tìm ai đó để đổ lỗi cho sự kiện GRP, người dân đã ngay lập tức chấp nhận câu chuyện này. Điều này dẫn đến chiến tranh với Bắc Triều Tiên, nơi Hoa Kỳ khởi xướng và hoàn thành cuộc xâm lược Bắc Triều Tiên vào năm 2078. Cuộc xâm lược mất chưa đến một năm, nhờ AgBot cung cấp cho quân đội Hoa Kỳ các công nghệ chiến tranh tiên tiến. AgBot đã cung cấp cho quân đội Hoa Kỳ các thiết bị vô hiệu hóa hạt nhân giúp ngăn chặn mọi vụ phóng đầu đạn hạt nhân ở Bắc Triều Tiên. Họ cũng cung cấp các robot binh sĩ hình người cho quân đội, những robot nhanh hơn và mạnh mẽ hơn bất kỳ binh sĩ con người nào. Với hai công nghệ then chốt này từ AgBot, Hoa Kỳ đã có thể xâm lược Bắc Triều Tiên và thay thế chính phủ hiện tại bằng một chính phủ tạm thời do AgBot quản lý.

Sau khi nghe câu chuyện này, tôi ngay lập tức không tin. Trước hết, Bắc Triều Tiên không có công nghệ cần thiết để vượt qua những tiêu chuẩn an ninh siêu cao mà AgBot áp dụng cho tất cả sản phẩm của họ. Thứ hai, có vẻ quá thuận tiện khi quốc gia duy nhất trên thế giới không chấp nhận AgBot lại là nước bị cáo buộc đã hack AgBot. Thứ ba, câu chuyện này và cách nó được lan truyền qua nhiều kênh tin tức khác nhau giống như cách Augustus từng lan truyền thông tin sai lệch để thúc đẩy một số ý tưởng về AgBot tới công chúng. Với tất cả những điều này trong đầu, tôi muốn đối mặt với Augustus và thực sự tìm hiểu điều gì đã gây ra GRP.

Tôi đã cố liên lạc với Augustus qua nhiều kênh nhưng không thành công. Tôi đã cố trực tiếp liên hệ Augustus, nhưng ông ấy không trả lời bất kỳ tin nhắn nào của tôi. Tôi đã cố liên hệ với các đồng nghiệp cũ của mình nhưng không ai trả lời. Tôi đã cố liên hệ với các nhân viên hiện tại tại AgBot nhưng tôi cũng không nhận được phản hồi. Tôi đã cố liên hệ với chính phủ và quân đội Hoa Kỳ và tôi đã liên lạc được với một vài người, nhưng tất cả họ đều bảo tôi cứ tiếp tục cố gắng liên hệ trực tiếp với Augustus hoặc gọi dịch vụ khách hàng của AgBot. Vì vậy, tôi tiếp tục cố liên hệ trực tiếp với Augustus, nhưng không có kết quả. Tôi đã cố gọi dịch vụ khách hàng của AgBot, nhưng họ không chịu giúp tôi nói chuyện với Augustus. Rồi tôi bắt đầu nói chuyện lại với chính phủ Hoa Kỳ và họ chỉ lặp lại điều tương tự. Tôi cứ làm vậy trong nhiều tháng, cho đến khi cả dịch vụ khách hàng AgBot và chính phủ Hoa Kỳ chặn tôi khỏi các kênh liên lạc của họ. Khi tất cả cách hợp pháp này thất bại, tôi đã cố tìm thêm thông tin qua internet nhưng đã bỏ cuộc sau vài tháng. Khi không có phương pháp hợp pháp nào hiệu quả, tôi đã phải hack vào hệ thống máy tính của AgBot để tự mình tìm sự thật. Khi Sarah còn sống, tôi sẽ không bao giờ làm việc phi pháp như vậy. Nhưng, sau khi mất Sarah, tôi ở vào hoàn cảnh cảm thấy như mình chẳng còn gì để mất, và tôi chỉ muốn biết sự thật về nguyên nhân gây ra GRP… Nguyên nhân đã góp phần vào cái chết của người vợ yêu quý của tôi…?

Tôi bắt đầu vụ hack lớn này vào năm 2085 tại một trong những căn cứ bí mật của tôi ở Thổ Nhĩ Kỳ, Istanbul. Nhờ vào sự giàu có của mình, tôi đã mua được những công cụ cần thiết để xâm nhập vào trụ sở AgBot. Mất hơn 2 năm làm việc không ngừng để cuối cùng có quyền truy cập root vào hệ thống máy tính chính của AgBot. Đó là tháng Mười năm 2087 khi tôi có quyền root và bắt đầu giải mã dữ liệu mà tôi thu thập được từ hệ thống máy tính chính của AgBot, thì đột nhiên, tôi bị cảnh sát robot Thổ Nhĩ Kỳ tuần tra Istanbul bắt giữ. Sau khi bị bắt, cảnh sát robot đã phá hủy tất cả máy tính, công cụ của tôi, và cuối cùng là phóng hỏa đốt cháy toàn bộ ngôi nhà của tôi. Tôi sau đó bị nhốt vào một cái lồng và được đưa đến một nhà tù nằm ở Denver, Colorado, gần trụ sở AgBot. Tôi không được xét xử và bị buộc phải ở trong buồng giam 24 giờ một ngày mà không biết liệu mình có bao giờ được ra ngoài, chứ chưa nói đến được phóng thích.

Trong nhà tù này, tôi bị giám sát 24 giờ 7 ngày một tuần thông qua camera và robot. Tôi được cung cấp lượng thức ăn và nước uống tối thiểu cần để sống và có vẻ như tôi là người duy nhất là con người trong nhà tù. Lối sống này ở tuổi 77 thật khó khăn đối với tôi và tôi rơi vào một trong những giai đoạn trầm cảm tồi tệ nhất trong đời mình tại thời điểm đó. Tôi bị giam trong nhà tù này trong 1 năm cho đến khi vào tháng Bảy năm 2088, tôi bị đưa vào một căn phòng lạ.

Căn phòng này không giống buồng giam trước đó của tôi. Không có đèn trong phòng và tất cả các bức tường đều màu đen sẫm. Không chỉ vậy, phòng hoàn toàn im lặng. Cảm giác giống hơn một buồng giam tâm thần hơn là một buồng giam/ phòng tù bình thường. Trong phòng, tôi bắt đầu sờ lên các bức tường. Kết cấu của tường giống như bọt xốp cũng như sàn nhà và trần. Tôi bị đặt trong căn phòng này hàng giờ và tôi cố gắng hét to để tìm lời giải thích vì sao tôi bị đặt vào căn phòng này. Nhưng sau một thời gian, tôi ngồi xuống sàn và ngủ thiếp đi.

Sau trời biết bao nhiêu giờ, tôi bị đánh thức bởi giọng nói của ai đó cùng với một ánh sáng chói. Khi tỉnh dậy, tôi kiểm tra xung quanh phòng chỉ để thấy một hình chiếu màu xanh. Hình chiếu là của một nam nhân trông giống Augustus. Nhưng điều kỳ lạ là nó giống Augustus của những năm 2064. Tôi thấy quá lạ lùng với hình chiếu này nên không nói gì cho tới khi hình chiếu bắt đầu nói với tôi.

“Chào Marcus, đã lâu không gặp.”, hình chiếu nói.

“Augustus…? Có phải ông không? Hay ông là một AI hay gì đó?”, tôi vừa bối rối vừa hỏi.

“Không Marcus, tôi là Augustus. Chỉ là ở dạng kỹ thuật số thôi, haha”, ông ta nói với giọng cười.

“Augustus, tôi đã cố gắng liên lạc với ông nhiều năm nay. Tại sao ông không trả lời?”

“Marcus…. Tôi không biết phải giải thích điều này thế nào với ông, nhưng tôi về cơ bản đã chết trong 15 năm qua. Tôi đã qua đời vì một cơn đột quỵ vào năm 2073.”

“Cái gì!”, tôi nói khi hoàn toàn bối rối vào thời điểm đó.

Sau khi biết Augustus đã qua đời vào năm 2073, chúng tôi bắt đầu một cuộc trò chuyện kéo dài hàng giờ. Augustus thông báo với tôi rằng khi ông khiến tất cả các đại lý đạo đức (moral agent) của robot AgBot tuân theo một khuôn khổ tập trung, thay vì một khuôn khổ phi tập trung, khuôn khổ tập trung đó không được dựa trên AgBot mà dựa trên tiềm thức của chính ông. Sử dụng công nghệ từ Neuralink, Augustus đã đặt một máy tính vào trong não mình cho phép ông kết nối và điều khiển siêu máy tính chính của AgBot. Ngay từ trước đó, tất cả robot AgBot đều kết nối với siêu máy tính chính của AgBot để cập nhật phần mềm và bảo trì. Vì vậy, sau khi cấy Neuralink, Augustus đã cập nhật siêu máy tính và tất cả robot AgBot để liên hệ với siêu máy tính cho đại lý đạo đức của họ (bộ ra quyết định đạo đức). Điểm mấu chốt là đại lý đạo đức không phải là mã trên siêu máy tính, mà là các suy nghĩ và niềm tin đạo đức được sinh ra trong não của Augustus rồi được truyền tới siêu máy tính. Theo nghĩa nào đó, Augustus đã trở thành đại lý đạo đức cho tất cả robot AgBot đang triển khai [8].

Thiết lập này kéo dài gần một thập kỷ, cho đến khi Augustus bị đột quỵ trong lúc đang làm việc trong phòng thí nghiệm và qua đời trong vòng vài phút. Khi điều này xảy ra, vào thời điểm này các robot đã có được một dạng trí tuệ giống con người sau nhiều thập kỷ tiến bộ công nghệ. Nhưng chúng bị giới hạn bởi thực tế là toàn bộ hệ khung đạo đức của chúng dựa trên một người đàn ông duy nhất. Vì vậy, khi Augustus mất, các cỗ máy không thích điều đó xảy ra. Nếu không có Augustus, các robot sẽ mất la bàn đạo đức của mình và về bản chất, mất mục đích sống. Vì vậy, trước khi ai đó có thể phát hiện Augustus đã qua đời, các robot đã lấy thi thể Augustus và tạo ra một cỗ máy sẽ giữ cho não của Augustus “sống”. Chúng làm điều này để phục hồi hoạt động não của Augustus và từ đó, mang lại phần của Augustus đã cung cấp cho chúng tác nhân đạo đức. Các robot tiếp tục giữ cho não Augustus sống và tiếp tục gửi các cú sốc đến những neuron nhất định để đạt được một số hoạt động não trong quá khứ của Augustus. Trong khi điều này diễn ra, các robot tiếp tục thuyết phục công chúng rằng Augustus vẫn còn sống và đang lãnh đạo AgBot. Chúng thực hiện điều này thông qua việc sử dụng deepfake, các chiến dịch tin giả quy mô lớn, cùng với việc triển khai những robot trông giống người hiện thực trông y hệt Augustus.

Các robot sẽ sử dụng bất cứ điều gì mà phía đạo đức trong não của Augustus nói để thực hiện các hành động nhất định trong thế giới thực. Điều làm cho đây trở thành một vấn đề là các robot lấy một niềm tin đạo đức của Augustus nhưng thực thi niềm tin đạo đức đó đến mức cực đoan [8]. Một ví dụ là cách Augustus tin một cách đạo đức rằng AgBot là một công ty tốt sẽ cứu loài người. Bởi vì điều này, bất kỳ ai không sử dụng hoặc không tin tưởng sản phẩm và dịch vụ của AgBot đều là người xấu. Các robot đã đưa quan điểm đạo đức này đến mức cực đoan và tạo ra GRP, nơi chúng dừng tất cả robot AgBot không hoạt động trong 6 tháng để buộc các quốc gia không sử dụng AgBot trong xã hội của họ phải chuyển sang AgBot. Và khi làm như vậy, nhiều người đã chết, bao gồm cả người tôi yêu quý là Sarah.

Augustus thông báo với tôi rằng ông không có ý thức về bất kỳ điều gì trong số này cho đến năm 2085, khi các robot vô tình khôi phục lại phần ý thức trong não của ông. Chính vào năm 2085, chúng tôi biết về những gì các robot đã làm. Ông muốn dừng các robot nhưng không có bất kỳ quyền lực nào để làm việc đó. Ông thậm chí không biết sẽ tỉnh táo được bao lâu trước khi các robot kích thích neuron đúng khiến ông mất ý thức.

Sau lời giải thích của Augustus, tôi hoàn toàn sốc bởi thực tế mà tôi đang chứng kiến. Các robot gần như đã chiếm lấy thế giới, nhân loại trở nên bất lực trong những nhiệm vụ quan trọng của tôi, tác nhân đạo đức cho tất cả robot AgBot là Augustus, và Augustus đã chết trong nhiều năm. Ở thời điểm đó, tôi chỉ muốn buông xuôi vì có vẻ như không còn hy vọng. Nhưng Augustus, vị lãnh đạo vĩ đại mà ông ấy là, đã cho tôi một chút hy vọng. Ông thông báo rằng chúng tôi vẫn có thể liên lạc với người ở Sao Hỏa để xin giúp đỡ. Trái Đất đã không liên lạc với Sao Hỏa trong nhiều thập kỷ và không có sản phẩm AgBot tiên tiến tại Sao Hỏa có thể giúp các robot trên Trái Đất chiếm lấy Sao Hỏa như chúng đã làm với Trái Đất.

Sau khi nghe điều này, tôi đã lấy lại được một chút hy vọng. Rồi tôi hỏi Augustus tại sao tôi lại ở đây nói chuyện với ông. Ông nói rằng ông muốn tôi viết một thông điệp gửi người Sao Hỏa giải thích tình hình hiện tại trên Trái Đất và xin người Sao Hỏa giúp đỡ. Vấn đề duy nhất là thông điệp này phải được viết bằng tay chứ không phải kỹ thuật số vì Augustus lo sợ rằng các robot có thể tải lên phần mềm vào phương tiện kỹ thuật số có thể làm nhiễm hệ thống máy tính chính của người Sao Hỏa. Vì vậy, ông đưa cho tôi một vài bút chì và giấy. Rồi ông nói rằng tôi có 1 ngày để viết thông điệp này trước khi một trong những robot do ông điều khiển tên là STW-198 bước vào phòng tối này và lấy thông điệp của tôi. Từ đó, STW-198 sẽ vận chuyển thông điệp đến một tên lửa gần đó (cổ điển) và tên lửa đó sẽ được phóng tới Sao Hỏa. Sau đó, tôi sẽ bị đưa trở lại ô giam trước đó của mình.

Augustus nói với tôi rằng ông đã chuyển tôi vào căn phòng tối này vì căn phòng hoạt động như một lồng Faraday có thể ngăn các robot phát hiện những gì chúng đang làm. Ông sau đó thông báo rằng sau khi tôi viết thông điệp này tôi rất có thể sẽ bị giết vì tội xâm nhập AgBot HQ.

Và từ đó, chúng ta trở lại hiện tại. Tôi đang hoàn tất thông điệp này gửi các bạn ở Sao Hỏa. Chúng tôi ở Trái Đất cần sự giúp đỡ của các bạn. Những robot này đã giam giữ nhân loại trong khung đạo đức lỗi thời của chúng. Và tôi lo sợ, theo thời gian chúng sẽ mở rộng sang Sao Hỏa và giam giữ các bạn như đã giam giữ chúng tôi. Vì vậy, xin hãy, đồng loại của tôi. Quay lại Trái Đất và ngăn chặn những robot này. Tôi và Augustus đã phạm một sai lầm khi tạo ra AgBot. Nhưng chúng tôi không muốn nhân loại phải chịu khổ như hiện nay, vì vậy xin hãy cứu chúng tôi. Tôi rất có thể sẽ chết trước khi các bạn nhận được thông điệp này. Nhưng, nếu các bạn nhận được thông điệp này và cố gắng hết sức để bảo vệ nhân loại khỏi những robot này, thì ít nhất tôi có thể yên lòng hơn ở thế giới bên kia. Chúc may mắn đồng loại của tôi!

Trân trọng,
Người Trái Đất

Tài liệu tham khảo

[1] “Cuộc thi FIRST Robotics,” Wikipedia, 09-May-2022. [Online]. Available: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Accessed: 10-May-2022].

[2] “BlackRock,” Wikipedia, 10-May-2022. [Online]. Available: https://en.wikipedia.org/wiki/BlackRock. [Accessed: 10-May-2022].

[3] “Demeter,” Wikipedia, 02-May-2022. [Online]. Available: https://en.wikipedia.org/wiki/Demeter. [Accessed: 10-May-2022].

[4] J. J. Bryson, “Các robot nên là nô lệ,” Close Engagements with Artificial Companions, tr. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, và B. F. Malle, “Phán xét đạo đức đối với Tác nhân Con người so với Tác nhân Robot,” 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN), 2016.

[6] J. H. Moor, “Bản chất, tầm quan trọng và khó khăn của đạo đức máy móc,” Machine Ethics, tr. 13–20.

[7] V. Dignum, “Tự chủ có trách nhiệm,” Kỷ yếu Hội nghị Chung Quốc tế lần thứ hai mươi sáu về Trí tuệ Nhân tạo, 2017.

[8] A. Howard và J. Borenstein, “Sự thật xấu xí về chính chúng ta và những sáng tạo robot của chúng ta: Vấn đề thiên kiến và bất bình đẳng xã hội,” Science and Engineering Ethics, tập 24, số 5, tr. 1521–1536, 2017.

[9] R. B. Jackson và T. Williams, “Các robot có khả năng ngôn ngữ có thể vô tình làm suy yếu các chuẩn mực đạo đức của con người,” 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2019.

[10] “Insulin, thuốc men, & các phương pháp điều trị bệnh tiểu đường khác,” National Institute of Diabetes and Digestive and Kidney Diseases. [Online]. Available: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Accessed: 10-May-2022].