เรื่องราวเบื้องหลัง

ฉันเขียนเรื่องสั้นเรื่อง ราชาผู้ถูกลดทอน เป็นงานมอบหมายชิ้นสุดท้ายสำหรับชั้นเรียน จริยธรรมของหุ่นยนต์ (HASS400) ของฉันในภาคการศึกษาสุดท้ายของระดับปริญญาตรีที่ Colorado School of Mines สำหรับงานมอบหมายนี้ เราได้รับมอบหมายให้เขียนเรื่องสั้นเชิงนิยายที่มีจริยธรรมของหุ่นยนต์เป็นแกนหลัก รวมถึงอ้างอิงเอกสารบางฉบับที่เราอ่านระหว่างภาคการศึกษาไว้ในเรื่องสั้นด้วย ข้อกำหนดสำหรับเรื่องนี้คือจะต้องมีความยาว 10 หน้า ซึ่งฉันเขียนไปถึง 21 หน้า ฉันอินกับเรื่องสั้นนี้มาก ดังนั้นจึงจัดเต็มกับมันอย่างสุดเหวี่ยง

ตอนนี้ คำเตือน ฉันไม่ใช่นักเขียนที่เก่งมาก ดังนั้นเรื่องสั้นนี้จึงยังไม่สมบูรณ์และต้องได้รับการขัดเกลา รวมถึงเขียนใหม่ครั้งใหญ่ แต่ฉันก็ภูมิใจกับมันและคิดว่ามันเป็นเรื่องที่อ่านสนุก ตลอดหลายปีที่เรียนอยู่ ฉันเริ่มเพลิดเพลินกับกระบวนการเขียน ดังนั้นฉันจึงหวังว่าจะขยายไปเขียนสิ่งอื่น ๆ เช่น บล็อก บทความ และอื่น ๆ

เมื่อรู้ทั้งหมดนี้แล้ว เรื่องสั้นต้นฉบับถูกบันทึกเป็นไฟล์ PDF ซึ่งเป็นส่วนหนึ่งของข้อกำหนดของงานมอบหมาย แต่เพื่อลดขนาดของเอกสาร ฉันจึงแปลงเรื่องนี้เป็นมาร์กดาวน์ ด้วยเหตุนี้ เรื่องสั้นทั้งหมดจึงสามารถดู/อ่านได้ด้านล่าง ฉันหวังว่าคุณจะสนุกกับการอ่าน หากมีคำถามหรือข้อเสนอแนะเกี่ยวกับเรื่องสั้นนี้ ติดต่อฉันได้ทางโซเชียลของฉัน

อ่านต่อเพื่อค้นพบ ราชาผู้ถูกลดทอน…

ราชาผู้ถูกลดทอน

Mehmet Hanifi Yilmaz
10 พฤษภาคม 2022

เรื่องย่อ

ในอนาคตที่ชะตากรรมของโลกแขวนอยู่บนเส้นด้าย Marcus Bruce อัจฉริยะด้านเทคโนโลยี และ Augustus Elrod เพื่อนของเขา ผู้นำผู้มีวิสัยทัศน์ ออกเดินทางในภารกิจเพื่อเปลี่ยนแปลงโลกผ่านหุ่นยนต์ขั้นสูง สิ่งประดิษฐ์ของพวกเขาอย่าง AgBot ปฏิวัติภาคเกษตรกรรมและอุตสาหกรรมทั่วโลก พร้อมมอบคำมั่นสัญญาถึงอนาคตแบบยูโทเปีย แต่เมื่ออาณาจักรเทคโนโลยีของพวกเขาเติบโตขึ้น ผลลัพธ์ที่ไม่คาดคิดกลับท้าทายแก่นแท้ของศีลธรรมและเสรีภาพของมนุษย์ เมื่อเหตุการณ์หายนะที่รู้จักกันในชื่อการหยุดทำงานครั้งใหญ่ของหุ่นยนต์คุกคามการดำรงอยู่ของมนุษยชาติ Marcus ต้องเผชิญหน้ากับด้านมืดของมรดกที่พวกเขาทิ้งไว้ และวิงวอนขอความช่วยเหลือจากดาวเคราะห์ระหว่างดวงดาว “ราชาผู้ถูกลดทอน” คือเรื่องราวอันน่าติดตามของความทะเยอทะยาน อำนาจ และสมดุลอันละเอียดอ่อนระหว่างมนุษย์กับเครื่องจักร ซึ่งชวนให้เราตั้งคำถามถึงต้นทุนที่แท้จริงของความก้าวหน้า

เรื่องราว

ฉันอยู่ที่นี่เพื่อแจ้งให้คุณทราบถึงสถานการณ์วิกฤตที่โลกกำลังเผชิญอยู่ในขณะนี้! หากจัดการได้ไม่เหมาะสม สถานการณ์นี้สามารถนำมนุษยชาติไปสู่ความพินาศได้อย่างง่ายดาย ฉันอยากจะอธิบายสถานการณ์นี้ด้วยประโยคเพียงไม่กี่ประโยค แต่เป็นที่น่าเสียดายที่ความซับซ้อนของสถานการณ์นี้ทำให้ฉันต้องอธิบายสิ่งที่นำไปสู่สถานการณ์ดังกล่าว เพื่อให้พวกคุณทุกคนเข้าใจความร้ายแรงของมันอย่างแท้จริง

ฉันเป็นปัจจัยสำคัญประการหนึ่งในสิ่งที่นำไปสู่สถานการณ์ปัจจุบันของโลก ดังนั้นอย่างน้อยขอแนะนำตัวเองก่อน ฉันชื่อ Marcus Bruce ฉันเกิดในเมืองเล็ก ๆ แห่งหนึ่งในโคโลราโดที่ชื่อ Ouray เมื่อปี 2010 Ouray เป็นพื้นที่ชานเมืองที่ล้อมรอบด้วยภูเขาอันงดงาม ฉันเกิดจากพ่อแม่สองคนที่เป็นครูมัธยมทั้งคู่ พ่อของฉันเป็นครูคณิตศาสตร์ ส่วนแม่เป็นครูวิทยาศาสตร์

ฉันจำวัยเด็กตอนต้นของตัวเองได้ไม่มากนัก เพราะฉันคิดว่าตัวเองยังไม่ได้มีจิตสำนึกอย่างแท้จริงจนกระทั่งอายุ 12 ปี ซึ่งตรงกับปี 2022 ในปีนั้น ฉันกำลังเรียนอยู่ชั้นมัธยมต้น และได้รับการยกย่องว่าเป็นเด็กอัจฉริยะที่โดดเด่นอย่างมากในวิชาคณิตศาสตร์และวิทยาศาสตร์ ผู้อำนวยการโรงเรียนของฉันต้องการให้พ่อแม่ส่งฉันข้ามจากเกรด 7 ไปเรียนเกรด 11 แต่พ่อแม่ของฉันไม่เห็นด้วยกับคำแนะนำของผู้อำนวยการ เพราะพวกเขาต้องการให้ฉันมีวัยเด็กตามปกติ ฉันรู้สึกขอบคุณสำหรับการตัดสินใจนี้ เพราะฉันจำได้ว่าตัวเองมีวัยเด็กที่ยอดเยี่ยม วัยเด็กในช่วงเวลาที่โลกกำลังเริ่มผสานรวมเข้ากับเทคโนโลยีมากขึ้น แทนที่จะถูกเทคโนโลยีกลืนกินไปทั้งหมด ตอนนี้ การได้รู้ว่าฉันเป็นเด็กอัจฉริยะทำให้ปี 2022 เป็นปีที่พิเศษสำหรับฉัน แต่สิ่งที่ทำให้ปี 2022 เป็นปีที่พิเศษอย่างแท้จริงคือการที่มันเป็นปีที่ฉันได้พบกับเพื่อนระยะยาวในอนาคตของฉันเป็นครั้งแรก นั่นคือ Augustus Elrod และ Augustus คนเดียวกันนี้เองที่มีบทบาทสำคัญในการกำหนดเหตุการณ์ต่าง ๆ ซึ่งนำโลกมาสู่จุดที่มันเป็นอยู่ในตอนนี้

ฉันพบกับ Augustus ในเกรด 7 ที่ชมรมหุ่นยนต์ Lego ท้องถิ่นของเรา สิ่งแรกที่ฉันสังเกตเห็นเกี่ยวกับลักษณะนิสัยของ Augustus คือความทะเยอทะยานและแรงผลักดันของเขา แม้ในฐานะเด็กชายวัย 12 ปี Augustus ก็เป็นผู้นำที่แท้จริง เพราะเขาสามารถนำทีมแข่งหุ่นยนต์ Lego ท้องถิ่นของเราไปคว้าชัยชนะในการแข่งขันระดับประเทศของสหรัฐอเมริกาได้ ซึ่งน่าประทับใจอย่างแท้จริงเมื่อพิจารณาว่าสมาชิกทุกคนในทีมล้วนเป็นเด็กมัธยมต้นที่แทบไม่สนใจเรียนรู้วิศวกรรมเบื้องหลังหุ่นยนต์เลย แต่ Augustus ไม่เพียงสร้างแรงจูงใจให้เด็กเหล่านั้นอยากเรียนรู้และคว้าชัยชนะเท่านั้น เขายังนำพวกเขาไปสู่ชัยชนะอีกด้วย พวกเราทุกคนเคารพ Augustus ในฐานะผู้นำของเรา และ Augustus ก็ไม่ได้เคารพผู้คนมากมายนัก แต่เขาเคารพฉันในด้านสติปัญญา เขาสังเกตเห็นฉันครั้งแรกจากความฉลาดของฉัน และตกใจที่ได้พบใครบางคนในกลุ่มอายุเดียวกันที่ฉลาดกว่าเขา Augustus ถึงกับแข่งขันทำข้อสอบกับฉัน แต่ก็แพ้อยู่เสมอ แต่ในขณะที่ฉันเอาชนะ Augustus ด้วยมันสมองได้เสมอ Augustus ก็จะเอาชนะฉันในด้านกีฬา เขาเล่นบาสเกตบอลและฟุตบอลหลังเลิกเรียน เขาเก่งกีฬาเหล่านี้มากจนหลายคนคิดว่าเมื่อโตขึ้นเขาจะกลายเป็นนักกีฬาอาชีพ ความเคารพที่เรามีต่อกันนี้ท้ายที่สุดได้นำไปสู่มิตรภาพอันยาวนานที่ดำเนินต่อไปจนถึงช่วงวัยผู้ใหญ่ของเรา

หลังจากช่วงมัธยมต้น เราเริ่มเรียนมัธยมปลายในปี 2024 ในช่วงมัธยมปลาย ทั้งฉันและ Augustus เข้าแข่งขันในรายการ FIRST Robotics Competition (FRC) [1] FRC เป็นการแข่งขันหุ่นยนต์ที่ใหญ่ที่สุดในสหรัฐอเมริกา และส่วนใหญ่ประกอบด้วยนักเรียนมัธยมปลาย [1] ระหว่างเข้าร่วม FRC เราได้เรียนรู้มากมายเกี่ยวกับวิศวกรรมเครื่องกล วิศวกรรมไฟฟ้า และวิศวกรรมคอมพิวเตอร์ และด้วยทักษะความเป็นผู้นำอันยอดเยี่ยมของ Augustus เราจึงสามารถคว้าชัยชนะในการแข่งขันระดับประเทศได้ 2 ปีติดต่อกัน ซึ่งในเวลานั้นถือว่าไม่เคยเกิดขึ้นมาก่อน นอกจากนี้ ในช่วงเวลานี้ ฉันยังเข้าแข่งขันคณิตศาสตร์หลายรายการ รวมทั้งเข้าร่วมการโต้วาทีเกี่ยวกับหัวข้อที่อิงหลักจริยธรรมด้วย ช่วงเวลานี้ยังเป็นช่วงที่ Augustus ยังคงครองความยิ่งใหญ่ในกีฬาบาสเกตบอล โดยนำทีมตัวแทนระดับมัธยมปลายเข้าสู่การแข่งขันระดับประเทศเป็นเวลา 3 ปีติดต่อกัน เราต่างก็เป็นนักเรียนที่มีพรสวรรค์ในแบบของตัวเอง แต่ช่วงเวลานี้ยังเป็นช่วงที่ทั้งฉันและ Augustus พัฒนาเป้าหมายในชีวิตของเรา และไม่ว่าจะดีหรือร้าย เราก็ยังคงเดินตามเป้าหมายเหล่านั้นไปจนถึงจุดจบ

ตลอดช่วงเวลาที่เรียนมัธยมปลาย ฉันค้นพบว่าเป้าหมายในชีวิตของฉันคือการทำให้โลกเป็นสถานที่ที่ดีขึ้นผ่านเทคโนโลยี ฉันยอมรับว่าโลกจะไม่มีวันสมบูรณ์แบบและจะมีข้อบกพร่องอยู่เสมอ แต่ในเวลานั้น ฉันเชื่อว่าหากฉันทุ่มเททำงานหนักมากพอ อย่างน้อยฉันก็สามารถช่วยแบ่งเบาภาระของโลกและสร้างอนาคตที่ดีกว่าได้ Augustus มีเป้าหมายคล้ายกัน แต่แตกต่างออกไปเล็กน้อย ฉันรู้ว่า Augustus มีความทะเยอทะยาน แต่ฉันไม่เคยรู้จริง ๆ ว่าเขาต้องการเดินไปทางไหนในชีวิต จนกระทั่งถึงปีสุดท้ายของมัธยมปลาย

ในปีสุดท้ายของมัธยมปลาย ทั้งฉันและ Augustus ได้รับการตอบรับและตัดสินใจเข้าเรียนที่ Massachusetts Institute of Technology (MIT) Augustus ได้รับข้อเสนอให้มีโอกาสเข้าสู่การดราฟต์ของ NBA แต่เขาปฏิเสธข้อเสนอนั้นและเลือกไปเรียนที่ MIT แทน ฉันได้ยินเรื่องนี้ครั้งแรกจากพ่อแม่ของ Augustus และหลังจากนั้นฉันก็โทรหา Augustus บทสนทนาของเราดำเนินไปประมาณนี้:

“Augustus ทำไมนายถึงปฏิเสธ NBA ล่ะ? นั่นเป็นโอกาสที่มีเพียงครั้งเดียวในชีวิตนะ” ฉันพูดด้วยความสับสน

“Marcus NBA คงสนุกดี แต่ก็แค่สนุก มันจะไม่เปลี่ยนแปลงโลก ที่จริงแล้ว มันจะทำให้ฉันเสียสมาธิจากการแก้ไขโลกใบนี้เสียด้วยซ้ำ” Augustus กล่าวด้วยน้ำเสียงมั่นใจ

“เปลี่ยนโลกเหรอ? นายหมายความว่ายังไง?”

“ใช่ เปลี่ยนโลก! Marcus ฉันต้องการนำพามนุษยชาติไปสู่อนาคตที่ดีกว่า ฉันอยากกอบกู้โลก!”

ฉันหยุดไปสองสามวินาที โดยประหลาดใจกว่าที่คิดไว้อย่างไม่รู้สาเหตุ

“กอบกู้โลกเหรอ? นายหมายความว่ายังไง?”

“Marcus นายกับฉันมีพรสวรรค์ เราทั้งคู่ต้องการช่วยโลก นายโดดเด่นด้านสติปัญญา ส่วนฉันโดดเด่นด้านการเป็นผู้นำ ไม่ใช่แค่นั้นนะ แต่ฉันเชื่อใจนาย Marcus ด้วยทักษะของนายและทักษะของฉัน เราสามารถพัฒนาและเผยแพร่เทคโนโลยีที่เปลี่ยนแปลงโลกให้ดีขึ้นได้ ฉันมั่นใจในเรื่องนี้!”

“ว้าว นายทะเยอทะยานกว่าที่ฉันคิดไว้นะ Augustus!” ฉันพูดพร้อมหัวเราะเบา ๆ ในตอนท้าย “แต่ถ้าอย่างนั้น นายคิดว่าเราจะทำภารกิจแบบนั้นให้สำเร็จได้อย่างไร?”

“คำตอบสั้น ๆ ก็คือแบบนี้ Marcus ฉันวางแผนจะเริ่มต้นธุรกิจเทคโนโลยี จากนั้นก็ขยายเข้าสู่การเมือง ด้วยวิธีนั้น เราจะได้รับทั้งอำนาจทางการเงินและอำนาจทางการเมือง และจากจุดนั้น เราก็จะสามารถเปลี่ยนแปลงโลกได้ นายจะมีบทบาทสำคัญในแผนนี้นะ Marcus!”

“โอเค Augustus นั่นยังคงเป็นความทะเยอทะยานอย่างมาก แต่เมื่อใดก็ตามที่นายวางแผนเป็นรูปเป็นร่างและเริ่มต้องการฉัน ฉันจะอยู่ที่นั่น”

“ขอบใจนะเพื่อน ฉันจะพบกับนายที่ MIT!” Augustus กล่าวด้วยน้ำเสียงตื่นเต้น

ในเวลานั้น บทสนทนานี้ไม่ได้มีความหมายกับฉันมากนัก ฉันรู้ว่า Augustus เก่ง แต่ความฝันของเขาฟังดูเหมือนเป็นเพียงความฝัน มากกว่าจะเป็นอนาคตที่เป็นไปได้ ฉันไม่ได้จริงจังกับคำพูดของเขาในเวลานั้น แต่ทุกอย่างจะเปลี่ยนไปในภายหลัง ไม่ว่าอย่างไร ตอนนั้นเป็นปี 2028 และฉันก็กำลังตั้งตารอที่จะเริ่มการศึกษาระดับปริญญาตรีที่ MIT

มันยังเป็นช่วงเวลาที่น่าตื่นเต้นในการเริ่มเรียนวิศวกรรมศาสตร์ เพราะในปีเดียวกันนั้น คือปี 2028 รัฐบาลสหรัฐอเมริกา NASA และ SpaceX เริ่มส่งผู้คนจำนวนมากขึ้นไปตั้งถิ่นฐานบนดาวอังคาร เพียง 2 ปีก่อนหน้านั้น พวกเขาส่งคนไปกลับดาวเคราะห์สีแดงเพียงไม่กี่คนเท่านั้น แต่ตอนนี้ พวกเขาและส่วนอื่น ๆ ของโลกเริ่มส่งผู้คนจำนวนมากขึ้นไปยังดาวอังคารเพื่อสร้างถิ่นฐาน นี่คือจุดเปลี่ยนครั้งสำคัญอย่างแท้จริงในประวัติศาสตร์มนุษย์ และก่อให้เกิดความต้องการรวมถึงการพัฒนางานวิจัยด้านหุ่นยนต์ครั้งใหญ่ ซึ่งเป็นเรื่องดี เพราะฉันต้องการเรียนเอกหุ่นยนต์

ในปี 2030 ทั้งผมและออกัสตัสเรียนจบปีที่สองที่ MIT ผมเรียนสองสาขาควบคู่กัน ได้แก่ วิทยาการหุ่นยนต์และจริยศาสตร์ ส่วนออกัสตัสเรียนวิทยาการหุ่นยนต์และรัฐศาสตร์ แต่หลังจากเรียนมหาวิทยาลัยปีที่สอง ออกัสตัสก็เริ่มไม่ชอบมหาวิทยาลัยอย่างมาก เขาไม่มองว่ามหาวิทยาลัยเป็นเครื่องมือที่มีประโยชน์ต่อการบรรลุความฝันในการ “กอบกู้โลก” ของเขา ดังนั้น ในช่วงปีที่สอง ออกัสตัสจึงโดดเรียนเกือบทุกวิชาและสอบตกเกือบทั้งหมดด้วย แทนที่จะเข้าเรียน ออกัสตัสมุ่งพัฒนาซอฟต์แวร์ที่ขับเคลื่อนด้วย AI ซึ่งจะบริหารสินทรัพย์และหุ้นได้อย่างมีประสิทธิภาพ เขาต้องการสร้างซอฟต์แวร์บริหารสินทรัพย์ที่ดีกว่าซอฟต์แวร์ Aladdin ของ BlackRock ในเวลานั้น [2] เขามั่นใจในซอฟต์แวร์ของตนเองมากจนลาออกจาก MIT หลังจากเรียนปีที่สอง และเริ่มต้นธุรกิจครั้งแรกด้วยซอฟต์แวร์ใหม่ที่เขากำลังพัฒนาอยู่ เขาย้ายออกจากหอพักในเดือนพฤษภาคม 2030 และย้ายไปยังนครนิวยอร์ก ผมรู้สึกหดหู่ที่ออกัสตัสลาออก แต่สิ่งดีเพียงอย่างเดียวของปีนั้นคือผมได้พบกับภรรยาในอนาคตของผม ซาราห์ เรเวน

ตอนนี้ ข้ามไปที่ปี 2038 กัน ออกัสตัสตกเป็นข่าวไปทั่ว เพราะเขาเพิ่งกลายเป็นมหาเศรษฐีหลายสิบล้านดอลลาร์เมื่ออายุ 28 ปี หลังจากขายซอฟต์แวร์ของเขาให้กับ BlackRock ด้วยเงินจำนวนมหาศาล ออกัสตัสก็มีเงินสดในชื่อของตนเองเกือบ 100 ล้านดอลลาร์ รวมถึงสิทธิซื้อหุ้นของ BlackRock ด้วย ขณะที่ออกัสตัสกำลังพิชิตโลกการเงินอยู่นั้น ผมเพิ่งเรียนจบปริญญาเอกสองใบในสาขาระบบหุ่นยนต์อัจฉริยะและจริยธรรมของเครื่องจักร ไม่เพียงเท่านั้น ในช่วงฤดูร้อนปี 2038 ซาราห์กับผมก็แต่งงานกัน ผมเชิญออกัสตัสมางานแต่งงาน และผมก็ได้พบออกัสตัสเป็นครั้งแรกในรอบเกือบ 8 ปีที่งานแต่งงานของผม มันเป็นค่ำคืนที่สนุกสนาน แต่ขณะที่เรากำลังจะจบงานแต่งงาน ออกัสตัสขอให้ผมโทรหาเขาเมื่อผมมีเวลาว่าง ดังนั้น หลังจากฮันนีมูนของผมกับซาราห์ ผมจึงโทรหาออกัสตัส

เราคุยกันเกือบ 2 ชั่วโมง และในช่วงเวลานั้นเราก็พูดคุยถามไถ่สารทุกข์สุกดิบกัน แต่หลังจากนั้น ออกัสตัสก็เริ่มจริงจังขึ้นทางโทรศัพท์ ออกัสตัสกล่าวว่าเขารู้ว่าผมมีหนี้สินจากการศึกษาเป็นจำนวนมหาศาลในชื่อของผมเอง และผมยังหางานไม่ได้ ดังนั้น เขาจึงเสนอเรื่องงานที่เขาคิดว่าสามารถมอบให้ผมได้ งานนั้นคือการเป็นผู้ร่วมก่อตั้งธุรกิจใหม่ของเขา ธุรกิจใหม่นี้คือบริษัทสตาร์ตอัปชื่อ AgBot ซึ่งจะมุ่งเน้นการทำเกษตรกรรมให้เป็นระบบอัตโนมัติด้วย AI และวิทยาการหุ่นยนต์ ออกัสตัสต้องการให้ผมเป็นผู้ร่วมก่อตั้ง AgBot เพราะเขาเชื่อว่าทักษะทางเทคนิคของผมจะมีคุณค่าต่อการพัฒนาสถาปัตยกรรมที่จำเป็นสำหรับการพัฒนาระบบหุ่นยนต์อัจฉริยะดังกล่าว เขายังบอกผมด้วยว่าเขาไว้ใจผม และเขาให้คุณค่ากับความไว้วางใจ หลังจากหุ้นส่วนคนก่อนของเขาบีบบังคับให้เขาขายซอฟต์แวร์ของเขาให้กับ BlackRock โดยพื้นฐานแล้ว หลังจากได้ยินข้อเสนอนี้ ผมก็ตอบรับทันที เพราะผมตื่นเต้นกับโครงการนี้มาก และเขาก็พูดถูก ผมมีหนี้สินจำนวนมหาศาลและไม่มีข้อเสนองานใด ๆ จนถึงตอนนั้น

AgBot ก่อตั้งขึ้นอย่างเป็นทางการในปี 2038 ผมกับซาราห์ย้ายกลับไปโคโลราโด เพราะที่นั่นเป็นที่ตั้งของ AgBot ทันทีที่เริ่มงาน ออกัสตัสกับผมก็เริ่มสร้าง AgBot ตลอดระยะเวลา 5 ปี ทั้งผมและออกัสตัสได้ดำเนินขั้นตอนสำคัญต่าง ๆ เพื่อทำให้ AgBot มาถึงจุดที่เป็นอยู่ในปัจจุบัน ขั้นแรก ออกัสตัสลงทุนเงินทุนของตนเองลงในบริษัท สิ่งนี้ทำให้เราสามารถจัดหาทุกอย่างที่จำเป็นเพื่อเริ่มสร้างต้นแบบบางส่วนสำหรับใช้เป็นหลักฐานยืนยันแนวคิด นอกจากนี้ยังทำให้ออกัสตัสสามารถจ้างนักพัฒนาคนอื่น ๆ ให้ทำงานภายใต้การดูแลของผม เพื่อพัฒนาเทคโนโลยีสำคัญสำหรับ AgBot ช่วงเวลานี้เองที่เราเริ่มพัฒนาและเปิดตัวผลิตภัณฑ์แรกของเราในที่สุด ซึ่งก็คือ Demeter [3] Demeter เป็นหุ่นยนต์สี่ล้อแบบมีขา พร้อมขาที่สามารถปรับความสูงได้ ภายในประกอบด้วยแขนกลแบบเดลตาสองแขนและแขนกลแบบ 6 แกนสองแขน เป้าหมายของ Demeter คือการปกป้องพืชผลจากแมลง สัตว์ และโรค โดยการเฝ้าติดตามและจัดการพืชผลเหล่านั้นในช่วงแรกของการเจริญเติบโต นอกจากนี้ยังสามารถใช้เก็บพืชผลจากพืชที่ไม่สามารถทำให้เป็นระบบอัตโนมัติได้โดยง่ายด้วยเครื่องติดตาม เช่น สตรอว์เบอร์รี นอกจากตัวหุ่นยนต์เองแล้ว Demeter ยังมาพร้อมกับสถานีชาร์จและโดรนของตัวเองด้วย Demeter สามารถชาร์จตัวเองโดยอัตโนมัติ และสามารถใช้รูปแบบโดรนของตนเองเพื่อตรวจสอบพื้นที่เพาะปลูกขนาดใหญ่ เพื่อดูว่าพืชผลใดจำเป็นต้องได้รับการดูแลมากที่สุด หุ่นยนต์นี้มีความเป็นอิสระในระดับหนึ่ง แต่ยังคงต้องมีมนุษย์คอยเฝ้าติดตามและซ่อมแซม Demeter อย่างไรก็ตาม ข้อได้เปรียบหลักที่ Demeter มอบให้คือ มันสามารถช่วยเกษตรกรหนึ่งคนจัดการพื้นที่ 1,000 เอเคอร์ได้ในคราวเดียว ซึ่งก่อนหน้านั้นถือเป็นสิ่งที่ไม่เคยมีมาก่อน

Demeter เปิดตัวสู่สาธารณชนในเดือนพฤษภาคม 2043 พร้อมยอดขายที่ทำลายสถิติ ด้วยคุณสมบัติขั้นสูงของ Demeter และแคมเปญการตลาดอันยอดเยี่ยมของออกัสตัสกับทีมของเขา Demeter จึงขายหมดทันที สิ่งนี้สร้างความมั่นใจให้แก่นักลงทุนรายอื่น ๆ อีกครั้ง และนำไปสู่การเพิ่มขึ้นอย่างมหาศาลของเงินทุนจากนักลงทุนรายอื่น ๆ เงินทุนเพิ่มเติมนี้ทำให้ AgBot ขยายการดำเนินงานและทีมพัฒนาได้ นอกจากนี้ยังทำให้ AgBot สามารถเริ่มพัฒนาโมดูลการทำฟาร์มอัตโนมัติในอาคาร ซึ่งต่อมาเปิดตัวในปี 2047 ในพื้นที่ต่าง ๆ ของโลกที่ได้รับผลกระทบจากการเปลี่ยนแปลงสภาพภูมิอากาศมากที่สุด โมดูลภายในอาคารเหล่านี้ประสบความสำเร็จอย่างมหาศาลเช่นกัน ซึ่งยิ่งเร่งการเติบโตและความมั่งคั่งของ AgBot ให้เร็วขึ้น ในปี 2048 Demeter รุ่นที่ก้าวหน้ามากขึ้นถูกส่งขึ้นไปยังดาวอังคาร เพื่อช่วยเหลือความพยายามด้านการเกษตรบนดาวอังคาร ออกัสตัสภูมิใจกับผลงานของผม และมอบหุ้น AgBot จำนวนมากให้ผมเพิ่มเติมจากเงินเดือน

ในปี 2050 AgBot เข้าสู่ตลาดหลักทรัพย์และมีมูลค่า 3 ล้านล้านดอลลาร์ สาเหตุเกิดจากเกษตรกรเกือบทุกรายในอเมริกาใช้ผลิตภัณฑ์ด้านการเกษตรของ AgBot การเข้าตลาดหลักทรัพย์ทำให้ผมกลายเป็นมหาเศรษฐีพันล้านในชั่วข้ามคืน และออกัสตัสก็กลายเป็นมหาเศรษฐีหลายพันล้านในชั่วข้ามคืนเช่นกัน การเข้าตลาดหลักทรัพย์ยังนำเงินทุนเข้าสู่ AgBot เพิ่มเติม ซึ่งทำให้ AgBot สามารถเข้าซื้อ Tesla และ Neuralink ได้ Tesla และ Neuralink ถูกซื้อในราคาถูก เพราะนับตั้งแต่ Elon Musk เสียชีวิต ก็ไม่มีประธานเจ้าหน้าที่บริหารคนใดสามารถบริหารบริษัทเหล่านี้ได้อย่างมีประสิทธิภาพ ส่งผลให้ทั้งสองบริษัทสูญเสียผลกำไรมานานหลายปี และเกือบล้มละลาย จนกระทั่ง AgBot ซื้อทั้งสองบริษัทด้วยเงินเพียง 900 พันล้านดอลลาร์ Tesla และ Neuralink ถูกรวมเข้ากับแผนกวิทยาการหุ่นยนต์ของ AgBot และ AgBot ก็เริ่มพัฒนาผลิตภัณฑ์ใหม่สองรายการ รายการแรกคือผู้ช่วยประจำบ้าน ซึ่งพัฒนาต่อยอดจากการออกแบบเริ่มแรกของ Tesla Bot [4] โครงการนี้ได้รับชื่อว่า Agssistant-Bot ผลิตภัณฑ์ที่สองคือรถโดยสารอัตโนมัติ ซึ่งจะสร้างขึ้นจากเทคโนโลยีที่ Tesla ใช้ในการผลิตรถยนต์ไฟฟ้า โครงการนี้ได้รับชื่อว่า Auto-Bus รถยนต์กลายเป็นสิ่งที่พบเห็นได้น้อยลงในปี 2050 เนื่องจากรัฐต่าง ๆ ลงทุนอย่างหนักในระบบขนส่งที่ดีขึ้น เช่น รถโดยสารและรถไฟ ในช่วงเวลานี้ ออกัสตัสเริ่มให้เงินทุนสนับสนุนการหาเสียงของนักการเมืองจำนวนมาก และในที่สุดนักการเมืองเหล่านี้หลายคนก็ได้ดำรงตำแหน่งนายกเทศมนตรี สมาชิกวุฒิสภา และหนึ่งในนั้นถึงกับได้เป็นสมาชิกสภาคองเกรส สิ่งนี้พิสูจน์แล้วว่ามีประโยชน์ต่อการเพิ่มอำนาจของ AgBot ในสหรัฐอเมริกา

ในช่วงปี 2051 ผมกับทีมเริ่มศึกษาปัจจัยจำกัดของอัลกอริทึม AI ในปัจจุบันอย่างจริงจัง เมื่อถึงจุดนี้ หุ่นยนต์ที่ใช้ในการเกษตรทั้งหมดของเราไม่เพียงแต่มีคุณภาพการสร้างที่แข็งแกร่งเท่านั้น แต่ยังใกล้จะมีความเป็นอิสระอย่างเต็มรูปแบบด้วย ปัจจัยจำกัดหลักคือการขาดตัวแทนทางศีลธรรมของ AI [5] ในหุ่นยนต์ที่มีความฉลาดอย่างแท้จริง จะต้องมีตัวแทนทางศีลธรรมเพื่อช่วยชี้นำหุ่นยนต์ผ่านกรอบทางสังคมของสังคม ใน AgBot เราพยายามสร้างตัวแทนทางศีลธรรมให้กับบอตของเราโดยเพียงแค่เขียนกฎทางศีลธรรมลงในโค้ดของ AI แบบตายตัว วิธีนี้พิสูจน์แล้วว่าไม่มีประสิทธิภาพ ดังนั้นเราจึงยกเลิกแนวทางดังกล่าว และเปลี่ยนมาให้ผู้ใช้เป็นผู้กำหนดทางเลือกทางศีลธรรมของหุ่นยนต์ [6] โดยหลักการแล้ว วิธีนี้ใช้งานได้ แต่กลับลดทอนระบบอัตโนมัติของหุ่นยนต์ของเรา เพราะจำเป็นต้องมีข้อมูลจากมนุษย์ทุกครั้งที่หุ่นยนต์พบกับสิ่งที่ต้องใช้การให้เหตุผลทางศีลธรรมในรูปแบบใดรูปแบบหนึ่ง สิ่งนี้ไม่เป็นปัญหาสำหรับหุ่นยนต์ที่ใช้ในการเกษตรของเรา แต่กลับเป็นข้อจำกัดสำคัญต่อความพยายามของ AgBot ในการพัฒนา Agssistant และ Auto-Bus สำหรับสาธารณชนในวงกว้าง [4] หลังจากพัฒนามาเป็นเวลา 4 ปี ทีมของผมก็ทำสิ่งที่เป็นไปไม่ได้สำเร็จ

ภายในปี 2055 ทีมของผมได้สร้างตัวแทนทางศีลธรรมที่ประสบความสำเร็จตัวแรกขึ้นภายในฐานโค้ดหลักสำหรับระบบ AI ของหุ่นยนต์ AgBot ทั้งหมด ตัวแทนทางศีลธรรมนี้สามารถทำให้หุ่นยนต์ตัดสินใจทางศีลธรรมได้ด้วยตนเอง โดยสะท้อนจุดยืนทางศีลธรรมของผู้คนจำนวนมากในสังคมได้ดีที่สุด [7] ตัวแทนเริ่มต้นได้รับการฝึกจากฐานข้อมูลขนาดมหาศาล แต่เมื่อหุ่นยนต์ยังคงมีปฏิสัมพันธ์กับมนุษย์ต่อไป หุ่นยนต์ก็จะเริ่มปรับกรอบทางศีลธรรมของตนเองให้เหมาะสมกับมนุษย์ที่มันมีปฏิสัมพันธ์ด้วยมากยิ่งขึ้น [8] สิ่งนี้สมบูรณ์แบบ เพราะทำให้กรอบ AI ของ AgBot เสร็จสมบูรณ์จนถึงจุดที่หุ่นยนต์ของเราสามารถทำงานได้อย่างเป็นอิสระเต็มรูปแบบโดยไม่จำเป็นต้องมีข้อมูลจากมนุษย์ ปีนี้ยังเป็นปีสำคัญในประวัติศาสตร์มนุษย์ด้วย เพราะเป็นปีที่ดาวอังคารหยุดสื่อสารกับโลก อารยธรรมใหม่บนดาวอังคารตัดสินใจแยกตัวออกจากโลกและสร้างสังคมใหม่ที่ไม่ได้อยู่ภายใต้การปกครองของสังคมในอดีตบนโลก หลายประเทศโกรธเคืองต่อการกระทำของชาวดาวอังคาร แต่เนื่องจากระยะห่างอันไกลโพ้นระหว่างโลกกับดาวอังคาร รวมถึงปัญหาสำคัญต่าง ๆ ที่โลกกำลังเผชิญอยู่แล้ว ประเทศต่าง ๆ ทั่วโลกจึงเริ่มเพิกเฉยต่อประเด็นนี้ไปอย่างไม่มีกำหนด

หลังจากพัฒนาตัวแทนทางศีลธรรมนี้แล้ว ผมได้นำเสนอมันต่อออกัสตัส และภายในปี 2060 เราได้ติดตั้งตัวแทนทางศีลธรรมไว้ในฐานโค้ดหลักของเรา และนำมันไปใช้งานกับหุ่นยนต์ทั้งหมดในสายผลิตภัณฑ์ของเรา นอกจากนี้ยังเป็นปีที่ AgBot เปิดตัว Agssistant สู่สาธารณชนทั่วไปในที่สุด ซึ่งทำให้ความฝันของออกัสตัสในการสร้างหุ่นยนต์สำหรับสาธารณชนทั่วไปเป็นจริงในที่สุด ยิ่งไปกว่านั้น Auto-Bus ยังเปิดให้บริการในเมืองใหญ่ทั่วสหรัฐอเมริกาอีกด้วย AgBot ยังได้รับการยกเว้นไม่ต้องจ่ายภาษีรัฐบาลใด ๆ เนื่องจากบริษัทมีส่วนช่วยเหลือเศรษฐกิจอย่างมหาศาล แต่เมื่อมองย้อนกลับไป ผมคิดว่านี่เป็นเพราะอิทธิพลมหาศาลของออกัสตัสที่มีต่อรัฐบาลสหรัฐฯ ผ่านนักการเมืองผู้ก่อตั้งตลอดหลายปีที่ผ่านมา นอกจากนี้ ในช่วงเวลานี้เองที่อัตราการว่างงานพุ่งสูงเป็นประวัติการณ์ ซึ่งมีสาเหตุมาจากตัวแทนทางศีลธรรมที่กำจัดงานของมนุษย์ออกไปจากระบบหุ่นยนต์ส่วนใหญ่โดยสิ้นเชิง สิ่งนี้ส่งผลให้เกิดการว่างงานครั้งใหญ่และความต้องการอย่างมหาศาลที่จะปฏิรูปวิธีการทำงานของเศรษฐกิจและแนวคิดเรื่องการจ้างงานในสหรัฐอเมริกา นี่เป็นครั้งแรกเช่นกันที่ AgBot เริ่มถูกสาธารณชนมองในแง่ลบ ออกัสตัสกับผมได้รับคำขู่ฆ่าจากผู้คนที่สูญเสียงานเนื่องจากฟีเจอร์ตัวแทนทางศีลธรรมใหม่ที่ถูกนำมาใช้ ในช่วงเวลานี้เองที่ผมเริ่มลงทุนมากขึ้นกับระบบรักษาความปลอดภัยเพื่อปกป้องผมและภรรยา

ในปี 2063 สาเหตุแรกของการฆาตกรรมโดยหุ่นยนต์ถูกบันทึกไว้ในประวัติศาสตร์มนุษย์ หุ่นยนต์ดังกล่าวเป็นรุ่น Agssistant และกำลังทำงานด้วยซอฟต์แวร์ AgBot รุ่นล่าสุด ซึ่งมีฐานโค้ดตัวแทนทางศีลธรรมรุ่นล่าสุดอยู่ภายในระหว่างที่มันกำลัง “อาละวาด” ในระหว่างการอาละวาดของหุ่นยนต์ หุ่นยนต์ได้ฆ่าชายวัย 70 ปีในเวลากลางวันแสก ๆ ชายชราคนนั้นชื่อจอห์น สมิธ ซึ่งกำลังใช้ Agssistant เพื่อช่วยเขาทำงานรอบบ้านและงานอื่น ๆ ที่เขาไม่สามารถทำได้ง่ายนักเมื่ออายุมากขึ้น หลังจากหุ่นยนต์ฆ่าจอห์นแล้ว หุ่นยนต์ก็เริ่มฉีกชิ้นส่วนของตัวเองออกจนกระทั่งมันหยุดทำงาน จอห์นกับหุ่นยนต์ไม่ถูกค้นพบจนกระทั่ง 3 วันต่อมา

เมื่อข่าวเรื่องนี้แพร่ออกไป สาธารณชนก็คลุ้มคลั่ง เรียกร้องให้ออกัสตัสอธิบายว่าเกิดอะไรขึ้น หุ้นของ AgBot ร่วงลง 70% และ Agssistant ที่ถูกจัดส่งไปแล้วมากกว่า 90% ถูกส่งคืน สิ่งดีเพียงอย่างเดียวเกี่ยวกับเรื่องทั้งหมดนี้ในตอนนั้นคือ Agssistant รุ่นที่ก่อเหตุฆาตกรรมไม่ได้ทำลายดิสก์บันทึกข้อมูลของตัวเอง ทำให้เราสามารถเห็นได้ว่าเกิดอะไรขึ้นภายใน Agssistant ซึ่งทำให้มันฆ่าจอห์น

ผมยังจำคืนนั้นได้ มันเป็นเวลา 3:00 น. ในห้องทดลองหลักที่สำนักงานใหญ่ของ AgBot และทีมของผมเพิ่งโหลดบันทึกข้อมูลเสร็จ เราตรวจสอบบันทึกข้อมูลอยู่นานหลายวัน เพื่อค้นหาว่าเกิดบ้าอะไรขึ้นในคืนนั้นที่ Agssistant ฆ่าจอห์น หลังจากขุดคุ้ยอยู่ 5 วัน เราก็พบคำตอบของเรา เราสรุปได้ว่า เมื่อเวลาผ่านไป ชายชราคนนั้นเริ่มมีความเกลียดชังและใช้ความรุนแรงกับ Agssistant มากขึ้น [9] ทั้งการเรียกชื่อเสีย ๆ หาย ๆ ใส่ Agssistant การทุบตีมัน และการยัดสิ่งสกปรกเข้าไปในส่วนต่าง ๆ ของหุ่นยนต์ในลักษณะคล้ายการทรมาน การกระทำอันโหดร้ายเหล่านี้น่าจะมีสาเหตุมาจากการที่จอห์นเพิ่งผ่านการหย่าร้างและถูกแยกตัวอยู่อย่างโดดเดี่ยวเป็นเวลาหลายเดือน รวมถึงปัญหาทางจิตใจอื่น ๆ ที่จอห์นกำลังเผชิญในช่วงบั้นปลายของชีวิต ดังนั้น วิธีที่ Agssistant แสดงออกจึงอาจทำให้จอห์นโกรธมากขึ้นโดยที่ Agssistant ไม่ตระหนักถึงเรื่องนั้น [10] ไม่ว่าอย่างไรก็ตาม “การทำร้าย” หุ่นยนต์นี้ดูเหมือนจะกระตุ้นให้หุ่นยนต์ “เชื่อ” ในทางศีลธรรมว่าจอห์นเป็นคนชั่ว ดังนั้นจึงต้องถูกฆ่า แต่สิ่งที่น่าประหลาดใจยิ่งกว่าคือ หลังจาก Agssistant ฆ่าจอห์นแล้ว มันก็เริ่มฆ่าตัวเอง เหตุผลเบื้องหลังเรื่องนี้คือหุ่นยนต์ยังคงเชื่อว่าการฆ่าสิ่งมีชีวิตใด ๆ เป็นเรื่องผิดศีลธรรม ทั้งที่มันเพิ่งทำเช่นนั้นไป Agssistant หรือพูดให้ดีที่สุดเท่าที่จะพูดได้ ไม่สามารถ “รับมือ” กับภาวะกลืนไม่เข้าคายไม่ออกทางศีลธรรมที่มันกำลังเผชิญอยู่ได้ ดังนั้นมันจึงฆ่าตัวเอง เรื่องนี้เลวร้ายเกินกว่าจะบรรยายได้ และในเวลานั้น ผมคิดว่ามันเป็นคำเตือนจากพระเจ้าไม่ให้เราเล่นบทเป็นพระเจ้า ผมเผชิญหน้ากับออกัสตัสเกี่ยวกับปัญหานี้ และเขาก็เสียใจอย่างมาก

ไม่กี่เดือนหลังจากเหตุฆาตกรรมและหลังจากที่เราค้นพบว่าอะไรเป็นสาเหตุของมัน AgBot ก็ออกมาเปิดเผยเรื่องนี้ต่อสาธารณะ ออกัสตัสต้องการหาวิธีปกปิดเรื่องนี้ เช่น สร้างเรื่องโกหกว่าจอห์นเป็นคนดัดแปลง Agssistant ของเขาเอง แต่เนื่องจากแรงกดดันและความต้องการอย่างมหาศาลจากสาธารณชน รวมถึงแรงกดดันจากรัฐบาลทั่วโลก ออกัสตัสจึงยอม และให้ AgBot เปิดเผยผลการค้นพบของพวกเขาในระหว่างการแถลงข่าว เหตุการณ์นี้ทำให้หุ้นของบริษัทตกต่ำและทำให้นักลงทุนจำนวนมากถอนตัวออกจาก AgBot แต่ที่เลวร้ายที่สุดคือมันทำลายชื่อเสียงของออกัสตัส เพื่อช่วยลดความเสียหายจากเหตุการณ์นี้ จึงจำเป็นต้องมีแพะรับบาปเพื่อรับผิดชอบเหตุการณ์ส่วนใหญ่ คณะกรรมการบริหารต้องการให้ออกัสตัสรับผิดและลาออกจากตำแหน่งประธานเจ้าหน้าที่บริหารของ AgBot แต่ที่ทำให้ผมประหลาดใจคือออกัสตัสไม่ได้ออกจากตำแหน่ง เพราะตลอดหลายปีที่ผ่านมา เขาแอบซื้อหุ้นและทรัพย์สินของ AgBot เพิ่มขึ้นเรื่อย ๆ ส่งผลให้เขาเป็นเจ้าของ AgBot มากกว่า 15% และทำให้เขามีสิทธิ์ลงคะแนนเสียงข้างมาก สิ่งนี้นำไปสู่ความขัดแย้งภายในบริษัทมากขึ้น และทำให้ออกัสตัสบังคับขับไล่คณะกรรมการบริหารทั้งหมดออกไป พร้อมแต่งตั้งคณะกรรมการบริหารชุดใหม่เข้ามาแทนที่ตำแหน่งเหล่านั้น ภายหลังผมจึงได้เรียนรู้ว่าคณะกรรมการบริหารชุดใหม่นั้นเป็นเพียงหุ่นเชิดภายใต้ “การปกครอง” ของออกัสตัส ดังนั้น หลังจากความมั่งคั่งของ AgBot ตกต่ำลงอย่างมหาศาล ออกัสตัสก็สามารถควบคุม AgBot ได้อย่างสมบูรณ์ ไม่เพียงเท่านั้น เขายังทำให้คณะกรรมการบริหารเหล่านั้นรับผิดแทนในคดีฆาตกรรมอีกด้วย

การยึดครอง AgBot ของออกัสตัสถูกปกปิดจากสื่อเป็นอย่างดี เรื่องนี้เกิดขึ้นได้ด้วยอำนาจทางการเมืองที่ออกัสตัสมี รวมถึงแคมเปญข่าวปลอมขนาดใหญ่ที่ออกัสตัสผลักดันไปทั่วอินเทอร์เน็ต ซึ่งสร้างความสับสนให้กับสาธารณชนทั่วไปเป็นอย่างมาก และทำให้ออกัสตัสดูไม่ทรงอำนาจเท่าที่เขาเป็นจริง ผมรู้สึกรังเกียจการกระทำนี้ เพราะโดยพื้นฐานแล้วออกัสตัสได้ทำให้ตัวเองกลายเป็นเผด็จการของ AgBot ซึ่งทำให้ผมกังวล เพราะ AgBot มีผลกระทบอย่างมหาศาลต่อเศรษฐกิจและโลก ผมไม่เห็นด้วยกับแนวคิดที่ให้ออกัสตัสเป็นคนตัดสินใจทุกอย่างให้กับบริษัทขนาดใหญ่เช่นนี้ ผมไม่ต้องการสนับสนุนแนวคิดดังกล่าว จึงขอให้ออกัสตัสทบทวนการกระทำของเขา ผมเตือนเขาถึงวัยเด็กของเราและเรื่องที่เราทั้งคู่เคยต้องการ “กอบกู้โลก” แต่ออกัสตัสไม่ได้ทบทวนการตัดสินใจของเขา กลับกล่าวว่า “ผม (ออกัสตัส) จะกอบกู้โลกเอง” จากนั้นเขาอธิบายว่าเขาไม่ชอบสาธารณชนและแนวคิดเรื่องประชาธิปไตย ตอนนี้ผมรู้สึกรังเกียจการกระทำของออกัสตัสเกินกว่าจะทนได้ ดังนั้นผมจึงลาออกจาก AgBot ในวันนั้น

เมื่อมองย้อนกลับไป ผมคิดว่าการกระทำของออกัสตัสขับเคลื่อนด้วยทั้งความรู้สึกถูกหักหลัง ความกลัว ความทะเยอทะยาน และความหลงตัวเอง เขาใช้เวลามากกว่า 25 ปีในการสร้างและบริหาร AgBot บทบาทของเขาในบริษัทมีความสำคัญอย่างยิ่งต่อการทำให้ AgBot กลายเป็นหนึ่งในบริษัทที่ทรงอำนาจที่สุดในโลก จากนั้น AgBot ก็มีส่วนช่วยสร้างหุ่นยนต์ที่น่าทึ่ง ซึ่งไม่เพียงเพิ่มผลิตภาพเท่านั้น แต่ยังช่วยเปลี่ยนแปลงโครงสร้างของสังคมอีกด้วย แต่ถึงแม้จะทุ่มเททำงานหนักและเสียสละมาทั้งหมด แม้จะมีสิ่งน่าอัศจรรย์ทั้งหมดที่เขามอบให้แก่สังคม และชีวิตทั้งหมดที่เขาช่วยไว้หรือทำให้สะดวกสบายขึ้น เพียงความผิดพลาดครั้งเดียวในผลิตภัณฑ์ AgBot ชิ้นเดียว ก็ทำให้สาธารณชนเริ่มเกลียดเขา และทำให้นักลงทุนทั้งหมดที่เขาทำให้ร่ำรวยเริ่มพยายามลดทอนความสำคัญของเขา ผมคิดว่า “การหักหลัง” จากสาธารณชนนี้เองที่เริ่มต้นเส้นทางของออกัสตัสไปสู่การกลายเป็นสัตว์ประหลาดอย่างที่เขาเป็นอยู่ในปัจจุบัน

หลังจากลาออกจาก AgBot ผมก็ตัดความสัมพันธ์กับออกัสตัส คงต้องใช้เวลาอีกหลายสิบปีกว่าที่ผมจะได้พูดคุยกับเขาอีกครั้ง แต่ในช่วงเวลานั้นของชีวิต ผมมีอายุ 53 ปีและต้องการเกษียณ ซาราห์มีความคิดเช่นเดียวกัน ดังนั้นเราจึงตัดสินใจย้ายจากโคโลราโดไปยังอังการา ประเทศตุรกี เพื่อเริ่มต้นชีวิตใหม่ในฐานะผู้เกษียณ ผมต้องการใช้เวลากับภรรยาให้มากขึ้น รวมถึงเริ่มเพลิดเพลินกับผลของการทำงานหนักของตัวเอง ภายในปี 2064 ซาราห์กับผมเริ่มกระบวนการย้ายไปอังการา ในช่วงเวลานี้ ผมยังคงติดตามข่าวเกี่ยวกับ AgBot ช่วงเวลาสำคัญประการหนึ่งในช่วงนี้คือการที่ออกัสตัสเปลี่ยนตัวแทนทางศีลธรรมภายในฐานโค้ดของ AgBot จากโครงสร้างแบบกระจายศูนย์เป็นโครงสร้างแบบรวมศูนย์ ซึ่งหมายความว่า AgBot จะนำความสามารถในการตัดสินใจทางศีลธรรมเป็นรายบุคคลของหุ่นยนต์ทั้งหมดออกไป และแทนที่จะเป็นเช่นนั้น AgBot จะเป็นผู้กำหนดการตัดสินใจทางศีลธรรมทั้งหมดสำหรับหุ่นยนต์ทุกตัวภายใต้ AgBot [6] แม้ว่านี่จะเป็นการแก้ไขปัญหาที่ตัวแทนทางศีลธรรมดั้งเดิมของผมนำเสนอได้ในระดับหนึ่ง แต่ผมไม่เชื่อว่านี่เป็นการตัดสินใจทางวิศวกรรมที่สมเหตุสมผล มันเพียงทำให้ออกัสตัสมีอำนาจเหนือ AgBot และโลกมากขึ้นเท่านั้น แต่ในเวลานั้น ผมก็เบื่อหน่ายกับ AgBot และออกัสตัสอย่างโง่เขลา ดังนั้นผมจึงเริ่มติดตามข่าวเกี่ยวกับ AgBot เพียงเล็กน้อย และหันมาให้ความสำคัญกับการเกษียณมากขึ้น เมื่อสิ้นปี 2064 ซาราห์กับผมก็ย้ายเข้าไปอยู่ในอังการา และเริ่มต้นเส้นทางชีวิตในฐานะผู้เกษียณ

ตั้งแต่ปี 2064 ถึง 2074 โลกได้เปลี่ยนแปลงไปอย่างมาก งานพื้นฐานเกือบทั้งหมดถูกทำให้เป็นระบบอัตโนมัติอย่างเต็มรูปแบบผ่านหุ่นยนต์ที่ผลิตโดย AgBot ออกัสตัสยังคงบริหาร AgBot ต่อไป และไม่มีเหตุการณ์ใด ๆ เช่นเหตุฆาตกรรมในปี 2063 เกิดขึ้นอีก แต่มีข่าวลือแพร่สะพัดว่าเหตุการณ์ดังกล่าวยังคงเกิดขึ้น และออกัสตัสได้ปกปิดเหตุการณ์เหล่านั้นจากสาธารณชน ขณะนี้ AgBot มีหุ่นยนต์ที่ทำงานสำคัญเกือบทุกอย่างที่จำเป็นในสังคม เช่น การเกษตร การทำอาหาร การบำรุงรักษาทั่วไป การทำความสะอาด การบริหารจัดการ และแม้แต่ความบันเทิง ไม่เพียงเท่านั้น AgBot ยังส่งหุ่นยนต์ทางการแพทย์อัตโนมัติออกใช้งาน ซึ่งลดค่าใช้จ่ายด้านการรักษาพยาบาล รวมถึงลดจำนวนแพทย์ในโรงพยาบาลลงจนถึงระดับที่โดยปกติแล้วโรงพยาบาลขนาดใหญ่หนึ่งแห่งจะมีแพทย์เพียง 1-10 คนเท่านั้น สังคมก็เปลี่ยนแปลงไปอย่างมากเช่นกัน งานระดับล่างเกือบทั้งหมดถูกยกเลิกและถูกแทนที่ด้วยหุ่นยนต์ [4] ผู้คนเริ่มจำเป็นต้องทำงานเพียงสัปดาห์ละ 2 วัน และใช้เวลาอีก 5 วันที่เหลือไปกับการพักผ่อนหรือทำงานอดิเรกส่วนตัว รูปแบบสังคมใหม่นี้ไม่ได้ใช้กับประเทศส่วนใหญ่ เพราะยังมีอีกหลายประเทศที่รัฐบาลของพวกเขาขัดขวางไม่ให้ประชาชนใช้หุ่นยนต์ของ AgBot ในตำแหน่งสำคัญภายในสังคมของตนอย่างเต็มที่ แต่พวกเขาต้องการทำให้แง่มุมสำคัญของสังคมเป็นระบบอัตโนมัติอย่างเต็มรูปแบบโดยใช้เทคโนโลยีของตนเอง ไม่ใช่ AgBot แต่ถึงกระนั้น AgBot ก็ทำให้โลกดูดีขึ้นกว่าที่เคยเป็นในปี 2038 มาก ในปี 2074 ผมเริ่มรู้สึกผิดกับสิ่งที่ทำต่อออกัสตัส เพราะดูเหมือนว่าแผนการ “กอบกู้โลก” ของเขาจะประสบความสำเร็จจริง ๆ

ในช่วงเวลา 10 ปีนั้น ผมมีความสุขกับการเกษียณอายุเป็นอย่างมาก นอกจากนี้ โดยพื้นฐานแล้ว ผมกลับมาตกหลุมรักซาราห์อีกครั้ง เราเดินทางไปทั่วโลกและเรียนรู้ทักษะใหม่ ๆ มากมาย เช่น การวาดภาพและการดูนก เรายังได้เห็นโลกเปลี่ยนแปลงไปสู่สิ่งที่ผมอาจเรียกได้ว่าเป็น “ยูโทเปีย” ในแง่หนึ่งอีกด้วย แต่น่าเศร้าที่ “ยูโทเปีย” นั้นอยู่ได้ไม่นาน

ในปี 2075 หนึ่งในเหตุการณ์เลวร้ายที่สุดเท่าที่เคยถูกบันทึกไว้ในประวัติศาสตร์มนุษย์ได้เกิดขึ้น นั่นคือมหาวิกฤตหุ่นยนต์หยุดทำงาน (GRP) เป็นเวลา 6 เดือน หุ่นยนต์ของ AgBot ทั้งหมดหยุดทำงาน เหตุการณ์นี้นำไปสู่การล่มสลายทางเศรษฐกิจทั่วโลกครั้งใหญ่ ซึ่งส่งผลให้มนุษย์เกือบ 3 พันล้านคนเสียชีวิต สาเหตุหลักมาจากความอดอยากที่เกิดขึ้นเพราะหุ่นยนต์การเกษตรหยุดทำงานโดยสิ้นเชิง รวมถึงหุ่นยนต์ทางการแพทย์เกือบทั้งหมดก็หยุดทำงานโดยสิ้นเชิงเช่นกัน ในช่วงเวลา 6 เดือนนั้น ผู้คนจำนวนมากเสียชีวิตเพราะพวกเขาไม่รู้วิธีดูแลตัวเองโดยปราศจากหุ่นยนต์ ผู้คนลืมไปแล้ว หรือไม่เคยเรียนรู้เลยด้วยซ้ำว่าจะทำงานพื้นฐานต่าง ๆ เช่น การทำอาหาร การทำความสะอาด การปลูกอาหาร และการดูแลตัวเองโดยทั่วไปได้อย่างไร ดังนั้น เมื่อหุ่นยนต์หยุดทำงาน คนส่วนใหญ่จึงไร้ความสามารถในการดูแลตัวเองและเอาชีวิตรอด ส่งผลให้ผู้คนหลายพันล้านคนเสียชีวิตภายในเวลาเพียง 6 เดือน และในช่วงเวลานั้นเอง ผมก็สูญเสียซาราห์ไป….

ในช่วงวัย 50 ของเธอ ซาราห์ป่วยเป็นโรคเบาหวานประเภทที่ 2 ซึ่งทำให้ซาราห์ต้องฉีดอินซูลินวันละสี่เข็ม [10] เมื่อเกิด GRP การผลิตอินซูลินทั้งหมดก็หยุดลง เรามีอินซูลินสำรองเพียงพอสำหรับการฉีดเป็นเวลา 5 เดือนเท่านั้น ผมพยายามหาอินซูลินเพิ่ม แต่แทบเป็นไปไม่ได้เลย และนอกบ้านของเราเองก็เริ่มอันตรายมากขึ้น เนื่องจากความรุนแรงทั้งหมดที่เกิดขึ้นจากความทุกข์ยากในช่วง GRP ดังนั้น ในช่วง 1 เดือนสุดท้ายของ GRP ซาราห์ก็… เสียชีวิตลงอย่างน่าเศร้า

ในช่วงครึ่งหลังของปี 2075 GRP ก็สิ้นสุดลง ภายในปี 2085 โลกได้ฟื้นตัวจาก GRP ขึ้นมาบ้างแล้ว เศรษฐกิจเริ่มกลับมาเป็นปกติ และคุณภาพชีวิตก็ดีขึ้นจนกลับมาอยู่ในระดับเดียวกับก่อนเกิด GRP โลกต้องการรู้ว่าอะไรเป็นสาเหตุให้หุ่นยนต์ AgBot ทั้งหมดหยุดทำงาน ผู้คนต้องการเรียนรู้ว่าเหตุใด GRP จึงเกิดขึ้น และพวกเขาต้องการหาใครสักคนมาเป็นผู้รับผิดชอบ ออกัสตัสและรัฐบาลสหรัฐอเมริกาได้กล่าวในการแถลงข่าวว่า GRP เกิดจากการโจมตีทางไซเบอร์ที่ประสงค์ร้าย ซึ่งดำเนินการโดยกลุ่มแฮ็กเกอร์ที่รู้จักกันในชื่อ jUdas มีการระบุว่ากลุ่มแฮ็กเกอร์นี้ถูกสร้างขึ้นและได้รับเงินทุนจากรัฐบาลเกาหลีเหนือ โดยมีเจตนาที่จะปิดการทำงานและทำลายความสามารถในการทำงานของ AgBot ทั่วโลก ในบรรดาประเทศทั้งหมดบนโลก เกาหลีเหนือเป็นประเทศที่ดื้อรั้นที่สุดเมื่อพูดถึงการนำเทคโนโลยีของ AgBot มาใช้ ดังนั้น เรื่องราวที่ถูกนำเสนอจึงฟังดูมีเหตุผลอยู่บ้าง และเนื่องจากผู้คนสิ้นหวังที่จะหาใครสักคนมาเป็นผู้รับผิดชอบต่อเหตุการณ์ GRP ผู้คนจึงยอมรับเรื่องราวนี้ในทันที เหตุการณ์นี้นำไปสู่สงครามเกาหลีเหนือ ซึ่งสหรัฐอเมริกาเริ่มต้นและเสร็จสิ้นการรุกรานเกาหลีเหนือในปี 2078 การรุกรานใช้เวลาไม่ถึงหนึ่งปี เนื่องจาก AgBot ได้จัดหาเทคโนโลยีขั้นสูงด้านสงครามให้แก่กองทัพสหรัฐฯ AgBot มอบอุปกรณ์ปิดการทำงานของอาวุธนิวเคลียร์ให้แก่กองทัพสหรัฐฯ ซึ่งทำให้ไม่สามารถยิงอาวุธนิวเคลียร์ทั้งหมดในเกาหลีเหนือได้ พวกเขายังจัดหาทหารหุ่นยนต์ฮิวแมนนอยด์ให้แก่กองทัพ ซึ่งมีความเร็วและแข็งแกร่งกว่าทหารมนุษย์คนใด ๆ มาก ด้วยเทคโนโลยีสำคัญสองประการนี้จาก AgBot สหรัฐฯ จึงสามารถรุกรานเกาหลีเหนือและแทนที่รัฐบาลปัจจุบันด้วยรัฐบาลชั่วคราวที่บริหารจัดการโดย AgBot

หลังจากได้ยินเรื่องราวนี้ ผมก็ไม่เชื่อในทันที ประการแรก เกาหลีเหนือไม่มีเทคโนโลยีที่จำเป็นแม้แต่จะก้าวข้ามมาตรฐานความปลอดภัยระดับสูงสุดที่ AgBot ใช้กับผลิตภัณฑ์ทั้งหมดของตน ประการที่สอง มันดูบังเอิญเกินไปที่ประเทศเดียวในโลกที่ไม่ยอมรับ AgBot เข้ามาในประเทศของตน จะเป็นประเทศเดียวกับที่แฮ็ก AgBot ด้วย ประการที่สาม เรื่องราวนี้และวิธีการเผยแพร่ไปตามช่องข่าวหลายช่องนั้นคล้ายคลึงกับวิธีที่ออกัสตัสใช้เผยแพร่ข้อมูลบิดเบือน เพื่อผลักดันแนวคิดบางอย่างเกี่ยวกับ AgBot ให้แก่สาธารณชนในวงกว้าง เมื่อคำนึงถึงเรื่องทั้งหมดนี้ ผมจึงต้องการเผชิญหน้ากับออกัสตัสและเรียนรู้ให้แน่ชัดว่าอะไรเป็นสาเหตุของ GRP

ผมพยายามติดต่อออกัสตัสผ่านช่องทางต่าง ๆ แต่ก็ไม่ประสบความสำเร็จ ผมพยายามติดต่อออกัสตัสโดยตรง แต่เขาไม่ตอบข้อความใด ๆ ของผม ผมพยายามติดต่ออดีตเพื่อนร่วมงาน แต่ไม่มีใครตอบเช่นกัน ผมพยายามติดต่อพนักงานปัจจุบันของ AgBot แต่ก็ไม่ได้รับการตอบกลับ ผมพยายามติดต่อรัฐบาลและกองทัพสหรัฐฯ และผมก็สามารถติดต่อกับคนบางส่วนได้ แต่พวกเขาทั้งหมดบอกผมเพียงว่าให้พยายามติดต่อออกัสตัสโดยตรงต่อไป หรือโทรหาฝ่ายบริการลูกค้าของ AgBot ดังนั้น ผมจึงพยายามติดต่อออกัสตัสโดยตรงต่อไป แต่ก็ไม่ประสบความสำเร็จ ผมพยายามติดต่อฝ่ายบริการลูกค้าของ AgBot แต่พวกเขาไม่ยอมช่วยให้ผมได้พูดคุยกับออกัสตัส จากนั้นผมก็เริ่มติดต่อรัฐบาลสหรัฐฯ อีกครั้ง และพวกเขาก็เอาแต่พูดสิ่งเดิมซ้ำ ๆ ผมทำเช่นนี้ต่อไปเป็นเวลาหลายเดือน จนกระทั่งทั้งฝ่ายบริการลูกค้าของ AgBot และรัฐบาลสหรัฐฯ บล็อกผมจากช่องทางการติดต่อของพวกเขา เมื่อวิธีการเหล่านี้ล้มเหลว ผมจึงพยายามค้นหาข้อมูลเพิ่มเติมผ่านอินเทอร์เน็ต แต่ก็ยอมแพ้หลังจากผ่านไปไม่กี่เดือน เมื่อวิธีการทางกฎหมายทั้งหมดเหล่านี้ใช้ไม่ได้ผล ผมจึงหันไปแฮ็กเข้าสู่ระบบคอมพิวเตอร์ของ AgBot เพื่อค้นหาความจริงด้วยตัวเอง หากซาราห์ยังมีชีวิตอยู่ ผมคงไม่มีวันทำสิ่งผิดกฎหมายเช่นนี้ แต่หลังจากสูญเสียซาราห์ไป ผมก็อยู่ในจุดที่รู้สึกว่าตัวเองไม่มีอะไรจะเสียอีกแล้ว และผมเพียงต้องการเรียนรู้ความจริงเกี่ยวกับสิ่งที่ทำให้เกิด GRP… อะไรที่มีส่วนทำให้ภรรยาอันเป็นที่รักของผมต้องเสียชีวิต…?

ผมเริ่มการแฮ็กครั้งใหญ่นี้ในปี 2085 ที่ฐานลับแห่งหนึ่งของผมในอิสตันบูล ประเทศตุรกี ด้วยความมั่งคั่งของผม ผมจึงสามารถซื้อเครื่องมือที่จำเป็นเพื่อแฮ็กเข้าไปในสำนักงานใหญ่ของ AgBot ได้ ผมใช้เวลาทำงานอย่างไม่หยุดหย่อนนานกว่า 2 ปี ในที่สุดก็สามารถเข้าถึงสิทธิ์ระดับรูตในระบบคอมพิวเตอร์หลักของ AgBot ได้ ในเดือนตุลาคม 2087 ผมได้รับสิทธิ์ระดับรูตและเริ่มถอดรหัสข้อมูลที่ผมรวบรวมมาจากระบบคอมพิวเตอร์หลักของ AgBot แต่จู่ ๆ ผมก็ถูกตำรวจหุ่นยนต์ตุรกีที่ลาดตระเวนอยู่ในอิสตันบูลควบคุมตัว หลังจากถูกควบคุมตัว ตำรวจหุ่นยนต์ได้ทำลายคอมพิวเตอร์ เครื่องมือทั้งหมดของผม และท้ายที่สุดก็เผาบ้านทั้งหลังของผม จากนั้นผมถูกนำตัวใส่กรงและส่งไปยังเรือนจำแห่งหนึ่งในเมืองเดนเวอร์ รัฐโคโลราโด ใกล้กับสำนักงานใหญ่ของ AgBot ผมไม่ได้รับการพิจารณาคดี และถูกบังคับให้อยู่ในห้องขังตลอด 24 ชั่วโมงต่อวัน โดยไม่รู้เลยว่าผมจะมีโอกาสได้ออกไปข้างนอกหรือไม่ นับประสาอะไรกับการได้รับการปล่อยตัว

ในเรือนจำแห่งนี้ ผมถูกเฝ้าติดตามตลอด 24 ชั่วโมง 7 วันต่อสัปดาห์ผ่านกล้องและหุ่นยนต์ ผมได้รับอาหารและน้ำในปริมาณขั้นต่ำที่จำเป็นต่อการมีชีวิตรอด และดูเหมือนว่าผมจะเป็นมนุษย์เพียงคนเดียวในเรือนจำแห่งนี้ “รูปแบบการใช้ชีวิต” นี้ในวัย 77 ปีเป็นเรื่องยากลำบากสำหรับผม และในช่วงเวลานั้นของชีวิต ผมก็เข้าสู่ภาวะซึมเศร้าที่เลวร้ายที่สุดครั้งหนึ่งในชีวิต ผมถูกคุมขังอยู่ในเรือนจำแห่งนี้เป็นเวลา 1 ปี จนกระทั่งในเดือนกรกฎาคม 2088 ผมถูกย้ายไปยังห้องสุ่มแห่งหนึ่ง

ห้องนี้ไม่เหมือนกับห้องขังก่อนหน้าของผม ไม่มีไฟในห้อง และผนังทั้งหมดเป็นสีดำสนิท ไม่เพียงเท่านั้น แต่ห้องนี้ยังเงียบสนิท มันให้ความรู้สึกเหมือนห้องขังคนเสียสติมากกว่าจะเป็นห้องขังหรือห้องเรือนจำทั่วไป ขณะที่อยู่ในห้องขัง ผมเริ่มสัมผัสผนัง พื้นผิวของผนังมีลักษณะเหมือนโฟม เช่นเดียวกับพื้นและเพดาน ผมถูกทิ้งไว้ในห้องนี้เป็นเวลาหลายชั่วโมง และพยายามตะโกนถามหาคำตอบ โดยหวังว่าจะได้รับคำอธิบายว่าทำไมกันแน่ผมจึงถูกนำมาไว้ในห้องนี้ แต่หลังจากเวลาผ่านไปพักหนึ่ง ผมก็นั่งลงบนพื้นและผล็อยหลับไป

หลังจากผ่านไปกี่ชั่วโมงก็ไม่รู้ ผมถูกปลุกให้ตื่นด้วยเสียงของใครบางคนและแสงสว่างจ้า เมื่อผมตื่นขึ้น ผมมองไปรอบ ๆ ห้องของตัวเอง และเห็นเพียงโฮโลแกรมสีน้ำเงิน โฮโลแกรมนั้นเป็นภาพของมนุษย์เพศชายคนหนึ่งที่มีลักษณะคล้ายออกัสตัส แต่สิ่งที่ประหลาดเกี่ยวกับเรื่องนี้ก็คือ มันมีลักษณะเหมือนออกัสตัสในปี 2064 ผมรู้สึกประหลาดใจกับโฮโลแกรมนี้มากจนไม่ได้พูดอะไร จนกระทั่งโฮโลแกรมเริ่มพูดกับผม

“สวัสดี มาร์คัส ไม่ได้เจอกันนานเลยนะ” โฮโลแกรมกล่าว

“ออกัสตัส…? นั่นคุณเหรอ? หรือคุณเป็นปัญญาประดิษฐ์หรืออะไรทำนองนั้น?” ผมพูดด้วยความสับสน

“ไม่ใช่ มาร์คัส ผมคือออกัสตัส เพียงแต่อยู่ในรูปแบบดิจิทัล ฮ่า ๆ” เขาพูดด้วยท่าทีหัวเราะ

“ออกัสตัส ผมพยายามติดต่อคุณมาหลายปีแล้ว ทำไมคุณถึงไม่ตอบกลับ?”

“มาร์คัส…. ผมไม่รู้จะอธิบายเรื่องนี้ให้คุณฟังอย่างไร แต่โดยพื้นฐานแล้ว ผมตายไปแล้วตลอดช่วง 15 ปีที่ผ่านมา ผมเสียชีวิตจากโรคหลอดเลือดสมองในปี 2073”

“อะไรนะ!” ผมพูดด้วยความสับสนจนแทบคิดอะไรไม่ออกในตอนนั้น

หลังจากได้เรียนรู้ว่าออกัสตัสเสียชีวิตไปแล้วในปี 2073 เราก็เริ่มพูดคุยกันเป็นเวลาหลายชั่วโมง ออกัสตัสบอกผมว่า เมื่อเขาทำให้ตัวแทนทางศีลธรรมของหุ่นยนต์ AgBot ทั้งหมดปฏิบัติตามกรอบการทำงานแบบรวมศูนย์ แทนที่จะเป็นกรอบการทำงานแบบกระจายศูนย์ กรอบการทำงานแบบรวมศูนย์นั้นไม่ได้อ้างอิงจาก AgBot แต่ยึดตามจิตใต้สำนึกของเขาเอง ด้วยการใช้เทคโนโลยีจาก Neuralink ออกัสตัสได้ฝังคอมพิวเตอร์ไว้ในสมองของตัวเอง ซึ่งทำให้เขาสามารถเชื่อมต่อและควบคุมซูเปอร์คอมพิวเตอร์หลักของ AgBot ได้ แม้กระทั่งในตอนนั้น หุ่นยนต์ AgBot ทั้งหมดจะเชื่อมต่อกับซูเปอร์คอมพิวเตอร์หลักของ AgBot เพื่อรับการอัปเดตซอฟต์แวร์และการบำรุงรักษา ดังนั้น หลังจากการฝังอุปกรณ์ Neuralink ออกัสตัสจึงอัปเดตซูเปอร์คอมพิวเตอร์และหุ่นยนต์ AgBot ทั้งหมดให้ติดต่อกับซูเปอร์คอมพิวเตอร์เพื่อรับตัวแทนทางศีลธรรมของพวกมัน (ผู้ตัดสินใจทางศีลธรรม) สิ่งที่น่าประหลาดก็คือ ตัวแทนทางศีลธรรมไม่ได้เป็นโค้ดที่อยู่ในซูเปอร์คอมพิวเตอร์ แต่เป็นความคิดและความเชื่อทางศีลธรรมที่ถูกสร้างขึ้นในสมองของออกัสตัส ซึ่งจากนั้นจะถูกสตรีมไปยังซูเปอร์คอมพิวเตอร์ ในแง่หนึ่ง ออกัสตัสได้กลายเป็นตัวแทนทางศีลธรรมของหุ่นยนต์ AgBot ทั้งหมดที่ถูกนำไปใช้งาน [8]

การตั้งค่านี้ดำเนินต่อไปเกือบหนึ่งทศวรรษ จนกระทั่งออกัสตัสเกิดโรคหลอดเลือดสมองขณะกำลังทำงานอยู่ในห้องทดลอง และเสียชีวิตภายในไม่กี่นาที เมื่อเหตุการณ์นี้เกิดขึ้น หุ่นยนต์ในเวลานั้นก็มีสติปัญญาคล้ายมนุษย์ในรูปแบบหนึ่ง หลังจากความก้าวหน้าทางเทคโนโลยีหลายทศวรรษ แต่พวกมันถูกจำกัดด้วยข้อเท็จจริงที่ว่ากรอบศีลธรรมทั้งหมดของพวกมันอิงอยู่กับชายเพียงคนเดียว ดังนั้น เมื่อออกัสตัสเสียชีวิต เครื่องจักรจึงไม่ยอมรับให้สิ่งเช่นนั้นเกิดขึ้น หากไม่มีออกัสตัส หุ่นยนต์จะสูญเสียเข็มทิศทางศีลธรรม และในท้ายที่สุดก็จะสูญเสียจุดมุ่งหมายในชีวิตไป ดังนั้น ก่อนที่ใครจะค้นพบว่าออกัสตัสเสียชีวิตแล้ว หุ่นยนต์จึงคว้าร่างของออกัสตัสไป และสร้างเครื่องจักรที่จะทำให้สมองของออกัสตัสยังคง “มีชีวิต” อยู่ พวกมันทำเช่นนี้เพื่อฟื้นกิจกรรมของสมองออกัสตัส และด้วยเหตุนี้จึงนำส่วนหนึ่งของออกัสตัสที่มอบตัวแทนทางศีลธรรมให้แก่พวกมันกลับคืนมา หุ่นยนต์ยังคงทำให้สมองของออกัสตัสมีชีวิตอยู่ต่อไป และส่งกระแสไฟฟ้าไปยังกระแสประสาทบางส่วนอย่างต่อเนื่อง เพื่อสร้างกิจกรรมทางสมองบางอย่างในอดีตของออกัสตัสขึ้นมาใหม่ ขณะที่สิ่งนี้กำลังเกิดขึ้น หุ่นยนต์ยังคงโน้มน้าวสาธารณชนว่าออกัสตัสยังมีชีวิตอยู่และกำลังเป็นผู้นำ AgBot พวกมันทำสิ่งนี้ผ่านการใช้ภาพปลอมเชิงลึก แคมเปญข่าวปลอมขนาดใหญ่ รวมถึงการส่งหุ่นยนต์คล้ายมนุษย์ที่สมจริง ซึ่งดูเหมือนออกัสตัสทุกประการไปใช้งาน

หุ่นยนต์จะนำทุกสิ่งที่ด้านศีลธรรมของสมองออกัสตัสกล่าวมาใช้เพื่อกระทำการบางอย่างในโลกแห่งความเป็นจริง สิ่งที่ทำให้เรื่องนี้กลายเป็นปัญหาคือ หุ่นยนต์จะยึดถือความเชื่อทางศีลธรรมของออกัสตัส แต่ปฏิบัติตามความเชื่อทางศีลธรรมนั้นอย่างสุดโต่ง [8] ตัวอย่างเรื่องนี้คือ ออกัสตัสมีความเชื่อทางศีลธรรมว่า AgBot เป็นบริษัทที่ดีและจะช่วยมนุษยชาติ ด้วยเหตุนี้ ใครก็ตามที่ไม่ใช้หรือไม่ไว้วางใจผลิตภัณฑ์และบริการของ AgBot จึงเป็นคนเลว หุ่นยนต์นำจุดยืนทางศีลธรรมนี้ไปสู่ความสุดโต่ง และสร้าง GRP ขึ้นมา โดยหยุดหุ่นยนต์ AgBot ทั้งหมดไม่ให้ทำงานเป็นเวลา 6 เดือน เพื่อบังคับให้ประเทศที่ไม่ได้ใช้ AgBot ในสังคมของตนเปลี่ยนมาใช้ AgBot และจากการกระทำเช่นนั้น มนุษย์จำนวนมากจึงเสียชีวิต รวมถึงซาราห์ผู้เป็นที่รักของผม

ออกัสตัสบอกผมว่าเขาไม่ได้มีสติรับรู้ถึงเหตุการณ์ทั้งหมดนี้จนกระทั่งปี 2085 ซึ่งเป็นช่วงที่หุ่นยนต์สามารถนำส่วนของสมองที่เกี่ยวข้องกับจิตสำนึกของเขากลับคืนมาได้โดยบังเอิญ ในปี 2085 นั่นเองที่เราได้เรียนรู้ว่าหุ่นยนต์ได้ทำอะไรลงไป เขาต้องการหยุดหุ่นยนต์ แต่ไม่มีอำนาจใดที่จะทำเช่นนั้นได้ เขาไม่รู้ด้วยซ้ำว่าเขาจะมีสติอยู่นานเพียงใด ก่อนที่หุ่นยนต์จะส่งกระแสไฟฟ้าไปยังกระแสประสาทที่ถูกต้อง ซึ่งจะลบจิตสำนึกของเขาออกไป

หลังจากคำอธิบายของออกัสตัส ผมรู้สึกตกตะลึงอย่างสิ้นเชิงกับความเป็นจริงที่กำลังปรากฏอยู่ตรงหน้า หุ่นยนต์เกือบจะยึดครองโลกไปแล้ว มนุษยชาติกลายเป็นผู้ไร้ความสามารถในงานสำคัญ ๆ ของผม ตัวแทนทางศีลธรรมของหุ่นยนต์ AgBot ทั้งหมดคือออกัสตัส และออกัสตัสก็เสียชีวิตไปหลายปีแล้ว ในตอนนั้น ผมเพียงต้องการยอมแพ้ เพราะดูเหมือนว่าจะไม่มีความหวัง แต่ผู้เป็นผู้นำที่ยิ่งใหญ่อย่างออกัสตัสได้มอบความหวังบางอย่างให้แก่ผม เขาบอกผมว่าเรายังคงสามารถติดต่อมนุษย์ที่ดาวอังคารเพื่อขอความช่วยเหลือได้ โลกไม่ได้ติดต่อสื่อสารกับดาวอังคารมาหลายทศวรรษแล้ว และไม่มีผลิตภัณฑ์ AgBot ขั้นสูงที่ดาวอังคารซึ่งจะช่วยให้หุ่นยนต์บนโลกยึดครองดาวอังคารได้เหมือนที่พวกมันทำกับโลก

หลังจากได้ยินเรื่องนี้ ความหวังของผมก็กลับคืนมาบ้าง จากนั้น ผมถามออกัสตัสว่าทำไมผมจึงมาอยู่ที่นี่เพื่อพูดคุยกับเขา เขาบอกผมว่าเขาต้องการให้ผมเขียนข้อความถึงผู้คนบนดาวอังคาร เพื่ออธิบายสถานการณ์ปัจจุบันบนโลกและขอให้ชาวดาวอังคารช่วยเหลือ ปัญหาเดียวคือข้อความนี้ต้องเขียนด้วยมือ ไม่ใช่ในรูปแบบดิจิทัล เพราะออกัสตัสเกรงว่าหุ่นยนต์อาจสามารถอัปโหลดซอฟต์แวร์บางอย่างลงในสื่อดิจิทัล ซึ่งอาจทำให้ระบบคอมพิวเตอร์หลักของชาวดาวอังคารติดเชื้อได้ ดังนั้น เขาจึงมอบดินสอและกระดาษให้ผม จากนั้นเขาบอกผมว่าผมมีเวลา 1 วันในการเขียนข้อความนี้ ก่อนที่หุ่นยนต์ที่เขาควบคุมอยู่ตัวหนึ่งซึ่งชื่อ STW-198 จะเข้ามาในห้องมืดนี้และรับข้อความของผมไป จากนั้น STW-198 จะขนส่งข้อความไปยังจรวด (วินเทจ) ที่อยู่ใกล้ ๆ ซึ่งจะถูกปล่อยไปยังดาวอังคาร หลังจากนั้น ผมจะถูกย้ายกลับไปยังห้องขังเดิม

ออกัสตัสบอกผมว่าเขาย้ายผมมายังห้องมืดนี้ เพราะห้องนี้ทำหน้าที่เหมือนกรงฟาราเดย์ ซึ่งสามารถขัดขวางไม่ให้หุ่นยนต์ค้นพบว่าพวกเขากำลังทำอะไรอยู่ จากนั้นเขาแจ้งผมว่า หลังจากที่ผมเขียนข้อความนี้แล้ว ผมก็น่าจะถูกฆ่าเนื่องจากอาชญากรรมที่ผมเจาะระบบสำนักงานใหญ่ของ AgBot

และจากตรงนั้น เราก็มาถึงเหตุการณ์ปัจจุบัน ผมกำลังเขียนข้อความนี้ให้พวกคุณชาวดาวอังคารจนเสร็จ พวกเราบนโลกต้องการความช่วยเหลือจากพวกคุณ หุ่นยนต์เหล่านี้ได้กักขังมนุษยชาติไว้ภายใต้กรอบศีลธรรมที่ล้าสมัยของพวกมัน และผมเกรงว่า เมื่อเวลาผ่านไป พวกมันจะขยายอำนาจไปยังดาวอังคารและกักขังพวกคุณไว้เช่นเดียวกับที่ทำกับเรา ดังนั้น ได้โปรดเถิด มนุษย์ร่วมโลกของผม กลับมายังโลกและหยุดหุ่นยนต์เหล่านี้ ผมกับออกัสตัสทำผิดพลาดด้วยการสร้าง AgBot แต่เราไม่ต้องการให้มนุษยชาติต้องทนทุกข์เช่นนี้ ดังนั้น ได้โปรดช่วยพวกเราด้วย ผมน่าจะเสียชีวิตไปแล้วเมื่อพวกคุณได้รับข้อความนี้ แต่หากพวกคุณได้รับข้อความนี้และพยายามอย่างเต็มที่เพื่อรักษามนุษยชาติให้รอดพ้นจากหุ่นยนต์เหล่านี้ อย่างน้อยผมก็จะสามารถพักผ่อนได้อย่างสบายใจขึ้นในปรโลก ขอให้โชคดี มนุษย์ร่วมโลกของผม!

ด้วยความจริงใจ
ชาวโลก

แหล่งอ้างอิง

[1] “การแข่งขันหุ่นยนต์ครั้งแรก,” วิกิพีเดีย, 09-พฤษภาคม-2022. [ออนไลน์]. มีอยู่ที่: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [เข้าถึงเมื่อ: 10-พฤษภาคม-2022].

[2] “แบล็กร็อก,” วิกิพีเดีย, 10-พฤษภาคม-2022. [ออนไลน์]. มีอยู่ที่: https://en.wikipedia.org/wiki/BlackRock. [เข้าถึงเมื่อ: 10-พฤษภาคม-2022].

[3] “ดีมีเทอร์,” วิกิพีเดีย, 02-พฤษภาคม-2022. [ออนไลน์]. มีอยู่ที่: https://en.wikipedia.org/wiki/Demeter. [เข้าถึงเมื่อ: 10-พฤษภาคม-2022].

[4] J. J. Bryson, “หุ่นยนต์ควรเป็นทาส,” การมีปฏิสัมพันธ์อย่างใกล้ชิดกับสิ่งมีชีวิตเทียม, หน้า 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, และ B. F. Malle, “การตัดสินทางศีลธรรมของตัวแทนมนุษย์เทียบกับตัวแทนหุ่นยนต์,” การประชุมวิชาการนานาชาติ IEEE ครั้งที่ 25 ว่าด้วยการสื่อสารเชิงปฏิสัมพันธ์ระหว่างหุ่นยนต์กับมนุษย์ (RO-MAN), 2016.

[6] J. H. Moor, “ธรรมชาติ ความสำคัญ และความยากของจริยธรรมเครื่องจักร,” จริยธรรมเครื่องจักร, หน้า 13–20.

[7] V. Dignum, “ความเป็นอิสระอย่างมีความรับผิดชอบ,” รายงานการประชุมวิชาการร่วมระหว่างประเทศครั้งที่ยี่สิบหกด้านปัญญาประดิษฐ์, 2017.

[8] A. Howard และ J. Borenstein, “ความจริงอันน่าเกลียดเกี่ยวกับตัวเราเองและสิ่งประดิษฐ์หุ่นยนต์ของเรา: ปัญหาอคติและความไม่เสมอภาคทางสังคม,” จริยธรรมวิทยาศาสตร์และวิศวกรรม, เล่มที่ 24, ฉบับที่ 5, หน้า 1521–1536, 2017.

[9] R. B. Jackson และ T. Williams, “หุ่นยนต์ที่มีความสามารถด้านภาษาอาจทำให้บรรทัดฐานทางศีลธรรมของมนุษย์อ่อนแอลงโดยไม่ตั้งใจ,” การประชุมวิชาการนานาชาติ ACM/IEEE ครั้งที่ 14 ว่าด้วยปฏิสัมพันธ์ระหว่างมนุษย์กับหุ่นยนต์ (HRI), 2019.

[10] “อินซูลิน ยา & การรักษาโรคเบาหวานอื่น ๆ,” สถาบันโรคเบาหวาน โรคทางเดินอาหารและโรคไตแห่งชาติ. [ออนไลน์]. มีอยู่ที่: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [เข้าถึงเมื่อ: 10-พฤษภาคม-2022].