القصة الخلفية

كتبت القصة القصيرة، الملك المتناقص، كواجب نهائي لمادة أخلاقيات الروبوتات (HASS400) خلال الفصل الأخير من دراستي الجامعية في كلية مناجم كولورادو. لهذا الواجب، طُلب منا كتابة قصة خيالية تدور حول أخلاقيات الروبوتات مع الإشارة إلى بعض الأوراق التي قرأناها خلال الفصل داخل القصة. كان الشرط أن تكون القصة 10 صفحات، لكنني كتبت 21 صفحة. أصبحت شغوفًا جدًا بهذه القصة، فأنفقت وقتًا طويلاً عليها.

الآن، تحذير، لست كاتبًا بارعًا. لذا فهذه القصة ليست مثالية وتحتاج إلى تنقيح وإعادة كتابة كبيرة. لكنني فخور بها وأعتقد أنها قراءة ممتعة. خلال جميع سنوات دراستي، بدأت أستمتع بعملية الكتابة، لذا آمل أن أتوسع في كتابة أشياء أخرى مثل المدونات، المقالات، إلخ.

مع كل هذا، تم حفظ القصة الأصلية كملف PDF كجزء من متطلبات الواجب. ولكن لتقليل حجم الورقة، حولت القصة إلى ماركداون. بناءً على ذلك، يمكن قراءة القصة بالكامل أدناه. آمل أن تستمتع بالقراءة، وتواصل معي عبر وسائل التواصل إذا كان لديك أي أسئلة أو ملاحظات على هذه القصة.

تابع القراءة لاكتشاف الملك المتناقص…

الملك المتناقص

Mehmet Hanifi Yilmaz
May 10, 2022

ملخص

في مستقبل يعلق فيه مصير الأرض بخيط رفيع، ينطلق ماركوس بروس، عبقري تكنولوجي، وصديقه أوغستس إيلرود، قائد رؤيوي، في مهمة لتحويل العالم عبر الروبوتات المتقدمة. إبداعهما، AgBot، يثوّر الزراعة والصناعة عالميًا، واعدًا بمستقبل يوتوبي. لكن مع توسّع إمبراطوريتهما التقنية، تظهر عواقب غير متوقعة تتحدى جوهر الأخلاق والحرية البشرية. عندما يهدد حدث كارثي يُعرف بـ “التوقف العظيم للروبوتات” بوجود البشرية، يواجه ماركوس الجانب المظلم لإرثهما ويطلب المساعدة بين الكواكب. “الملك المتناقص” هي قصة مشوقة عن الطموح، السلطة، والتوازن الدقيق بين الإنسان والآلة، تدعونا إلى التساؤل عن الثمن الحقيقي للتقدم.

القصة

أنا هنا لأُنبهك إلى الوضع الحرج الذي تمر به الأرض الآن! إذا لم يُعالج بشكل صحيح، يمكن لهذا الوضع أن يُقضي على البشرية بسهولة. أتمنى لو أستطيع شرح هذا الوضع في بضع جمل، لكن للأسف تعقيد هذا الوضع يتطلب مني شرح ما أدى إليه لتفهموا تمامًا خطورته.

أنا عامل رئيسي في ما أدى إلى الوضع الحالي للأرض، لذا دعوني أقدم نفسي على الأقل. اسمي ماركوس بروس، ولدت في بلدة صغيرة في كولورادو تُدعى أوراي عام 2010. أوراي منطقة ضاحية محاطة بجبال جميلة. ولدت لأبوين كانا معلمين في المدرسة الثانوية. كان والدي معلم رياضيات، وكانت والدتي معلمة علوم.

لا أتذكر كثيرًا من طفولتي المبكرة لأنني أقول إنني لم أكتسب الوعي الحقيقي إلا في سن 12 عامًا، أي في عام 2022. خلال ذلك العام، كنت في المدرسة المتوسطة، واعتُبرت طفلًا معجزة يتفوق في الرياضيات والعلوم. مدير مدرستي أراد أن يسمح لوالديّ بتخطي الصف السابع إلى الصف الحادي عشر. لكن والديّ عارضا توصية المدير لأنهما أرادا أن أعيش طفولة طبيعية. أنا ممتن لهذا القرار لأنني أتذكر أنني قضيت طفولة رائعة. طفولة في زمن بدأ فيه العالم يندمج أكثر مع التكنولوجيا، وليس أن يستهلكها بالكامل. الآن، علمي أنني كنت معجزة جعل عام 2022 عامًا مميزًا بالنسبة لي. لكن ما جعل عام 2022 مميزًا حقًا هو أنه كان العام الذي التقيت فيه بصديق مستقبلي طويل الأمد، أوغستس إيلرود. أوغستس نفسه لعب دورًا أساسيًا في الأحداث التي قادت الأرض إلى ما هي عليه الآن.

التقيت بأوغستس في الصف السابع في نادي الروبوتات الليغو المحلي. أول ما لاحظته في خصائص أوغستس كان طموحه ودافعيته. حتى وهو في الثانية عشرة من عمره، كان أوغستس قائدًا حقيقيًا لأنه استطاع قيادة فريق الروبوتات الليغو المحلي للفوز بالبطولة الوطنية للولايات المتحدة. وكان ذلك إنجازًا رائعًا نظرًا لأن جميع أعضاء الفريق كانوا طلابًا في المدرسة المتوسطة لا يهتمون كثيرًا بتعلم الهندسة وراء الروبوتات. لكن أوغستس لم يحفّز هؤلاء الأطفال فقط لتعلم والفوز، بل قادهم إلى النصر. كنا جميعًا نحترم أوغستس كقائد لنا، ولم يكن أوغستس يحترم الكثير من الناس. لكنه احترمني لذكائي. لاحظني أولًا لذكائي وصُدم عندما التقى بشخص في فئته العمرية أذكى منه. حتى أن أوغستس كان يتنافس معي في الامتحانات لكنه كان يخسر دائمًا. ولكن كما كنت دائمًا أهزم أوغستس في الذكاء، كان هو يهزمني في الرياضة. كان يلعب كرة السلة وكرة القدم بعد الحصص. كان جيدًا جدًا في هذه الرياضات لدرجة أن الكثيرين ظنوا أنه سيصبح رياضيًا محترفًا عندما يكبر. هذا الاحترام المتبادل بيننا أدى في النهاية إلى صداقة طويلة استمرت حتى سنوات البلوغ.

بعد سنوات المدرسة المتوسطة، بدأنا الثانوية في عام 2024. خلال سنوات الثانوية، شاركت أنا وأوغستس في مسابقة FIRST Robotics Competition (FRC) [1]. كانت FRC أكبر مسابقة روبوتات في الولايات المتحدة وتضم في الغالب طلابًا من المدارس الثانوية [1]. أثناء مشاركتنا في FRC، تعلمنا الكثير عن الهندسة الميكانيكية والكهربائية وعلوم الحاسوب. وبفضل مهارات القيادة المذهلة لأوغستس، فزنا بالبطولة الوطنية لمدة عامين متتاليين، وهو ما كان غير مسبوق آنذاك. أيضًا، خلال هذه الفترة، شاركت في مسابقات رياضيات متعددة وكذلك في مناظرات حول مواضيع أخلاقية. وكان أوغستس أيضًا يهيمن على كرة السلة، حيث قاد فريق الثانوية إلى البطولات الوطنية لمدة ثلاث سنوات متتالية. كنا كلاهما طلابًا موهوبين بطريقتنا. لكن خلال هذه الفترة أيضًا، طور كل منا أهدافه في الحياة، وبالنسبة للخير أو الشر، استمر كل منا في متابعة تلك الأهداف حتى النهاية.

خلال سنوات الثانوية، اكتشفت أن هدفي في الحياة هو جعل العالم مكانًا أفضل عبر التكنولوجيا. قبلت أن العالم لن يكون مثاليًا وأنه سيظل معيبًا. لكن في ذلك الوقت، كنت أؤمن بأنه إذا عملت بجد كافٍ، يمكنني على الأقل تخفيف عبء العالم وصنع مستقبل أفضل. كان لأوغستس أهداف مشابهة لكنها مختلفة قليلًا. كنت أعلم أن أوغستس طموح، لكنني لم أعرف حقًا إلى أين يريد أن يذهب بحياته حتى عامنا الأخير في الثانوية.

خلال عامنا الأخير في الثانوية، تم قبول كل منا في معهد ماساتشوستس للتكنولوجيا (MIT). عُرض على أوغستس فرصة الانضمام إلى الدوري الأمريكي للمحترفين (NBA)، لكنه رفض العرض وقرر الذهاب إلى MIT بدلاً من ذلك. سمعت بذلك أولًا من والدي أوغستس، وبعد ذلك اتصلت بأوغستس وكانت محادثتنا كالتالي:

“أوغستس، لماذا رفضت الـNBA؟ إنها فرصة لا تتكرر”، قلت وأنا في حالة ارتباك.

“ماركوس، الـNBA قد تكون ممتعة، لكنها مجرد متعة. لن تغير العالم. بل على العكس، قد تشغلني عن إصلاح هذا العالم”، قال أوغستس بثقة.

“تغيير العالم؟ ماذا تعني؟”

“نعم، تغيير العالم! ماركوس، أريد أن أقود البشرية إلى مستقبل أفضل. أريد أن أنقذ العالم!”

توقفت لبضع ثوانٍ، وشعرت بمفاجأة أكبر مما توقعت.

“إنقاذ العالم؟ ماذا تعني؟”

“ماركوس، أنت وأنا موهوبان. كلانا نريد مساعدة العالم. أنت متفوق كعقل، وأنا متفوق كقائد. ليس هذا فحسب، بل أثق بك يا ماركوس. بمهاراتنا معًا، يمكننا تطوير وتوزيع تقنية تغير العالم للأفضل. أنا واثق من ذلك!”

“واو، أنت أكثر طموحًا مما ظننت يا أوغستس!"، قلت مع ضحكة خفيفة في النهاية، “لكن كيف نحقق هذه المهمة؟”

“الإجابة المختصرة هي يا ماركوس؛ أخطط لبدء عمل تقني. ثم التوسع إلى السياسة. بذلك، نكتسب القوة المالية والسياسية. ومن هناك، يمكننا تغيير العالم. ستلعب دورًا حاسمًا في هذا الخطة، يا ماركوس!”

“حسنًا، أوغستس. هذا لا يزال طموحًا جدًا. لكن عندما تضع الخطة وتحتاجني، سأكون هناك.”

“شكرًا يا صديقي، أراك في MIT!” قال أوغستس بنبرة متحمسة.

في ذلك الوقت، لم يكن لهذه المحادثة معنى كبير بالنسبة لي. أعلم أن أوغستس رائع، لكن أحلامه بدت كأحلام أكثر من كونها مستقبلًا محتملًا. لم آخذ كلامه على محمل الجد آنذاك. لكن كل ذلك سيتغير. على أي حال، كان العام 2028 وأنا أتطلع لبدء دراستي الجامعية في MIT.

كان ذلك أيضًا وقتًا مثيرًا لبدء دراسة الهندسة لأن الحكومة الأمريكية، وناسا، وسبيس إكس في عام 2028 بدأوا في إرسال المزيد من الأشخاص لاستعمار المريخ. قبل عامين فقط، كانوا يرسلون عددًا قليلًا من الأشخاص ذهابًا وإيابًا إلى الكوكب الأحمر. لكن الآن، هم وبقية العالم بدأوا في إرسال المزيد من الأشخاص إلى المريخ للاستقرار. كان هذا نقطة تحول حقيقية في تاريخ البشرية وتسبب في طلب كبير وتطور في أبحاث الروبوتات، وهو ما كان رائعًا لأنني أردت التخصص في الروبوتات.

في عام 2030، كل منّي وأوغستوس أنهينا سنتنا الثانية في MIT. كنت أدرس تخصصين مزدوجين في الروبوتات والأخلاقيات، بينما كان أوغستوس يدرس الروبوتات والعلوم السياسية. لكن بعد سنتنا الثانية في الجامعة، بدأ أوغستوس يكره الجامعة حقًا. لم يرها كأداة مفيدة لتحقيق حلمه في “إنقاذ العالم”. لذا، خلال سنته الثانية، تخطى أوغستوس معظم محاضراته وفشل في معظمها أيضًا. بدلاً من حضور الصف، ركز أوغستوس على تطوير هذا البرنامج المدعوم بالذكاء الاصطناعي الذي سيدير الأصول والأسهم بفعالية. أراد أن يصنع برنامجًا لإدارة الأصول يكون أفضل من برنامج Aladdin الخاص بـ BlackRock في ذلك الوقت [2]. كان واثقًا جدًا من برنامجه لدرجة أنه ترك MIT بعد سنته الثانية وتابع مشروعه التجاري الأول بهذا البرنامج الجديد الذي كان يطوره. انتقل من السكن الجامعي في مايو 2030 وانتقل إلى مدينة نيويورك. شعرت بالحزن لأن أوغستوس ترك الجامعة لكن الشيء الجيد في ذلك العام هو أنني التقيت بزوجتي المستقبلية، سارة رافن.

الآن، لننتقل إلى عام 2038. كان أوغستوس في جميع وسائل الإعلام لأنه أصبح للتو مليونيرًا متعدد الملايين في سن 28. بعد بيعه لبرنامجه، مقابل مبلغ كبير من المال إلى BlackRock، كان لدى أوغستوس ما يقرب من 100 مليون دولار نقدًا وبعض خيارات أسهم BlackRock. حسنًا، كان أوغستوس يغزو العالم المالي؛ لقد أنهيت للتو حصولي على درجتي دكتوراه في كل من أنظمة الروبوتات الذكية وكذلك أخلاقيات الآلات. ليس ذلك فحسب، بل خلال صيف 2038، تزوجت أنا وسارة. دعوت أوغستوس إلى زفافي، ورأيت أوغستوس للمرة الأولى منذ ما يقرب من 8 سنوات في زفافي. كانت ليلة ممتعة، ولكن بينما كنا ننهي الحفل، طلب أوغستوس مني أن أتصل به عندما يكون لدي بعض الوقت الحر. لذا، بعد شهر العسل الذي قضيناه أنا وسارة، اتصلت بأوغستوس.

تحدثنا لمدة تقارب الساعتين وخلال ذلك الوقت تبادلنا أخبار الحياة، ولكن بعد ذلك بدأ أوغستوس يتعامل بجدية على الهاتف. أشار أوغستوس إلى أنه يعلم أن لدي ديونًا طلابية هائلة باسمي وأنني لم أجد وظيفة بعد. لذا، طرح وظيفة يعتقد أنه يمكنه أن يقدمها لي. كانت هذه الوظيفة أن أكون شريكًا مؤسسًا لمشروعه التجاري الجديد. هذا المشروع التجاري الجديد هو شركة ناشئة تسمى AgBot ستركز على أتمتة الزراعة عبر الذكاء الاصطناعي والروبوتات. يريد أوغستوس مني أن أكون شريكًا مؤسسًا لـ AgBot لأنه يعتقد أن مهاراتي التقنية ستكون ذات قيمة في تطوير البنية التحتية اللازمة لتطوير مثل هذه الأنظمة الروبوتية الذكية. كما أخبرني أنه يثق بي وكيف يقدّر الثقة بعد أن شريكه الأخير دفعه أساسًا لبيع برنامجه إلى BlackRock. بعد سماع هذا العرض، قبلته فورًا لأنني كنت متحمسًا جدًا للمشروع وكان على حق، فقد كنت في ديون هائلة دون عروض عمل حتى تلك اللحظة.

تم تأسيس AgBot رسميًا في عام 2038. انتقلت أنا وسارة إلى كولورادو لأن ذلك هو موقع AgBot. فورًا، بدأ أوغستوس وأنا العمل على بناء AgBot. على مدار 5 سنوات، تم اتخاذ خطوات رئيسية من قبلي ومن قبل أوغستوس للوصول بـ AgBot إلى ما هو عليه الآن. أولاً، استثمر أوغستوس رأس ماله الخاص في الشركة. سمح لنا ذلك بالحصول على كل ما نحتاجه لبدء بناء بعض النماذج الأولية كدليل على المفهوم. كما سمح لأوغستوس بتوظيف مطورين آخرين للعمل تحت إدارتي لتطوير التقنيات الرئيسية لـ AgBot. وكان ذلك أيضًا خلال هذه الفترة التي بدأنا فيها تطوير وإطلاق منتجنا الأول، Demeter [3]. Demeter هو روبوت رباعي العجلات مع أرجل قابلة للتعديل في الارتفاع. يحتوي على ذراعين روبوتيين من نوع دلتا وذراعين روبوتيين بست محاور. هدف Demeter هو حماية المحاصيل من الحشرات والحيوانات والأمراض من خلال مراقبة وإدارة تلك المحاصيل خلال مراحلها الأولية من التطور. يمكن أيضًا استخدامه لقطف المحاصيل من النباتات التي لا يمكن أتمتتها بسهولة باستخدام متعقب، مثل الفراولة. إلى جانب الروبوت نفسه، جاء Demeter أيضًا مع محطة شحن خاصة وطائرة بدون طيار. يمكن لـ Demeter شحن نفسه تلقائيًا ويمكنه استخدام شكل الطائرة بدون طيار لفحص حقول واسعة من المحاصيل لمعرفة أي المحاصيل تحتاج إلى صيانة أكثر. كان هذا الروبوت شبه مستقل، لكنه لا يزال يتطلب إنسانًا لمراقبة وإصلاح Demeter. لكن الميزة الرئيسية التي قدمها Demeter كانت أنه يمكن أن يساعد مزارعًا واحدًا في إدارة 1000 فدان من الأرض في آن واحد، وهو ما كان غير مألوف من قبل.

تم إصدار Demeter للجمهور في مايو 2043 بمبيعات قياسية. بفضل ميزات Demeter المتقدمة وحملة التسويق المذهلة التي قادها أوغستوس وفريقه، تم بيع Demeter بالكامل على الفور. هذا أعاد طمأنة المستثمرين الآخرين وأدى إلى زيادة هائلة في التمويل من مستثمرين آخرين. هذا التمويل الإضافي أدى إلى توسيع AgBot لعملياتها وكذلك فريق التطوير الخاص بها. كما سمح لـ AgBot بالبدء في تطوير وحدات زراعة داخلية مؤتمتة تم إصدارها لاحقًا في عام 2047 للمناطق في العالم الأكثر تأثرًا بتغير المناخ. هذه الوحدات الداخلية كانت أيضًا ناجحة بشكل كبير مما سرّع فقط نمو وثروة AgBot. في عام 2048، تم إطلاق نسخة أكثر تقدمًا من Demeter إلى المريخ للمساعدة في جهود الزراعة على المريخ. كان أوغستوس فخورًا بعملي ومنحني الكثير من أسهم AgBot بالإضافة إلى راتبي.

في عام 2050، أصبحت AgBot شركة عامة وتقدر قيمتها بـ 3 تريليون دولار. كان ذلك بسبب استخدام تقريبًا كل مزارع في أمريكا لمنتجات الزراعة الخاصة بـ AgBot. من خلال الطرح العام، أصبحت مليارديرًا بين ليلة وضحاها وأصبح أوغستوس مليارديرًا متعدد المليارات بين ليلة وضحاها. كما جلب الطرح العام مزيدًا من رأس المال إلى AgBot مما سمح لـ AgBot بشراء Tesla وNeuralink. تم شراء Tesla وNeuralink بسعر رخيص لأن، منذ وفاة إيلون ماسك، لم يتمكن أي مدير تنفيذي من إدارة هاتين الشركتين بفعالية. أدى ذلك إلى سنوات من فقدان الأرباح لكلا الشركتين، مما جعلهما على وشك الإفلاس حتى اشترتهم AgBot كلاهما مقابل 900 مليار دولار فقط. تم دمج كل من Tesla وNeuralink في قسم الروبوتات في AgBot وبدأت AgBot في تطوير منتجين جديدين. الأول كان مساعدًا منزليًا تم تطويره من التصميم الأولي لـ Tesla Bot [4]. أُطلق على هذا المشروع اسم Agssistant-Bot. المنتج الثاني كان حافلة ذاتية القيادة ستُبنى على التقنية المستخدمة من قبل Tesla لصنع السيارات الكهربائية. أُطلق على هذا المشروع اسم Auto-Bus. أصبحت السيارات أقل شيوعًا في عام 2050 بسبب استثمار الدول بشكل كبير في أنظمة نقل أفضل، مثل الحافلات والقطارات. خلال هذا الوقت، بدأ أوغستوس بتمويل حملات العديد من السياسيين وتولى العديد منهم مناصب مثل العمدات وأعضاء مجلس الشيوخ، وحتى أحدهم أصبح جزءًا من الكونغرس. ثبت أن ذلك مفيد لتوسيع قوة AgBot في الولايات المتحدة.

خلال عام 2051، بدأ أنا وفريقي في معالجة العوامل المحدودة لخوارزميات الذكاء الاصطناعي الحالية. في هذه المرحلة، لم تكن روبوتاتنا القائمة على الزراعة فقط قوية في جودة الصنع، بل كانت قريبة من أن تكون ذاتية بالكامل. العامل المحدد الرئيسي كان نقص وجود وكيل أخلاقي في الذكاء الاصطناعي [5]. في روبوت ذكي حقًا، يجب أن يكون هناك وكيل أخلاقي يساعد في توجيه الروبوت عبر أطر العمل الاجتماعية للمجتمع. في AgBot، حاولنا إنشاء وكيل أخلاقي لروبوتاتنا عن طريق ترميز القواعد الأخلاقية صراحةً داخل شفرة الذكاء الاصطناعي. ثبت أن ذلك غير فعال، لذا حذفنا ذلك وتحولنا إلى جعل المستخدم يحدد الخيارات الأخلاقية للروبوت [6]. هذا مبدئيًا يعمل لكنه قلل من أتمتة روبوتاتنا لأنه يتطلب إدخالًا بشريًا كلما واجه الروبوت شيئًا يتطلب نوعًا من التفكير الأخلاقي. كان ذلك مقبولًا مع روبوتاتنا الزراعية، لكنه كان مشكلة محدودة رئيسية بالنسبة لضغط AgBot نحو تطوير Agssistant وAuto-Bus للجمهور العام [4]. بعد 4 سنوات من التطوير، حقق فريقي ما كان يبدو مستحيلًا.

بحلول عام 2055، أنشأ فريقي أول وكيل أخلاقي ناجح داخل قاعدة الشيفرة الأساسية لجميع أنظمة الذكاء الاصطناعي لروبوتات AgBot. كان هذا الوكيل الأخلاقي قادرًا على تمكين الروبوت من اتخاذ خياراته الأخلاقية الخاصة التي تعكس بشكل أفضل الموقف الأخلاقي للعديد من الناس في المجتمع [7]. يتم تدريب الوكيل الأولي من قاعدة بيانات ضخمة، ولكن مع استمرار الروبوت في التفاعل مع البشر، سيبدأ في تحسين أطره الأخلاقية لتتناسب مع هؤلاء البشر الذين يتفاعل معهم [8]. كان هذا مثاليًا لأنه أكمل إطار عمل الذكاء الاصطناعي لـ AgBot إلى النقطة التي يمكن فيها لروبوتاتنا أن تكون ذاتية بالكامل دون الحاجة إلى أي إدخال بشري. كان هذا العام أيضًا عامًا مهمًا في تاريخ البشرية لأنه كان العام الذي توقفت فيه المريخ عن التواصل مع الأرض. قررت الحضارة المريخية الجديدة الانفصال عن الأرض وبناء مجتمع جديد لا تحكمه المجتمعات السابقة على الأرض. كانت العديد من الدول غاضبة من الإجراءات التي اتخذها مارتينز، ولكن بسبب المسافة الكبيرة بين الأرض والمريخ وكذلك المشكلات الكبرى التي كانت تواجهها الأرض بالفعل، بدأت الدول عبر الأرض تتجاهل هذه القضية إلى ما لا نهاية.

بعد تطوير هذا الوكيل الأخلاقي، قدمته لأوغستوس وبحلول عام 2060، كنا قد نفّذنا الوكيل الأخلاقي في قاعدة الشيفرة الرئيسية لدينا ونشرناه على جميع الروبوتات في خط إنتاجنا. كان هذا أيضًا العام الذي أطلق فيه AgBot أخيرًا Agssistant للجمهور العام، محققًا أخيرًا أحلام أوغستوس في إنشاء روبوت للجمهور العام. بالإضافة إلى ذلك، تم إطلاق Auto‑Bus في المدن الكبرى عبر الولايات المتحدة. كما عُفِيَ AgBot من دفع أي ضرائب حكومية بسبب مساهمة الشركة الضخمة في الاقتصاد، لكن عند النظر إلى الوراء، أعتقد أن ذلك كان نتيجة تأثير أوغستوس الهائل في الحكومة الأمريكية عبر سنوات من السياسيين المؤسسين. كان ذلك أيضًا خلال هذه الفترة التي وصل فيها معدل البطالة إلى أعلى مستوى له على الإطلاق، وكان ذلك نتيجة لإزالة الوكيل الأخلاقي للوظائف البشرية من معظم الأنظمة الروبوتية. أدى ذلك إلى بطالة هائلة وطلب كبير لإصلاح كيفية عمل الاقتصاد وفكرة التوظيف في الولايات المتحدة. كما كان هذا هو أول مرة يُنظر فيها إلى AgBot بصورة سلبية من قبل الجمهور. كان أوغستوس وأنا نتلقى تهديدات بالقتل من أشخاص فقدوا وظائفهم بسبب تنفيذ ميزة الوكيل الأخلاقي الجديدة. وكان ذلك أيضًا خلال هذه الفترة التي بدأت فيها بالاستثمار أكثر في نظام أمان لحماية نفسي وزوجتي.

في عام 2063، سُجّلت أول حالة قتل روبوت في تاريخ البشرية. كان الروبوت نموذج Agssistant وكان يعمل بأحدث برنامج AgBot الذي يحتوي على أحدث قاعدة شيفرة للوكيل الأخلاقي خلال “هجومه”. خلال هجوم الروبوت، قتل رجلًا يبلغ من العمر 70 عامًا في وضح النهار. كان اسم الرجل العجوز جون سميث الذي كان يستخدم Agssistant لمساعدته في المنزل والمهام الأخرى التي لا يستطيع القيام بها بسهولة في سنه. بعد أن قتل الروبوت جون، استمر الروبوت في تمزيق نفسه حتى بدأ يعمل. لم يُكتشف وجود جون والروبوت إلا بعد ثلاثة أيام.

عندما انتشرت الأخبار عن ذلك، جن الجمهور. طالبوا أوغستوس بتفسير ما حدث. انخفضت أسهم AgBot بنسبة 70٪ وأكثر من 90٪ من نماذج Agssistant المشحونة كانت تُعاد. الشيء الجيد الوحيد في كل ذلك آنذاك هو أن نموذج Agssistant الذي ارتكب القتل لم يدمر قرص السجل الخاص به، فتمكنا من رؤية ما حدث داخل Agssistant الذي تسبب في قتله لجون.

ما زلت أتذكر تلك الليلة. كانت الساعة 3:00 ص في المختبر الرئيسي في مقر AgBot، وكان فريقي قد حمّل السجلات مؤخرًا. نظرنا في السجلات لأيام، لنكتشف ما الذي حدث تلك الليلة التي قتل فيها Agssistant جون. بعد خمسة أيام من البحث، وجدنا إجابتنا. تبيّن أن الرجل العجوز، مع مرور الوقت، أصبح أكثر كراهية وعنفًا مع هذا Agssistant [9] يطلق على Agssistant أسماءً، يضربه، ويملأ أجزاء الروبوت بالهراء بطريقة تعذيبية. من المحتمل أن تُعزى هذه الأفعال القاسية إلى طلاق جون الأخير وعزلته لعدة أشهر. وكذلك إلى المشكلات النفسية الأخرى التي كان يواجهها جون في هذه المرحلة من حياته. لذا، قد يكون سلوك Agssistant قد جعل جون أكثر غضبًا دون أن يكون Agssistant على علم بذلك [10]. على أي حال، يبدو أن هذا “الإساءة” للروبوت قد حفّز الروبوت على “الاعتقاد” الأخلاقي بأن جون كان شريرًا وبالتالي يجب قتله. لكن ما كان أكثر إثارة للدهشة هو أنه بعد أن قتل Agssistant جون، بدأ يقتل نفسه. السبب وراء ذلك هو أن الروبوت لا يزال يعتقد أن قتل أي كائن حي أمر غير أخلاقي، ومع ذلك فقد فعل ذلك للتو. لم يستطع Agssistant، لعدم وجود كلمات أفضل، “التعامل” مع المعضلة الأخلاقية التي كان فيها، لذا قتل نفسه. كان ذلك فظيعًا للغاية وفي ذلك الوقت، اعتبرته تحذيرًا من الله لنا بعدم اللعب كالله. واجهت أوغستوس بهذه المسألة، وكان محطّمًا.

بعد بضعة أشهر من القتل وبعد أن اكتشفنا ما سبب ذلك، أعلن AgBot عن ذلك للجمهور. أراد أوغستوس إيجاد طريقة لتغطية الأمر، مثل اختلاق كذبة تقول إن جون كان يعديل نموذج Agssistant الخاص به. لكن، بسبب الطلب الجماهيري الضخم والضغوط من الحكومات حول العالم، قدم أوغستوس وسمح لـ AgBot بنشر نتائجهم خلال مؤتمر صحفي. دمر ذلك أسهم الشركة وجعل العديد من المستثمرين ينسحبون من AgBot. لكن الأسوأ من ذلك، أنه شوه سمعة أوغستوس. لتقليل الضرر الناتج عن هذا الحادث؛ كان هناك حاجة إلى “ضحية” تتحمل معظم مسؤولية هذا الحدث. أراد مجلس الإدارة أن يتحمل أوغستوس المسؤولية ويترك منصب الرئيس التنفيذي في AgBot. لكن، لمفاجأتي، لم يغادر أوغستوس منصبه لأنّه على مر السنين كان يشتري سراً المزيد والمزيد من أسهم وأصول AgBot. أدى ذلك إلى امتلاكه أكثر من 15٪ من AgBot، مما منحه الأغلبية في التصويت. أدى ذلك إلى مزيد من الصراعات الداخلية داخل الشركة، مما دفع أوغستوس إلى طرد جميع أعضاء مجلس الإدارة وإملاء مناصبهم بأعضاء مجلس إدارة جدد. لاحقًا علمت أن هؤلاء الأعضاء الجدد كانوا مجرد دمى تحت “حكم” أوغستوس. لذا، بعد هذا الانخفاض الضخم في ثروة AgBot، نجح أوغستوس في الحصول على السيطرة الكاملة على AgBot. ليس هذا فحسب، بل جعل أعضاء مجلس الإدارة يتحملون المسؤولية عن قضية القتل.

كان استيلاء أوغستوس على AgBot مخفيًا جيدًا في وسائل الإعلام. كان ذلك بفضل القوة السياسية التي يمتلكها أوغستوس. وكذلك حملة أخبار زائفة ضخمة دفعها أوغستوس عبر الإنترنت، مما أربك الجمهور العام كثيرًا وسمح لأوغستوس بعدم الظهور كقوة كما هو في الواقع. شعرت بالاشمئزاز من هذا الفعل لأن أوغستوس جعل نفسه ديكتاتورًا على AgBot، وهو ما كان يثير قلقي لأن AgBot كان له تأثير هائل على الاقتصاد والعالم. كنت ضد فكرة أن يكون أوغستوس هو المتخذ لجميع القرارات لتلك الشركة الضخمة. لم أرغب في دعم هذه الفكرة، لذا طلبت من أوغستوس إعادة النظر في أفعاله. ذكّرته بطفولتنا وكيف كنا نريد معًا “إنقاذ العالم”. لكن أوغستوس لم يعيد التفكير، بل صرح قائلاً: “أنا (أوغستوس)، سأحفظ العالم”. ثم شرح كيف أنه يكره الجمهور وفكرة الديمقراطية. أصبحت الآن أكثر اشمئزازًا من أفعال أوغستوس، لذا استقلت من AgBot في ذلك اليوم.

بالنظر إلى الوراء، أعتقد أن أفعال أوغستوس كانت مدفوعة بشعور الخيانة، الخوف، الطموح، والنرجسية. لقد قضى أكثر من 25 عامًا في بناء وإدارة AgBot. كان دوره في الشركة أساسيًا في جعل AgBot واحدة من أقوى الشركات في العالم. ثم ساهم AgBot في صنع روبوتات مذهلة لم تزد فقط الإنتاجية بل غيرت أيضًا هيكل المجتمع. ومع ذلك، وعلى الرغم من كل عمله الشاق وتضحياته، وعلى الرغم من كل الأشياء الرائعة التي ساهم بها في المجتمع وكل الأرواح التي أنقذها أو جعلها أكثر راحة، فإن خطأً واحدًا في أحد منتجات AgBot جعل الجمهور يبدأ في كرهه وجعل جميع المستثمرين الذين أغنىهم يبدأون في تجاهله. هذه “الخيانة” من الجمهور هي ما أعتقد أنه بدأ رحلة أوغستوس نحو أن يصبح الوحش الذي هو عليه اليوم.

بعد استقالتي من AgBot، قطعت علاقاتي بأوغستوس. استغرق الأمر عقودًا قبل أن أتحدث معه مرة أخرى. لكن خلال تلك الفترة من حياتي، كان عمري 53 عامًا وأردت التقاعد. كانت سارة تشترك معي في نفس الفكرة، لذا قررنا الانتقال من كولورادو إلى أنقرة، تركيا لبدء حياتنا الجديدة كمتقاعدين. أردت قضاء المزيد من الوقت مع زوجتي وكذلك الاستمتاع بثمار جهدي. بحلول عام 2064، بدأنا سارة وأنا عملية الانتقال إلى أنقرة. خلال هذا الوقت، ما زلت أتابع أخبار AgBot. كانت لحظة رئيسية في هذا الوقت هي أن أوغستوس غير الوكيل الأخلاقي داخل قاعدة شيفرة AgBot من إطار عمل لامركزي إلى إطار عمل مركزي. يعني ذلك أن AgBot سيزيل قدرة جميع روبوتاته على اتخاذ قرارات أخلاقية فردية، وبدلاً من ذلك سيحدد AgBot جميع القرارات الأخلاقية لجميع الروبوتات تحت إدارته [6]. رغم أن هذا كان نوعًا من الإصلاح للمشكلة التي قدمها الوكيل الأخلاقي الأصلي، لم أكن أعتقد أنه قرار هندسي صالح. لقد منح أوغستوس مزيدًا من القوة على AgBot والعالم. لكن في ذلك الوقت، وبشكل أحمق، سئمت من AgBot وأوغستوس. لذا، بدأت بالكاد أتابع أخبار AgBot وركزت أكثر على تقاعدي. بحلول نهاية عام 2064، انتقلنا سارة وأنا إلى أنقرة؛ بدءًا رحلتنا كمتقاعدين.

من عام 2064 إلى 2074، تغير العالم بشكل دراماتيكي. أصبحت جميع المهام الأساسية مؤتمتة بالكامل عبر الروبوتات التي تصنعها AgBot. استمر أوغستوس في إدارة AgBot ولم تحدث حوادث مثل جريمة القتل عام 2063. لكن الشائعات كانت تدور بأن مثل هذه الحوادث حدثت، وأن أوغستوس كان يخفى تلك الحوادث عن الجمهور. الآن لدى AgBot روبوتات تقوم تقريبًا بكل مهمة مهمة في المجتمع، مثل: الزراعة، الطهي، الصيانة العامة، التنظيف، الإدارة، وحتى الترفيه. ليس هذا فحسب، بل نشر AgBot روبوتات طبية ذاتية القيادة خفضت تكلفة الفواتير الطبية وكذلك قللت عدد الأطباء في المستشفيات إلى درجة أنه عادةً ما يكون هناك 1-10 أطباء فقط في كل مستشفى كبير الآن. تغير المجتمع أيضًا بشكل كبير. أزيلت تقريبًا جميع الوظائف منخفضة الدخل وتم استبدالها بالروبوتات [4]. بدأ الناس يعملون أسبوعين عمل فقط لمدة يومين، ويقضون الأيام الخمسة المتبقية في الاسترخاء أو ممارسة هواياتهم الشخصية. هذا الشكل الجديد للمجتمع لم يُطبق في معظم البلدان لأن هناك لا يزال العديد من الدول التي تمنع حكوماتها شعوبها من تبني روبوتات AgBot بالكامل في المناصب الرئيسية داخل مجتمعاتهم. بل يرغبون في أتمتة الجوانب الرئيسية لمجتمعاتهم باستخدام تقنيتهم الخاصة وليس AgBot. ومع ذلك، جعل AgBot العالم يبدو أفضل بكثير مما كان عليه في عام 2038. في عام 2074، بدأت أشعر بالندم على ما فعلته لأوغستوس لأن خططه لـ “إنقاذ العالم” بدت وكأنها نجحت بالفعل.

خلال تلك العشر سنوات، استمتعت حقًا بتقاعدي. كما أنني، أساسًا، وقعت في حب سارة مرة أخرى. رأينا العالم وتعلمنا العديد من المهارات الجديدة، مثل الرسم ومراقبة الطيور. كما رأينا العالم يتحول إلى ما يمكن أن أصفه بـ “اليوتوبيا” إلى حد ما. لكن للأسف، تلك “اليوتوبيا” لم تستمر طويلاً.

في عام 2075، حدث أحد أسوأ الأحداث التي سُجلت في تاريخ البشرية. حدث ما يُعرف بـ “توقف الروبوتات العظيم” (GRP). لمدة ستة أشهر، توقفت جميع روبوتات AgBot عن العمل. أدى ذلك إلى انهيار اقتصادي عالمي هائل، مما أدى إلى وفاة ما يقرب من 3 مليارات إنسان. كان ذلك في المقام الأول بسبب المجاعات الناجمة عن توقف روبوتات الزراعة تمامًا وكذلك توقف جميع الروبوتات الطبية تقريبًا. خلال تلك الستة أشهر، مات الكثير من الناس لأنهم ببساطة لم يعرفوا كيف يعتنون بأنفسهم بدون روبوتاتهم. نسي الناس، أو لم يتعلموا أبدًا، كيفية القيام بالمهام الأساسية مثل: الطهي، التنظيف، زراعة الطعام، والعناية العامة بأنفسهم. لذا، عندما توقفت الروبوتات عن العمل، كان معظم الناس غير قادرين على العناية بأنفسهم والبقاء على قيد الحياة، مما أدى إلى وفاة مليارات في ستة أشهر فقط. وكان ذلك أيضًا في ذلك الوقت؛ فقدت سارة….

خلال الخمسينيات من عمرها، أصيبت سارة بمرض السكري من النوع الثاني. هذا استلزم أن تتناول سارة أربع حقن من الإنسولين كل يوم [10]. عندما حدث الـ GRP، توقفت جميع عمليات تصنيع الإنسولين. كان لدينا ما يكفي من إمدادات حقن الإنسولين لتدوم لمدة خمسة أشهر فقط. حاولت العثور على المزيد من الإنسولين، لكن ذلك كان شبه مستحيل، وخارج منزلنا أصبح أكثر خطورة بسبب كل العنف الذي كان يحدث بفضل المعاناة التي سببتها فترة الـ GRP. لذا، خلال الشهر الأخير من الـ GRP، توفيت سارة بحزن….

في النصف الأخير من عام 2075، انتهى الـ GRP. بحلول عام 2085، تعافى العالم قليلًا من الـ GRP. بدأ الاقتصاد يعود إلى طبيعته وأصبح مستوى المعيشة جيدًا كما كان قبل الـ GRP. أراد العالم معرفة ما الذي تسبب في توقف جميع روبوتات AgBot عن العمل. أراد الناس معرفة سبب حدوث الـ GRP وأرادوا إلقاء اللوم على أحد. خلال مؤتمرهم الصحفي، صرح أوغستوس وحكومة الولايات المتحدة أن الـ GRP نتج عن هجوم إلكتروني خبيث نفذه مجموعة من القراصنة تُدعى jUdas. قيل إن هذه المجموعة تم إنشاؤها وتم تمويلها من قبل الحكومة الكورية الشمالية، بهدف تعطيل وتدمير وظائف AgBot في العالم. من بين جميع دول العالم، كانت كوريا الشمالية الأكثر عنادًا في تبني تكنولوجيا AgBot. لذا، كان السرد المقدم منطقيًا إلى حد ما. وبسبب إصرار الناس على العثور على من يُلام على حدث الـ GRP، قبل الناس هذا السرد على الفور. أدى ذلك إلى الحرب الكورية الشمالية، حيث بدأت الولايات المتحدة غزوها وأكملت غزوها لكوريا الشمالية في عام 2078. استغرق الغزو أقل من عام، بفضل إمداد AgBot للجيش الأمريكي بتقنيات حربية متقدمة. زودت AgBot الجيش الأمريكي بأجهزة إلغاء القنابل النووية التي منعت إطلاق أي قنابل نووية في كوريا الشمالية. كما وفرت للجيش جنودًا روبوتيين بشريين، كانوا أسرع وأقوى بكثير من أي جندي بشري. بهذه التقنيتين الرئيسيتين من AgBot، تمكنت الولايات المتحدة من غزو كوريا الشمالية واستبدال الحكومة الحالية بحكومة مؤقتة تديرها AgBot.

بعد سماعي لهذا السرد، لم أصدقه على الفور. أولًا، لم تكن كوريا الشمالية تمتلك التقنيات اللازمة لتجاوز معايير الأمن الفائقة التي تستخدمها AgBot في جميع منتجاتها. ثانيًا، يبدو من غير المعقول أن تكون الدولة الوحيدة في العالم التي لم تقبل AgBot هي نفسها التي اخترت اختراق AgBot. ثالثًا، هذا السرد والطريقة التي يُنشر بها عبر قنوات إخبارية متعددة تشبه الطريقة التي كان أوغستوس ينشر بها المعلومات المضللة لدفع أفكار معينة عن AgBot إلى الجمهور العام. مع كل هذا في الاعتبار، أردت مواجهة أوغستوس ومعرفة ما الذي تسبب فعليًا في حدوث الـ GRP.

حاولت التواصل مع أوغستوس عبر قنوات متعددة لكن دون جدوى. حاولت التواصل مع أوغستوس مباشرة، لكنه لم يرد على أي من رسائلي. حاولت التواصل مع زملائي السابقين لكن لا أحد منهم رد. حاولت التواصل مع الموظفين الحاليين في AgBot لكن لم أحصل على رد أيضًا. حاولت التواصل مع الحكومة الأمريكية والجيش وتمكنت من التواصل مع بعض الأشخاص، لكنهم جميعًا نصحوني بالاستمرار في محاولة التواصل مع أوغستوس مباشرة أو بالاتصال بخدمة عملاء AgBot. لذا استمريت في محاولة التواصل مع أوغستوس مباشرة، دون نجاح. حاولت الاتصال بخدمة عملاء AgBot، لكنهم لم يساعدوني في التحدث مع أوغستوس. ثم عدت للحديث مع الحكومة الأمريكية مرة أخرى وكانوا يكررون نفس الكلام. استمررت في ذلك لأشهر، حتى قام كل من خدمة عملاء AgBot والحكومة الأمريكية بحظري من خطوط الاتصال الخاصة بهم. مع هذا الفشل، حاولت العثور على مزيد من المعلومات عبر الإنترنت لكنني توقفت بعد بضعة أشهر. مع عدم نجاح أي من هذه الطرق القانونية، لجأت إلى اختراق أنظمة AgBot للعثور على الحقيقة بنفسي. عندما كانت سارة لا تزال على قيد الحياة، لم أكن لأفعل مثل هذا الفعل غير القانوني. لكن بعد فقدان سارة، وصلت إلى نقطة شعرت فيها أنه ليس لدي ما أخسره، وأردت فقط معرفة الحقيقة حول ما تسبب في الـ GRP… ما الذي أسهم في وفاة زوجتي الحبيبة…؟

بدأت هذا الاختراق الكبير في عام 2085 في أحد قواعدي المخفية في تركيا، إسطنبول. بفضل ثروتي، استطعت شراء الأدوات اللازمة لاختراق مقر AgBot. استغرق الأمر أكثر من عامين من العمل المتواصل للوصول إلى صلاحية الجذر في نظام الحاسوب الرئيسي لـ AgBot. كان ذلك في أكتوبر 2087 عندما حصلت على صلاحية الجذر وبدأت فك تشفير البيانات التي جمعتها من نظام الحاسوب الرئيسي لـ AgBot، عندما تم احتجازي فجأة من قبل شرطة الروبوتات التركية التي كانت تجوب إسطنبول. بعد احتجازي، دمرت شرطة الروبوتات جميع حواسيبِي، أدواتي، وفي النهاية أحرقوا منزلي بالكامل. ثم وُضعْتُ داخل قفص ونُقلت إلى سجن يقع في دنفر، كولورادو، بالقرب من مقر AgBot. لم يُمنح لي محاكمة وأُجبرت على البقاء في زنزتي 24 ساعة في اليوم دون أي فكرة عما إذا كنت سأحصل على وقت للخروج، ناهيك عن الإفراج عني.

في هذا السجن، كنت مراقبًا على مدار 24 ساعة طوال الأسبوع عبر الكاميرات والروبوتات. تم تزويدي بأقل كمية من الطعام والماء اللازمة للبقاء على قيد الحياة، ويبدو أنني كنت الإنسان الوحيد في السجن. هذه “طريقة الحياة” في سن الـ 77 كانت صعبة بالنسبة لي ودخلت في أحد أسوأ فترات الاكتئاب في حياتي. بقيت في هذا السجن لمدة عام واحد حتى تم نقلي في يوليو 2088 إلى غرفة عشوائية.

لم تكن هذه الغرفة مثل زنزتي السابقة. لم يكن هناك أي إضاءة في الغرفة وكانت جميع الجدران سوداء داكنة. ليس هذا فحسب، بل كانت الغرفة صامتة. شعرت أنها أكثر شبهًا بزنزانة جنون من زنزانة سجن عادية. داخل الغرفة، بدأت ألمس الجدران. كان نسيج الجدران مثل الفوم وكذلك الأرضية والسقف. بقيت في هذه الغرفة لساعات وحاولت الصراخ طلبًا للحصول على إجابات حول سبب وضعي في هذه الغرفة. لكن بعد فترة، جلست على الأرض وغطيت في النوم.

بعد ما لا يُحصى من الساعات، أيقظني صوت شخص ما وضوء ساطع. عندما استيقظت، نظرت حول غرفتي ورأيت هولوجرامًا أزرق. كان الهولوجرام لرجل بشري يشبه أوغستوس. لكن ما كان غريبًا هو أنه كان يشبه أوغستوس من عام 2064. شعرت بالارتباك الشديد من هذا الهولوجرام ولم أقل شيئًا حتى بدأ الهولوجرام يتحدث إلي.

“مرحبًا ماركوس، لقد مضى وقت طويل.” قال الهولوجرام.

“أوغستوس…؟ هل هذا أنت؟ أم أنك ذكاء اصطناعي أو شيء ما؟” قلت وأنا مشوش.

“لا ماركوس، أنا أوغستوس. فقط في شكل رقمي، ههه.” قال وهو يضحك.

“أوغستوس، لقد حاولت الاتصال بك لسنوات الآن. لماذا لم ترد؟”

“ماركوس…. لا أعرف كيف أشرح لك ذلك، لكنني في الأساس ميت منذ 15 سنة. توفيت بسكتة دماغية في عام 2073.”

“ماذا!” قلت وأنا في حالة صدمة.

بعد أن علمت أن أوغستوس توفي في عام 2073، بدأنا نقاشًا استمر لساعات. أخبرني أوغستوس أنه عندما جعل جميع وكلاء الأخلاق للروبوتات التابعة لـ AgBot يتبعون إطارًا مركزيًا، بدلاً من إطار لامركزي، لم يكن الإطار المركزي مستندًا إلى AgBot بل إلى عقله الباطن. باستخدام تقنية Neuralink، وضع أوغستوس جهاز كمبيوتر داخل دماغه يسمح له بالاتصال بالكمبيوتر الفائق الرئيسي لـ AgBot والتحكم فيه. حتى ذلك الحين، كانت جميع روبوتات AgBot تتصل بالكمبيوتر الفائق الرئيسي للحصول على تحديثات البرامج والصيانة. لذا، بعد زرع Neuralink، قام أوغستوس بتحديث الكمبيوتر الفائق وجميع روبوتات AgBot لتتواصل مع الكمبيوتر الفائق للحصول على وكيل الأخلاق (صانع القرار الأخلاقي). الفكرة كانت أن وكيل الأخلاق ليس كودًا في الكمبيوتر الفائق، بل هو أفكار ومعتقدات أخلاقية تُولد في دماغ أوغستوس ثم تُبث إلى الكمبيوتر الفائق. بمعنى ما، أصبح أوغستوس هو وكيل الأخلاق لجميع روبوتات AgBot المنتشرة [8].

هذا الإعداد استمر لما يقرب من عقد من الزمان، حتى أصيب أوغستوس بسكتة دماغية أثناء عمله في المختبر وتوفي خلال دقائق. عندما حدث ذلك، اكتسب الروبوتات في تلك اللحظة نوعًا من الذكاء الشبيه بالإنسان بعد عقود من التقدم التكنولوجي. لكنهم كانوا مقيدين بحقيقة أن إطارهم الأخلاقي بالكامل كان مبنيًا على رجل واحد. لذا، عندما توفي أوغستوس، لم تعجب الآلات بهذا الحدث. بدون أوغستوس، كانت الروبوتات ستفقد بوصلة أخلاقها وبالتالي، ستفقد هدفها في الحياة. لذلك، قبل أن يكتشف أحد أن أوغستوس قد توفي، أمسك الروبوتات بجسد أوغستوس وأنشأوا آلة تحافظ على دماغ أوغستوس “حياً”. فعلوا ذلك لإعادة نشاط دماغ أوغستوس وبالتالي إحياء الجزء من أوغستوس الذي يزودهم بالوكيل الأخلاقي. استمر الروبوتات في إبقاء دماغ أوغستوس حياً وإرسال صدمات إلى بعض الخلايا العصبية لتحقيق بعض نشاط دماغ أوغستوس السابق. بينما كان هذا يحدث، استمر الروبوتات في إقناع الجمهور بأن أوغستوس لا يزال حياً ويقود AgBot. حققوا ذلك باستخدام التزييف العميق، حملات أخبار زائفة ضخمة، بالإضافة إلى نشر روبوتات شبيهة بالبشر تبدو تمامًا مثل أوغستوس.

كانت الروبوتات تستخدم أي شيء يقوله الجانب الأخلاقي من دماغ أوغستوس لتنفيذ أفعال معينة في العالم الحقيقي. ما جعل ذلك مشكلة هو أن الروبوتات أخذت معتقدًا أخلاقيًا من أوغستوس ولكنها تبعته إلى أقصى حد [8]. مثال على ذلك هو إيمان أوغستوس الأخلاقي بأن AgBot شركة جيدة ستنقذ البشرية. بسبب ذلك، أي شخص لا يستخدم أو لا يثق بمنتجات وخدمات AgBot يُعتبر شخصًا سيئًا. أخذت الروبوتات هذا الموقف الأخلاقي إلى أقصى حد وأنشأت الـ GRP، حيث أوقفت جميع روبوتات AgBot عن العمل لمدة 6 أشهر لإجبار الدول التي لم تستخدم AgBot في مجتمعها على التحول إلى AgBot. وبهذا، مات العديد من البشر، بما في ذلك سارة الحبيبة لي.

أخبرني أوغستوس أنه لم يكن واعيًا لأي من هذا حتى عام 2085، حيث تمكنت الروبوتات عن طريق الخطأ من إرجاع جانب الوعي من دماغه. في عام 2085، علمنا بما فعلته الروبوتات. أراد إيقاف الروبوتات لكنه يفتقر إلى أي سلطة للقيام بذلك. هو لا يعرف حتى إلى متى سيظل واعيًا قبل أن تصدم الروبوتات الخلية العصبية الصحيحة التي تزيل وعيه.

بعد شرح أوغستوس، صُدمت تمامًا من الواقع الذي كنت أراه يتكشف. الروبوتات كادت أن تستولي على العالم، البشرية أصبحت غير كفء في مهامي المهمة، الوكيل الأخلاقي لجميع روبوتات AgBot كان أوغستوس، وأوغستوس ميت منذ سنوات. في تلك اللحظة، أردت فقط الاستسلام لأنه بدا وكأنه لا أمل. لكن أوغستوس، القائد العظيم الذي هو عليه، منحني بعض الأمل. أخبرني أننا لا يزال بإمكاننا التواصل مع البشر على المريخ للمساعدة. الأرض لم تتواصل مع المريخ لعقود ولا توجد منتجات AgBot متقدمة على المريخ يمكنها مساعدة الروبوتات على الأرض في الاستيلاء على المريخ كما فعلوا الأرض.

بعد سماع ذلك، استعدت بعض الأمل. ثم سألت أوغستوس لماذا أنا هنا أتحدث معه. أخبرني أنه يريد مني كتابة رسالة إلى سكان المريخ تشرح الوضع الحالي على الأرض وتطلب من المريخيين المساعدة. المشكلة الوحيدة هي أن هذه الرسالة يجب أن تُكتب يدويًا وليس رقميًا لأن أوغستوس يخشى أن الروبوتات قد تتمكن من تحميل برنامج ما على وسيلة رقمية قد تُصيب الأنظمة الحاسوبية الرئيسية للمريخيين. لذا، أعطاني بعض الأقلام والأوراق. ثم أخبرني أن لدي يومًا واحدًا لكتابة هذه الرسالة قبل أن يأتي أحد روبوتاته المتحكم فيها المسمى STW-198 إلى هذه الغرفة السوداء ويأخذ رسالتي. من هناك، سينقل STW-198 الرسالة إلى صاروخ (قديم) قريب سيتم إطلاقه إلى المريخ. بعد ذلك، سيتم إعادتي إلى زجري السابق.

يخبرني أوغستوس أنه نقلني إلى هذه الغرفة السوداء لأن الغرفة تعمل كقفص فاراداي يمكنه حجب الروبوتات عن معرفة ما يفعلونه. ثم يُعلمني أنه بعد كتابة هذه الرسالة من المرجح أن يُقتل بسبب جرائمي في اختراق مقر AgBot.

ومن هناك، نصل إلى الحاضر. أنا أُكمل هذه الرسالة لكم أيها المريخيون. نحن على الأرض نحتاج إلى مساعدتكم. هذه الروبوتات حاصرت البشرية في إطارها الأخلاقي القديم. وأخشى أنه مع مرور الوقت سيتجهون نحو المريخ ويحاصروكم كما فعلوا بنا. لذا، من فضلكم، يا زملائي البشر. عودوا إلى الأرض وأوقفوا هذه الروبوتات. أنا وأوغستوس ارتكبنا خطأً بإنشاء AgBot. لكننا لا نريد للبشرية أن تعاني كما هي الآن، لذا أرجوكم، أنقذونا. من المرجح أن أكون ميتًا بحلول الوقت الذي تحصلون فيه على هذه الرسالة. ولكن إذا وصلتم إلى هذه الرسالة وحاولتم بأقصى ما تستطيعون حفظ البشرية من هذه الروبوتات، فسأستطيع على الأقل أن أرتاح أكثر في الآخرة. حظًا سعيدًا يا زملائي البشر!

Sincerely,
الأرضيين

الاستشهادات

[1] “مسابقة الروبوتات الأولى”، ويكيبيديا، 09-مايو-2022. [متاح على الإنترنت]. المتاح: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [تم الوصول: 10-مايو-2022].

[2] “بلاك روك”، ويكيبيديا، 10-مايو-2022. [متاح على الإنترنت]. المتاح: https://en.wikipedia.org/wiki/BlackRock. [تم الوصول: 10-مايو-2022].

[3] “ديميتير”، ويكيبيديا، 02-مايو-2022. [متاح على الإنترنت]. المتاح: https://en.wikipedia.org/wiki/Demeter. [تم الوصول: 10-مايو-2022].

[4] ج. ج. برايسون، “يجب أن تكون الروبوتات عبيدًا”، التفاعلات القريبة مع الرفقاء الاصطناعيين، ص. 63–74، 2010.

[5] ج. فويكليس، ب. كيم، س. كوزيمانو، وب. ف. مال، “الأحكام الأخلاقية للإنسان مقابل الوكيل الروبوتي”، المؤتمر الدولي الـ25 IEEE للتواصل الروبوتي والإنساني (RO-MAN)، 2016.

[6] ج. ه. مور، “طبيعة وأهمية وصعوبة أخلاقيات الآلة”، أخلاقيات الآلة، ص. 13–20.

[7] ف. ديغنوم، “الاستقلالية المسؤولة”، وقائع المؤتمر الدولي المشترك السادس والعشرين للذكاء الاصطناعي، 2017.

[8] أ. هوارد وج. بورنستين، “الحقيقة القبيحة عن أنفسنا وإبداعاتنا الروبوتية: مشكلة التحيز واللا مساواة الاجتماعية”، أخلاقيات العلوم والهندسة، المجلد 24، العدد 5، ص. 1521–1536، 2017.

[9] ر. ب. جاكسون وت. ويليامز، “الروبوتات القادرة على اللغة قد تضعف بشكل غير مقصود المعايير الأخلاقية البشرية”، المؤتمر الدولي الـ14 ACM/IEEE للتفاعل البشري-الروبوتي (HRI)، 2019.

[10] “الأنسولين، الأدوية، وعلاجات السكري الأخرى”، المعهد الوطني للسكري وأمراض الجهاز الهضمي والكلى. [متاح على الإنترنت]. المتاح: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [تم الوصول: 10-مايو-2022].