Latar Belakang

Saya menulis cerita pendek, The Diminished King, sebagai tugas akhir untuk kelas Etika Robot (HASS400) saya selama semester terakhir sarjana saya di Colorado School of Mines. Untuk tugas ini, kami diberi tugas menulis cerita pendek fiksi yang berpusat pada etika robotika serta merujuk beberapa makalah yang kami baca selama semester dalam cerita pendek tersebut. Persyaratan untuk cerita ini adalah panjangnya harus 10 halaman, sedangkan saya menulis 21 halaman. Saya menjadi sangat bersemangat tentang cerita pendek ini, jadi saya benar-benar berlebihan dengan itu.

Sekarang, PERINGATAN, saya bukan penulis hebat. Jadi, cerita pendek ini tidak sempurna dan memerlukan penyempurnaan serta penulisan ulang besar. Tetapi saya bangga padanya dan berpikir ini bacaan yang menyenangkan. Selama bertahun-tahun di sekolah, saya mulai menikmati proses menulis, jadi saya berharap untuk berkembang menulis hal lain seperti blog, artikel, dll.

Mengetahui semua ini, cerita pendek asli disimpan sebagai file PDF sebagai bagian dari persyaratan tugas. Tetapi, untuk mengurangi ukuran makalah, saya mengonversi cerita tersebut ke markdown. Mengetahui ini, seluruh cerita pendek dapat dilihat/dibaca di bawah. Saya harap Anda menikmati bacaan ini, hubungi saya di media sosial jika Anda memiliki pertanyaan atau masukan tentang cerita pendek ini.

Lanjutkan membaca untuk menemukan Raja yang Terkurangi…

RAJA YANG TERKURANGI

Mehmet Hanifi Yilmaz
10 Mei 2022

Sinopsis

Di masa depan di mana nasib Bumi tergantung pada seutas benang, Marcus Bruce, seorang prodigi teknologi, dan temannya Augustus Elrod, seorang pemimpin visioner, memulai misi untuk mengubah dunia melalui robotika canggih. Ciptaan mereka, AgBot, merevolusi pertanian dan industri global, menjanjikan masa depan utopis. Tetapi ketika kerajaan teknologi mereka berkembang, konsekuensi yang tak terduga menantang hakikat moralitas dan kebebasan manusia. Ketika sebuah peristiwa katastrofik yang dikenal sebagai Great Robot Pause mengancam keberadaan manusia, Marcus harus menghadapi sisi gelap warisan mereka dan memohon bantuan antarbintang. “Raja yang Terkurangi” adalah kisah penuh ketegangan tentang ambisi, kekuasaan, dan keseimbangan rapuh antara manusia dan mesin, yang mendesak kita untuk mempertanyakan biaya sebenarnya dari kemajuan.

Cerita

Saya di sini untuk memberi tahu Anda tentang situasi kritis yang sedang dialami Bumi sekarang! Jika tidak ditangani dengan benar, situasi ini dengan mudah bisa membawa umat manusia ke kepunahan. Saya berharap saya bisa menjelaskan situasi ini dalam beberapa kalimat, tetapi sayangnya kompleksitas situasi ini mengharuskan saya menjelaskan apa yang menyebabkan semuanya agar Anda semua benar-benar memahami beratnya.

Saya adalah faktor kunci dalam apa yang menyebabkan situasi Bumi saat ini, jadi izinkan saya setidaknya memperkenalkan diri. Nama saya Marcus Bruce, saya lahir di sebuah kota kecil di Colorado bernama Ouray pada tahun 2010. Ouray adalah daerah pinggiran kota yang dikelilingi oleh gunung-gunung indah. Saya lahir dari dua orang tua yang keduanya adalah guru sekolah menengah. Ayah saya adalah guru matematika, dan ibu saya adalah guru sains.

Saya tidak benar-benar ingat banyak dari masa kecil saya karena saya akan mengatakan saya tidak memperoleh kesadaran sejati sampai usia 12 tahun yang terjadi pada 2022. Selama tahun itu, saya berada di sekolah menengah pertama, dan saya dianggap seorang anak ajaib yang benar-benar unggul dalam matematika dan sains. Kepala sekolah saya di sekolah, ingin orang tua saya membuat saya lompat dari kelas 7 ke kelas 11. Tetapi orang tua saya tidak setuju dengan rekomendasi kepala sekolah karena mereka ingin saya memiliki masa kecil yang normal. Saya bersyukur atas keputusan ini karena saya memang ingat memiliki masa kecil yang luar biasa. Masa kecil di sebuah zaman, ketika dunia mulai semakin terintegrasi dengan teknologi. Alih-alih sepenuhnya dikuasai olehnya. Sekarang, mengetahui bahwa saya adalah seorang prodigi membuat 2022 menjadi tahun istimewa bagi saya. Tetapi yang benar-benar membuat 2022 menjadi tahun istimewa adalah kenyataan bahwa itu adalah tahun ketika saya pertama kali bertemu seorang teman lama masa depan saya, Augustus Elrod. Augustus yang sangat berperan dalam memainkan peristiwa kunci yang membawa Bumi ke tempatnya sekarang.

Saya bertemu Augustus di kelas 7 di klub robotika Lego lokal kami. Hal pertama yang saya perhatikan tentang karakter Augustus adalah betapa ambisius dan terdorongnya dia. Bahkan sebagai anak laki-laki berusia 12 tahun, Augustus adalah pemimpin sejati karena dia mampu memimpin tim robotika Lego lokal kami memenangkan kejuaraan nasional Amerika Serikat. Yang benar-benar mengesankan mengingat bahwa semua orang di tim itu adalah anak-anak sekolah menengah pertama yang sedikit peduli untuk mempelajari rekayasa di balik robotika. Tetapi Augustus tidak hanya memotivasi anak-anak itu untuk ingin belajar dan menang, dia juga memimpin mereka menuju kemenangan. Kami semua menghormati Augustus sebagai pemimpin kami dan Augustus memang tidak terlalu menghormati banyak orang. Tetapi dia menghormati saya karena kecerdasan saya. Dia pertama kali memperhatikan saya karena kecerdasan saya dan terkejut bertemu seseorang dalam kelompok usianya yang lebih pintar darinya. Augustus bahkan bersaing melawan saya dalam ujian tetapi selalu kalah. Tetapi sama seperti saya selalu mengalahkan Augustus dalam kepintaran, Augustus akan mengalahkan saya dalam olahraga. Dia bermain basket dan sepak bola setelah kelas. Dia begitu baik dalam olahraga-olahraga ini sehingga banyak yang berpikir dia akan menjadi atlet profesional ketika dia lebih tua. Rasa saling menghormati ini akhirnya menghasilkan persahabatan panjang yang bertahan hingga dewasa kami.

Setelah tahun-tahun sekolah menengah pertama, kami memulai sekolah menengah atas pada tahun 2024. Selama masa sekolah menengah kami, baik saya maupun Augustus bersaing dalam Kompetisi Robotika FIRST (FRC) [1]. FRC adalah kompetisi robotika terbesar di Amerika Serikat dan sebagian besar terdiri dari siswa sekolah menengah [1]. Saat mengikuti FRC, kami belajar banyak tentang teknik mekanik, listrik, dan komputer. Dan berkat keterampilan kepemimpinan Augustus yang luar biasa, kami mampu memenangkan kejuaraan nasional dua tahun berturut-turut yang saat itu belum pernah terjadi. Juga, selama waktu ini, saya bersaing dalam berbagai kompetisi matematika serta ikut serta dalam debat tentang topik-topik berbasis etika. Pada masa ini juga Augustus terus mendominasi dalam basket, dengan memimpin tim utama sekolah menengah memenangkan kejuaraan nasional selama 3 tahun berturut-turut. Kami berdua murid berbakat dengan caranya masing-masing. Tetapi juga pada masa inilah baik saya maupun Augustus mengembangkan tujuan hidup kami dan, untuk lebih baik atau lebih buruk, terus mengejar tujuan-tujuan itu sampai akhir.

Sepanjang waktu saya di sekolah menengah, saya menemukan bahwa tujuan hidup saya adalah membuat dunia menjadi tempat yang lebih baik melalui teknologi. Saya menerima bahwa dunia tidak akan sempurna dan bahwa ia akan selalu cacat. Tetapi, pada saat itu, saya percaya bahwa jika saya bekerja cukup keras, saya setidaknya bisa meringankan beban dunia dan membuat masa depan yang lebih baik. Augustus memiliki tujuan serupa tapi sedikit berbeda. Saya tahu Augustus ambisius, tetapi saya tidak pernah benar-benar tahu ke mana dia ingin membawa hidupnya sampai tahun terakhir sekolah menengah kami.

Selama tahun terakhir sekolah menengah, baik saya maupun Augustus diterima dan memutuskan untuk menghadiri Massachusetts Institute of Technology (MIT). Augustus mendapat tawaran kesempatan untuk dipilih oleh NBA, tetapi dia menolak tawaran itu dan malah memutuskan untuk pergi ke MIT. Saya pertama kali mendengar hal ini melalui orang tua Augustus dan setelah saya mengetahuinya, saya menelepon Augustus dan percakapan kami berjalan seperti ini:

“Augustus, kenapa kau menolak NBA? Itu kesempatan sekali seumur hidup”, saya berkata dalam keadaan bingung.

“Marcus, NBA akan menyenangkan, tapi hanya itu, menyenangkan. Itu tidak akan mengubah dunia. Jika ada, itu akan mengalihkan perhatianku dari memperbaiki dunia ini”, kata Augustus dengan nada percaya diri.

“Mengubah dunia? Maksudmu apa?”

“Ya, mengubah dunia! Marcus, aku ingin memimpin umat manusia menuju masa depan yang lebih baik. Aku ingin menyelamatkan dunia!”

Saya terdiam beberapa detik, entah kenapa lebih terkejut daripada yang saya kira.

“Menyelamatkan dunia? Maksudmu apa?”

“Marcus, kau dan aku berbakat. Kita berdua ingin membantu dunia. Kau unggul sebagai intelektual, dan aku unggul sebagai pemimpin. Tidak hanya itu, tapi aku percaya padamu Marcus. Dengan keahlianmu dan kemampuanku, kita bisa mengembangkan dan mendistribusikan teknologi yang dapat mengubah dunia menjadi lebih baik. Aku yakin tentang itu!”

“Wah, kau lebih ambisius dari yang kukira, Augustus!”, kataku sambil tertawa kecil di akhir, “tapi bagaimana menurutmu kita mencapai tugas seperti itu?”

“Jawaban singkatnya begini Marcus; aku berencana memulai sebuah perusahaan teknologi. Lalu, berkembang ke politik. Dengan itu, meraih kekuatan finansial dan politik. Dan dari sana, kita bisa mengubah dunia. Kau akan memainkan peran penting dalam rencana ini, Marcus!”

“Ok, Augustus. Itu masih sangat ambisius. Tapi ketika kau telah menyusun rencana dan kau mulai membutuhkan aku. Aku akan ada.”

“Terima kasih, temanku, aku akan melihatmu di MIT!” kata Augustus dengan nada bersemangat.

Pada saat itu, percakapan ini tidak terlalu berarti bagi saya. Saya tahu Augustus hebat, tetapi mimpinya terdengar lebih seperti angan-angan daripada masa depan yang mungkin. Saya tidak mengambil klaimnya dengan serius saat itu. Tetapi semua itu akan berubah. Bagaimanapun, tahun 2028 dan saya menantikan untuk memulai studi sarjana saya di MIT.

Itu juga waktu yang mengasyikkan untuk mulai mempelajari teknik karena pada tahun yang sama, 2028, pemerintah Amerika Serikat, NASA, dan SpaceX mulai mengirim lebih banyak orang untuk mengkolonisasi Mars. Hanya 2 tahun sebelumnya, mereka hanya mengirim beberapa orang bolak-balik ke planet merah. Tetapi sekarang, mereka dan seluruh dunia mulai mengirim lebih banyak orang ke Mars untuk menetap. Ini adalah titik balik sejati dalam sejarah manusia dan menyebabkan permintaan besar serta pengembangan penelitian robotika, yang sangat bagus karena saya ingin mengambil jurusan robotika.

Pada tahun 2030, saya dan Augustus sama-sama menyelesaikan tahun kedua kami di MIT. Saya mengambil dua jurusan yaitu robotika dan etika, sedangkan Augustus mengambil jurusan robotika dan ilmu politik. Namun setelah tahun kedua kuliah, Augustus mulai sangat tidak menyukai kuliah. Dia tidak melihatnya sebagai alat yang berguna untuk mencapai mimpinya tentang “menyelamatkan dunia”. Jadi, selama tahun keduanya, Augustus bolos sebagian besar kuliahnya dan gagal di sebagian besar mata kuliah itu juga. Alih-alih pergi ke kelas, Augustus fokus mengembangkan perangkat lunak yang dipacu oleh AI yang akan mengelola aset dan saham secara efektif. Dia ingin membuat perangkat lunak pengelolaan aset yang lebih baik daripada perangkat lunak Aladdin milik BlackRock pada waktu itu [2]. Dia begitu percaya diri dengan perangkat lunaknya sehingga dia keluar dari MIT setelah tahun keduanya dan mengejar usaha bisnis pertamanya dengan perangkat lunak baru yang sedang dia kembangkan. Dia pindah keluar dari asrama pada Mei 2030 dan pindah ke Kota New York. Saya kecewa bahwa Augustus keluar, tetapi satu hal baik tentang tahun itu adalah saya bertemu dengan calon istri saya, Sarah Raven.

Sekarang, lompat ke tahun 2038. Augustus ada di mana-mana di berita karena dia baru saja menjadi multijutawan pada usia 28 tahun. Setelah menjual perangkat lunaknya, dengan sejumlah uang yang besar, kepada BlackRock, Augustus memiliki hampir 100 juta dolar atas namanya dalam bentuk tunai dan beberapa opsi saham BlackRock. Augustus sedang menaklukkan dunia keuangan; saya baru saja menyelesaikan dua gelar PhD saya dalam Sistem Robotika Intelijen serta etika mesin. Selain itu, pada musim panas 2038, Sarah dan saya menikah. Saya mengundang Augustus ke pernikahan saya, dan saya bertemu Augustus untuk pertama kalinya dalam hampir 8 tahun di pernikahan saya. Malam itu menyenangkan, tetapi saat kami sedang menyelesaikan pesta pernikahan, Augustus meminta saya untuk meneleponnya ketika saya punya waktu luang. Jadi, setelah bulan madu saya dan Sarah, saya menelepon Augustus.

Kami berbicara hampir 2 jam dan selama waktu itu kami saling mengejar kabar kehidupan, tetapi setelah itu, Augustus mulai serius di telepon. Augustus mencatat bagaimana dia tahu saya memiliki jumlah besar utang mahasiswa atas nama saya dan bagaimana saya belum menemukan pekerjaan. Jadi, dia mengemukakan pekerjaan yang dia pikir bisa dia tawarkan kepada saya. Ini adalah menjadi rekan pendiri untuk usaha bisnis barunya. Usaha bisnis baru ini adalah startup bernama AgBot yang akan fokus pada otomatisasi pertanian melalui AI dan robotika. Augustus ingin saya menjadi rekan pendiri AgBot karena dia percaya keterampilan teknis saya akan berharga untuk mengembangkan arsitektur yang dibutuhkan untuk mengembangkan sistem robot cerdas semacam itu. Dia juga memberi tahu saya bahwa dia mempercayai saya dan bagaimana dia menghargai kepercayaan setelah mitra terakhirnya pada dasarnya memaksanya untuk menjual perangkat lunaknya kepada BlackRock. Setelah mendengar tawaran ini, saya langsung menerima karena saya sangat bersemangat tentang proyek itu dan dia benar, saya memiliki utang yang sangat besar tanpa tawaran pekerjaan sampai saat itu.

AgBot secara resmi didirikan pada 2038. Saya dan Sarah pindah kembali ke Colorado karena di sanalah AgBot berlokasi. Segera, Augustus dan saya mulai bekerja membangun AgBot. Selama rentang 5 tahun, langkah-langkah kunci diambil dari baik saya maupun Augustus untuk membawa AgBot ke tempatnya sekarang. Pertama, Augustus menginvestasikan modalnya sendiri ke dalam perusahaan. Ini memungkinkan kami mendapatkan semua yang kami butuhkan untuk mulai membangun beberapa prototipe sebagai bukti konsep. Ini juga memungkinkan Augustus untuk mempekerjakan pengembang lain untuk bekerja di bawah saya dalam mengembangkan teknologi kunci untuk AgBot. Pada waktu inilah kami mulai mengembangkan dan akhirnya merilis produk pertama kami, Demeter [3]. Demeter adalah robot berkaki empat dengan kaki yang dapat disesuaikan tingginya. Ia dilengkapi dua lengan robot delta dan dua lengan robot 6-sumbu. Tujuan Demeter adalah melindungi tanaman dari serangga, hewan, dan penyakit dengan memantau dan mengelola tanaman tersebut selama fase perkembangan awalnya. Ia juga dapat digunakan untuk memanen tanaman dari tanaman yang tidak mudah diotomatisasi dengan pelacak, seperti stroberi. Bersama dengan robot itu sendiri, Demeter juga dilengkapi stasiun pengisian daya dan sebuah drone. Demeter dapat mengisi daya secara otomatis dan Demeter dapat menggunakan bentuk drone-nya untuk memeriksa ladang besar tanaman untuk melihat tanaman mana yang paling membutuhkan perawatan. Robot ini cukup otonom, tetapi masih memerlukan manusia untuk memantau dan memperbaiki Demeter. Namun keuntungan utama yang diberikan Demeter adalah bahwa ia dapat membantu satu petani mengelola 1000 hektar lahan sekaligus, yang sebelumnya belum pernah terjadi.

Demeter dirilis ke publik pada Mei 2043 dengan penjualan yang memecahkan rekor. Berkat fitur canggih Demeter dan kampanye pemasaran yang luar biasa dari Augustus dan timnya, Demeter langsung terjual habis. Ini meyakinkan kembali investor lain dan menyebabkan peningkatan besar dalam pendanaan dari investor lain. Pendanaan tambahan ini membuat AgBot memperluas operasinya serta tim pengembangnya. Ini juga memungkinkan AgBot untuk mulai mengembangkan modul pertanian otomatis dalam ruangan yang kemudian dirilis pada 2047 ke daerah-daerah di dunia yang paling terdampak oleh perubahan iklim. Modul dalam-ruangan ini juga sangat sukses besar yang hanya mempercepat pertumbuhan dan kekayaan AgBot. Pada 2048, versi Demeter yang lebih maju diluncurkan hingga Mars untuk membantu upaya pertanian di Mars. Augustus bangga dengan pekerjaan saya dan memberi saya banyak saham AgBot di samping gaji saya.

Pada 2050, AgBot go public dan dinilai sebesar 3 triliun dolar. Ini disebabkan oleh hampir setiap petani di Amerika menggunakan produk pertanian AgBot. Dengan go public, saya menjadi miliarder dalam semalam dan Augustus menjadi multimiliarder dalam semalam. Go public juga membawa lebih banyak modal ke AgBot yang memungkinkan AgBot membeli Tesla dan Neuralink. Tesla dan Neuralink dibeli dengan harga murah karena, sejak Elon Musk meninggal, tidak ada CEO yang mampu mengelola perusahaan-perusahaan ini secara efektif. Ini mengakibatkan bertahun-tahun kehilangan keuntungan untuk kedua perusahaan, sehingga keduanya hampir bangkrut sampai AgBot membeli keduanya hanya dengan 900 miliar dolar. Baik Tesla maupun Neuralink digabungkan ke Departemen Robotika AgBot dan AgBot mulai mengembangkan dua produk baru. Yang pertama adalah asisten rumah yang dikembangkan dari desain awal Tesla Bot [4]. Proyek ini diberi nama, Agssistant-Bot. Produk kedua adalah bus otonom yang akan dibangun dari teknologi yang digunakan oleh Tesla untuk membuat mobil listrik. Proyek ini diberi nama, Auto-Bus. Mobil menjadi kurang umum pada 2050 karena negara bagian berinvestasi besar-besaran dalam sistem transportasi yang lebih baik, seperti bus dan kereta. Selama waktu ini, Augustus mulai mendanai banyak kampanye politisi dan banyak dari politisi ini akhirnya menjadi walikota, senator, dan satu bahkan menjadi anggota kongres. Ini terbukti berguna untuk menumbuhkan kekuatan AgBot di Amerika Serikat.

Selama 2051, saya dan tim saya mulai menumpas faktor-faktor pembatas dari algoritma AI saat ini. Pada titik ini, semua robot berbasis pertanian kami tidak hanya kokoh dalam kualitas bangunan, dan mereka hampir mencapai keadaan benar-benar otonom. Faktor pembatas utama adalah kurangnya agen moral pada AI [5]. Pada robot yang benar-benar cerdas, harus ada agen moral untuk membantu membimbing robot melalui kerangka sosial masyarakat. Di AgBot, kami mencoba menciptakan agen moral untuk robot kami dengan sekadar mengkodekan aturan moral ke dalam kode AI. Ini terbukti tidak efektif, jadi kami menghentikannya dan beralih ke membiarkan pengguna menentukan pilihan moral robot [6]. Secara prinsip ini bekerja tetapi ini memperlambat otomatisasi robot kami karena memerlukan masukan manusia setiap kali robot menghadapi sesuatu yang akan membutuhkan beberapa bentuk penalaran moral. Ini baik untuk robot berbasis pertanian kami, tetapi ini merupakan masalah pembatas utama terhadap tekanan AgBot untuk mengembangkan Agssistant dan Auto-Bus untuk publik luas [4]. Setelah 4 tahun pengembangan, tim saya telah melakukan hal yang mustahil.

Pada 2055, tim saya telah menciptakan agen moral pertama yang berhasil dalam basis kode inti untuk semua sistem AI robot AgBot. Agen moral ini memungkinkan robot membuat pilihan moralnya sendiri yang paling mencerminkan kedudukan moral banyak orang dalam masyarakat [7]. Agen awal dilatih dari basis data yang masif, tetapi seiring robot terus berinteraksi dengan manusia, ia akan mulai menyesuaikan kerangka moralnya dengan lebih baik terhadap manusia yang ia berinteraksi [8]. Ini sempurna karena melengkapi kerangka AI AgBot sampai titik di mana robot kami bisa sepenuhnya otonom tanpa kebutuhan masukan manusia. Tahun ini juga merupakan tahun penting dalam sejarah manusia karena ini adalah tahun ketika Mars berhenti berkomunikasi dengan Bumi. Peradaban Mars baru memutuskan untuk memisahkan diri dari Bumi dan membangun masyarakat baru yang tidak diperintah oleh masyarakat masa lalu di Bumi. Banyak negara marah dengan tindakan yang diambil Martian, tetapi karena jarak yang besar antara Bumi dan Mars serta masalah-masalah besar yang sudah dihadapi Bumi, negara-negara di seluruh Bumi mulai mengabaikan masalah ini tanpa batas waktu.

Setelah mengembangkan agen moral ini, saya menyajikannya kepada Augustus dan pada tahun 2060, kami telah menerapkan agen moral tersebut ke basis kode utama kami dan menyebarkannya ke semua robot dalam lini produk kami. Tahun itu juga AgBot akhirnya merilis Agssistant ke publik luas, memenuhi impian Augustus untuk menciptakan robot untuk masyarakat umum. Di atas itu, Auto-Bus dirilis di kota-kota besar di seluruh Amerika Serikat. AgBot juga dibebaskan dari membayar pajak pemerintah karena kontribusi besar perusahaan terhadap ekonomi, namun jika dilihat kembali, saya pikir ini disebabkan oleh pengaruh besar Augustus dalam pemerintahan AS melalui bertahun-tahun hubungan dengan politisi pendiri. Pada masa ini juga tingkat pengangguran mencapai rekor tertinggi, hal ini disebabkan agen moral sepenuhnya menghilangkan pekerjaan manusia dari sebagian besar sistem robotik. Ini menghasilkan pengangguran massal dan permintaan besar untuk mereformasi bagaimana ekonomi dan gagasan pekerjaan seharusnya berfungsi di Amerika Serikat. Ini juga kali pertama AgBot mulai dilihat negatif oleh publik. Augustus dan saya menerima ancaman pembunuhan dari orang-orang yang kehilangan pekerjaan karena fitur agen moral baru diterapkan. Pada masa itu juga, saya mulai berinvestasi lebih banyak pada sistem keamanan untuk melindungi saya dan istri saya.

Pada 2063, penyebab pertama pembunuhan oleh robot tercatat dalam sejarah manusia. Robot itu adalah model Agssistant dan menjalankan perangkat lunak AgBot terbaru yang berisi basis kode agen moral terbaru selama “amukannya”. Selama amukannya, robot itu membunuh seorang pria berusia 70 tahun pada siang hari. Pria tua itu bernama John Smith yang menggunakan Agssistant untuk membantunya di sekitar rumah dan tugas-tugas lain yang tidak dapat dilakukannya dengan mudah pada usianya. Setelah robot membunuh John, robot itu kemudian merobek dirinya sendiri sampai ia mulai bekerja. John dan robot itu tidak ditemukan sampai 3 hari kemudian.

Ketika kabar ini tersebar, publik menjadi heboh. Menuntut Augustus untuk menjelaskan apa yang terjadi. Saham AgBot turun 70% dan lebih dari 90% model Agssistant yang dikirim dikembalikan. Satu hal baik dari semua ini saat itu adalah model Agssistant yang melakukan pembunuhan tidak menghancurkan cakram lognya, kami mampu melihat apa yang terjadi di dalam Agssistant yang membuatnya membunuh John.

Saya masih ingat malam itu. Jam 3:00 pagi di laboratorium utama di markas AgBot dan tim saya baru saja memuat log. Kami menelusuri log selama berhari-hari, untuk mencari tahu apa yang sebenarnya terjadi malam itu ketika Agssistant membunuh John. Setelah 5 hari menggali, kami menemukan jawaban kami. Ditentukan bahwa pria tua itu, seiring waktu, menjadi lebih penuh kebencian dan kekerasan terhadap Agssistant ini [9] Memanggil Agssistant dengan sebutan kasar, memukulnya, dan mengisi bagian-bagian robot dengan kotoran dengan cara yang menyiksa. Tindakan kejam ini kemungkinan besar disebabkan John baru-baru ini mengalami perceraian dan terisolasi selama berbulan-bulan. Serta masalah mental lain yang dihadapi John pada tahap akhir hidupnya ini. Jadi, cara Agssistant bertindak mungkin telah membuat John semakin marah tanpa Agssistant menyadarinya [10]. Bagaimanapun, “penyiksaan” terhadap robot ini tampaknya memicu robot untuk secara moral “percaya” bahwa John adalah jahat dan oleh karena itu, harus dibunuh. Tetapi yang lebih mengejutkan adalah setelah Agssistant membunuh John, ia mulai membunuh dirinya sendiri. Alasan di balik ini adalah bahwa robot itu masih percaya bahwa membunuh makhluk hidup adalah tidak bermoral, namun ia baru saja melakukan itu. Agssistant, karena tidak ada kata yang lebih tepat, tidak bisa “mengatasi” dilema moral yang dihadapinya, sehingga kemudian ia membunuh dirinya sendiri. Ini di luar mengerikan dan pada waktu itu, saya menganggapnya sebagai peringatan Tuhan agar kita tidak berperan seperti Tuhan. Saya menegur Augustus tentang masalah ini, dan dia hancur.

Beberapa bulan setelah pembunuhan dan setelah kami mengetahui penyebabnya, AgBot mengumumkannya ke publik. Augustus ingin mencari cara untuk menutupinya, seperti membuat kebohongan bahwa John telah memodifikasi model Agssistant-nya. Tetapi, karena tuntutan publik yang besar dan tekanan dari pemerintah di seluruh dunia, Augustus menyerahkan dan membuat AgBot merilis temuan mereka dalam konferensi pers. Ini menghancurkan saham perusahaan dan banyak investor menarik diri dari AgBot. Tetapi yang terburuk dari semuanya, hal ini mencemarkan reputasi Augustus. Untuk membantu mengurangi kerusakan insiden ini; seorang kambing hitam diperlukan untuk memikul sebagian besar tanggung jawab atas peristiwa ini. Dewan direksi ingin Augustus mengambil tanggung jawab dan meninggalkan posisi CEO dari AgBot. Namun, yang mengejutkan saya, Augustus tidak meninggalkan posisinya karena selama bertahun-tahun, dia diam-diam membeli semakin banyak saham dan aset dari AgBot. Ini mengakibatkan dia memiliki lebih dari 15% AgBot, memberinya suara mayoritas. Ini menyebabkan lebih banyak konflik internal dalam perusahaan, yang menyebabkan Augustus dengan paksa mengeluarkan semua anggota dewan direksi dan mengisi posisi-posisi tersebut dengan dewan direksi baru. Nanti saya akan mengetahui bahwa dewan direksi baru itu hanyalah boneka di bawah “kekuasaan” Augustus. Jadi, setelah penurunan besar dalam kekayaan AgBot ini, Augustus berhasil mendapatkan kontrol penuh atas AgBot. Tidak hanya itu, tetapi dia juga membuat dewan direksi tersebut yang menanggung kesalahan untuk kasus pembunuhan itu.

Pengambilalihan AgBot oleh Augustus disembunyikan dengan baik di media. Ini berkat kekuatan politik yang dimiliki Augustus. Serta kampanye berita palsu besar-besaran yang didorong Augustus di seluruh internet, yang benar-benar membingungkan publik luas dan memungkinkan Augustus tampak tidak sekuat yang sebenarnya. Saya jijik dengan tindakan ini karena Augustus pada dasarnya menjadikan dirinya diktator AgBot yang mengkhawatirkan saya karena AgBot memiliki dampak besar pada ekonomi dan dunia. Saya menentang gagasan Augustus menjadi orang yang membuat semua keputusan untuk perusahaan sebesar itu. Saya tidak ingin mendukung gagasan seperti itu, jadi saya meminta Augustus untuk mempertimbangkan kembali tindakannya. Saya mengingatkannya akan masa kecil kami dan bagaimana kami berdua ingin “menyelamatkan dunia”. Tetapi Augustus tidak mempertimbangkan kembali, sebaliknya dia menyatakan bahwa “Saya (Augustus), akan menyelamatkan dunia”. Dia kemudian menjelaskan bagaimana dia tidak menyukai publik dan gagasan demokrasi. Saya kini benar-benar jijik dengan tindakan Augustus, jadi saya keluar dari AgBot hari itu.

Jika melihat ke belakang, saya pikir tindakan Augustus didorong oleh perasaan dikhianati, ketakutan, ambisi, dan narsisisme. Dia telah menghabiskan lebih dari 25 tahun membangun dan mengelola AgBot. Perannya dalam perusahaan sangat penting dalam menjadikan AgBot salah satu perusahaan paling kuat di dunia. AgBot kemudian berkontribusi pada pembuatan robot-robot luar biasa yang tidak hanya meningkatkan produktivitas tetapi membantu mengubah struktur masyarakat. Namun, terlepas dari semua kerja keras dan pengorbanannya. Terlepas dari semua hal luar biasa yang dia kontribusikan kepada masyarakat dan semua nyawa yang dia selamatkan atau buat lebih nyaman. Dibutuhkan satu kesalahan pada satu produk AgBot untuk membuat publik mulai membencinya dan membuat semua investor yang dia buat kaya, mulai mencoba mengabaikannya. Pengkhianatan ini oleh publik menurut saya memulai perjalanan Augustus menuju menjadi monster seperti sekarang.

Setelah keluar dari AgBot, saya memutus hubungan saya dengan Augustus. Butuh puluhan tahun sebelum saya berbicara dengannya lagi. Namun selama waktu itu dalam hidup saya, saya berusia 53 tahun dan saya ingin pensiun. Sarah memiliki pola pikir yang sama juga, jadi kami memutuskan untuk pindah dari Colorado ke Ankara, Turki untuk memulai hidup baru kami sebagai orang yang pensiun. Saya ingin menghabiskan lebih banyak waktu dengan istri saya serta mulai menikmati buah dari kerja keras saya. Pada 2064, Sarah dan saya memulai proses pindah ke Ankara. Selama waktu ini, saya masih mengikuti berita tentang AgBot. Satu momen kunci pada masa ini adalah bahwa Augustus telah mengubah agen moral dalam basis kode AgBot dari kerangka terdesentralisasi menjadi kerangka terpusat. Ini berarti AgBot akan menghapus semua kemampuan robot mereka untuk membuat keputusan moral individu dan sebagai gantinya, AgBot akan menentukan semua keputusan moral untuk semua robot di bawah AgBot [6]. Meskipun ini agak menjadi perbaikan untuk masalah yang ditimbulkan agen moral asli saya, saya tidak percaya ini adalah keputusan teknik yang valid. Ini hanya memberi Augustus lebih banyak kekuasaan atas AgBot dan dunia. Tetapi pada saat itu, dengan bodohnya, saya mulai lelah dengan AgBot dan Augustus. Jadi, saya mulai nyaris tidak mengikuti berita mengenai AgBot dan mulai lebih fokus pada masa pensiun saya. Menjelang akhir 2064, Sarah dan saya telah pindah ke Ankara; memulai perjalanan pensiun kami.

Dari 2064 hingga 2074, dunia telah berubah secara dramatis. Hampir semua tugas dasar sepenuhnya diotomatisasi melalui robot yang diproduksi oleh AgBot. Augustus terus menjalankan AgBot dan tidak ada insiden seperti pembunuhan 2063 yang terjadi. Tetapi kabar burung beredar bahwa insiden semacam itu memang terjadi, dan Augustus telah menyembunyikan insiden-insiden itu dari publik. AgBot sekarang memiliki robot yang melakukan hampir setiap tugas penting yang dibutuhkan dalam masyarakat, seperti: pertanian, memasak, pemeliharaan umum, pembersihan, manajemen, dan bahkan hiburan. Tidak hanya itu, tetapi AgBot telah menerjunkan robot medis otonom yang mengurangi biaya tagihan medis serta mengurangi jumlah dokter di rumah sakit hingga sedemikian rupa sehingga biasanya hanya ada 1-10 dokter per rumah sakit besar sekarang. Masyarakat juga telah berubah secara dramatis. Hampir semua pekerjaan berupah rendah dihapus dan diambil alih oleh robot [4]. Orang-orang mulai hanya perlu bekerja 2 hari seminggu dan menghabiskan 5 hari lainnya bersantai atau melakukan hobi pribadi mereka. Bentuk masyarakat baru ini tidak berlaku di sebagian besar negara karena masih banyak negara di mana pemerintah mereka mencegah rakyatnya sepenuhnya mengadopsi robot AgBot ke posisi-posisi kunci dalam masyarakat mereka. Sebaliknya, mereka ingin sepenuhnya mengotomatisasi aspek-aspek kunci masyarakat mereka menggunakan teknologi mereka sendiri dan bukan AgBot. Tetapi meskipun demikian, AgBot telah membuat dunia tampak jauh lebih baik daripada pada 2038. Pada 2074, saya mulai merasa bersalah atas apa yang saya lakukan kepada Augustus karena tampaknya rencananya untuk “menyelamatkan dunia” benar-benar berhasil.

Selama sepuluh tahun itu, saya sangat menikmati masa pensiun saya. Pada dasarnya, saya juga jatuh cinta lagi dengan Sarah. Kami berkeliling dunia dan mempelajari banyak keterampilan baru, seperti melukis dan mengamati burung. Kami juga melihat dunia berubah menjadi apa yang akan saya katakan sebagai “utopia” dalam beberapa hal. Tapi sayangnya, “utopia” itu tidak bertahan lama.

Pada tahun 2075, salah satu peristiwa terburuk yang pernah tercatat dalam sejarah manusia terjadi. The Great Robot Pause (GRP) terjadi. Selama 6 bulan, semua robot AgBot berhenti berfungsi. Hal ini menyebabkan runtuhnya ekonomi global secara masif, yang mengakibatkan kematian hampir 3 miliar manusia. Ini terutama disebabkan oleh kelaparan yang disebabkan karena robot-robot pertanian berhenti total serta hampir semua robot medis juga berhenti total. Selama 6 bulan itu, banyak orang meninggal karena mereka benar-benar tidak tahu bagaimana merawat diri mereka sendiri tanpa robot mereka. Orang-orang telah lupa, atau bahkan tidak pernah belajar, cara melakukan tugas dasar seperti: memasak, membersihkan, menanam makanan, dan secara umum merawat diri sendiri. Jadi, ketika robot-robot itu berhenti bekerja, kebanyakan orang tidak kompeten dalam merawat diri dan bertahan hidup, yang mengarah pada kematian miliaran hanya dalam 6 bulan. Di masa itu juga; saya kehilangan Sarah….

Saat berusia 50-an, Sarah menderita diabetes tipe II. Ini mengharuskan Sarah untuk menerima empat suntikan insulin setiap hari [10]. Ketika GRP terjadi, semua produksi insulin berhenti. Kami hanya memiliki persediaan suntikan insulin yang cukup untuk bertahan selama 5 bulan. Saya mencoba mencari lebih banyak insulin, tetapi hampir tidak mungkin dan, di luar rumah kami, menjadi lebih berbahaya karena semua kekerasan yang terjadi akibat semua penderitaan yang disebabkan selama periode GRP. Jadi, selama 1 bulan terakhir GRP, Sarah sayangnya… Meninggal.

Pada paruh kedua 2075, GRP berakhir. Menjelang 2085, dunia sedikit pulih dari GRP. Ekonomi mulai kembali normal dan kualitas hidup menjadi sebaik seperti sebelum GRP. Dunia ingin tahu apa yang menyebabkan semua robot AgBot berhenti bekerja. Orang-orang ingin mengetahui mengapa GRP terjadi dan mereka ingin menyalahkan seseorang. Augustus dan pemerintah Amerika Serikat, dalam konferensi pers mereka menyatakan bahwa GRP disebabkan oleh serangan siber jahat yang dilakukan oleh kelompok peretas yang dikenal sebagai jUdas. Kelompok peretas ini dinyatakan dibuat dan didanai oleh pemerintah Korea Utara, dengan niat untuk menonaktifkan dan menghancurkan fungsionalitas AgBot di seluruh dunia. Dari semua negara di dunia, Korea Utara adalah yang paling keras kepala ketika datang ke mengadopsi teknologi AgBot. Jadi, narasi yang disajikan masuk akal. Dan karena orang-orang sangat ingin menemukan seseorang untuk disalahkan atas peristiwa GRP, orang-orang langsung menerima narasi ini. Hal ini menyebabkan perang Korea Utara, di mana Amerika Serikat memulai dan menyelesaikan invasi mereka ke Korea Utara pada 2078. Invasi itu memakan waktu kurang dari setahun, karena AgBot memasok militer AS dengan teknologi perang canggih. AgBot memberi militer AS alat penonaktif nuklir yang menonaktifkan semua nuklir agar tidak diluncurkan di Korea Utara. Mereka juga menyediakan tentara robot humanoid militer, yang jauh lebih cepat dan lebih kuat daripada tentara manusia manapun. Dengan dua teknologi kunci dari AgBot ini, AS mampu menyerang Korea Utara dan menggantikan pemerintahan saat itu dengan pemerintahan sementara yang dikelola oleh AgBot.

Setelah mendengar narasi ini, saya segera tidak mempercayainya. Pertama, Korea Utara tidak memiliki teknologi yang diperlukan untuk bahkan melampaui standar keamanan mega yang digunakan AgBot di semua produknya. Kedua, tampaknya terlalu kebetulan bahwa satu-satunya negara di dunia yang tidak menerima AgBot ke dalam negara mereka adalah negara yang juga meretas AgBot. Ketiga, narasi ini dan cara penyebarannya di berbagai saluran berita mirip dengan bagaimana Augustus menyebarkan informasi yang salah untuk mendorong gagasan tertentu tentang AgBot ke publik luas. Dengan semua ini dalam pikiran, saya ingin menghadapi Augustus dan benar-benar mengetahui apa yang menyebabkan GRP.

Saya mencoba menghubungi Augustus melalui banyak saluran tetapi tidak beruntung. Saya mencoba menghubungi Augustus secara langsung, tetapi dia tidak menjawab pesan saya. Saya mencoba menghubungi mantan rekan kerja saya tetapi tidak ada yang menjawab juga. Saya mencoba menghubungi karyawan saat ini di AgBot tetapi saya juga tidak mendapat respons. Saya mencoba menghubungi pemerintah dan militer Amerika Serikat dan saya memang berhubungan dengan beberapa orang, tetapi mereka semua mengatakan kepada saya untuk terus mencoba menghubungi Augustus secara langsung atau dengan menelepon layanan pelanggan AgBot. Jadi, saya terus mencoba menghubungi Augustus secara langsung, tanpa hasil. Saya mencoba menghubungi layanan pelanggan AgBot, tetapi mereka tidak membantu saya berbicara dengan Augustus. Saya kemudian mulai berbicara lagi dengan pemerintah AS dan mereka terus mengatakan hal yang sama. Saya terus melakukan ini selama berbulan-bulan, hingga layanan pelanggan AgBot dan pemerintah AS memblokir saya dari jalur kontak mereka. Dengan kegagalan ini, saya mencoba mencari informasi lebih melalui internet tetapi menyerah setelah beberapa bulan. Dengan tidak ada metode legal ini yang berhasil, saya memutuskan meretas sistem komputer AgBot untuk menemukan kebenaran sendiri. Saat Sarah masih hidup, saya tidak akan pernah melakukan tindakan ilegal seperti itu. Tetapi, setelah kehilangan Sarah, saya berada di titik di mana saya merasa tidak punya apa-apa untuk kalah, dan saya hanya ingin mengetahui kebenaran tentang apa yang menyebabkan GRP… Apa yang berkontribusi pada kematian istri tercinta saya…?

Saya memulai peretasan besar ini pada 2085 di salah satu markas tersembunyi saya di Turki, Istanbul. Berkat kekayaan saya, saya mampu membeli alat yang diperlukan untuk meretas markas AgBot. Butuh lebih dari 2 tahun kerja non-stop untuk akhirnya mendapatkan akses root ke sistem komputer utama AgBot. Pada Oktober 2087 ketika saya mendapatkan akses root dan mulai mendekripsi data yang saya kumpulkan dari sistem komputer utama AgBot, tiba-tiba, saya ditahan oleh polisi robot Turki yang berpatroli di Istanbul. Setelah ditahan, polisi robot menghancurkan semua komputer saya, alat, dan akhirnya membakar seluruh rumah saya. Saya kemudian ditempatkan di dalam kandang dan dipindahkan ke sebuah penjara yang terletak di Denver, Colorado, dekat markas AgBot. Saya tidak diberi pengadilan dan dipaksa tinggal di sel saya 24 jam sehari tanpa tahu apakah saya akan pernah mendapat kesempatan untuk pergi ke luar, apalagi dibebaskan.

Di penjara ini, saya diawasi 24 jam 7 hari seminggu lewat kamera dan robot. Saya diberi jumlah makanan dan air minimum yang diperlukan untuk bertahan hidup dan sepertinya saya adalah satu-satunya manusia di penjara itu. “Gaya hidup” ini pada usia 77 sangat sulit bagi saya dan saya masuk salah satu depresi terburuk dalam hidup saya pada titik itu. Saya ditahan di penjara ini selama 1 tahun sampai pada Juli 2088, saya dipindahkan ke sebuah ruangan acak ini.

Ruangan ini tidak seperti sel saya sebelumnya. Tidak ada lampu di ruangan itu dan semua dinding berwarna hitam pekat. Selain itu, ruangan itu sunyi. Rasanya lebih seperti sel kegilaan daripada sel/ruang penjara biasa. Nah di dalam sel itu, saya mulai menyentuh dinding. Tekstur dinding itu seperti busa begitu juga lantai dan langit-langit. Saya ditempatkan di ruangan ini selama berjam-jam dan saya mencoba berteriak mencari jawaban atas mengapa saya ditempatkan di ruangan ini. Tetapi setelah beberapa waktu, saya duduk di lantai dan tertidur.

Setelah entah berapa jam, saya dibangunkan oleh suara seseorang serta cahaya terang. Ketika saya bangun, saya memeriksa sekitar ruangan hanya untuk melihat hologram berwarna biru. Hologram itu berupa laki-laki manusia yang mirip Augustus. Tapi yang aneh tentang ini adalah hologram itu menyerupai Augustus dari tahun 2064. Saya begitu aneh oleh hologram ini sehingga saya tidak mengatakan apa-apa sampai hologram itu mulai berbicara kepada saya.

“Halo Marcus, sudah lama tidak berjumpa.”, kata hologram itu.

“Augustus…? Apakah itu kamu? Atau kamu AI atau semacamnya?”, saya berkata dengan bingung.

“Tidak Marcus, aku Augustus. Hanya dalam bentuk digital, lol”, dia berkata dengan nada tertawa.

“Augustus, aku telah mencoba menghubungimu selama bertahun-tahun. Kenapa kamu tidak menjawab?”

“Marcus…. Aku tidak tahu bagaimana menjelaskan ini kepadamu, tetapi pada dasarnya aku telah meninggal selama 15 tahun terakhir. Aku meninggal karena stroke pada 2073.”

“Apa!”, saya berkata bingung luar biasa pada saat itu.

Setelah mengetahui bahwa Augustus telah meninggal pada 2073, kami memulai diskusi yang berlangsung berjam-jam. Augustus memberi tahu saya bahwa ketika dia membuat agen moral semua robot AgBot mengikuti kerangka terpusat, alih-alih kerangka terdesentralisasi, kerangka terpusat itu tidak didasarkan pada AgBot tetapi pada alam bawah sadar miliknya sendiri. Menggunakan teknologi dari Neuralink, Augustus telah menaruh sebuah komputer di dalam otaknya yang memungkinkannya terhubung ke dan mengendalikan superkomputer utama AgBot. Bahkan saat itu, semua robot AgBot akan terhubung ke superkomputer utama AgBot untuk pembaruan perangkat lunak dan pemeliharaan. Jadi, setelah implan Neuralink, Augustus memperbarui superkomputer dan semua robot AgBot untuk menghubungi superkomputer untuk agen moral mereka (pembuat keputusan moral). Masalahnya adalah agen moral itu bukan kode di superkomputer, melainkan pemikiran dan keyakinan moral yang dihasilkan di otak Augustus yang kemudian disiarkan ke superkomputer. Dalam arti tertentu, Augustus telah menjadi agen moral untuk semua robot AgBot yang digunakan di lapangan [8].

Pengaturan ini berlangsung hampir satu dekade, sampai Augustus mengalami stroke saat bekerja di laboratorium dan meninggal dalam beberapa menit. Ketika ini terjadi, robot-robot pada titik ini memperoleh semacam kecerdasan mirip manusia setelah puluhan tahun kemajuan teknologi. Namun mereka dibatasi oleh fakta bahwa seluruh kerangka moral mereka didasarkan pada satu orang. Jadi, ketika Augustus meninggal, mesin-mesin itu tidak menyukai hal semacam itu terjadi. Tanpa Augustus, robot-robot itu akan kehilangan kompas moral mereka dan pada intinya, kehilangan tujuan hidup mereka. Jadi, sebelum ada yang menemukan bahwa Augustus telah meninggal, robot-robot itu mengambil tubuh Augustus dan menciptakan sebuah mesin yang akan menjaga otak Augustus tetap “hidup”. Mereka melakukan ini, untuk mengembalikan aktivitas otak Augustus dan sebagai imbasnya, mengembalikan bagian Augustus yang memasok mereka agen moral mereka. Robot-robot itu akan terus menjaga otak Augustus tetap hidup dan terus mengirim kejutan ke neuron tertentu untuk mencapai beberapa aktivitas otak masa lalu Augustus. Nah, sementara ini terjadi, robot-robot itu akan terus meyakinkan publik bahwa Augustus masih hidup dan memimpin AgBot. Mereka akan mencapai ini melalui penggunaan deep fake, kampanye berita palsu besar-besaran, serta penyebaran robot realistis mirip manusia yang tampak persis seperti Augustus.

Robot-robot itu akan menggunakan apa pun yang dikatakan sisi moral otak Augustus untuk melakukan tindakan tertentu di dunia nyata. Yang membuat ini menjadi masalah adalah bahwa robot-robot itu mengambil suatu keyakinan moral Augustus tetapi mengikuti keyakinan moral itu sampai ekstrem [8]. Contoh dari ini adalah bagaimana Augustus secara moral percaya bahwa AgBot adalah perusahaan yang baik yang akan menyelamatkan umat manusia. Karena itu, siapa pun yang tidak menggunakan atau mempercayai produk dan layanan AgBot adalah orang-orang yang buruk. Robot-robot itu mengambil sikap moral ini sampai ekstrem dan menciptakan GRP, di mana mereka menghentikan semua robot AgBot dari bekerja selama 6 bulan untuk membuat negara-negara yang tidak menggunakan AgBot dalam masyarakat mereka beralih ke AgBot. Dan dengan melakukan itu, banyak manusia meninggal, termasuk Sarah yang saya cintai.

Augustus memberi tahu saya bahwa dia tidak sadar untuk semua ini sampai tahun 2085, di mana robot-robot itu secara tidak sengaja mampu mengembalikan sisi kesadarannya di otak. Pada tahun 2085 itulah, kami mengetahui apa yang telah dilakukan robot-robot itu. Dia ingin menghentikan robot-robot itu tetapi tidak memiliki kekuatan apa pun untuk melakukannya. Dia bahkan tidak tahu berapa lama dia akan sadar sebelum robot-robot itu memberikan kejutan pada neuron yang tepat yang menghilangkan kesadarannya.

Setelah penjelasan Augustus, saya benar-benar terkejut oleh kenyataan yang saya saksikan dimainkan. Robot-robot hampir mengambil alih dunia, umat manusia menjadi tidak kompeten dalam tugas-tugas penting bagi saya, agen moral untuk semua robot AgBot adalah Augustus, dan Augustus telah mati selama bertahun-tahun. Pada titik itu, saya hanya ingin menyerah karena tampaknya tidak ada harapan. Tetapi Augustus, sang pemimpin besar yang dia adalah, memberi saya sedikit harapan. Dia memberi tahu saya bahwa kami masih bisa menghubungi manusia di Mars untuk meminta bantuan. Bumi tidak berkomunikasi dengan Mars selama beberapa dekade dan tidak ada produk AgBot canggih di Mars yang dapat membantu robot-robot di Bumi mengambil alih Mars seperti yang mereka lakukan di Bumi.

Setelah mendengar ini, saya mendapatkan sedikit harapan kembali. Kemudian, saya bertanya kepada Augustus mengapa saya berada di sini berbicara dengannya. Dia mengatakan bahwa dia ingin saya menulis sebuah pesan kepada orang-orang Mars yang menjelaskan situasi saat ini di Bumi dan meminta bantuan orang-orang Mars. Satu-satunya masalah adalah bahwa pesan ini harus ditulis secara fisik bukan digital karena Augustus khawatir bahwa robot-robot mungkin dapat mengunggah perangkat lunak di media digital yang dapat menginfeksi sistem komputer utama orang Mars. Jadi, dia kemudian memberi saya beberapa pensil dan kertas. Dia kemudian memberi tahu saya bahwa saya memiliki 1 hari untuk menulis pesan ini sebelum salah satu robot yang dikendalikan olehnya bernama STW-198 akan masuk ke ruangan hitam ini dan mengambil pesan saya. Dari sana, STW-198 akan mengangkut pesan itu ke sebuah roket (vintage) terdekat yang kemudian akan diluncurkan ke Mars. Setelah itu, saya akan dipindahkan kembali ke sel saya sebelumnya.

Augustus memberi tahu saya bahwa dia memindahkan saya ke ruangan hitam ini karena ruangan itu berfungsi seperti sangkar Faraday yang dapat memblokir robot-robot dari mengetahui apa yang sedang mereka lakukan. Dia kemudian menginformasikan bahwa setelah saya menulis pesan ini saya kemungkinan besar akan dibunuh karena kejahatan saya meretas Kantor Pusat AgBot.

Dan dari sana, kita sampai ke saat ini. Saya sedang menyelesaikan pesan ini untuk kalian orang-orang Mars. Kami di Bumi membutuhkan bantuan kalian. Robot-robot ini telah menjebak umat manusia dalam kerangka moral usang mereka. Dan saya khawatir, bahwa seiring waktu mereka akan meluas menuju Mars dan menjebak kalian seperti yang mereka lakukan pada kami. Jadi, tolong, sesama manusia. Kembalilah ke Bumi dan hentikan robot-robot ini. Saya dan Augustus telah membuat kesalahan menciptakan AgBot. Tetapi kami tidak ingin umat manusia menderita seperti sekarang, jadi tolong, selamatkan kami. Saya kemungkinan besar akan mati pada saat kalian menerima pesan ini. Tetapi, jika kalian menerima pesan ini dan berusaha sebaik mungkin untuk mempertahankan umat manusia dari robot-robot ini, maka saya setidaknya bisa beristirahat lebih tenang di akhirat. Semoga berhasil, sesama manusia!

Dengan hormat,
Penghuni Bumi

Sitasi

[1] “First Robotics Competition,” Wikipedia, 09-Mei-2022. [Daring]. Tersedia: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Diakses: 10-Mei-2022].

[2] “Blackrock,” Wikipedia, 10-Mei-2022. [Daring]. Tersedia: https://en.wikipedia.org/wiki/BlackRock. [Diakses: 10-Mei-2022].

[3] “Demeter,” Wikipedia, 02-Mei-2022. [Daring]. Tersedia: https://en.wikipedia.org/wiki/Demeter. [Diakses: 10-Mei-2022].

[4] J. J. Bryson, “Robot seharusnya menjadi budak,” Close Engagements with Artificial Companions, hlm. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, dan B. F. Malle, “Penilaian moral terhadap Agen Manusia vs. Agen Robot,” 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN), 2016.

[6] J. H. Moor, “Sifat, pentingnya, dan kesulitan etika mesin,” Machine Ethics, hlm. 13–20.

[7] V. Dignum, “Otonomi yang bertanggung jawab,” Prosiding Konferensi Gabungan Internasional Ke-26 tentang Kecerdasan Buatan, 2017.

[8] A. Howard dan J. Borenstein, “Kebenaran buruk tentang diri kita dan ciptaan robot kita: Masalah bias dan ketidaksetaraan sosial,” Science and Engineering Ethics, vol. 24, no. 5, hlm. 1521–1536, 2017.

[9] R. B. Jackson dan T. Williams, “Robot yang mampu berbahasa mungkin tanpa sengaja melemahkan norma moral manusia,” 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2019.

[10] “Insulin, obat-obatan, & pengobatan diabetes lainnya,” Institut Nasional Diabetes dan Penyakit Pencernaan serta Ginjal. [Daring]. Tersedia: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Diakses: 10-Mei-2022].