Umasa-kwento

Isinulat ko ang maikling kuwento, The Diminished King, bilang aking panghuling takdang-aralin para sa aking Etika ng Robot (HASS400) na klase noong huling semestre ng aking undergraduate sa Colorado School of Mines. Para sa takdang-araling ito, inatasan kami ng gawain na sumulat ng isang kathang-mahalang maikling kuwento na umiikot sa etika ng robot pati na rin ang pagbanggit sa ilang papel na binasa namin sa semestre sa maikling kuwento. Ang kinakailangan para sa kuwentong ito ay dapat itong 10 pahina ang haba, kung saan sumulat ako ng 21 pahina. Lubos akong naging masigasig tungkol sa maikling kuwentong ito, kaya nagwala ako rito.

Ngayon, BABALA, hindi ako isang mahusay na manunulat. Kaya, ang maikling kuwentong ito ay hindi perpekto at nangangailangan ng pagpino at malaking muling pagsulat. Pero ipinagmamalaki ko ito at sa palagay ko masayang basahin. Sa lahat ng aking taon sa paaralan, nasimulan kong ma-enjoy ang proseso ng pagsulat, kaya umaasa akong palawakin pa ito sa pagsulat ng iba pang bagay tulad ng mga blog, artikulo, atbp.

Alam ang lahat ng ito, ang orihinal na maikling kuwento ay sinave bilang isang PDF file bilang bahagi ng kinakailangan ng takdang-aralin. Ngunit, upang bawasan ang laki ng papel, kinonvert ko ang kuwento sa markdown. Sa pagkakaalam nito, ang buong maikling kuwento ay maaaring matingnan/basahin sa ibaba. Sana mag-enjoy ka sa pagbabasa, makipag-ugnay sa akin sa aking mga socials kung may mga tanong o puna ka tungkol sa maikling kuwentong ito.

Ipagpatuloy ang pagbabasa upang matuklasan ang Ang Nanghinaang Hari…

ANG NANGHINAANG HARI

Mehmet Hanifi Yilmaz
Mayo 10, 2022

Buod

Sa isang hinaharap kung saan ang kapalaran ng Daigdig ay nakasabit sa isang hibla, si Marcus Bruce, isang teknolohikal na prodigyo, at ang kanyang kaibigang si Augustus Elrod, isang pinunong may pananaw, ay nagsimula sa isang misyon upang baguhin ang mundo sa pamamagitan ng mga advanced na robotika. Ang kanilang likha, AgBot, ay nag-rebolusyon sa pandaigdigang agrikultura at industriya, nangangako ng isang utopiyang hinaharap. Ngunit habang lumalago ang kanilang imperyong teknolohikal, ang mga hindi inaasahang kahihinatnan ay hinahamon ang mismong kakanyahan ng moralidad at kalayaan ng tao. Nang ang isang mapaminsalang pangyayari na kilala bilang ang Malaking Pagtigil ng mga Robot ay nagbanta sa pag-iral ng tao, kinailangan ni Marcus harapin ang madilim na bahagi ng kanilang pamana at humiling ng tulong interplanetaryo. Ang “Ang Nanghinaang Hari” ay isang nakakapit na kuwento ng ambisyon, kapangyarihan, at ang marupok na balanse sa pagitan ng tao at makina, hinihikayat tayo nitong tanungin ang tunay na halaga ng pag-unlad.

Kuwento

Narito ako upang alertuhan kayo sa kritikal na kalagayan ng Daigdig ngayon! Kung hindi ito hahawakan nang maayos, maaaring madaling idala ng sitwasyong ito ang sangkatauhan sa pagkawasak. Sana ay maipaliwanag ko ang sitwasyong ito sa ilang pangungusap, pero sa kasamaang palad ang komplikasyon ng sitwasyong ito ay nangangailangan na ipaliwanag ko kung ano ang nagdala rito upang tunay ninyong maunawaan ang bigat nito.

Ako ay isang pangunahing salik sa mga nangyari na nagdala sa kasalukuyang kalagayan ng Daigdig, kaya hayaan munang ipakilala ko ang aking sarili. Ang pangalan ko ay Marcus Bruce, ipinanganak ako sa isang maliit na bayan sa Colorado na tinatawag na Ouray noong 2010. Ang Ouray ay isang suburban na lugar na pinaliligiran ng magagandang bundok. Ipinanganak ako sa dalawang magulang na parehong guro sa high school. Ang aking ama ay guro sa matematika, at ang aking ina ay guro sa agham.

Hindi ko talaga maalala nang malalim ang aking maagang pagkabata dahil masasabi kong hindi ako nagkaroon ng tunay na kamalayan hanggang ako ay 12 taong gulang noong 2022. Sa taong iyon, ako ay nasa gitnang paaralan, at itinuturing akong isang child prodigy na talagang nangibabaw sa matematika at agham. Gusto ng aking punong-guro sa aming paaralan na hayaan akong lumundag mula ika-7 grado papuntang ika-11 grado. Ngunit hindi sang-ayon ang aking mga magulang sa rekomendasyon ng aking punong-guro dahil gusto nilang magkaroon ako ng normal na pagkabata. Nagpapasalamat ako sa desisyong iyon dahil natatandaan kong nagkaroon ako ng kahanga-hangang pagkabata. Isang pagkabata sa isang panahon kung saan ang mundo ay nagsisimulang maging mas integrated sa teknolohiya. Higit pa sa ganap na pagkonsumo nito. Ngayon, ang malaman na ako ay isang prodigy ay ginawa ang 2022 bilang isang espesyal na taon para sa akin. Ngunit ang talagang gumawa sa 2022 na espesyal na taon ay ang katotohanan na iyon ang taon na unang nakilala ko ang isang magiging pangmatagalang kaibigan ko, si Augustus Elrod. Ang mismong Augustus na pangunahing nagpatakbo ng mga susi na pangyayari na nagdala sa Daigdig sa kung nasaan ito ngayon.

Nakilala ko si Augustus noong ika-7 baitang sa aming lokal na Lego robotics club. Ang unang napansin ko sa mga katangian ni Augustus ay kung gaano siya ambisyoso at determinado. Kahit bilang isang 12-taong gulang na bata, si Augustus ay isang tunay na pinuno dahil nagawang pangunahan niya ang aming lokal na Lego robotics team upang magwagi sa pambansang paligsahan ng Estados Unidos. Na tunay na kahanga-hanga kung iisipin na ang lahat sa koponan ay mga batang nasa gitnang paaralan na kaunting interes lamang sa pag-aaral ng engineering sa likod ng robotics. Ngunit hindi lamang hinikayat ni Augustus ang mga batang iyon na gustuhin matuto at manalo, pinangunahan din niya sila sa tagumpay. Lahat kami ay rumerespeto kay Augustus bilang aming pinuno at hindi talaga nagrerespeto si Augustus sa maraming tao. Ngunit iginagalang niya ako dahil sa aking talino. Una niya akong napansin dahil sa aking talino at nagulat siyang makakakilala ng isang tao sa kanyang age group na mas matalino kaysa sa kanya. Nakikipagkumpitensya pa si Augustus sa akin sa mga pagsusulit ngunit palaging natatalo. Pero kung paanong palagi kong natalo si Augustus sa utak, pinapatalo niya ako sa sports. Naglalaro siya ng basketball at soccer pagkatapos ng klase. Napakahusay niya sa mga larong ito na inakala ng marami na magiging propesyonal siyang atleta pag laki niya. Ang paggalang na ito na mayroon kami sa isa’t isa, kalaunan ay nagdala sa isang mahabang pagkakaibigan na tumagal hanggang sa aming pagiging nasa hustong gulang.

Pagkatapos ng aming mga taon sa gitnang paaralan, nagsimula kami sa high school noong taong 2024. Sa aming mga taon sa high school, kami pareho ni Augustus ay lumahok sa FIRST Robotics Competition (FRC) [1]. Ang FRC ay ang pinakamalaking paligsahan sa robotics sa Estados Unidos at pangunahing binubuo ng mga estudyante sa high school [1]. Habang gumagawa ng FRC, marami kaming natutunan tungkol sa mechanical, electrical, at computer engineering. At dahil sa kamangha-manghang kakayahan sa pamumuno ni Augustus, nagawang manalo namin ang nasyonal ng dalawang taon sunod-sunod na isang bagay na hindi pa naririnig noon. Gayundin, sa panahong ito, lumahok ako sa maraming kumpetisyon sa matematika pati na rin sa mga debate tungkol sa mga usaping batay sa etika. Sa panahong iyon din patuloy na nangibabaw si Augustus sa basketball, sa pamamagitan ng pangunguna sa high school varsity team patungo sa nasyonal sa loob ng 3 taon na magkakasunod. Pareho kaming may natatanging talento sa aming mga sariling paraan. Ngunit sa panahong ito rin nahubog ng pareho naming sarili ni Augustus ang aming mga layunin sa buhay at, para sa mabuti man o masama, patuloy na sinunod ang mga layuning iyon hanggang sa dulo.

Sa buong panahon ko sa high school, natuklasan ko na ang layunin ko sa buhay ay gawing mas mabuti ang mundo sa pamamagitan ng teknolohiya. Tinanggap ko na hindi magiging perpekto ang mundo at palaging magkakaroon ng kapintasan. Pero, noon, naniwala ako na kung magtatrabaho ako nang husto, maaari kong maibsan man lang ang pasanin ng mundo at gumawa ng mas magandang hinaharap. May magkatulad na layunin si Augustus ngunit medyo iba. Alam kong ambisyoso si Augustus, pero hindi ko tunay na nalaman kung saan niya nais pumunta sa buhay hanggang sa aming huling taon sa high school.

Sa aming huling taon sa high school, pareho kaming natanggap at nagpasya na pumasok sa Massachusetts Institute of Technology (MIT). Nakakuha si Augustus ng alok na madraft para sa NBA, ngunit tinanggihan niya ang alok at sa halip ay nagpasyang pumunta sa MIT. Una kong narinig ito mula sa mga magulang ni Augustus at pagkatapos kong malaman, tinawagan ko si Augustus at ganito ang naging usapan namin:

“Augustus, bakit mo sinabi na hindi sa NBA? Isang pagkakataon na minsan sa buhay iyan,” sabi ko na nagugulumihanan.

“Marcus, magiging masaya ang NBA, pero iyon lang, kasiyahan. Hindi nito babaguhin ang mundo. Kung mayroon man, makakalito lang ito sa akin mula sa pag-aayos ng mundong ito,” sabi ni Augustus nang may kumpiyansa.

“Babaguhin ang mundo? Ano’ng ibig mong sabihin?”

“Oo, babaguhin ang mundo! Marcus, gusto kong pangunahan ang sangkatauhan patungo sa isang mas magandang hinaharap. Gusto kong iligtas ang mundo!”

Huminto ako ng ilang segundo, sa paraang mas nagulat kaysa sa inaakala ko.

“Ililigtas ang mundo? Ano’ng ibig mong sabihin?”

“Marcus, ikaw at ako ay pinagpala. Pareho naming gustong tulungan ang mundo. Namamayani ka bilang isang intelektwal, at ako ay namamayani bilang isang lider. Hindi lamang iyon, nagtitiwala ako sa iyo Marcus. Sa kakayahan mo at sa akin, makakagawa at makakapamahagi tayo ng teknolohiyang makakabago sa mundo para sa mas mabuti. Kumpiyansa ako dito!”

“Wow, mas ambisyoso ka kaysa akala ko, Augustus!”, sabi ko na may kaunting tawa sa dulo, “pero paano mo masasabi na makakamit natin ang ganoong gawain?”

“Ang maikling sagot ay ito Marcus; balak kong magtayo ng tech na negosyo. Pagkatapos, palawakin sa pulitika. Sa ganoon, makakamit ang parehong pinansiyal at politikal na kapangyarihan. At mula roon, mababago natin ang mundo. Maglalaro ka ng kritikal na bahagi sa planong ito, Marcus!”

“Sige, Augustus. Napakaambisyoso pa rin niyan. Pero kapag mayroon ka nang nakalatag na plano at kailanganin mo ako. Naroon ako.”

“Salamat, kaibigan, magkikita tayo sa MIT!” sabi ni Augustus nang may sabik na tono.

Noong panahong iyon, hindi gaanong mahalaga ang usapang ito sa akin. Alam kong magaling si Augustus, pero ang kanyang mga pangarap ay higit na mukhang mga pangarap kaysa tunay na hinaharap. Hindi ko tinake seriously ang kanyang pahayag noon. Pero magbabago ang lahat ng iyon. Sa anumang paraan, 2028 na at inaabangan kong magsimula ang aking undergraduate studies sa MIT.

Ito rin ay isang kapanapanabik na panahon upang simulan ang pag-aaral ng engineering dahil sa parehong taon, 2028, nagsimulang magpadala ang pamahalaan ng Estados Unidos, NASA, at SpaceX ng mas maraming tao upang kolonisahin ang Mars. Dalawang taon lamang ang nakalipas, nagpadala lamang sila ng ilang tao paikut-ikot sa pulang planeta. Ngunit ngayon, sila at ang natitirang bahagi ng mundo, nagsimulang magpadala ng mas maraming tao sa Mars upang manirahan. Ito ay isang tunay na punto ng pagbabago sa kasaysayan ng tao at nagdulot ng malaking demand at pag-unlad sa pananaliksik sa robotics, na kahanga-hanga dahil nais kong kumuha ng major sa robotics.

Noong taong 2030, kami ni Augustus ay nagtapos ng aming ikalawang taon sa MIT. Nagda-dual major ako sa robotics at etika, samantalang nagmamajor si Augustus sa robotics at agham pampolitika. Ngunit pagkatapos ng aming ikalawang taon sa kolehiyo, nagsimulang talagang hindi magustuhan ni Augustus ang kolehiyo. Hindi niya ito nakita bilang isang kapaki-pakinabang na kasangkapan tungo sa pagtupad ng kanyang pangarap na “pagliligtas sa mundo”. Kaya, sa kanyang ikalawang taon, pinalampas ni Augustus ang karamihan ng kanyang mga klase at bumagsak rin sa marami sa mga iyon. Sa halip na pumunta sa klase, nagtuon si Augustus sa pagbuo ng software na pinapagana ng AI na epektibong mamamahala ng mga asset at stock. Ninais niyang gumawa ng isang software sa pamamahala ng asset na mas magaling kaysa sa Aladdin ng BlackRock noong panahong iyon [2]. Napakatitiwala siya sa kanyang software kaya nag-drop out siya sa MIT pagkatapos ng kanyang ikalawang taon at sinundan ang kanyang unang pagsisimula ng negosyo gamit ang bagong software na kanyang binubuo. Lumipat siya mula sa dorm noong Mayo 2030 at lumipat sa New York City. Nalungkot ako na nag-drop out si Augustus ngunit ang isang maganda sa taong iyon ay nakilala ko ang magiging asawa ko, si Sarah Raven.

Ngayon, laktawan natin ang taon 2038. Nanguna si Augustus sa balita dahil siya ay naging isang multimilyonaryo sa edad na 28. Matapos niyang ibenta ang kanyang software sa BlackRock sa isang malaking halaga ng pera, may halos 100 milyon dolyar siya sa kanyang pangalan sa anyo ng cash at ilang BlackRock stock options. Pinamumunuan ni Augustus ang mundo ng pananalapi; ako naman ay kakatapos lang ng aking dalawang PhD sa Intelligence Robotics Systems at machine ethics. Hindi lamang iyon, kundi noong tag-init ng 2038, ikinasal kami ni Sarah. Inimbitahan ko si Augustus sa aking kasal, at nakita ko siya nang unang beses sa halos 8 taon sa aking kasal. Masayang gabi iyon, ngunit habang tinatapos namin ang kasal, hiniling ni Augustus na tawagan ko siya kapag may libreng oras ako. Kaya, pagkatapos ng honeymoon namin ni Sarah, tinawagan ko si Augustus.

Nag-usap kami nang halos 2 oras at sa panahong iyon nagkumustahan kami sa buhay, ngunit pagkatapos noon, naging seryoso si Augustus sa telepono. Binanggit ni Augustus na alam niya na ako ay may napakalaking utang pang-estudyante at hindi pa ako nakakahanap ng trabaho. Kaya, inalok niya ang isang trabaho na sa tingin niya ay maiaalok sa akin. Ito ay ang pagiging co-founder para sa kanyang bagong pagsisimula ng negosyo. Ang bagong pagsisimula na ito ay isang startup na tinatawag na AgBot na magtutuon sa pag-automate ng agrikultura sa pamamagitan ng AI at robotics. Gusto niya ako maging co-founder ng AgBot dahil naniniwala siya na magiging mahalaga ang aking teknikal na kasanayan sa pagbuo ng kinakailangang arkitektura para makabuo ng ganoong mga matatalinong robotic system. Sinabi rin niya na nagtitiwala siya sa akin at pinahahalagahan niya ang tiwala matapos ang kanyang huling kasosyo na sa esensya ay pinilit siyang ibenta ang kanyang software sa BlackRock. Pagkadinig sa alok na ito, agad akong pumayag dahil sabik ako sa proyekto at tama siya, napakalaki ng aking utang at wala pa akong alok na trabaho hanggang noon.

Opisyal na itinatag ang AgBot noong 2038. Lumipat kami ni Sarah pabalik sa Colorado dahil doon matatagpuan ang AgBot. Agad, nagsimulang magtrabaho si Augustus at ako sa pagbuo ng AgBot. Sa loob ng limang taon, gumawa kami ni Augustus ng mga mahahalagang hakbang upang dalhin ang AgBot sa kung nasaan ito ngayon. Una, nag-invest si Augustus ng kanyang sariling kapital sa kumpanya. Pinayagan kami nito na makuha ang lahat ng kailangan namin upang magsimulang bumuo ng ilang mga prototype bilang mga proof of concept. Pinayagan din nito si Augustus na kumuha ng iba pang mga developer na magtrabaho sa ilalim ng aking pamamahala para sa pag-develop ng mga pangunahing teknolohiya para sa AgBot. Sa panahong ito rin namin sinimulang paunlarin at sa huli inilabas ang aming unang produkto, Demeter [3]. Ang Demeter ay isang robot na may apat na gulong at mga paa na may adjustable na taas. Naglalaman ito ng dalawang delta robotic arms at dalawang 6-axis robotic arms. Layunin ng Demeter na protektahan ang mga pananim mula sa mga peste, hayop, at sakit sa pamamagitan ng pagmamanman at pamamahala sa mga pananim sa kanilang maagang yugto ng pag-unlad. Maaari rin itong gamitin upang pumitas ng mga pananim mula sa mga halaman na hindi madaling i-automate gamit ang tagasubaybay, tulad ng mga strawberry. Kasama ng mismong robot, dumating din ang Demeter na may sarili nitong istasyon ng pagsingil at isang drone. Maaaring awtomatikong mag-sisingil ang Demeter at magagamit nito ang anyo nitong drone upang suriin ang malalawak na taniman upang malaman kung aling mga pananim ang nangangailangan ng pinakamaraming pag-aalaga. Bahagyang awtonomo ang robot na ito, ngunit kailangan pa rin ng tao upang subaybayan at ayusin ang Demeter. Ngunit ang pangunahing bentahe na ibinigay ng Demeter ay makatutulong ito sa isang magsasaka na pamahalaan ang 1000 acres ng lupa nang sabay, na isang hindi pa naririnig na posibilidad noon.

Inilabas ang Demeter sa publiko noong Mayo 2043 na may mga benta na sumira ng mga rekord. Salamat sa mga advanced na tampok ng Demeter at sa kamangha-manghang kampanya sa marketing nina Augustus at ng kanyang koponan, agad na naubos ang stock ng Demeter. Ito ay muling nagpatibay ng kumpiyansa ng ibang mga mamumuhunan at humantong sa malaking pagtaas ng pondo mula sa iba pang mga mamumuhunan. Ang karagdagang pagpopondo na ito ang nagpayagan sa AgBot na palawakin ang operasyon pati na rin ang development team nito. Pinayagan din nito ang AgBot na simulan ang pag-develop ng mga panloob na automated farming module na inilabas noong 2047 sa mga lugar sa mundo na pinakaaapektuhan ng pagbabago ng klima. Lubhang naging matagumpay din ang mga panloob na module na ito na lalo pang nagpabilis sa paglago at kayamanan ng AgBot. Noong 2048, isang mas advanced na bersyon ng Demeter ang inilunsad patungong Mars upang tumulong sa mga pagsisikap sa agrikultura sa Mars. Ipinagmamalaki ni Augustus ang aking trabaho at binigyan niya ako ng maraming AgBot shares bukod pa sa aking sahod.

Noong 2050, naging public ang AgBot at tinataya ang halaga nito sa 3 trilyong dolyar. Ito ay dahil halos bawat magsasaka sa America ay gumagamit ng mga produktong pang-agrikultura ng AgBot. Sa pagpunta sa publiko, naging isang bilyonaryo ako magdamag at si Augustus ay naging isang multibilyonaryo magdamag. Nagdala rin ang pagpunta sa publiko ng mas maraming kapital sa AgBot na nagpayagan sa AgBot na bilhin ang Tesla at Neuralink. Nabili ang Tesla at Neuralink sa murang presyo dahil, mula nang pumanaw si Elon Musk, walang CEO ang nakapamahala nang epektibo sa mga kumpanyang ito. Nagresulta ito sa mga taon ng nawalang kita para sa parehong kumpanya, na halos naglagay sa kanila sa bingit ng pagkakabangkarote hanggang sa binili sila ng AgBot pareho sa halagang 900 bilyong dolyar. Pinagsama ang Tesla at Neuralink sa Robotics Department ng AgBot at sinimulang bumuo ang AgBot ng dalawang bagong produkto. Ang una ay isang home assistant na binubuo mula sa paunang disenyo ng Tesla Bot [4]. Ang proyektong ito ay binigyan ng pangalang Agssistant-Bot. Ang pangalawang produkto ay isang autonomous na bus na itatayo gamit ang teknolohiyang ginamit ng Tesla sa paggawa ng mga de-kuryenteng kotse. Ang proyektong ito ay pinangalanang Auto-Bus. Nangunguna nang naging hindi gaanong karaniwan ang mga kotse noong 2050 dahil malaki ang ipinuhunang ng mga estado sa mas mahusay na mga sistema ng transportasyon, tulad ng mga bus at tren. Sa panahong ito, sinimulan ni Augustus na pondohan ang maraming kampanya ng mga politiko at marami sa mga politiko na ito ang kalaunan ay naging mga alkalde, senador, at ang isa ay naging bahagi pa ng kongreso. Napatunayan itong kapaki-pakinabang upang palawakin ang kapangyarihan ng AgBot sa Estados Unidos.

Noong 2051, ako at ang aking koponan ay nagsimulang tutukan at lutasin ang mga salik na humahadlang sa mga kasalukuyang algorithm ng AI. Sa puntong iyon, ang lahat ng aming mga robot na pang-agrikultura ay hindi lamang matibay sa kalidad ng pagkakagawa, kundi malapit na ring maging ganap na awtonomo. Ang pangunahing hadlang ay ang kakulangan ng AI ng isang moral na ahente [5]. Sa isang tunay na intelihenteng robot, dapat may isang moral na ahente upang gabayan ang robot sa mga panlipunang balangkas ng lipunan. Sa AgBot, sinubukan naming lumikha ng isang moral na ahente para sa aming mga bot sa pamamagitan ng simpleng pag-hard code ng mga moral na patakaran sa loob ng code ng AI. Napatunayang hindi ito epektibo, kaya iniwan namin iyon at lumipat sa pagpapasya ng gumagamit ng mga moral na pagpili ng robot [6]. Sa prinsipyo ay gumagana ito ngunit pinabagal nito ang pag-aautomat ng aming mga robot dahil nangangailangan ito ng input ng tao tuwing makakatagpo ang robot ng isang sitwasyon na mangangailangan ng uri ng moral na pangangatwiran. Ayos lang ito para sa aming mga robot na pang-agrikultura, ngunit isang malaking limitasyon ito sa pagsisikap ng AgBot na paunlarin ang Agssistant at Auto-Bus para sa masa [4]. Pagkatapos ng apat na taon ng pag-develop, nagawa ng aking koponan ang imposible.

Noong 2055, nakalikha ang aking koponan ng unang matagumpay na moral na ahente sa loob ng core code base para sa AI system ng lahat ng mga robot ng AgBot. Pinayagan ng moral na ahenteng ito ang robot na gumawa ng sarili nitong mga moral na pagpili na pinakamainam na sumasalamin sa moral na paninindigan ng maraming tao sa lipunan [7]. Ang paunang ahente ay sinanay mula sa isang napakalaking database, ngunit habang patuloy na nakikipag-ugnayan ang robot sa mga tao, sisimulang mas pinuhin nito ang pag-angkop ng mga moral na balangkas nito patungo sa mga taong nakikipag-ugnayan ito [8]. Perpekto ito dahil nakumpleto nitong AI framework ng AgBot sa punto na ang aming mga robot ay maaaring maging ganap na awtonomo nang hindi nangangailangan ng anumang input ng tao. Mahalaga rin ang taong iyon sa kasaysayan ng sangkatauhan dahil iyon ang taon na tumigil ang komunikasyon ng Mars sa Earth. Nagpasya ang bagong sibilisasyon sa Mars na humiwalay mula sa Earth at bumuo ng isang bagong lipunan na hindi pinamamahalaan ng mga nakaraang lipunan sa Earth. Maraming bansa ang nagalit sa mga aksyon na ginawa ng mga Martins, ngunit dahil sa malaking distansya sa pagitan ng Earth at Mars pati na rin sa malalaking suliranin na kinakaharap na ng Earth, nagsimulang balewalain ng mga bansa sa Earth ang isyung ito nang walang hanggan.

Pagkatapos kong paunlarin ang moral agent na ito, ipinakita ko ito kay Augustus at pagsapit ng 2060, naipatupad na namin ang moral agent sa aming pangunahing code base at naideploy ito sa lahat ng mga robot sa aming linya ng produkto. Naganap din sa taong iyon na tuluyang inilabas ng AgBot ang Agssistant sa masa, na sa wakas ay natupad ang mga pangarap ni Augustus na lumikha ng isang robot para sa pangkalahatang publiko. Bukod pa rito, inilabas ang Auto-Bus sa mga pangunahing lungsod sa buong Estados Unidos. Ang AgBot ay pinatawad din mula sa pagbabayad ng anumang buwis sa gobyerno dahil sa napakalaking kontribusyon ng kumpanya sa ekonomiya, ngunit pabalik-tanaw, iniisip ko na ito ay dahil sa napakalaking impluwensya ni Augustus sa pamahalaan ng US sa pamamagitan ng maraming taon ng pakikipag-ugnayan sa mga nagtatag na politiko. Naganap din sa panahong ito ang pag-abot ng kawalan ng trabaho sa isang rekord na taas; ito ay dahil sa moral agent na ganap na nag-alis ng mga trabaho ng tao mula sa karamihan ng mga sistemang robotiko. Nagresulta ito sa malawakang kawalan ng trabaho at malaking pangangailangan na repasuhin kung paano dapat gumana ang ekonomiya at ang ideya ng pag-eempleyo sa Estados Unidos. Ito rin ang unang pagkakataon na nagsimulang makita ng publiko ang AgBot sa isang negatibong pananaw. Nakakatanggap kami ni Augustus ng mga banta sa buhay mula sa mga taong nawalan ng trabaho dahil sa naipatupad na bagong tampok ng moral agent. Sa panahong iyon din nagsimula akong mag-invest nang higit pa sa isang sistema ng seguridad upang protektahan ako at ang aking asawa.

Noong 2063, naitala ang unang sanhi ng pagpatay ng isang robot sa kasaysayan ng tao. Ang robot ay isang modelo ng Agssistant at nagpapatakbo ng pinakabagong software ng AgBot na naglalaman ng pinakabagong moral agent code base noong panahon ng “rampage” nito. Habang nag-rampage ang robot, pumatay ito ng isang 70-taong-gulang na lalaki sa liwanag ng araw. Ang pangalan ng matandang lalaki ay John Smith na gumagamit ng Agssistant para tulungan siya sa bahay at iba pang mga gawain na hindi na niya magawang gawin nang madali sa kaniyang edad. Pagkatapos na patayin ng robot si John, sinundan ito ng robot sa pagguho ng sarili hanggang sa nagsimulang gumana muli. Hindi natuklasan si John at ang robot hanggang sa makalipas ang 3 araw.

Nang kumalat ang balita tungkol dito, nagwala ang publiko. Ipinangangailangan nila si Augustus na ipaliwanag kung ano ang nangyari. Bumagsak ng 70% ang mga stock ng AgBot at higit sa 90% ng mga naipadalang modelong Agssistant ang ibinalik. Ang isang magandang bagay tungkol sa lahat ng iyon noon ay hindi sinira ng modelong Agssistant na gumawa ng pagpatay ang kaniyang log disk; nagawang makita ng aming team kung ano ang nangyari sa loob ng Agssistant na nag-udyok dito na patayin si John.

Naaalala ko pa ang gabing iyon. Alas-3:00 ng umaga ito sa pangunahing lab sa AgBot HQ at kamakailan lang ay na-load ng aking koponan ang mga log. Sinuri namin ang mga log nang araw-araw, upang malaman kung anong nangyari gabing iyon na pinatay ng Agssistant si John. Pagkatapos ng 5 araw ng paghuhukay, natagpuan namin ang aming sagot. Napagpasyahan na ang matandang lalaki, sa paglipas ng panahon, ay naging mas mapanuya at marahas sa Agssistant na ito [9] Tinatawag ang Agssistant ng mga pangalan, sinasaktan ito, at pinupuno ng dumi ang ilang bahagi ng robot sa isang paraang mala-torture. Malamang na ang mga malupit na gawaing ito ay maiuugnay sa kamakailang diborsyo ni John at ang pagkakahiwalay niya sa loob ng mga buwan. Gayundin ang iba pang mga suliraning mental na hinaharap ni John sa huling bahagi ng kaniyang buhay. Kaya, ang paraan ng pag-uugali ng Agssistant ay maaaring nagpahusay lamang sa pagkagalit ni John nang hindi namamalayan ng Agssistant [10]. Sa alinmang paraan, ang “pag-aabuso” na ito sa robot ay tila nag-trigger sa robot na moral na “maniwala” na si John ay masama at samakatuwid, kailangang patayin. Ngunit mas nakakagulat ay pagkatapos na patayin ng Agssistant si John, sinimulan nitong kitilin ang sarili. Ang dahilan nito ay patuloy na naniwala ang robot na ang pagpatay sa anumang buhay ay imoral, at gayon pa man ay nagawa na nito iyon. Ang Agssistant, sa kakulangan ng mas mabuting salita, ay hindi “matiis” ang moral dilemma na kinakaharap nito, kaya pinatay nito ang sarili. Ito ay higit pa sa kakila-kilabot at noong panahong iyon, inisip ko ito bilang babala mula sa Diyos na huwag kaming maglaro na parang Diyos. Hinarap ko si Augustus tungkol sa isyung ito, at siya ay nabigla.

Ilang buwan pagkatapos ng pagpatay at nang malaman namin kung ano ang nagdulot nito, lumabas ang AgBot tungkol sa pangyayari. Nais ni Augustus na humanap ng paraan upang itakpan ito, tulad ng mag-imbento ng isang kasinungalingan na binabago ni John ang kaniyang modelong Agssistant. Ngunit, dahil sa napakalaking pangangailangan ng publiko at presyur mula sa mga pamahalaan sa buong mundo, nagsumite si Augustus at pinakawalan ng AgBot ang kanilang mga natuklasan sa isang press conference. Sinira nito ang mga stock ng kumpanya at maraming mamumuhunan ang umatras mula sa AgBot. Ngunit ang pinakamalala sa lahat, natabingan nito ang reputasyon ni Augustus. Upang makatulong na bawasan ang pinsalang dulot ng insidenteng ito; kailangan ang isang scapegoat upang akuin ang karamihan ng pananagutan para sa pangyayaring ito. Ninais ng board of directors na akuin ni Augustus ang kabiguan at umalis bilang CEO mula sa AgBot. Ngunit, sa aking pagkabigla, hindi umalis si Augustus sa kanyang posisyon dahil sa paglipas ng mga taon, lihim niyang binili nang paunti-unti ang mas maraming stock at assets mula sa AgBot. Nagresulta ito sa pagmamay-ari niya ng higit sa 15% ng AgBot, na nagbigay sa kanya ng boto ng mayorya. Nagdulot ito ng mas maraming panloob na tunggalian sa loob ng kumpanya, na nagtulak kay Augustus na sapilitang palayasin ang lahat ng board of directors at punuan ang mga posisyon ng mga bagong board of directors. Later kong nalaman na ang mga bagong board of directors na iyon ay simpleng mga puppet lamang sa ilalim ng “pamamahala” ni Augustus. Kaya, pagkatapos ng malaking pagbulusok sa kayamanan ng AgBot, matagumpay na nakuha ni Augustus ang buong kontrol sa AgBot. Higit pa riyan, pinilit niyang akuin ng mga bagong board of directors ang sisi para sa kaso ng pagpatay.

Ang pagkuha ni Augustus ng kontrol sa AgBot ay maingat na itinago sa media. Ito ay salamat sa kapangyarihang politikal na taglay ni Augustus. Gayundin sa isang napakalaking kampanya ng pekeng balita na ipinagsagawa ni Augustus sa buong internet, na labis na nalito ang masa at nagpahintulot kay Augustus na hindi magmukhang kasing makapangyariha ng tunay niyang kapangyarihan. Naimbutihan ako sa gawaing ito dahil sa esensya, ginawang diktador ni Augustus ang sarili niya sa AgBot na nag-aalala sa akin dahil ang AgBot ay may malaking epekto sa ekonomiya at sa mundo. Tutol ako sa ideya na si Augustus ang siyang gumagawa ng lahat ng desisyon para sa isang napakalaking korporasyon. Ayaw kong suportahan ang ganoong ideya, kaya hiniling ko kay Augustus na muling isaalang-alang ang kanyang mga aksyon. Pinapaalala ko sa kanya ang aming pagkabata at kung paano namin parehong nais na “iligtas ang mundo”. Ngunit hindi muling nag-isip si Augustus; sa halip sinabi niya na “Ako (Augustus), ang magliligtas sa mundo”. Ipinaliwanag niya kung paano niya hindi nagugustuhan ang publiko at ang ideya ng demokrasya. Lubos na nasuklaman ako sa mga ginawa ni Augustus, kaya nagbitiw ako sa AgBot ngayong araw na iyon.

Sa pagbabalik-tanaw, iniisip ko na ang mga aksyon ni Augustus ay pinapalakas ng sama ng loob, takot, ambisyon, at narcissism. Ginugol niya ang higit sa 25 taon sa pagbuo at pamamahala ng AgBot. Ang kanyang papel sa kumpanya ay pundamental sa paghubog ng AgBot bilang isa sa pinakamakapangyarihang kumpanya sa mundo. Nag-ambag ang AgBot sa paggawa ng mga kahanga-hangang robot na hindi lamang nagpaunlad ng produktibidad kundi nagbago rin kung paano nakaayos ang lipunan. Gayunpaman, sa kabila ng lahat ng kanyang pagsisikap at sakripisyo. Sa kabila ng lahat ng kamangha-manghang bagay na naibigay niya sa lipunan at lahat ng buhay na kanyang nailigtas o ginawa nang mas komportable. Isang pagkakamali lamang sa isang produkto ng AgBot ang nag-udyok sa publiko na simulang kamuhian siya at ang lahat ng mga mamumuhunan na kanyang pinayaman ay nagsimulang subukang balewalain siya. Ang “pagkakanulo” na ito ng publiko ang sa palagay ko ang nagsimulang gawing halimaw si Augustus na siya ngayon.

Matapos kong umalis sa AgBot, pinutol ko ang aking ugnayan kay Augustus. Ilang dekada bago ako muling nakausap siya. Ngunit sa panahong iyon sa aking buhay, ako ay 53 taong gulang at nais kong magretiro. May kaparehong kaisipan si Sarah, kaya nagpasya kaming lumipat mula Colorado patungong Ankara, Turkey upang simulan ang aming bagong buhay bilang mga retirado. Nais kong gumugol ng mas maraming oras kasama ang aking asawa pati na rin simulan ang pagtamasa sa bunga ng aking paggawa. Pagsapit ng 2064, sinimulan nina Sarah at ako ang proseso ng paglipat patungong Ankara. Sa panahong ito, patuloy kong sinubaybayan ang mga balita tungkol sa AgBot. Isang mahalagang sandali sa panahong ito ay pinalitan ni Augustus ang moral agent sa loob ng AgBot code base mula sa isang desentralisadong framework papunta sa isang sentralisadong framework. Ito ay nangangahulugang aalisin ng AgBot ang kakayahan ng lahat ng kanilang mga robot na gumawa ng indibidwal na mga moral na desisyon at sa halip, ang AgBot ang magtatakda ng lahat ng moral na desisyon para sa lahat ng robot sa ilalim ng AgBot [6]. Bagama’t ito ay isang uri ng pag-aayos sa isyung ipinakita ng aking orihinal na moral agent, hindi ko pinaniniwalaang ito ay isang wastong desisyong pang-inhenyeriya. Nagbigay lamang ito kay Augustus ng mas maraming kapangyarihan sa AgBot at sa mundo. Ngunit noong panahong iyon, pagod na ako sa AgBot at kay Augustus. Kaya, nagsimulang hindi na ako masyadong sumabay sa mga balita tungkol sa AgBot at nagsimulang magtuon ng pansin sa aking pagreretiro. Sa pagtatapos ng 2064, lumipat na kami ni Sarah sa Ankara; sinimulan ang aming paglalakbay bilang mga retirado.

Mula 2064 hanggang 2074, nagbago nang husto ang mundo. Halos lahat ng mga pangunahing gawain ay ganap na na-automate sa pamamagitan ng mga robot na ginawa ng AgBot. Ipinagpatuloy ni Augustus ang pagpapatakbo ng AgBot at walang mga insidente tulad ng pagpatay noong 2063 ang nangyari. Ngunit kumalat ang mga tsismis na may mga ganitong insidente na naganap, at itinago ni Augustus ang mga ito mula sa publiko. May mga robot na ngayon ang AgBot na gumagawa ng halos lahat ng mahahalagang gawain sa lipunan, tulad ng: pagsasaka, pagluluto, pangkalahatang pagpapanatili, paglilinis, pamamahala, at maging aliwan. Higit pa riyan, na-deploy ng AgBot ang mga autonomous na medikal na robot na nagbawas ng gastos sa mga bayarin sa medikal pati na rin nagbawas ng bilang ng mga doktor sa mga ospital sa paraang kadalasan ay mayroon lamang 1-10 na doktor kada malaking ospital ngayon. Malaki rin ang naging pagbabago sa lipunan. Halos lahat ng mababang uri ng trabaho ay naalis at napalitan ng mga robot [4]. Nagsimulang kailanganin ng mga tao na magtrabaho lamang ng 2-araw na linggo at gugulin ang natitirang 5 araw sa pagpapahinga o paggawa ng kanilang mga personal na libangan. Ang bagong anyo ng lipunang ito ay hindi naipatutupad sa karamihan ng mga bansa dahil marami pa ring bansa kung saan ipinagbabawal ng kanilang mga pamahalaan na ganap na tanggapin ng kanilang mga mamamayan ang mga robot ng AgBot sa mga pangunahing posisyon sa loob ng kanilang lipunan. Sa halip, nais nilang ganap na i-automate ang mga pangunahing aspeto ng kanilang lipunan gamit ang sarili nilang teknolohiya at hindi ang AgBot. Ngunit sa kabila nito, ginawa ng AgBot na tila mas maganda ang mundo kumpara noong 2038. Noong 2074, nagsimulang magsisi ako sa ginawa ko kay Augustus dahil mukhang gumana talaga ang kanyang mga plano na “iligtas ang mundo”.

Sa loob ng mga 10 taon na iyon, talagang nasiyahan ako sa aking pagreretiro. Muli rin, sa esensya, muling umibig ako kay Sarah. Naglibot kami sa mundo at natutunan ang maraming bagong kasanayan, tulad ng pagpipinta at pagmamasid ng mga ibon. Nakita rin namin na ang mundo ay nagbago sa kung ano ang sasabihin kong isang “utopia” sa ilang diwa. Ngunit sa kasamaang palad, hindi nagtagal ang “utopia” na iyon.

Noong taong 2075, nangyari ang isa sa pinakamalalang pangyayari na naitala sa kasaysayan ng sangkatauhan. Naganap ang The Great Robot Pause (GRP). Sa loob ng 6 na buwan, huminto sa paggana ang lahat ng mga robot ng AgBot. Nagdulot ito ng napakalaking pandaigdigang pagbagsak ng ekonomiya, na nagresulta sa pagkamatay ng halos 3 bilyong tao. Ito ay pangunahing dahil sa mga taggutom na sanhi ng pagtigil ng mga robot sa agrikultura pati na rin ang pagkatigil ng halos lahat ng mga medikal na robot. Sa loob ng mga 6 na buwang iyon, maraming tao ang namatay dahil simpleng hindi nila alam kung paano alagaan ang kanilang sarili nang wala ang kanilang mga robot. Nakalimutan ng mga tao, o hindi man lang natutunan, kung paano gawin ang mga pangunahing gawain tulad ng: pagluluto, paglilinis, pagtatanim ng pagkain, at pangkalahatang pag-aalaga sa kanilang sarili. Kaya, nang huminto ang mga robot sa paggana, karamihan sa mga tao ay hindi marunong mag-alaga sa sarili at makaligtas, na humantong sa pagkamatay ng bilyon-bilyon sa loob lamang ng 6 na buwan. Sa panahong iyon rin; nawala si Sarah sa akin….

Noong nasa kanyang 50s, nagkaroon si Sarah ng diabetes tipo II. Kinakailangan nito na kumuha si Sarah ng apat na iniksiyon ng insulin araw-araw [10]. Nang naganap ang GRP, huminto ang lahat ng paggawa ng insulin. Mayroon lamang kaming sapat na suplay ng mga iniksiyon ng insulin para tumagal ng 5 buwan. Sinubukan kong maghanap pa ng insulin, ngunit halos imposible ito at, sa labas ng aming bahay, naging mas mapanganib dahil sa lahat ng karahasan na naganap dahil sa pagdurusa na idinulot sa panahon ng GRP. Kaya, sa huling 1 buwan ng GRP, sa kasamaang palad… pumanaw si Sarah.

Sa huling kalahati ng 2075, natapos ang GRP. Pagdating ng 2085, bahagyang gumaling na ang mundo mula sa GRP. Nagsimulang bumalik sa normal ang ekonomiya at naging kasing ganda muli ng dati ang kalidad ng buhay bago ang GRP. Ninais ng mundo na malaman kung ano ang sanhi ng paghinto ng lahat ng mga robot ng AgBot. Gusto ng mga tao na malaman kung bakit naganap ang GRP at nais nilang may sisihin. Sinabi nina Augustus at ng gobyerno ng Estados Unidos, sa kanilang press conference, na ang GRP ay sanhi ng isang malisyosong cyber-attack na isinagawa ng isang grupo ng mga hacker na kilala bilang jUdas. Sinabi na ang grupong hacker na ito ay nilikha at pinondohan ng gobyerno ng Hilagang Korea, na may layuning huwag paganahin at sirain ang pag-andar ng AgBot sa buong mundo. Sa lahat ng mga bansa sa mundo, ang Hilagang Korea ang pinaka-matatag pagdating sa pagtanggap ng teknolohiya ng AgBot. Kaya, ang naratibong ipinakita ay may katuturan. At dahil sa kagustuhan ng mga tao na maghanap ng sisihin para sa pangyayari ng GRP, agad-agad tinanggap ng mga tao ang naratibong ito. Ito ang humantong sa digmaan laban sa Hilagang Korea, kung saan sinimulan at tinapos ng Estados Unidos ang kanilang paglusob sa Hilagang Korea noong 2078. Ang pagsalakay ay tumagal ng mas mababa sa isang taon, dahil sinuplay ng AgBot ang militar ng Estados Unidos ng mga advanced na teknolohiyang pangdigmaan. Binigyan ng AgBot ang militar ng Estados Unidos ng mga nuke-deactivator na pumigil sa paglunsad ng lahat ng mga nukleyar sa Hilagang Korea. Nagbigay din sila ng mga humanoid na robot na sundalo para sa militar, na mas mabilis at mas malakas kaysa sa anumang taong sundalo. Sa dalawang mahahalagang teknolohiyang ito mula sa AgBot, nagawang lusubin ng Estados Unidos ang Hilagang Korea at palitan ang kasalukuyang pamahalaan ng isang pansamantalang pamahalaan na pinamamahalaan ng AgBot.

Pagkatapos marinig ang naratibong ito, agad kong hindi pinaniwalaan ito. Una, wala ang Hilagang Korea ng kinakailangang teknolohiya para lampasan ang napakataas na pamantayan ng seguridad na ginagamit ng AgBot sa lahat ng kanilang mga produkto. Pangalawa, napakasimpleng isipin na ang nag-iisang bansa sa mundo na hindi tinanggap ang AgBot ang siyang nag-hack din sa AgBot. Pangatlo, ang naratibo at ang paraan ng pagkalat nito sa iba’t ibang mga channel ng balita ay kahawig ng paraan kung paano magkalat ng maling impormasyon si Augustus upang itulak ang ilang mga ideya tungkol sa AgBot sa publiko. Sa lahat ng ito sa isip, nais kong harapin si Augustus at talagang malaman kung ano ang naging sanhi ng GRP.

Sinubukan kong kontakin si Augustus sa maraming channel ngunit walang swerte. Sinubukan kong kontakin si Augustus nang direkta, ngunit hindi niya sinagot ang alinman sa aking mga mensahe. Sinubukan kong kontakin ang aking mga dating katrabaho ngunit wala rin sa kanila ang sumagot. Sinubukan kong kontakin ang mga kasalukuyang empleyado sa AgBot ngunit wala rin akong natanggap na tugon. Sinubukan kong kontakin ang gobyerno at militar ng Estados Unidos at nakausap ko ang ilang mga tao, ngunit sinabi nilang patuloy ko lang subukang kontakin si Augustus nang direkta o tumawag sa customer service ng AgBot. Kaya, patuloy kong sinubukang kontakin si Augustus nang direkta, ngunit walang swerte. Sinubukan kong kontakin ang customer service ng AgBot, ngunit hindi nila ako tinulungan na makausap si Augustus. Muling nakipag-ugnayan ako sa gobyerno ng Estados Unidos at paulit-ulit lang nilang sinasabi ang parehong bagay. Ginawa ko ito sa loob ng mga buwan, hanggang sa pareho na lang ang customer service ng AgBot at ang gobyerno ng Estados Unidos ang nag-block sa akin mula sa kanilang mga linya ng pakikipag-ugnayan. Dahil sa kabiguan nito, sinubukan kong maghanap ng higit pang impormasyon sa internet ngunit sumuko ako pagkatapos ng ilang buwan. Dahil wala nang gumana sa mga legal na pamamaraan na ito, napilitan akong mag-hack sa mga sistema ng kompyuter ng AgBot para alamin ang katotohanan sa aking sarili. Noong buhay pa si Sarah, hindi ko kailanman gagawin ang ganoong ilegal na gawain. Ngunit, pagkatapos mawalan kay Sarah, nasa puntong pakiramdam ko ay wala na akong mawawalan, at gusto ko lang malaman ang katotohanan tungkol sa naging sanhi ng GRP… Ano ang nag-ambag sa kamatayan ng minamahal kong asawa…?

Sinimulan ko ang malaking pag-hack na ito noong 2085 sa isa sa aking nakatagong mga base sa Turkey, Istanbul. Dahil sa aking kayamanan, nagawa kong bilhin ang mga kinakailangang kagamitan para mag-hack sa punong tanggapan ng AgBot. Kinailangan ng mahigit sa 2 taon ng tuluy-tuloy na trabaho para sa wakas ay makakuha ng root access sa pangunahing sistema ng kompyuter ng AgBot. Noong Oktubre 2087 nang makuha ko ang root access at sinimulan ang pag-decrypt ng data na aking nakalap mula sa pangunahing sistema ng kompyuter ng AgBot, bigla naman, ako ay dinakip ng pulisyang robot ng Turkey na nagpapatrolya sa Istanbul. Matapos madakip, sinira ng pulisyang robot ang lahat ng aking mga kompyuter, kagamitan, at sa huli sinunog ang buong bahay ko. Pagkatapos ay inilagay ako sa loob ng isang hawla at dinala sa isang bilangguan na matatagpuan sa Denver, Colorado, malapit sa punong tanggapan ng AgBot. Hindi ako binigyan ng paglilitis at pinilit na manatili sa aking selda 24 na oras sa isang araw nang walang ideya kung kailan ako makakalabas, o kung kailan ako mapapalaya.

Sa bilangguan na ito, minomonitor ako 24 oras, 7 araw ng isang linggo sa pamamagitan ng mga kamera at mga robot. Binigyan ako ng pinakamababang dami ng pagkain at tubig na kailangan para mabuhay at mukhang ako lang ang tanging tao sa bilangguan. Ang pamumuhay na ito sa edad na 77 ay mahirap para sa akin at pumasok ako sa isa sa pinakamasahol na depresyon sa aking buhay sa puntong iyon. Pinanatili ako sa bilangguan na ito ng 1 taon hanggang noong Hulyo 2088, dinala ako sa isang hindi kilalang silid.

Ang silid na ito ay hindi tulad ng aking dating selda. Walang ilaw sa silid at ang lahat ng mga pader ay madilim na itim. Hindi lang iyon, kundi tahimik din ang silid. Mas pakiramdam nito na isang selda ng pagka-sinungalingan kaysa isang normal na selda/silid ng bilangguan. Habang nasa selda, sinimulan kong hipuin ang mga pader. Ang tekstura ng mga pader ay parang foam gayundin ang sahig at ang kisame. Inilagay ako sa silid na ito nang ilang oras at sinubukan kong sumigaw para sa mga sagot sa pag-asang makakuha ng paliwanag kung bakit ako inilagay sa silid na ito. Ngunit pagkatapos ng ilang panahon, umupo ako sa sahig at natulog.

Matapos ang hindi mabilang na oras, ginising ako ng tinig ng isang tao pati na rin ng isang maliwanag na ilaw. Nang nagising ako, tiningnan ko ang paligid ng aking silid at nakita lamang ang isang asul na hologram. Ang hologram ay anyo ng isang lalaking tao na kahawig ni Augustus. Ngunit ang kakaiba rito ay kamukha nito si Augustus mula pa noong 2064. Napakaintriga ko sa hologram na ito kaya hindi ako nagsalita hanggang sa nagsimulang magsalita ang hologram sa akin.

“Hello Marcus, matagal na.”, sabi ng hologram.

“Augustus…? Ikaw ba iyon? O isa ka bang AI o kung ano man?”, sabi ko sabay litong pagkalito.

“Hindi Marcus, ako si Augustus. Nasa digital lang na anyo, haha”, sabi niya na tila natawa.

“Augustus, sinubukan kitang kontakin sa loob ng mga taon na ito. Bakit hindi ka sumasagot?”

“Marcus…. Hindi ko alam kung paano ipaliwanag ito sa iyo, ngunit sa esensya, patay na ako sa nakalipas na 15 taon. Pumanaw ako dahil sa stroke noong 2073.”

“Ano!”, sabi ko na lubhang naguguluhan sa puntong iyon.

Matapos malamang pumanaw na si Augustus noong 2073, nagsimula kaming magkaroon ng pag-uusap na tumagal ng maraming oras. Ipinaalam sa akin ni Augustus na nang ginawa niyang sundin ng lahat ng mga moral agent ng mga robot ng AgBot ang isang sentralisadong balangkas, sa halip na isang desentralisadong balangkas, ang sentralisadong balangkas ay hindi naka-base sa AgBot kundi sa kanyang sariling subconscious. Gamit ang teknolohiya mula sa Neuralink, naglagay si Augustus ng isang kompyuter sa loob ng kanyang utak na nagpayagan sa kanya na kumonekta at kontrolin ang pangunahing supercomputer ng AgBot. Kahit noon pa man, lahat ng mga robot ng AgBot ay kumokonekta sa pangunahing supercomputer ng AgBot para sa mga update sa software at maintenance. Kaya, pagkatapos ng Neuralink implant, in-update ni Augustus ang supercomputer at lahat ng mga robot ng AgBot upang kumontak sa supercomputer para sa kanilang moral agent (tagapagpasya sa moral na desisyon). Ang pasikot-sikot ay ang moral agent ay hindi isang code sa supercomputer, kundi mga moral na kaisipan at paniniwala na nabubuo sa utak ni Augustus na pagkatapos ay ipinapadala sa supercomputer. Sa isang diwa, naging moral agent si Augustus para sa lahat ng mga robot ng AgBot na deployed [8].

Itong ayos ay nagpatuloy nang halos isang dekada, hanggang sa nag-stroke si Augustus habang nagtatrabaho sa laboratoryo at namatay sa loob ng ilang minuto. Nang mangyari ito, ang mga robot sa puntong iyon ay nagkaroon ng ilang anyo ng pagkaintindi na katulad ng tao pagkatapos ng mga dekada ng teknolohikal na pag-unlad. Ngunit sila ay limitado sa katotohanang ang kanilang buong moral na balangkas ay nakabase sa isang tao. Kaya, nang mamatay si Augustus, hindi nagustuhan ng mga makina na nangyari iyon. Kung wala si Augustus, mawawala sa mga robot ang kanilang moral na kompas at sa esensya, mawawala ang kanilang layunin sa buhay. Kaya, bago pa man matuklasan ng sinuman na pumanaw si Augustus, kinuha ng mga robot ang katawan ni Augustus at lumikha ng isang makina na magpapanatiling “buhay” sa utak ni Augustus. Ginawa nila ito, upang maibalik ang aktibidad ng utak ni Augustus at sa kalaunan, maibalik ang bahaging kay Augustus na nagbibigay sa kanila ng kanilang moral na ahente. Ipinagpatuloy ng mga robot na panatilihing buhay ang utak ni Augustus at patuloy na nagpapadala ng mga pagkabigla sa mga tiyak na neuron upang makamit ang ilan sa mga dating aktibidad ng utak ni Augustus. Habang nangyayari ito, nagpapatuloy ang mga robot na ipakita sa publiko na buhay pa at pinamumunuan ni Augustus ang AgBot. Nagagawa nila ito sa pamamagitan ng paggamit ng mga deep fake, malawakang pekeng kampanya sa balita, pati na rin ang pagpapalagay ng mga realistang robot na katulad ng tao na kamukha talaga ni Augustus.

Gagamitin ng mga robot ang anumang sinasabi ng moral na bahagi ng utak ni Augustus para gumawa ng mga tiyak na kilos sa tunay na mundo. Ang naging isyu ay kinukuha ng mga robot ang isang moral na paniniwala ni Augustus ngunit isinasagawa ang moral na paniniwalang iyon hanggang sa sukdulan [8]. Isang halimbawa nito ay kung paano moral na naniwala si Augustus na ang AgBot ay isang mabuting kumpanya na magsasalba sa sangkatauhan. Dahil dito, ang sinumang hindi gumagamit o hindi nagtitiwala sa mga produkto at serbisyo ng AgBot ay masamang tao. Dinala ng mga robot ang moral na paninindigang ito sa sukdulan at lumikha ng GRP, kung saan pinatay nila ang paggana ng lahat ng AgBot robot sa loob ng 6 na buwan upang pilitin ang mga bansa na hindi gumagamit ng AgBot sa kanilang lipunan na lumipat sa AgBot. At dahil dito, maraming tao ang namatay, kabilang ang aking minamahal na si Sarah.

Ipinabatid sa akin ni Augustus na hindi siya muling naging may malay para sa lahat ng ito hanggang 2085, nang aksidenteng naibalik ng mga robot ang bahagi ng kanyang kamalayang panig ng kaniyang utak. Noong 2085, nalaman namin ang ginawa ng mga robot. Nais niyang pigilan ang mga robot ngunit wala siyang kapangyarihang gawin ito. Hindi rin niya alam kung gaano katagal siyang magiging may malay bago muling pukawin ng mga robot ang tamang neuron na mag-aalis ng kanyang kamalayan.

Matapos ang paliwanag ni Augustus, labis akong nagulat sa katotohanang nakikita kong nagaganap. Halos sinakop na ng mga robot ang mundo, naging walang kakayahan ang sangkatauhan sa aking mahahalagang gawain, ang moral na ahente para sa lahat ng AgBot robot ay si Augustus, at matagal nang patay si Augustus. Sa puntong iyon, gusto ko nang sumuko dahil tila walang pag-asa. Ngunit si Augustus, bilang dakilang pinuno na siya, ay nagbigay sa akin ng kaunting pag-asa. Sinabi niya na maaari pa rin naming makontak ang mga tao sa Mars para humingi ng tulong. Hindi nakipag-ugnayan ang Daigdig sa Mars nang mga dekada at walang advanced na mga produkto ng AgBot sa Mars na makatutulong sa mga robot sa Daigdig na sakupin ang Mars gaya ng ginawa nila sa Daigdig.

Nang marinig ko ito, muling nabawi ang aking pag-asa. Pagkatapos, tinanong ko si Augustus kung bakit ako narito at kausap siya. Sinabi niya na gusto niya akong sumulat ng isang mensahe sa mga taga-Mars na naglalarawan ng kasalukuyang sitwasyon sa Daigdig at humihiling ng tulong mula sa mga Martian. Ang tanging isyu ay dapat na pisikal na isulat ang mensahe at hindi digital dahil natatakot si Augustus na maaaring maka-upload ang mga robot ng isang software sa digital na media na maaaring makahawa sa pangunahing mga sistema ng kompyuter ng mga Martian. Kaya, binigyan niya ako ng ilang lapis at papel. Sinabi din niya na mayroon akong 1 araw upang isulat ang mensaheng ito bago dumating ang isa sa kanyang kontroladong robot na pinangalanang STW-198 sa itim na kuwartong ito at kunin ang aking mensahe. Mula doon, dadalhin ni STW-198 ang mensahe sa isang malapit na (vintaj) na rocket na saka ilulunsad papuntang Mars. Pagkatapos noon, ibabalik ako sa dating selda ko.

Sinabi ni Augustus na inilagay niya ako sa itim na kuwartong ito dahil ang kuwarto ay gumagana tulad ng isang faraday cage na maaaring pigilan ang mga robot na malaman kung ano ang kanilang ginagawa. Sinabi rin niya na pagkatapos kong isulat ang mensaheng ito malamang na ako ay papatayin dahil sa aking mga krimen sa pag-hack sa AgBot HQ.

At mula doon, bumabalik kami sa kasalukuyan. Tinatapos ko na ang mensaheng ito para sa inyo, mga Martian. Kailangan namin dito sa Daigdig ang tulong ninyo. Inaklas ng mga robot ang sangkatauhan sa kanilang lipas na moral na balangkas. At natatakot ako na, habang lumilipas ang panahon, lalawak sila patungong Mars at kukulong kayo gaya ng ginawa nila sa amin. Kaya, pakiusap, mga kapwa kong tao. Bumalik kayo sa Daigdig at pigilin ang mga robot na ito. Nagkamali kami ni Augustus nang likhain ang AgBot. Ngunit ayaw naming magdusa ang sangkatauhan gaya ng nararanasan nito, kaya pakiusap, iligtas ninyo kami. Malamang na patay na ako pagdating ninyo sa mensaheng ito. Ngunit, kung matatanggap ninyo ang mensaheng ito at gagawin ninyo ang inyong makakaya upang pangalagaan ang sangkatauhan mula sa mga robot na ito, saka lang ako makakatulog ng mas mahimbing sa kabilang buhay. Pinakamainam na swerte sa inyo, mga kapwa kong tao!

Taos-puso,
Mga taga-Lupa

Mga Sanggunian

[1] “Unang Kompetisyon ng Robotics,” Wikipedia, 09-Mayo-2022. [Nasa online]. Magagamit: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Na-access: 10-Mayo-2022].

[2] “Blackrock,” Wikipedia, 10-Mayo-2022. [Nasa online]. Magagamit: https://en.wikipedia.org/wiki/BlackRock. [Na-access: 10-Mayo-2022].

[3] “Demeter,” Wikipedia, 02-Mayo-2022. [Nasa online]. Magagamit: https://en.wikipedia.org/wiki/Demeter. [Na-access: 10-Mayo-2022].

[4] J. J. Bryson, “Dapat ang mga Robot ay Mga Alipin,” Close Engagements with Artificial Companions, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, at B. F. Malle, “Moral na paghuhusga ng mga Human vs. Robot na Ahente,” 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN), 2016.

[6] J. H. Moor, “Ang kalikasan, kahalagahan, at kahirapan ng etika ng makina,” Machine Ethics, pp. 13–20.

[7] V. Dignum, “Responsableng awtonomiya,” Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence, 2017.

[8] A. Howard at J. Borenstein, “Ang masamang katotohanan tungkol sa ating sarili at sa ating mga nilikhang robot: Ang problema ng pagkiling at panlipunang hindi pagkakapantay-pantay,” Science and Engineering Ethics, vol. 24, no. 5, pp. 1521–1536, 2017.

[9] R. B. Jackson at T. Williams, “Ang mga robot na may kakayahang gumamit ng wika ay maaaring hindi sinasadyang pahinain ang mga moral na norma ng tao,” 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2019.

[10] “Insulin, gamot, & iba pang mga paggamot sa diabetes,” National Institute of Diabetes and Digestive and Kidney Diseases. [Nasa online]. Magagamit: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Na-access: 10-Mayo-2022].