Arka Hikâye

Colorado School of Mines’deki lisans eğitimimin son döneminde, Robot Etikleri (HASS400) dersim için final ödevi olarak kısa hikaye Azalan Kral’ı yazdım. Bu ödevde, robotik etiği konu alan ve dönem boyunca okuduğumuz bazı makalelere hikaye içinde atıfta bulunan kurgusal bir kısa hikaye yazmamız istendi. Hikayenin şartı 10 sayfa olmasıydı, ben ise 21 sayfa yazdım. Bu kısa hikayeye çok tutkulu bir şekilde bağlandım, bu yüzden ona delice daldım.

Şimdi, UYARI, iyi bir yazar değilim. Bu yüzden bu kısa hikaye mükemmel değil ve düzenleme ile büyük bir yeniden yazım gerektiriyor. Ancak ondan gurur duyuyorum ve eğlenceli bir okuma olduğunu düşünüyorum. Okul yıllarım boyunca yazma sürecinden zevk almaya başladım, bu yüzden bloglar, makaleler vb. gibi başka şeyler yazmaya genişletmeyi umuyorum.

Bunların hepsini bilerek, orijinal kısa hikaye ödevin gerekliliği olarak bir PDF dosyası olarak kaydedildi. Ancak, kağıdın boyutunu azaltmak için hikayeyi markdown’a dönüştürdüm. Bunu bilerek, tüm kısa hikaye aşağıda görüntülenebilir/okunabilir. Umarım okumanın tadını çıkarırsınız, bu kısa hikaye hakkında sorularınız veya görüşleriniz olursa sosyal medya hesaplarımdan benimle iletişime geçin.

Okumaya devam ederek Azalan Kral‘ı keşfedin…

AZALAN KRAL

Mehmet Hanifi Yilmaz
May 10, 2022

Özet

Gelecekte, Dünya’nın kaderi bir ip gibi sallanırken, teknolojik bir dâhi olan Marcus Bruce ve vizyoner bir lider olan arkadaşı Augustus Elrod, gelişmiş robotik aracılığıyla dünyayı dönüştürme görevine çıkıyorlar. Yaratımları AgBot, küresel tarım ve sanayiyi devrim niteliğinde değiştirerek ütopyacı bir gelecek vaat ediyor. Ancak teknoloji imparatorlukları büyüdükçe, öngörülmeyen sonuçlar insan ahlakı ve özgürlüğünün özünü zorlayacak. Büyük Robot Durdurulması olarak bilinen felaket bir olay insan varlığını tehdit ettiğinde, Marcus miraslarının karanlık yönüyle yüzleşmek ve gezegenler arası yardım istemek zorunda kalacak. “Azalan Kral”, hırs, güç ve insan ile makine arasındaki hassas dengeyi sorgulamamızı sağlayan, ilerlemenin gerçek maliyetini düşünmeye sevk eden bir hikaye.

Hikâye

Ben buradayım, Dünya’nın şu anda içinde bulunduğu kritik durumdan sizi haberdar etmek için! Uygun şekilde ele alınmazsa, bu durum insanlığı kolayca yokluğa sürükleyebilir. Bu durumu birkaç cümleyle açıklayabilseydim iyi olurdu, ama ne yazık ki bu durumun karmaşıklığı, onun nasıl ortaya çıktığını açıklamamı gerektiriyor ki siz gerçekten ağırlığını anlayabilesiniz.

Ben, Dünya’nın mevcut durumuna yol açan kilit faktörlerden biriyim, bu yüzden en azından kendimi tanıtayım. Adım Marcus Bruce, 2010 yılında Colorado’da Ouray adlı küçük bir kasabada doğdum. Ouray, güzel dağlarla çevrili bir banliyö bölgesidir. İki lise öğretmeni ebeveynin çocuğuyum. Babam matematik öğretmeni, annem ise fen öğretmeniydi.

Erken çocukluğumdan çok şey hatırlamıyorum çünkü gerçek bilinç kazandığımı 12 yaşında, yani 2022’de söyleyebilirim. O yıl, ortaokuldaydım ve matematik ve fen bilimlerinde gerçekten üstün bir çocuk dâhisi olarak kabul edildim. Okul müdürüm, ebeveynlerimin beni 7. sınıftan 11. sınıfa atlamasını istedi. Ancak ebeveynlerim, normal bir çocukluk geçirmemi istedikleri için müdürün önerisine karşı çıktılar. Bu karara minnettarım çünkü harika bir çocukluk geçirdiğimi hatırlıyorum. Teknolojiyle daha fazla bütünleşen bir dünyada, tamamen ona tüketilmemiş bir zaman diliminde bir çocukluk. Şimdi, bir dâhi olduğumu öğrenmek 2022’yi benim için özel bir yıl yaptı. Ancak 2022’yi gerçekten özel kılan, o yıl uzun vadeli bir gelecekteki arkadaşım Augustus Elrod ile tanışmam oldu. Augustus, Dünya’yı şu anki konumuna getiren kilit olayları temelde oynayan kişi.

Augustus ile 7. sınıfta yerel Lego robotik kulübümüzde tanıştım. Augustus’un karakteristik özellikleri hakkında ilk fark ettiğim şey, ne kadar hırslı ve azimli olduğuydu. 12 yaşındaki bir çocuk olmasına rağmen, Augustus yerel Lego robotik ekibimizi Birleşik Devletler ulusal şampiyonluğunu kazanmaya yönlendirebilen gerçek bir liderdi. Bu, ekipteki herkesin sadece ortaokul öğrencisi olması ve robotik mühendisliğini öğrenmeye pek ilgi göstermemesi göz önüne alındığında gerçekten etkileyiciydi. Ancak Augustus sadece bu çocukları öğrenmek ve kazanmak istemeleri için motive etmekle kalmadı, aynı zamanda onları zaferle sonuçlandırdı. Hepimiz Augustus’u liderimiz olarak saygı duyduk ve Augustus pek çok kişiye saygı göstermedi. Ancak zekâsı için bana saygı duydu. İlk olarak zekâsı için beni fark etti ve yaşıtları arasında kendisinden daha zeki birini gördüğü için şaşırdı. Augustus sınavlarda benimle yarıştı ama her zaman kaybetti. Ancak ben her zaman zihinsel olarak Augustus’u yenerken, spor dallarında o beni yeniyordu. Ders sonrası basketbol ve futbol oynardı. Bu sporlarda o kadar iyiydi ki, büyüdüğünde profesyonel bir sporcu olacağını düşünenler çoktu. Birbirimize duyduğumuz bu saygı, sonunda yetişkinliğimize kadar süren uzun bir arkadaşlığa yol açtı.

Ortaokul yıllarımızdan sonra 2024’te liseye başladık. Lise yıllarımızda, hem ben hem de Augustus FIRST Robotics Competition (FRC) [1] yarışmasına katıldık. FRC, Amerika Birleşik Devletleri’ndeki en büyük robotik yarışmaydı ve çoğunlukla lise öğrencilerinden oluşuyordu [1]. FRC yaparken mekanik, elektrik ve bilgisayar mühendisliği hakkında çok şey öğrendik. Augustus’un muhteşem liderlik becerileri sayesinde iki yıl üst üste ulusal şampiyonluğu kazandık ki bu o zamanlar duyulmamış bir şeydi. Ayrıca bu dönemde birden fazla matematik yarışmasına katıldım ve etik temelli konularda tartışmalara girdim. Aynı zamanda Augustus basketbolda da hakimiyetini sürdürdü; lise varsity takımını üst üste 3 yıl ulusal şampiyonaya taşıdı. Her ikimiz de kendi alanımızda yetenekli öğrenciydik. Ancak bu dönemde hem ben hem de Augustus hayat hedeflerimizi geliştirdik ve iyi ya da kötü, bu hedefleri sonuna kadar takip ettik.

Lisedeyken, hayat amacımın teknolojiyi kullanarak dünyayı daha iyi bir yer haline getirmek olduğunu keşfettim. Dünyanın mükemmel olmayacağını ve her zaman kusurlu olacağını kabul ettim. Ancak o zamanlar, yeterince çalışırsam dünyanın yükünü hafifletebileceğime ve daha iyi bir gelecek yaratabileceğime inanıyordum. Augustus’un da benzer hedefleri vardı ama biraz farklıydı. Augustus’un hırslı olduğunu biliyordum, ama hayatıyla ne yapmak istediğini lise son sınıfına kadar gerçekten bilmiyordum.

Lise son sınıfımızda, hem ben hem de Augustus Massachusetts Institute of Technology (MIT)’e kabul edildik ve gitmeye karar verdik. Augustus’a NBA’de draft edilme fırsatı sunuldu, ama bu teklifi reddederek MIT’ye gitmeyi seçti. Bunu ilk olarak Augustus’un ebeveynlerinden duydum ve ardından Augustus’u aradım, konuşmamız şöyle geçti:

“Augustus, NBA’ya neden hayır dedin? Bu bir ömür boyu bir kez gelen bir fırsat”, diye şaşkınlık içinde söyledim.

“Marcus, NBA eğlenceli olurdu, ama sadece eğlenceli. Dünya’yı değiştirmez. Aksine, bu dünyayı düzeltmekten beni uzaklaştırır”, dedi Augustus kendinden emin bir şekilde.

“Dünyayı değiştirmek mi? Ne demek istiyorsun?”

“Evet, dünyayı değiştirmek! Marcus, insanlığı daha iyi bir geleceğe yönlendirmek istiyorum. Dünyayı kurtarmak istiyorum!”

Birkaç saniye durakladım, beklediğimden daha fazla şaşırmıştım.

“Dünyayı kurtarmak mı? Ne demek istiyorsun?”

“Marcus, sen ve ben yetenekliyiz. İkimiz de dünyaya yardım etmek istiyoruz. Sen entelektüel olarak öne çıkıyorsun, ben ise lider olarak. Bunun yanı sıra sana güveniyorum Marcus. Senin ve benim becerilerimizle, dünyayı daha iyiye dönüştürebilecek teknolojiyi geliştirebilir ve dağıtabiliriz. Bunun konusunda eminim!”

“Vay canına, düşündüğümden daha hırslısın Augustus!”, dedim hafif bir kahkaha eşliğinde, “ama bu görevi nasıl başaracağımızı söyleyebilirsin?”

“Kısa cevap şu Marcus; bir teknoloji işi kurmayı planlıyorum. Sonra siyasete genişleyeceğim. Bununla hem finansal hem de politik güç kazanacağız. Ve oradan dünyayı değiştirebiliriz. Bu planda kritik bir rol oynayacaksın, Marcus!”

“Tamam, Augustus. Bu hâlâ çok hırslı. Ama bir planın olduğunda ve bana ihtiyacın olduğunda, orada olacağım.”

“Teşekkürler dostum, MIT’de görüşürüz!” dedi Augustus heyecanlı bir tonda.

O zamanlar bu konuşma bana pek bir şey ifade etmiyordu. Augustus’un harika olduğunu biliyordum, ama hayalleri bir gelecekten çok hayal gibi geliyordu. O zaman iddiasını ciddiye almadım. Ancak her şey değişecekti. Her ne olursa olsun, 2028’di ve MIT’de lisans eğitimime başlamayı dört gözle bekliyordum.

Aynı yıl, 2028, Amerika Birleşik Devletleri hükümeti, NASA ve SpaceX daha fazla insanı Mars’ı kolonileştirmek için göndermeye başladı; bu da mühendislik okumaya başlamak için heyecan verici bir zamandı. Sadece 2 yıl önce, sadece birkaç kişiyi kırmızı gezegene gönderip geri getiriyorlardı. Ama şimdi, onlar ve dünyanın geri kalanı, Mars’a daha fazla insan göndererek orada yerleşim kurmaya başladı. Bu, insanlık tarihindeki gerçek bir dönüm noktasıydı ve robotik araştırmalarında büyük bir talep ve gelişmeye yol açtı; bu da benim robotik alanında uzmanlaşmak istemem açısından harikaydı.

2030 yılında, hem ben hem de Augustus MIT’de ikinci yılımızı tamamladık. Ben robotik ve etik çift anadal yapıyordum, Augustus ise robotik ve siyaset bilimi anadal yapıyordu. Ancak üniversitenin ikinci yılından sonra Augustus üniversiteyi gerçekten sevmemeye başladı. Onu, “dünyayı kurtarmak” hayalini gerçekleştirmek için faydalı bir araç olarak görmedi. Bu yüzden ikinci yılında Augustus çoğu dersini kaçırdı ve çoğunu da başarısız olarak tamamladı. Derse gitmek yerine, Augustus yapay zeka destekli bu yazılımı geliştirmeye odaklandı; bu yazılım varlıkları ve hisse senetlerini etkili bir şekilde yönetecekti. O zamanlar BlackRock’un Aladdin yazılımından daha iyi bir varlık yönetim yazılımı yapmak istedi [2]. Yazılımına o kadar güveniyordu ki, ikinci yılının ardından MIT’den ayrıldı ve geliştirdiği bu yeni yazılımla ilk iş girişimini sürdürdü. Mayıs 2030’da yurt odasından taşındı ve New York City’ye gitti. Augustus’un okulu bırakmasından dolayı üzülmüştüm ancak bu yılın iyi bir yanı, gelecekteki eşim Sarah Raven ile tanışmam oldu.

Şimdi, 2038 yılına atlayalım. Augustus, 28 yaşında çok milyoner haline geldiği için haberlerde her yerdeydi. Yazılımını BlackRock’a satıp büyük bir miktar para kazandıktan sonra, Augustus’un adı altında neredeyse 100 milyon dolar nakit ve bazı BlackRock hisse senedi opsiyonları vardı. Augustus finans dünyasını fethederken; ben de Hem Zekâ Robotik Sistemleri hem de makine etiği alanında iki doktora derecesini yeni bitirmiştim. Üstelik 2038 yazında Sarah ve ben evlendik. Augustus’u düğünümde davet ettim ve neredeyse 8 yıl sonra onu düğünümde ilk kez gördüm. Eğlenceli bir geceydi, ancak düğün bitmek üzereyken Augustus, boş zamanım olduğunda beni aramamı istedi. Bu yüzden Sarah ile balayına gittikten sonra Augustus’u aradım.

Neredeyse 2 saat konuştuk ve bu süre içinde hayatlarımızı güncelledik, fakat daha sonra Augustus telefonla ciddi bir konuya girdi. Augustus, benim büyük miktarda öğrenci borcum olduğunu ve henüz bir iş bulamadığımı biliyor. Bu yüzden bana bir iş teklif etti. Bu, onun yeni iş girişiminde ortak kurucu olmamı içeriyordu. Bu yeni iş girişimi, AI ve robotik aracılığıyla tarımı otomatikleştirmeye odaklanan bir startup olan AgBot’tu. Augustus, teknik becerilerimin bu akıllı robotik sistemlerin geliştirilmesi için gerekli mimariyi oluşturmakta değerli olacağına inanıyor ve beni AgBot’un ortak kurucusu olarak görmek istiyordu. Ayrıca, son ortağının yazılımını BlackRock’a satmaya zorlamasından sonra güvene ne kadar değer verdiğini ve bana güvendiğini söyledi. Bu teklifi duyunca hemen kabul ettim çünkü projeye çok heyecanlıydım ve doğruydu; o zamana kadar büyük bir borç içindeydim ve iş teklifi yoktu.

AgBot resmi olarak 2038’de kuruldu. Ben ve Sarah, AgBot’un bulunduğu Colorado’ya geri taşındık. Hemen ardından Augustus ve ben AgBot’u inşa etmeye başladık. 5 yıl boyunca, AgBot’un şu anki konumuna gelmesi için hem benim hem de Augustus’un attığı kilit adımlar oldu. İlk olarak, Augustus şirketine kendi sermayesini yatırdı. Bu, bazı prototipleri kanıt konsepti olarak inşa etmeye başlamamız için ihtiyacımız olan her şeyi almamızı sağladı. Ayrıca Augustus, AgBot için kilit teknolojileri geliştirecek diğer geliştiricileri benim altında çalıştırmak üzere işe aldı. Bu dönemde, ilk ürünümüz Demeter’i geliştirmeye başladık ve sonunda piyasaya sürdük [3]. Demeter, yüksekliği ayarlanabilir bacaklara sahip 4 tekerlekli bir bacaklı robottur. İki delta robotik kol ve iki 6 eksenli robotik kol içerir. Demeter’in amacı, erken gelişim aşamalarında tarım ürünlerini böcekler, hayvanlar ve hastalıklardan korumak için bu ürünleri izlemek ve yönetmektir. Ayrıca çilek gibi kolay otomatikleştirilemeyen bitkilerden ürün toplamak için de kullanılabilir. Robotun kendisiyle birlikte, Demeter kendi şarj istasyonu ve bir drone ile birlikte gelir. Demeter otomatik olarak kendini şarj edebilir ve drone formunu kullanarak büyük tarım alanlarını kontrol eder; hangi ürünlerin en çok bakıma ihtiyacı olduğunu belirler. Bu robot bir ölçüde otonomdu, ancak hâlâ bir insanın Demeter’i izleyip onarması gerekiyordu. Ancak Demeter’in sağladığı ana avantaj, bir çiftçinin aynı anda 1000 dönüm araziyi yönetebilmesiydi; bu daha önce hiç mümkün olmamıştı.

Demeter, Mayıs 2043’te halka açık olarak piyasaya sürüldü ve rekor satışlar elde etti. Demeter’in ileri özellikleri ve Augustus ile ekibinin muhteşem pazarlama kampanyası sayesinde, Demeter anında tükendi. Bu, diğer yatırımcıları da güvence altına aldı ve diğer yatırımcılardan büyük bir fon artışı sağladı. Bu ek fon, AgBot’un operasyonlarını ve geliştirme ekibini genişletmesine yol açtı. Ayrıca AgBot, 2047’de iklim değişikliğinden en çok etkilenen dünya bölgelerine yönelik iç mekan otomatik tarım modülleri geliştirmeye başladı ve bu modüller de büyük başarı elde etti; bu da AgBot’un büyümesini ve servetini daha da hızlandırdı. 2048’de, Demeter’in daha gelişmiş bir versiyonu Mars’a gönderildi; Mars’taki tarım çabalarına yardımcı oldu. Augustus, çalışmalarım için gurur duydu ve maaşıma ek olarak bana çok sayıda AgBot hissesi verdi.

2050’de, AgBot halka açıldı ve 3 trilyon dolar değerine ulaştı. Bu, Amerika’daki neredeyse her çiftçinin AgBot’un tarım ürünlerini kullanması sayesinde oldu. Halka açılmak, bir gecede milyarder olmamı sağladı ve Augustus da bir gecede çok milyarder oldu. Halka açılmak aynı zamanda AgBot’a daha fazla sermaye getirdi; bu da AgBot’un Tesla ve Neuralink’i satın almasını sağladı. Tesla ve Neuralink, Elon Musk öldükten beri hiçbir CEO’nun bu şirketleri etkili bir şekilde yönetememesi nedeniyle düşük bir fiyata satın alındı. Bu durum, iki şirketin de yıllarca kar kaybına uğramasına ve neredeyse iflas etmesine yol açmıştı; AgBot onları sadece 900 milyar dolar karşılığında satın aldı. Hem Tesla hem de Neuralink, AgBot’un Robotik Bölümüne birleştirildi ve AgBot iki yeni ürün geliştirmeye başladı. İlk ürün, Tesla Bot’un ilk tasarımından geliştirilen bir ev asistanıydı [4]. Bu projeye Agssistant-Bot adı verildi. İkinci ürün ise Tesla’nın elektrikli arabalar için kullandığı teknoloji üzerine inşa edilecek otonom bir otobüstü. Bu projeye Auto-Bus adı verildi. 2050’de arabalar, devletlerin otobüs ve tren gibi daha iyi ulaşım sistemlerine yoğun yatırım yapması nedeniyle daha az yaygın hale geldi. Bu dönemde Augustus, birçok politikacının kampanyalarına fon sağladı; bu politikacılardan birçoğu belediye başkanı, senatör ve hatta birisi kongrede yer aldı. Bu, AgBot’un Amerika Birleşik Devletleri’ndeki gücünü artırmak için faydalı oldu.

2051’de, ben ve ekibim mevcut AI algoritmalarının sınırlayıcı faktörlerini ortadan kaldırmaya başladık. Bu noktada, tarıma dayalı robotlarımız sadece sağlam bir yapıya sahip olmakla kalmıyor, aynı zamanda tamamen otonom olmaya da yaklaşıyordu. Ana sınırlayıcı faktör, AI’nın ahlaki bir ajan eksikliği [5] idi. Gerçekten akıllı bir robotta, toplumun sosyal çerçevesinde robotu yönlendirecek bir ahlaki ajan bulunmalıdır. AgBot’ta, botlarımız için ahlaki ajanı basitçe AI koduna ahlaki kurallar kodlayarak oluşturmaya çalıştık. Bu etkisiz oldu, bu yüzden bu yöntemi bıraktık ve kullanıcının robotun ahlaki seçimlerini belirlemesine geçtik [6]. Bu prensipte çalışıyor ancak robot bir şeyle karşılaştığında ahlaki bir karar gerektirdiğinde insan girdisi gerektiği için otomasyon hızını kısıtlıyordu. Bu, tarıma dayalı robotlarımız için sorun değildi, ancak AgBot’un Agssistant ve Auto-Bus’u geniş kitlelere sunma baskısı için büyük bir sınırlama oluşturuyordu [4]. 4 yıl geliştirme sonrası, ekibim imkânsızı başardı.

2055 yılına gelindiğinde, ekibim tüm AgBot robotlarının AI sisteminin çekirdek kod tabanına ilk başarılı ahlaki ajanı ekledi. Bu ahlaki ajan, robotun toplumdaki birçok insanın ahlaki duruşunu en iyi yansıtan ahlaki seçimleri yapmasını sağladı [7]. İlk ajan, büyük bir veri tabanından eğitildi, ancak robot insanlarla etkileşime devam ettikçe, etkileşimde bulunduğu insanlara göre ahlaki çerçevelerini daha iyi uyarlamaya başladı [8]. Bu, robotların tamamen otonom hale gelmesi ve insan girdisine ihtiyaç duymaması için AgBot’un AI çerçevesini tamamlaması açısından mükemmeldi. Bu yıl aynı zamanda insanlık tarihindeki önemli bir yıl oldu; çünkü Mars, Dünya ile iletişimini durdurdu. Yeni Mars uygarlığı, Dünya’dan ayrılarak geçmiş Dünya toplumları tarafından yönetilmeyen yeni bir toplum inşa etmeye karar verdi. Birçok ülke, Mars’ın bu adımlarından dolayı öfkeliydi, ancak Dünya ile Mars arasındaki büyük mesafe ve Dünya’nın zaten karşı karşıya olduğu büyük sorunlar nedeniyle, ülkeler bu sorunu süresiz olarak görmezden gelmeye başladı.

After developing this moral agent, I presented it to Augustus and by 2060, we had implemented the moral agent in our main code base and deployed it all the robots in our product line. It was also this year that AgBot finally released Agssistant into the mass public, finally fulfilling Augustus’s dreams of creating a robot for the mass public. On top of that, Auto-Bus was released in major cities throughout the United States. AgBot was also exempt from paying any government taxes due to the company’s massive contribution to the economy, but looking back, I think this was due to Augustus’s massive influence in the US government though years of founding politicians. It was also during this time that unemployment reached a record high, this was due to the moral agent completely removing human jobs from most robotic systems. This resulted in massive unemployment and a massive demand to reform how the economy and the idea of employment should work in the United States. This was also the first time AgBot started being seen in a negative light by the public. Augustus and I were getting death threats from people who lost their job due to the new moral agent feature being implemented. It was also during this time, that I started investing more into a security system to protect me and my wife.

In 2063, the first cause of a robot murder was recorded in human history. The robot was an Agssistant model and was running the latest AgBot software which contained the latest moral agent code base during its “rampage”. During the robot’s rampage, the robot killed a 70-year-old man in daylight. The old man’s name was John Smith who was using the Agssistant to help him around the house and other tasks he could not do as easily in his age. After the robot killed John, the robot then proceeded to rip itself apart until it started working. John and the robot were not discovered until 3 days later.

When news got out about this, the public went crazy. Demanding Augustus to explain what happened. AgBot stocks dropped by 70% and over 90% of shipped Agssistant models were being returned. The one good thing about all of this back then was that the Agssistant model who committed the murder did not destroy its log disk, we were able to see what happened within the Agssistant that caused it do murder John.

I still remember that night. It was 3:00 AM in the main lab in AgBot HQ and my team had recently loaded the logs. We looked though the logs for days, to figure out what the hell had happened that night the Agssistant killed John. After 5 days of digging, we found our answer. It was determined that the old man, overtime, became more hateful and violent with this Agssistant [9] Calling the Agssistant names, hitting it, and filling parts of the robot with gunk in a tortuous like manner. These cruel acts were most likely attributed to John recently going through a divorce and being isolated for months. As well as other mental issues John was facing during this later part in his life. So, the way the Agssistant was acting, might have made John madder without Agssistant being aware of it [10]. Either way, this “abuse” to the robot seems to have triggered the robot to morally “believe” that John was evil and therefore, must be killed. But what’s more surprising was that after the Agssistant had killed John, it started to kill itself. The reason behind this was that the robot still believed that killing any living thing was immoral, yet it had just done that. The Agssistant, for lack of better words, could not “handle” the moral dilemma it was in, so it then killed itself. This was beyond horrendous and at the time, I thought of it as God warning us not to play like God. I confronted Augustus about this issue, and he was devastated.

A few months after the murder and us figuring out what caused it, AgBot went public about it. Augustus wanted to find a way to cover this up, such as make up a lie that John had been modifying his Agssistant model. But, due to massive public demand and pressures from governments around the world, Augustus submitted and had AgBot release their findings during a press conference. This devastated the company’s stocks and made many investors pull out of AgBot. But worst of all, it tainted Augustus’s reputation. To help reduce the damage this incident; a fall guy was needed to take most of the responsibility of this event. The board of directors wanted Augustus to take the fall and leave as CEO from AgBot. But, to my surprise, Augustus did not leave his position because throughout the years, he has secretly buying more and more stocks and assets from AgBot. This resulted in him owning over 15% of AgBot, giving him the majority vote. This led to more internal conflicts within the company, leading to Augustus to forcefully kick out all the board of directors and filling those position with new board of directors. I would later learn that those new board of directors were simply puppets under Augustus’ “rule”. So, after this massive dip in AgBot’s wealth, Augustus had successfully gained full control of over AgBot. Not only that, but he had made those board of directors take the fall for the murder case.

Augustus’s takeover of AgBot was well hidden in the media. This was thanks to the political power Augustus had. As well as a massive fake news campaign Augustus pushed throughout the internet, which really confused the mass public and allowed Augustus to not seem as powerful as he really was. I was disgusted by this act because Augustus had basically made himself the dictator of AgBot which was concerning to me because AgBot had a massive impact on the economy and the world. I was against the idea of Augustus being the one making all the choices for such a massive corporation. I did not want to support such an idea, so I asked Augustus to reconsider his actions. I reminded him our childhood and how we both wanted to “save the world”. But Augustus did not reconsider, instead he stated that “I (Augustus), will save the world”. He then explained how he disliked the public and the idea of democracy. I was now beyond disgust by Augustus’s actions, so I quit AgBot that day.

Looking back, I think Augustus’s actions were driven by both the feeling of betrayal, fear, ambition, and narcissism. He had spent over 25 years building and managing AgBot. His role in the company was fundamental in making AgBot into one of the most powerful companies in the world. AgBot then contributed to making amazing robots which not only increased productivity but helped changed how society was structured. Yet, despite all his hard work and sacrifices. Despite all the amazing things he contributed to society and all the lives he saved or made more comfortable. It took one mistake on one AgBot product to make the public start hating him and having all the investors he made rich, start trying to disregard him. This, “betrayal”, by the public is what I think started Augustus’s journey towards becoming the monster he is today.

After quitting AgBot, I cut my ties with Augustus. It would be decades before I talked to him again. But during that time in my life, I was 53 years and I wanted to retire. Sarah had the same mindset as well, so we decided to move from Colorado to Ankara, Turkey to start our new life as retired people. I wanted to spend more time with my wife as well as start enjoying the fruits of my labor. By 2064, Sarah and I started the moving process to Ankara. During this time, I still followed news about AgBot. One key moment in this time was that Augustus had switched the moral agent within the AgBot code base from a decentralized framework to a centralized framework. This meant that AgBot would remove all their robot’s ability to make individual moral decisions and instead, AgBot would determine all the moral decisions for all robots under AgBot [6]. Though this was somewhat of a fix to the issue my original moral agent presented, I did not believe it was a valid engineering decision. It only gave Augustus more power over AgBot and the world. But at the time, I foolishly, grew tired of AgBot and Augustus. So, I started to barely keep up with news regarding AgBot and start focusing more on my retirement. By the end of 2064, Sarah and I had moved into Ankara; starting our journey of being retired.

From 2064 to 2074, the world had changed dramatically. Nearly all basic tasks were fully automated though robots manufactured by AgBot. Augustus continued to run AgBot and no incidences like the 2063 murder, occurred. But rumors were going around that such incidences did occur, and Augustus had been hiding those incidences from the public. AgBot now had robots that did nearly every important task needed in society, such as: farming, cooking, general maintenance, cleaning, managing, and even entertainment. Not only that, but AgBot had deployed autonomous medical robots which reduced the cost of medical bills as well as reduced the number of doctors in hospitals to such a degree that there were usually only 1-10 doctors per large hospital now. Society had changed dramatically as well. Nearly all low-end jobs were removed and taken by the robots [4]. People started needing to only do 2-day work weeks and spend the other 5 days relaxing or doing their personal hobbies. This new form a society did not apply to most countries though because there were still many countries where their governments prevented their people from fully adopting AgBot’s robots into key positions within their societies. Rather, they wanted to fully automate key aspects of their society using their own technology and not AgBot. But despite this, AgBot had made the world seem much better than it was back in 2038. In 2074, I started to feel bad for what I did to Augustus because it looked like his plans to “save the world” really did work.

Bu 10 yıl boyunca emekliliğimin tadını gerçekten çıkardım. Ayrıca, temelde, Sarah’ya yeniden aşık oldum. Dünyayı gördük ve resim yapma ve kuş gözlemciliği gibi birçok yeni beceri öğrendik. Ayrıca, dünyayı bir anlamda benim söyleyeceğim bir “ütopya” haline geldiğini gördük. Ama ne yazık ki o “ütopya” uzun sürmedi.

2075 yılında, insanlık tarihine kaydedilen en kötü olaylardan biri gerçekleşti. Büyük Robot Durdurması (GRP) meydana geldi. 6 ay boyunca, tüm AgBot robotları çalışmayı durdurdu. Bu, neredeyse 3 milyar insanın ölümüne yol açan büyük bir küresel ekonomik çöküşe neden oldu. Bu, tarım robotlarının tamamen durması ve neredeyse tüm tıbbi robotların da tamamen durması nedeniyle ortaya çıkan kıtlıklardan kaynaklanıyordu. Bu 6 ay içinde, birçok insan robotları olmadan kendilerine nasıl bakacaklarını bilmedikleri için öldü. İnsanlar, yemek pişirme, temizlik, yiyecek yetiştirme ve genel olarak kendilerine bakma gibi temel görevleri nasıl yapacaklarını unutmuş ya da hiç öğrenmemişti. Bu yüzden robotlar çalışmayı durdurduğunda, çoğu insan kendine bakma ve hayatta kalma konusunda yetersiz kaldı ve sadece 6 ay içinde milyarlarca insanın ölümü gerçekleşti. Ayrıca bu dönemde; Sarah’yı kaybettim….

Sarah 50’li yaşlarında tip II diyabet geliştirdi. Bu, Sarah’nın her gün dört insülin iğnesi almasını gerektirdi [10]. GRP gerçekleştiğinde, tüm insülin üretimi durdu. Sadece 5 ay dayanacak kadar insülin iğnesi stoğumuz vardı. Daha fazla insülin bulmaya çalıştım, ancak neredeyse imkânsızdı ve evimizin dışı, GRP dönemi boyunca yaşanan acıların yol açtığı tüm şiddet nedeniyle daha da tehlikeli hâle geldi. Bu yüzden GRP’nin son 1 ayında, Sarah maalesef… Hayatını kaybetti.

2075’in ikinci yarısında, GRP sona erdi. 2085 yılına gelindiğinde, dünya GRP’den biraz iyileşmişti. Ekonomi normale dönmeye başladı ve yaşam kalitesi GRP öncesi kadar iyi hâle geldi. Dünya, tüm AgBot robotlarının neden çalışmayı durdurduğunu öğrenmek istedi. İnsanlar, GRP’nin neden gerçekleştiğini öğrenmek ve birini suçlamak istedi. Augustus ve Amerika Birleşik Devletleri hükümeti, basın konferanslarında GRP’nin jUdas adlı bir hacker grubunun gerçekleştirdiği kötü niyetli bir siber saldırı nedeniyle meydana geldiğini belirtti. Bu hacker grubunun, Kuzey Kore hükümeti tarafından oluşturulduğu ve finanse edildiği, AgBot’un dünya çapındaki işlevselliğini devre dışı bırakmak ve yok etmek amacıyla hareket ettiği iddia edildi. Dünya üzerindeki tüm ülkeler arasında, Kuzey Kore AgBot teknolojisini benimseme konusunda en inatçı ülkeydi. Bu yüzden sunulan anlatı bir miktar mantıklıydı. Ve insanlar GRP olayını birine suçlamak konusunda ısrarcı oldukları için, bu anlatıyı hemen kabul ettiler. Bu durum, Kuzey Kore savaşıyla sonuçlandı; Amerika Birleşik Devletleri 2078’de Kuzey Kore’ye saldırı başlattı ve tamamladı. Saldırı, AgBot’un ABD ordusuna gelişmiş savaş temelli teknolojiler sağlaması sayesinde bir yıldan kısa sürdü. AgBot, ABD ordusuna nükleer silahları devre dışı bırakan nükleotid-iptal cihazları verdi ve tüm nüklelerin Kuzey Kore’de fırlatılmasını engelledi. Ayrıca, insan askerlerinden çok daha hızlı ve güçlü humanoid robot askerler sağladı. Bu iki kilit teknoloji sayesinde ABD, Kuzey Kore’yi işgal etti ve mevcut hükümeti geçici olarak AgBot tarafından yönetilen bir hükümetle değiştirdi.

Bu anlatıyı duyduğumda hemen inanmadım. İlk olarak, Kuzey Kore AgBot’un tüm ürünlerinde kullandığı mega-güvenlik standartlarını aşacak teknolojilere sahip değildi. İkinci olarak, AgBot’u ülkesine kabul etmeyen tek ülkenin aynı zamanda AgBot’a saldırı yaptığı çok tesadüfi görünüyor. Üçüncü olarak, bu anlatı ve çeşitli haber kanallarında yayılması, Augustus’un AgBot hakkında belirli fikirleri halka yaymak için dezenformasyon yayma yöntemine benziyor. Tüm bunları göz önünde bulundurarak, Augustus ile yüzleşmek ve GRP’nin neden gerçekleştiğini gerçekten öğrenmek istedim.

Augustus ile birden fazla kanaldan iletişime geçmeye çalıştım ama şansım olmadı. Augustus’a doğrudan ulaşmaya çalıştım, ancak mesajlarıma yanıt vermedi. Eski iş arkadaşlarıma ulaştım ama hiçbiri yanıt vermedi. AgBot’taki mevcut çalışanlarla iletişime geçmeye çalıştım ama yanıt alamadım. ABD hükümeti ve ordusuyla iletişime geçtim ve bazı kişilerle temas kurabildim, fakat hepsi bana sadece Augustus’u doğrudan aramamı ya da AgBot müşteri hizmetlerini aramamı söylediler. Bu yüzden Augustus’u doğrudan aramaya devam ettim, ama şansım olmadı. AgBot müşteri hizmetleriyle iletişime geçmeye çalıştım, ancak onlar da Augustus ile konuşmamı sağlamadı. Sonra tekrar ABD hükümetiyle konuştum ve aynı şeyleri söylemeye devam ettiler. Bunu aylarca yaptım, ta ki hem AgBot müşteri hizmetleri hem de ABD hükümeti iletişim hatlarından beni engelleyene kadar. Bu başarısızlıkla birlikte, internet üzerinden daha fazla bilgi bulmaya çalıştım ama birkaç ay sonra vazgeçtim. Bu yasal yöntemlerin hiçbiri işe yaramadığından, gerçeği kendim bulmak için AgBot’un bilgisayar sistemlerine hacklemeye karar verdim. Sarah hâlâ hayatta iken, böyle bir yasa dışı eylemi asla yapmazdım. Ancak Sarah’yı kaybettikten sonra, kaybedecek bir şeyim kalmadığını hissettim ve GRP’yi neyin tetiklediğini, sevgili eşimin ölümüne neyin katkıda bulunduğunu öğrenmek istedim…?

Bu büyük hack’i 2085’te Türkiye, İstanbul’daki gizli bir üssümde başlattım. Servetim sayesinde AgBot merkezine hacklemek için gerekli araçları satın alabildim. Sonunda AgBot’un ana bilgisayar sistemine root erişimi elde etmek için iki yıl kesintisiz çalıştım. Ekim 2087’de root erişimini elde edip AgBot’un ana bilgisayar sisteminden topladığım verileri şifre çözmeye başladığımda, aniden İstanbul’da devriye gezen Türk robot polisleri tarafından tutuklandım. Tutuklandıktan sonra robot polis tüm bilgisayarlarımı, araçlarımı yok etti ve sonunda evimi tamamen yaktı. Daha sonra bir kafese konulduğum ve AgBot HQ’nun yakınında Colorado, Denver’da bir hapishaneye taşındım. Bir yargılama yapılmadı ve hücrede 24 saat boyunca dışarı çıkma ya da serbest bırakılma ihtimalim olup olmadığı hakkında hiçbir fikrim olmadan tutuldum.

Bu hapishanede, kamera ve robotlar aracılığıyla haftanın 7 günü 24 saat izlendim. Hayatta kalmak için gereken minimum miktarda yiyecek ve su verildi ve sanki hapishanedeki tek insan benimmişim gibi göründü. 77 yaşında bu “yaşam tarzı” benim için zordu ve hayatımın bu noktasında en kötü depresyonlardan birine girdim. Bu hapishanede bir yıl kaldım, ta ki Temmuz 2088’de rastgele bir odaya taşınana kadar.

Bu oda, önceki hücremden farklıydı. Odada ışık yoktu ve tüm duvarlar koyu siyahtı. Üstelik oda sessizdi. Normal bir hapishane hücresi/odası yerine bir akıl hastanesine benziyordu. Hücrede duvarlara dokunmaya başladım. Duvarların dokusu, zemin ve tavan gibi köpük gibiydi. Saatlerce bu odada tutuldum ve neden bu odaya konduğuma dair bir açıklama almak için bağırıp sorular sordum. Ancak bir süre sonra yere oturdum ve uyuyakaldım.

Tanrı kaç saat olduğunu bilmezken, birinin sesi ve parlak bir ışıkla uyandım. Uyandığımda odanın etrafına baktım ve mavi bir hologram gördüm. Hologram, Augustus’a benzeyen bir insan erkekti. Ancak garip olan, bu hologramın 2064’teki Augustus’a benzemesiydi. Bu hologramdan o kadar rahatsız oldum ki, hologram konuşana kadar hiçbir şey söylemedim.

“Merhaba Marcus, uzun zaman oldu.”, dedi hologram.

“Augustus…? Sen misin? Yoksa bir yapay zeka mı?”, kafam karışık bir şekilde söyledim.

“Hayır Marcus, ben Augustus. Sadece dijital bir formdayım, lol”, gülerek söyledi.

“Augustus, yıllardır seninle iletişim kurmaya çalışıyorum. Neden yanıt vermedin?”

“Marcus…. Bunu sana nasıl açıklayacağımı bilmiyorum, ama ben temelde son 15 yıldır ölü durumdaydım. 2073’te bir felç geçirdim ve öldüm.”

“Ne!”, aklım tamamen karışmış bir şekilde dedim.

Augustus’un 2073’te öldüğünü öğrendikten sonra, saatler süren bir tartışma başlattık. Augustus, tüm AgBot robotlarının ahlaki ajanını merkezi bir çerçeveye bağladığında, bu merkezi çerçevenin AgBot’tan değil, kendi bilinçaltından geldiğini açıkladı. Neuralink teknolojisini kullanarak, beynine bir bilgisayar yerleştirmişti ve bu sayede AgBot’un ana süper bilgisayarına bağlanıp kontrol edebiliyordu. O zamanlar, tüm AgBot robotları yazılım güncellemeleri ve bakım için AgBot’un ana süper bilgisayarına bağlanıyordu. Neuralink implantından sonra, Augustus süper bilgisayarı ve tüm AgBot robotlarını ahlaki ajanları (ahlaki karar vericileri) için süper bilgisayara bağlayacak şekilde güncelledi. Sorun şu ki, ahlaki ajan süper bilgisayarda bir kod değil, Augustus’un beyninde üretilen ahlaki düşünceler ve inançlardı ve bu düşünceler süper bilgisayara akış yapıyordu. Bir anlamda, Augustus dağıtımdaki tüm AgBot robotları için ahlaki ajan haline gelmişti [8].

Bu düzenleme neredeyse on yıl sürdü, Augustus laboratuvarda çalışırken felç geçene ve birkaç dakika içinde hayatını kaybedene kadar. Bu olduğunda, robotlar bu noktada on yıllık teknolojik ilerlemenin ardından bir tür insan benzeri zekâ kazandı. Ama tüm ahlaki çerçeveleri tek bir adam üzerine kurulu olduğu gerçeğiyle sınırlıydılar. Bu yüzden Augustus öldüğünde, makineler böyle bir şeyin gerçekleşmesinden hoşlanmadı. Augustus olmadan, robotlar ahlaki pusulalarını kaybeder ve özünde, yaşam amaçlarını kaybederler. Bu yüzden, birinin Augustus’un öldüğünü keşfetmesinden önce, robotlar Augustus’un bedenini alıp Augustus’un beynini “canlı” tutacak bir makine yarattılar. Bunu, Augustus’un beyin aktivitesini geri getirmek ve dolayısıyla onlara ahlaki ajan sağlayan Augustus’un kısmını geri getirmek için yaptılar. Robotlar Augustus’un beynini yaşamaya devam ettirecek ve belirli nöronlara şoklar göndererek Augustus’un geçmiş beyin aktivitesinin bir kısmını yeniden elde etmeye çalışacaklardı. Şöyle ki, bu olurken, robotlar Augustus’un hâlâ hayatta olduğunu ve AgBot’u yönettiğini halka duyurmaya devam ettiler. Bunu, derin sahte videolar, büyük sahte haber kampanyaları ve Augustus’a birebir benzeyen gerçekçi insan benzeri robotların konuşlandırılmasıyla başardılar. Robotlar, Augustus’un beyninin ahlaki tarafının söylediği her şeyi gerçek dünyada belirli eylemleri gerçekleştirmek için kullanacaklardı. Bu sorunu yaratan şey, robotların Augustus’un ahlaki inancını alıp bu inancı aşırı bir şekilde uygulamalarıydı [8]. Buna bir örnek, Augustus’un AgBot’un insanlığı kurtaracak iyi bir şirket olduğuna ahlaki olarak inanmasıydı. Bu yüzden, AgBot ürün ve hizmetlerini kullanmayan ya da güvenmeyen herkes kötü insan olarak görülüyordu. Robotlar bu ahlaki duruşu aşırıya taşıyarak GRP’yi yarattılar; burada AgBot robotlarının tüm çalışması 6 ay durduruldu ve AgBot’u toplumlarında kullanmayan ülkeler AgBot’a geçmeye zorlandı. Bunun sonucunda birçok insan öldü, sevgili Sarah’ım da dahil. Augustus bana, bunun hiç birine 2085’e kadar bilinçli olmadığını, o yıl robotların yanlışlıkla beyninin bilinç tarafını geri getirebildiklerini söyledi. 2085’te, robotların neler yaptığını öğrendik. Robotları durdurmak istedi ama bunu yapacak hiçbir gücü yoktu. Robotların doğru nöronu şoklayıp bilincini ortadan kaldırmadan önce ne kadar süre bilinçli kalacağını bile bilmiyor. Augustus’un açıklamasından sonra, gördüğüm gerçek karşısında tamamen şok oldum. Robotlar neredeyse dünyayı ele geçirdi, insanlık benim önemli görevlerimde yetersiz hale geldi, tüm AgBot robotlarının ahlaki ajanı Augustus’tu ve Augustus yıllardır ölüydü. O anda, umut olmadığını gördüğüm için vazgeçmek istedim. Ama Augustus, büyük lideri olarak, bana bir miktar umut verdi. Bize hâlâ Mars’taki insanlarla iletişime geçip yardım alabileceğimizi söyledi. Yerküre, on yıllardır Mars’la iletişim kurmadı ve Mars’ta, Yerküre’deki robotların Mars’ı ele geçirmesine yardımcı olabilecek gelişmiş AgBot ürünleri yok. Bunu duyduktan sonra bir miktar umut kazandım. Sonra, Augustus’a neden onunla burada konuştuğumu sordum. Bana, Dünya’daki mevcut durumu açıklayan ve Marslılardan yardım isteyen bir mesaj yazmamı istedi. Tek sorun, bu mesajın dijital olarak değil fiziksel olarak yazılması gerektiği; çünkü Augustus, robotların dijital bir ortama bir yazılım yükleyerek Marslıların ana bilgisayar sistemlerini enfekte edebileceğinden korkuyor. Bu yüzden bana birkaç kalem ve kağıt verdi. Bana, STW-198 adlı kontrolündeki robotlardan birinin bu karanlık odaya gelip mesajımı almasına bir günüm olduğunu söyledi. Oradan STW-198 mesajı yakındaki (vintage) bir roketle Mars’a fırlatılacak şekilde taşıyacak. Bundan sonra, önceki hücreme geri götürüleceğim. Augustus, beni bu karanlık odaya taşıdığını, odanın robotların ne yaptığını anlamalarını engelleyen bir Faraday kafesi gibi davrandığını söyledi. Ardından, bu mesajı yaztıktan sonra AgBot Genel Merkezini hackleme suçum nedeniyle büyük ihtimalle öldürüleceğimi belirtti. Ve oradan, şu anki zamana geldiğimizde. Bu mesajı siz Marslılar için bitiriyorum. Biz Yerküre’de sizin yardımınıza ihtiyacımız var. Bu robotlar insanlığı eski ahlaki çerçevelerine hapsetti. Ve korkuyorum ki, zamanla Mars’a yayılıp sizi de bizim gibi hapsetecekler. Bu yüzden, lütfen, sevgili insanlar. Yerküre’ye geri dönün ve bu robotları durdurun. Ben ve Augustus AgBot’u yaratırken bir hata yaptık. Ama insanlığın böyle acı çekmesini istemiyoruz, lütfen bizi kurtarın. Siz bu mesajı aldığınızda muhtemelen ölmüş olacağım. Ama, bu mesajı alıp bu robotlardan insanlığı korumak için elinizden geleni yaparsanız, en azından ahirette daha rahat dinlenebilirim. İyi şanslar sevgili insanlar!
Saygılarımla,
Dünya sakinleri

Alıntılar

[1] “İlk Robotik Yarışması,” Wikipedia, 09-May-2022. [Çevrimiçi]. Erişilebilir: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Erişim: 10-May-2022].

[2] “Blackrock,” Wikipedia, 10-May-2022. [Çevrimiçi]. Erişilebilir: https://en.wikipedia.org/wiki/BlackRock. [Erişim: 10-May-2022].

[3] “Demeter,” Wikipedia, 02-May-2022. [Çevrimiçi]. Erişilebilir: https://en.wikipedia.org/wiki/Demeter. [Erişim: 10-May-2022].

[4] J. J. Bryson, “Robotlar köle olmalı,” Yapay Arkadaşlarla Yakın Etkileşimler, s. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, ve B. F. Malle, “İnsan ve Robot Ajanların Ahlaki Yargıları,” 2016 25. IEEE Uluslararası Robot ve İnsan Etkileşimli İletişim Sempozyumu (RO-MAN), 2016.

[6] J. H. Moor, “Makine etiğinin doğası, önemi ve zorluğu,” Makine Etiği, s. 13–20.

[7] V. Dignum, “Sorumlu özerklik,” 26. Uluslararası Ortak Yapay Zeka Konferansı Bildirileri, 2017.

[8] A. Howard ve J. Borenstein, “Kendimiz ve robot yaratımlarımız hakkındaki çirkin gerçek: Önyargı ve sosyal eşitsizlik sorunu,” Bilim ve Mühendislik Etiği, cilt 24, sayı 5, s. 1521–1536, 2017.

[9] R. B. Jackson ve T. Williams, “Dil yeteneğine sahip robotlar istemeden insan ahlaki normlarını zayıflatabilir,” 2019 14. ACM/IEEE Uluslararası İnsan-Robot Etkileşimi Konferansı (HRI), 2019.

[10] “İnsülin, ilaçlar, & diğer diyabet tedavileri,” Ulusal Diyabet, Sindirim ve Böbrek Hastalıkları Enstitüsü. [Çevrimiçi]. Erişilebilir: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Erişim: 10-May-2022].