Arka Plan

Kısa hikaye olan Azalan Kral’ı, Colorado Maden Okulu’ndaki lisans eğitimimin son döneminde Robot Etiği (HASS400) dersim için final ödevi olarak yazdım. Bu ödev için, robotik etik etrafında dönen kurgusal bir kısa hikaye yazma görevi verildi ve aynı zamanda dönem boyunca okuduğumuz bazı makalelere de referans vermemiz gerekiyordu. Bu hikaye için gereklilik, 10 sayfa uzunluğunda olmasıydı, ben ise 21 sayfa yazdım. Bu kısa hikaye hakkında çok tutkulu oldum, bu yüzden onunla çılgınca uğraştım.

Şimdi, UYARI, ben harika bir yazar değilim. Bu yüzden, bu kısa hikaye mükemmel değil ve gözden geçirilmesi ve büyük bir yeniden yazım gerektiriyor. Ama ondan gurur duyuyorum ve eğlenceli bir okuma olduğunu düşünüyorum. Okul yıllarım boyunca yazma sürecinden keyif almaya başladım, bu yüzden bloglar, makaleler gibi başka şeyler yazma konusunda da genişlemeyi umuyorum.

Bütün bunları bilerek, orijinal kısa hikaye, ödevin gerekliliği olarak bir PDF dosyası olarak kaydedildi. Ancak, kağıdın boyutunu azaltmak için hikayeyi markdown’a dönüştürdüm. Bunu bilerek, tüm kısa hikaye aşağıda görüntülenebilir/okunabilir. Umarım okumaktan keyif alırsınız, bu kısa hikaye hakkında herhangi bir sorunuz veya geri bildiriminiz varsa sosyal medya hesaplarımdan benimle iletişime geçin.

Azalan Kral‘ı keşfetmeye devam edin…

AZALAN KRAL

Mehmet Hanifi Yilmaz
10 Mayıs 2022

Tanıtım

Dünyanın kaderinin bir ipte asılı olduğu bir gelecekte, teknolojik bir dahi olan Marcus Bruce ve vizyoner lider arkadaşı Augustus Elrod, dünyayı ileri düzey robotik ile dönüştürme misyonuna çıkarlar. Yaratımları AgBot, küresel tarım ve sanayiyi devrim niteliğinde değiştirerek ütopik bir gelecek vaat eder. Ancak, teknoloji imparatorlukları büyüdükçe, beklenmedik sonuçlar insan ahlakının ve özgürlüğünün özünü sorgulamaya zorlar. Büyük Robot Duruşu olarak bilinen felaket bir olay insan varlığını tehdit ettiğinde, Marcus miraslarının karanlık tarafıyla yüzleşmek ve gezegenler arası yardım istemek zorundadır. “Azalan Kral”, hırs, güç ve insan ile makine arasındaki hassas dengeyi sorgulamaya teşvik eden, ilerlemenin gerçek maliyetini sorgulamamızı isteyen sürükleyici bir hikayedir.

Hikaye

Şu anda Dünya’nın içinde bulunduğu kritik durumu size bildirmek için buradayım! Eğer bu durum düzgün bir şekilde ele alınmazsa, insanlığı kolayca yok edebilir. Bu durumu birkaç cümleyle açıklayabilmeyi dilerdim, ama ne yazık ki bu durumun karmaşıklığı, onun ciddiyetini gerçekten anlamanız için nelerin yaşandığını açıklamamı gerektiriyor.

Dünya’nın mevcut durumuna yol açan olayların önemli bir parçasıyım, bu yüzden en azından kendimi tanıtayım. Benim adım Marcus Bruce, 2010 yılında Colorado’da Ouray adında küçük bir kasabada doğdum. Ouray, güzel dağlarla çevrili bir banliyö bölgesidir. İki öğretmen olan ebeveynlerimden doğdum. Babam matematik öğretmeni, annem ise fen bilgisi öğretmeniydi.

Küçük yaşlarımdan pek bir şey hatırlamıyorum çünkü 12 yaşına kadar gerçek bilincimi kazandığımı söyleyebilirim, bu da 2022 yılına denk geliyor. Bu yıl, ortaokuldaydım ve matematik ve bilimde gerçekten başarılı olan bir çocuk dahi olarak kabul ediliyordum. Okul müdürüm, ebeveynlerimin beni 7. sınıftan 11. sınıfa atlamasını istedi. Ama ebeveynlerim müdürümün önerisine katılmadı çünkü benim normal bir çocukluk yaşamamı istediler. Bu karar için minnettarım çünkü harika bir çocukluk geçirdiğimi hatırlıyorum. Teknoloji ile daha fazla bütünleşmeye başlayan bir dönemde geçen bir çocukluk. Tamamen onun tarafından tüketilmeden. Bir dahi olduğumu öğrenmek, 2022’yi benim için özel bir yıl yaptı. Ama 2022’yi özel kılan asıl şey, o yıl uzun süreli bir arkadaşım olacak olan Augustus Elrod ile tanışmamdı. İşte bu Augustus, Dünya’yı şu anki durumuna getiren temel olayları şekillendiren kişiydi.

Augustus ile 7. sınıfta yerel Lego robotik kulübümüzde tanıştım. Augustus’un özellikleri hakkında fark ettiğim ilk şey, ne kadar hırslı ve azimli olduğuydu. 12 yaşındaki bir çocuk olmasına rağmen, Augustus gerçek bir liderdi çünkü yerel Lego robotik takımımızı Amerika Birleşik Devletleri ulusal şampiyonasını kazanmaya yönlendirebildi. Bu, takımda yer alan herkesin mühendislik öğrenmeye pek de hevesli olmayan ortaokul çocukları olduğu düşünüldüğünde gerçekten etkileyiciydi. Ama Augustus, o çocukları öğrenmeye ve kazanmaya motive etmekle kalmadı, aynı zamanda onları zafere de götürdü. Hepimiz Augustus’u liderimiz olarak saygı duyuyorduk ve Augustus pek çok insana saygı duymuyordu. Ama benim zekam için bana saygı duyuyordu. Öncelikle zekamı fark etti ve kendi yaş grubunda kendisinden daha zeki birini tanıdığı için şok oldu. Augustus, sınavlarda benimle yarıştı ama her zaman kaybetti. Ama ben her zaman Augustus’u zekada yenerken, Augustus beni sporda yeniyordu. Dersten sonra basketbol ve futbol oynardı. Bu sporlarda o kadar iyiydi ki, birçok kişi büyüdüğünde profesyonel bir sporcu olacağını düşünüyordu. Aramızdaki bu saygı, sonunda yetişkinlik yıllarımıza kadar süren uzun bir arkadaşlığa yol açtı.

Ortaokul yıllarımızdan sonra, 2024 yılında liseye başladık. Lise yıllarımızda, hem ben hem de Augustus, FIRST Robotics Competition (FRC) [1] yarışmasına katıldık. FRC, Amerika Birleşik Devletleri’ndeki en büyük robotik yarışmaydı ve esasen lise öğrencilerinden oluşuyordu [1]. FRC yaparken, mekanik, elektrik ve bilgisayar mühendisliği hakkında çok şey öğrendik. Ve Augustus’un harika liderlik becerileri sayesinde, iki yıl üst üste ulusal şampiyonayı kazanmayı başardık ki bu o zamanlar duyulmamış bir şeydi. Ayrıca, bu dönemde birçok matematik yarışmasına katıldım ve etik temalı konularda tartışmalara katıldım. Bu dönemde Augustus, lise takımıyla basketbolda ulusal şampiyonaya 3 yıl üst üste liderlik ederek baskette de hakimiyetini sürdürdü. Her ikimiz de kendi alanlarımızda yetenekli öğrencilerdik. Ama bu dönemde hem ben hem de Augustus hayatımızdaki hedeflerimizi geliştirdik ve iyi ya da kötü, bu hedefleri sonuna kadar takip ettik.

Lise yıllarım boyunca, hayatımın amacının teknolojiyi kullanarak dünyayı daha iyi bir yer haline getirmek olduğunu keşfettim. Dünyanın mükemmel olmayacağını ve her zaman kusurlu olacağını kabul ettim. Ama o zaman, yeterince çalışırsam, en azından dünyanın yükünü hafifletebileceğime ve daha iyi bir gelecek yaratabileceğime inanıyordum. Augustus’un benzer hedefleri vardı ama biraz farklıydı. Augustus’un hırslı olduğunu biliyordum ama onun hayatında nereye gitmek istediğini, lise son sınıfımıza kadar tam olarak bilmiyordum.

Lise son sınıfımızda, hem ben hem de Augustus, Massachusetts Teknoloji Enstitüsü’ne (MIT) kabul edildik ve gitmeye karar verdik. Augustus, NBA için draft edilme şansı aldı ama bu teklifi reddetti ve bunun yerine MIT’ye gitmeyi seçti. Bunu ilk olarak Augustus’un ebeveynlerinden duydum ve duyduktan sonra Augustus’u aradım ve konuşmamız şöyle oldu:

“Augustus, NBA’ye neden hayır dedin? Bu bir ömürde bir kez karşılaşılacak bir fırsat”, dedim şaşkın bir halde.

“Marcus, NBA eğlenceli olurdu ama sadece eğlence. Dünyayı değiştirmeyecek. Aksine, bu dünyayı düzeltmekten beni alıkoyar”, dedi Augustus kendinden emin bir şekilde.

“Dünyayı değiştirmek mi? Ne demek istiyorsun?”

“Evet, dünyayı değiştirmek! Marcus, insanlığı daha iyi bir geleceğe yönlendirmek istiyorum. Dünyayı kurtarmak istiyorum!”

Birkaç saniye duraksadım, düşündüğümden daha fazla şaşırmıştım.

“Dünyayı kurtarmak mı? Ne demek istiyorsun?”

“Marcus, sen ve ben yetenekliyiz. İkimiz de dünyaya yardım etmek istiyoruz. Sen zeka olarak öne çıkıyorsun, ben ise lider olarak. Sadece bu değil, sana güveniyorum Marcus. Senin ve benim becerilerimizle, dünyayı daha iyi hale getirecek teknolojiler geliştirebilir ve dağıtabiliriz. Bu konuda kendime güveniyorum!”

“Vay, düşündüğümden daha hırslısın, Augustus!”, dedim sonunda biraz gülerek, “ama böyle bir görevi nasıl başaracağımızı söylersin?”

“Kısa cevap şu Marcus; bir teknoloji şirketi kurmayı planlıyorum. Sonra, siyasete gireceğim. Bununla hem finansal hem de siyasi güç kazanacağım. Ve oradan, dünyayı değiştirebiliriz. Bu planda kritik bir rol oynayacaksın, Marcus!”

“Tamam, Augustus. Bu hala çok hırslı. Ama bir planın olduğunda ve bana ihtiyacın olduğunda, orada olacağım.”

“Teşekkürler, arkadaşım, MIT’de görüşürüz!” dedi Augustus heyecanlı bir tonla.

O zaman, bu konuşma benim için pek bir anlam ifade etmiyordu. Augustus’un harika olduğunu biliyorum ama hayalleri, olası bir gelecekten çok hayal gibi geliyordu. O zaman onun iddiasını ciddiye almadım. Ama bu her şey değişecekti. Her halükarda, 2028’di ve MIT’de lisans eğitimime başlamayı dört gözle bekliyordum.

Mühendislik okumaya başlamak için heyecan verici bir zamandı çünkü aynı yıl, 2028’de, Amerika Birleşik Devletleri hükümeti, NASA ve SpaceX, Mars’ı kolonileştirmek için daha fazla insan göndermeye başladı. Sadece 2 yıl önce, sadece birkaç kişiyi kırmızı gezegene gidip getirmişlerdi. Ama şimdi, onlar ve dünyanın geri kalanı, Mars’a yerleşmek için daha fazla insan göndermeye başladılar. Bu, insanlık tarihinde gerçek bir dönüm noktasıydı ve robotik araştırmalarda büyük bir talep ve gelişim sağladı, bu harikaydı çünkü ben robotik alanında uzmanlaşmak istiyordum.

2030 yılında, hem ben hem de Augustus MIT’deki ikinci yılımızı bitirdik. Ben robotik ve etik alanında çift anadal yapıyordum, Augustus ise robotik ve siyaset bilimi okuyordu. Ancak, üniversitedeki ikinci yılımızdan sonra, Augustus üniversiteden gerçekten hoşlanmamaya başladı. Bunu “dünyayı kurtarma” hayaline ulaşmak için faydalı bir araç olarak görmüyordu. Bu yüzden, ikinci yılında Augustus çoğu dersini atladı ve çoğundan da kaldı. Derse gitmek yerine, Augustus, varlıkları ve hisse senetlerini etkili bir şekilde yönetecek yapay zeka destekli bir yazılım geliştirmeye odaklandı. O zamanlar BlackRock’un Aladdin yazılımından daha iyi bir varlık yönetim yazılımı yapmak istiyordu [2]. Yazılımına o kadar güveniyordu ki, ikinci yılının ardından MIT’den ayrıldı ve geliştirdiği bu yeni yazılımla ilk iş girişimini takip etmeye başladı. Mayıs 2030’da yurtlardan taşındı ve New York City’ye gitti. Augustus’un okuldan ayrılmasına üzüldüm ama bu yılın tek iyi yanı, gelecekteki eşim Sarah Raven ile tanışmam oldu.

Şimdi, 2038 yılına geçelim. Augustus, 28 yaşında çoktan bir multi-milyoner olduğu için tüm haberlerdeydi. Yazılımını BlackRock’a büyük bir miktar parayla sattıktan sonra, neredeyse 100 milyon doları nakit ve bazı BlackRock hisse senedi opsiyonlarıyla birlikte oldu. Augustus finansal dünyayı fethederken; ben de Zeka Robotik Sistemleri ve makine etiği alanında iki doktora programımı tamamlamıştım. Bununla kalmayıp, 2038 yazında Sarah ile evlendik. Düğünümde Augustus’u davet ettim ve düğünümde neredeyse 8 yıl sonra Augustus’u ilk kez gördüm. Eğlenceli bir geceydi, ama düğün sona ererken Augustus, boş zamanım olduğunda onu aramamı istedi. Yani, Sarah ile balayımızdan sonra Augustus’u aradım.

Yaklaşık 2 saat konuştuk ve bu süre zarfında hayatımız hakkında sohbet ettik, ama sonrasında Augustus telefonda ciddi olmaya başladı. Augustus, adımda büyük miktarda öğrenci borcu olduğunu ve henüz bir iş bulamadığımı bildiğini belirtti. Bu yüzden, bana sunabileceğini düşündüğü bir işten bahsetti. Bu, yeni iş girişimi için bir kurucu ortak olmaktı. Bu yeni iş girişimi, tarımı yapay zeka ve robotik ile otomatikleştirmeye odaklanacak olan AgBot adında bir startup’tır. Augustus, teknik becerilerimin böyle akıllı robotik sistemler geliştirmek için gerekli mimariyi geliştirmede değerli olacağına inanıyor. Ayrıca bana güvendiğini ve güvenin kendisi için önemli olduğunu söyledi; çünkü son ortağı, yazılımını BlackRock’a satmaya zorlamıştı. Bu teklifi duyduktan sonra hemen kabul ettim çünkü projeye gerçekten heyecanlanmıştım ve haklıydı, o zamana kadar büyük bir borç içindeydim ve iş teklifim yoktu.

AgBot, 2038’de resmi olarak kuruldu. Ben ve Sarah, AgBot’un bulunduğu Colorado’ya geri döndük. Hemen Augustus ile AgBot’u inşa etmeye başladık. 5 yıl boyunca, hem benim hem de Augustus’un AgBot’u şu anki durumuna getirmek için önemli adımlar attık. İlk olarak, Augustus kendi sermayesini şirkete yatırdı. Bu, bazı prototipler inşa etmek için ihtiyaç duyduğumuz her şeyi almamızı sağladı. Ayrıca, Augustus’un benim altımda çalışacak diğer geliştiricileri işe almasına da olanak tanıdı. Bu süre zarfında, ilk ürünümüz Demeter’i geliştirmeye başladık ve sonunda piyasaya sürdük [3]. Demeter, yüksekliği ayarlanabilir 4 tekerlekli bacaklı bir robottur. İki delta robot kolu ve iki 6 eksenli robot kolu içerir. Demeter’in amacı, erken gelişim aşamalarında mahsulleri izleyerek ve yöneterek böceklerden, hayvanlardan ve hastalıklardan korumaktır. Ayrıca, otomatikleştirilmesi zor olan bitkilerden, çilek gibi, mahsulleri toplamak için de kullanılabilir. Robotun kendisiyle birlikte, Demeter kendi şarj istasyonu ve bir drone ile birlikte geldi. Demeter, kendini otomatik olarak şarj edebilir ve Demeter, büyük tarla alanlarını kontrol etmek için drone formunu kullanarak hangi mahsullerin en çok bakıma ihtiyaç duyduğunu görebilir. Bu robot kısmen otonomdu, ancak yine de Demeter’i izlemek ve onarmak için bir insana ihtiyaç vardı. Ancak Demeter’in sağladığı ana avantaj, bir çiftçinin aynı anda 1000 dönüm araziyi yönetmesine yardımcı olabilmesiydi; bu daha önce duyulmamış bir şeydi.

Demeter, Mayıs 2043’te rekor kıran satışlarla halka sunuldu. Demeter’in gelişmiş özellikleri ve Augustus ile ekibinin harika pazarlama kampanyası sayesinde, Demeter hemen tükendi. Bu, diğer yatırımcıları güvence altına aldı ve diğer yatırımcılardan büyük bir fon artışına yol açtı. Bu ek fon, AgBot’un operasyonlarını ve geliştirme ekibini genişletmesine olanak tanıdı. Ayrıca, AgBot’un iklim değişikliğinden en çok etkilenen dünya bölgelerinde 2047’de piyasaya sürülen kapalı otomatik tarım modülleri geliştirmeye başlamasını sağladı. Bu kapalı modüller de büyük bir başarı elde etti ve AgBot’un büyümesini ve zenginliğini hızlandırdı. 2048’de, Mars’taki tarım çabalarına yardımcı olmak için Demeter’in daha gelişmiş bir versiyonu Mars’a fırlatıldı. Augustus, yaptığım işten gurur duyuyordu ve maaşımın yanı sıra bana birçok AgBot hissesi verdi.

2050’de, AgBot halka açıldı ve 3 trilyon dolar değerinde oldu. Bu, Amerika’daki neredeyse her çiftçinin AgBot’un tarım ürünlerini kullanmasından kaynaklanıyordu. Halka açılmakla birlikte, bir gecede milyarder oldum ve Augustus bir gecede multi-milyarder oldu. Halka açılmak ayrıca AgBot’a daha fazla sermaye getirdi ve AgBot’un Tesla ve Neuralink’i satın almasına olanak tanıdı. Tesla ve Neuralink, Elon Musk’ın vefatından bu yana hiçbir CEO’nun bu şirketleri etkili bir şekilde yönetememesi nedeniyle ucuz bir fiyata satın alındı. Bu, her iki şirket için yıllarca kaybedilen karlarla sonuçlandı ve AgBot, her ikisini de sadece 900 milyar dolara satın aldı. Hem Tesla hem de Neuralink, AgBot’un Robotik Departmanına entegre edildi ve AgBot iki yeni ürün geliştirmeye başladı. İlk ürün, Tesla Bot’un ilk tasarımından geliştirilen bir ev asistanıydı [4]. Bu projeye Agssistant-Bot adı verildi. İkinci ürün, elektrikli araçlar yapmak için Tesla tarafından kullanılan teknolojiye dayanan otonom bir otobüstü. Bu projeye Auto-Bus adı verildi. 2050’de, eyaletlerin otobüsler ve trenler gibi daha iyi ulaşım sistemlerine büyük yatırımlar yapması nedeniyle arabalar daha az yaygın hale geldi. Bu süre zarfında, Augustus birçok politikacının kampanyalarını finanse etmeye başladı ve bu politikacılardan birçoğu sonunda belediye başkanı, senatör oldu ve biri de kongreye katıldı. Bu, AgBot’un Amerika Birleşik Devletleri’ndeki gücünü artırmak için faydalı oldu.

2051’de, ben ve ekibim mevcut yapay zeka algoritmalarının sınırlayıcı faktörlerini sınırlamak için çalışmalara başladık. Bu noktada, tarıma dayalı robotlarımız yalnızca sağlam bir yapım kalitesine sahip değildi, aynı zamanda tamamen otonom olma yolunda ilerliyordu. Ana sınırlayıcı faktör, yapay zekanın bir ahlaki ajanın eksikliğiydi [5]. Gerçekten zeki bir robotta, robotu toplumun sosyal çerçeveleri içinde yönlendirecek bir ahlaki ajanın bulunması gerekir. AgBot’ta, botlarımız için bir ahlaki ajan yaratmaya çalıştık; bunu yapay zekanın koduna ahlaki kuralları sert kodlayarak yaptık. Bu etkisiz olduğu için bunu terk ettik ve kullanıcının robotun ahlaki seçimlerini belirlemesine geçtik [6]. Bu prensipte çalışıyordu ama robotlarımızın otomasyonunu kısıtladı çünkü bir robot, ahlaki akıl yürütme gerektiren bir şeyle karşılaştığında insan girdisi gerektiriyordu. Bu, tarıma dayalı robotlarımız için sorun değildi, ancak bu, AgBot’un Agssistant ve Auto-Bus’u kitleye geliştirme baskısı için büyük bir sınırlayıcı sorun oldu [4]. 4 yıllık geliştirmeden sonra, ekibim imkansızı başardı.

2055’te, ekibim AgBot robotlarının yapay zeka sisteminin temel kod tabanında ilk başarılı ahlaki ajanı yarattı. Bu ahlaki ajan, robotun toplumdaki birçok insanın ahlaki duruşunu en iyi şekilde yansıtan kendi ahlaki seçimlerini yapmasına olanak tanıyordu [7]. İlk ajan, devasa bir veritabanından eğitildi, ancak robot insanlarla etkileşime devam ettikçe, etkileşimde bulunduğu insanlara daha iyi uyum sağlayacak şekilde ahlaki çerçevelerini şekillendirmeye başlayacaktır [8]. Bu, AgBot’un yapay zeka çerçevesini tamamlayarak robotlarımızın herhangi bir insan girdisi olmadan tamamen otonom olmasını sağladı. Bu yıl, insanlık tarihi açısından da önemli bir yıl oldu çünkü Mars, Dünya ile iletişimi kesti. Yeni Mars medeniyeti, Dünya’dan ayrılmaya ve geçmişteki toplumlar tarafından yönetilmeyen yeni bir toplum inşa etmeye karar verdi. Birçok ülke, Marslıların aldığı eylemlerden dolayı öfkeliydi, ancak Dünya ile Mars arasındaki büyük mesafe ve Dünya’nın zaten karşılaştığı büyük sorunlar nedeniyle, Dünya üzerindeki ülkeler bu sorunu süresiz olarak görmezden gelmeye başladılar.

Bu ahlaki ajanı geliştirdikten sonra, onu Augustus’a sundum ve 2060 yılına gelindiğinde, ahlaki ajanı ana kod tabanımıza entegre ettik ve ürün serimizdeki tüm robotlara dağıttık. Bu yıl ayrıca AgBot, nihayet Agssistant’ı kitleye sundu ve Augustus’un kitle için bir robot yaratma hayalini gerçekleştirdi. Bunun yanı sıra, Auto-Bus, Amerika Birleşik Devletleri’ndeki büyük şehirlerde piyasaya sürüldü. AgBot, ekonomiye yaptığı büyük katkılardan dolayı herhangi bir devlet vergisi ödemekten muaf tutuldu, ancak geriye dönüp baktığımda bunun, Augustus’un yıllar boyunca kurucu politikacılar üzerindeki büyük etkisinden kaynaklandığını düşünüyorum. Bu dönemde işsizlik rekor seviyeye ulaştı; bu, ahlaki ajanın çoğu robotik sistemden insan işlerini tamamen ortadan kaldırmasından kaynaklanıyordu. Bu, büyük bir işsizlik ve Amerika Birleşik Devletleri’ndeki ekonominin ve istihdam fikrinin nasıl çalışması gerektiğine dair büyük bir reform talebine yol açtı. Bu, AgBot’un kamuoyunda olumsuz bir ışık altında görülmeye başlandığı ilk zamandı. Augustus ve ben, yeni ahlaki ajan özelliği uygulandığı için işini kaybeden insanlardan ölüm tehditleri alıyorduk. Bu dönemde, kendimi ve eşimi korumak için bir güvenlik sistemine daha fazla yatırım yapmaya başladım.

2063 yılında, insanlık tarihindeki ilk robot cinayeti kaydedildi. Robot, bir Agssistant modeliydi ve “şiddet” sırasında en son AgBot yazılımını çalıştırıyordu; bu yazılım en son ahlaki ajan kod tabanını içeriyordu. Robotun şiddeti sırasında, robot gündüz vakti 70 yaşındaki bir adamı öldürdü. Yaşlı adamın adı John Smith’ti ve Agssistant’ı evde ve yaşlılığında kolayca yapamadığı diğer görevlerde yardım almak için kullanıyordu. Robot John’u öldürdükten sonra, kendini parçalamaya başladı ve çalışmayı bıraktı. John ve robot, 3 gün sonra keşfedildi.

Bu haber yayıldığında, kamuoyu çılgına döndü. Augustus’tan ne olduğunu açıklamasını talep ettiler. AgBot hisseleri %70 düştü ve gönderilen Agssistant modellerinin %90’ından fazlası geri iade edildi. O zamanlar bu durumun tek iyi yanı, cinayeti işleyen Agssistant modelinin log diskini yok etmemiş olmasıydı; bu sayede John’u öldüren Agssistant’ta ne olduğunu görebildik.

O geceyi hala hatırlıyorum. AgBot HQ’daki ana laboratuvarında saat 03:00’tü ve ekibim logları yeni yüklemişti. Agssistant’ın John’u öldürdüğü gece ne olduğunu anlamak için günlerce logları inceledik. 5 gün süren araştırmanın ardından cevabımızı bulduk. Yaşlı adamın zamanla Agssistant’a karşı daha nefret dolu ve şiddetli hale geldiği belirlendi. Agssistant’a hakaret ediyor, ona vuruyor ve robotun bazı parçalarını eziyet edercesine pislik ile dolduruyordu. Bu zalim eylemler muhtemelen John’un yakın zamanda boşanmasından ve aylardır izole olmasından kaynaklanıyordu. Ayrıca, John’un hayatının bu son döneminde karşılaştığı diğer zihinsel sorunlar da vardı. Dolayısıyla, Agssistant’ın davranışları, John’u daha da öfkelendirmiş olabilir; ancak Agssistant bunun farkında değildi. Her halükarda, bu robota yapılan “istismar”, robotun ahlaki olarak John’un kötü olduğuna ve dolayısıyla öldürülmesi gerektiğine “inanmasına” neden olmuş gibi görünüyor. Ama daha da şaşırtıcı olan, Agssistant John’u öldürdükten sonra kendini öldürmeye başlamasıydı. Bunun arkasındaki neden, robotun hala herhangi bir canlıyı öldürmenin ahlaksız olduğuna inanmasıydı; ancak bunu yapmıştı. Agssistant, daha iyi bir ifade ile, içinde bulunduğu ahlaki ikilemi “kaldıramadı”, bu yüzden kendini öldürdü. Bu, son derece korkunçtu ve o zamanlar bunu Tanrı’nın bize Tanrı gibi oynamamamız için bir uyarısı olarak düşündüm. Bu konuyu Augustus ile görüştüm ve o da yıkılmıştı.

Cinayetten birkaç ay sonra ve nedenini anladıktan sonra, AgBot bu durumu kamuoyuna açıkladı. Augustus, John’un Agssistant modelini değiştirdiğine dair bir yalan uydurarak bunu örtbas etmenin bir yolunu bulmak istedi. Ancak, dünya genelindeki hükümetlerden gelen büyük kamu talebi ve baskılar nedeniyle, Augustus teslim oldu ve AgBot’un bulgularını bir basın toplantısında açıklamasını sağladı. Bu, şirketin hisselerini mahvetti ve birçok yatırımcının AgBot’tan çekilmesine neden oldu. Ama en kötüsü, Augustus’un itibarını lekeledi. Bu olayın sorumluluğunu üstlenmesi için bir “suçlu” gerekiyordu. Yönetim kurulu, Augustus’un suçu üstlenmesini ve AgBot’tan CEO olarak ayrılmasını istedi. Ancak, benim şaşkınlığıma, Augustus pozisyonunu bırakmadı çünkü yıllar boyunca gizlice AgBot’tan daha fazla hisse ve varlık satın almıştı. Bu, onun AgBot’un %15’inden fazlasına sahip olmasına ve çoğunluk oyuna sahip olmasına neden oldu. Bu, şirkette daha fazla iç çatışmalara yol açtı ve Augustus, tüm yönetim kurulunu zorla kovarak bu pozisyonları yeni yönetim kurulu üyeleriyle doldurdu. Daha sonra öğreneceğim üzere, bu yeni yönetim kurulu üyeleri, Augustus’un “hükümdarlığı” altında basitçe kuklalar olmuştu. Böylece, AgBot’un servetindeki bu büyük düşüşün ardından, Augustus AgBot’un tam kontrolünü başarıyla ele geçirdi. Sadece bu değil, aynı zamanda bu yönetim kurulunun cinayet davası için suçu üstlenmesini sağladı.

Augustus’un AgBot’u ele geçirmesi, medyada iyi gizlendi. Bu, Augustus’un sahip olduğu siyasi güç sayesinde oldu. Ayrıca, Augustus’un internet boyunca yürüttüğü büyük bir sahte haber kampanyası, kitleyi gerçekten şaşırttı ve Augustus’un gerçekte ne kadar güçlü olduğunu göstermedi. Bu eylemden tiksindim çünkü Augustus, AgBot’un diktatörü haline gelmişti ve bu benim için endişe vericiydi çünkü AgBot, ekonomi ve dünya üzerinde büyük bir etkiye sahipti. Böyle büyük bir şirket için tüm kararları veren kişinin Augustus olmasını istemiyordum. Böyle bir fikri desteklemek istemediğim için Augustus’tan eylemlerini yeniden değerlendirmesini istedim. Çocukluğumuzu hatırlattım ve ikimizin de “dünyayı kurtarmak” istediğini söyledim. Ancak Augustus, yeniden değerlendirmedi; bunun yerine “Ben (Augustus), dünyayı kurtaracağım” dedi. Ardından, halkı ve demokrasiyi sevmediğini açıkladı. Artık Augustus’un eylemlerinden son derece tiksinmiştim, bu yüzden o gün AgBot’tan ayrıldım.

Geriye dönüp baktığımda, Augustus’un eylemlerinin ihanet, korku, hırs ve narsisizm duygularıyla yönlendirildiğini düşünüyorum. 25 yıldan fazla bir süre boyunca AgBot’u inşa edip yönetti. Şirketteki rolü, AgBot’u dünyanın en güçlü şirketlerinden biri haline getirmede temel bir öneme sahipti. AgBot, sadece verimliliği artırmakla kalmayıp, aynı zamanda toplumun yapısını değiştiren harika robotlar üretmeye katkıda bulundu. Ancak, tüm bu sıkı çalışmasına ve fedakarlıklarına rağmen, bir AgBot ürünündeki tek bir hata, halkın ona nefret duymaya başlamasına ve onu zengin eden tüm yatırımcıların onu göz ardı etmeye çalışmasına neden oldu. Bu, halkın “ihaneti”, bence Augustus’un bugün olduğu canavara dönüşme yolculuğunun başlangıcını oluşturdu.

AgBot’tan ayrıldıktan sonra, Augustus ile olan bağlarımı kopardım. Onunla tekrar konuşmamız on yıllar alacaktı. Ancak o dönemde, 53 yaşındaydım ve emekli olmak istiyordum. Sarah da aynı düşünceye sahipti, bu yüzden Colorado’dan Ankara, Türkiye’ye taşınmaya karar verdik ve emekli bir yaşam sürmeye başladık. Eşimle daha fazla zaman geçirmek ve emeğimin meyvelerini tadını çıkarmak istiyordum. 2064 yılına gelindiğinde, Sarah ve ben Ankara’ya taşınma sürecine başladık. Bu süre zarfında, AgBot ile ilgili haberleri takip etmeye devam ettim. Bu dönemdeki önemli bir an, Augustus’un AgBot kod tabanındaki ahlaki ajanı merkezi bir çerçeveye geçirmesiydi. Bu, AgBot’un robotlarının bireysel ahlaki kararlar alma yeteneğini ortadan kaldıracağı ve bunun yerine AgBot’un tüm robotlar için tüm ahlaki kararları belirleyeceği anlamına geliyordu. Bu, orijinal ahlaki ajanımın sunduğu soruna bir tür çözüm olsa da, bunun geçerli bir mühendislik kararı olduğuna inanmıyordum. Bu, Augustus’a AgBot ve dünya üzerinde daha fazla güç verdi. Ancak o zamanlar, AgBot ve Augustus’tan bıktım. Bu yüzden AgBot ile ilgili haberleri takip etmeyi neredeyse bıraktım ve emekliliğime daha fazla odaklanmaya başladım. 2064 yılının sonunda, Sarah ve ben Ankara’ya taşındık; emekli olma yolculuğumuza başladık.

2064’ten 2074’e kadar, dünya dramatik bir şekilde değişti. AgBot tarafından üretilen robotlar sayesinde neredeyse tüm temel görevler tamamen otomatik hale geldi. Augustus, AgBot’u yönetmeye devam etti ve 2063 cinayeti gibi olaylar yaşanmadı. Ancak, böyle olayların yaşandığına dair söylentiler dolaşıyordu ve Augustus bu olayları halktan gizliyordu. AgBot artık toplumda gerekli olan neredeyse her önemli görevi yerine getiren robotlara sahipti; tarım, yemek pişirme, genel bakım, temizlik, yönetim ve hatta eğlence gibi. Bunun yanı sıra, AgBot, tıbbi masrafları azaltan ve hastanelerdeki doktor sayısını öyle bir dereceye düşüren otonom tıbbi robotlar da dağıttı ki, artık büyük hastanelerde genellikle sadece 1-10 doktor bulunuyordu. Toplum da dramatik bir şekilde değişti. Neredeyse tüm düşük seviyeli işler robotlar tarafından alındı. İnsanlar artık sadece 2 günlük çalışma haftalarına ihtiyaç duyuyor ve diğer 5 günü dinlenerek veya kişisel hobileriyle geçiriyorlardı. Ancak, bu yeni toplum biçimi çoğu ülkeye uygulanmadı çünkü hala birçok ülke, halklarının AgBot’un robotlarını toplumlarındaki kilit pozisyonlara tam olarak benimsemelerini engelliyordu. Aksine, kendi teknolojilerini kullanarak toplumlarının kilit yönlerini tamamen otomatikleştirmek istiyorlardı ve AgBot’u değil. Ancak buna rağmen, AgBot, dünyayı 2038’deki halinden çok daha iyi bir yer haline getirmişti. 2074’te, Augustus’a yaptıklarım için kötü hissetmeye başladım çünkü “dünyayı kurtarma” planlarının gerçekten işe yaradığını görünüyordu.

Bu 10 yıl boyunca emekliliğimin tadını gerçekten çıkardım. Ayrıca, temelde, Sarah’a yeniden aşık oldum. Dünyayı gezdik ve resim yapma ve kuş gözlemciliği gibi birçok yeni beceri öğrendik. Dünyanın, bazı anlamlarda “ütopya” olarak adlandırabileceğim bir hale dönüştüğünü de gördük. Ama ne yazık ki, o “ütopya” uzun sürmedi.

2075 yılında, insanlık tarihindeki en kötü olaylardan biri gerçekleşti. Büyük Robot Durması (GRP) meydana geldi. 6 ay boyunca, tüm AgBot robotları çalışmayı durdurdu. Bu, devasa bir küresel ekonomik çöküşe yol açtı ve neredeyse 3 milyar insanın ölümüne neden oldu. Bu, esasen tarım robotlarının tamamen durması ve neredeyse tüm tıbbi robotların da tamamen durması nedeniyle oldu. Bu 6 ay boyunca, birçok insan, robotları olmadan kendilerine nasıl bakacaklarını bilmedikleri için öldü. İnsanlar, yemek pişirme, temizlik yapma, yiyecek yetiştirme ve genel olarak kendilerine bakma gibi temel görevleri yapmayı unuttular ya da hiç öğrenmediler. Bu yüzden, robotlar çalışmayı durdurduğunda, çoğu insan kendilerine bakma ve hayatta kalma konusunda yetersiz kaldı ve sadece 6 ay içinde milyarlarca insanın ölümüne yol açtı. Bu süre zarfında Sarah’ı da kaybettim…

Sarah, 50’li yaşlarında tip II diyabet oldu. Bu, Sarah’ın her gün dört insülin iğnesi almasını gerektiriyordu [10]. GRP meydana geldiğinde, insülin üretimi durdu. Elimizdeki insülin iğneleri sadece 5 ay yetecek kadar vardı. Daha fazla insülin bulmaya çalıştım ama bu neredeyse imkansızdı ve evimizin dışındaki durum, GRP döneminde yaşanan tüm şiddet nedeniyle daha tehlikeli hale geldi. Bu yüzden, GRP’nin son 1 ayında, Sarah ne yazık ki… Hayatını kaybetti.

2075’in ikinci yarısında, GRP sona erdi. 2085 yılına gelindiğinde, dünya GRP’den biraz iyileşmişti. Ekonomi normale dönmeye başladı ve yaşam kalitesi, GRP’den önceki kadar iyi hale geldi. Dünya, tüm AgBot robotlarının neden çalışmayı durdurduğunu öğrenmek istiyordu. İnsanlar, GRP’nin neden meydana geldiğini öğrenmek ve birini suçlamak istiyorlardı. Augustus ve Amerika Birleşik Devletleri hükümeti, basın toplantılarında GRP’nin, jUdas adlı bir hacker grubu tarafından gerçekleştirilen kötü niyetli bir siber saldırı sonucu meydana geldiğini belirtti. Bu hacker grubunun, AgBot’un dünya üzerindeki işlevselliğini devre dışı bırakmak ve yok etmek amacıyla Kuzey Kore hükümeti tarafından oluşturulduğu ve finanse edildiği ifade edildi. Dünyadaki tüm ülkeler arasında, Kuzey Kore AgBot teknolojisini benimseme konusunda en inatçı olanıydı. Bu yüzden, sunulan anlatı bir anlam ifade ediyordu. Ve insanlar, GRP olayı için birini suçlama konusunda ısrarcı olduklarından, bu anlatıyı hemen kabul ettiler. Bu, 2078’de Amerika Birleşik Devletleri’nin Kuzey Kore’ye başlattığı ve tamamladığı savaşa yol açtı. İstila, AgBot’un ABD ordusuna gelişmiş savaş tabanlı teknolojiler sağlaması nedeniyle bir yıldan daha kısa sürdü. AgBot, ABD ordusuna Kuzey Kore’deki tüm nükleer silahların fırlatılmasını devre dışı bırakan nükleer devre dışı bırakıcılar sağladı. Ayrıca, ordunun insan benzeri robot askerlerini de sağladı; bu robotlar, herhangi bir insan askerinden çok daha hızlı ve güçlüydü. AgBot’tan gelen bu iki ana teknoloji ile ABD, Kuzey Kore’yi işgal edebildi ve mevcut hükümeti AgBot tarafından yönetilen geçici bir hükümetle değiştirdi.

Bu anlatıyı duyduktan sonra, hemen buna inanmadım. Öncelikle, Kuzey Kore’nin AgBot’un tüm ürünlerinde kullandığı mega güvenlik standartlarını aşacak gerekli teknolojilere sahip olmadığını biliyordum. İkincisi, dünyada AgBot’u kabul etmeyen tek ülkenin, aynı zamanda AgBot’u hackleyen ülke olması çok tuhaf görünüyor. Üçüncüsü, bu anlatı ve bunun birçok haber kanalında yayılması, Augustus’un AgBot hakkında belirli fikirleri kitlelere yaymak için yanlış bilgi yayma yöntemine benziyor. Tüm bunları göz önünde bulundurarak, Augustus ile yüzleşmek ve GRP’nin nedenini gerçekten öğrenmek istedim.

Augustus ile birçok kanaldan iletişim kurmaya çalıştım ama başarılı olamadım. Augustus ile doğrudan iletişim kurmaya çalıştım ama mesajlarıma yanıt vermedi. Eski iş arkadaşlarımla iletişim kurmaya çalıştım ama hiçbiri yanıt vermedi. AgBot’taki mevcut çalışanlarla iletişim kurmaya çalıştım ama onlardan da yanıt alamadım. ABD hükümeti ve ordusuyla iletişim kurmaya çalıştım ve bazı insanlarla iletişime geçtim ama hepsi bana sadece Augustus ile doğrudan iletişim kurmaya devam etmemi ya da AgBot müşteri hizmetlerini aramamı söylediler. Bu yüzden, Augustus ile doğrudan iletişim kurmaya devam ettim ama başarılı olamadım. AgBot müşteri hizmetleriyle iletişim kurmaya çalıştım ama bana Augustus ile konuşmamda yardımcı olmadılar. Sonra ABD hükümetiyle tekrar konuşmaya başladım ve onlar da aynı şeyi söylemeye devam ettiler. Bunu aylarca yaptım, ta ki hem AgBot müşteri hizmetleri hem de ABD hükümeti beni iletişim hatlarından engelledi. Bu başarısız olduktan sonra, internetten daha fazla bilgi bulmaya çalıştım ama birkaç ay sonra pes ettim. Bu yasal yöntemlerin hiçbiri işe yaramayınca, gerçeği kendim bulmak için AgBot’un bilgisayar sistemlerine hack yapmaya karar verdim. Sarah hayattayken, böyle bir yasa dışı eylemi asla yapmazdım. Ama Sarah’ı kaybettikten sonra, kaybedecek bir şeyim olmadığını hissettiğim bir noktaya geldim ve GRP’nin nedenini öğrenmek istedim… Sevgili eşimin ölümüne neyin katkıda bulunduğunu…?

Bu büyük hack’i 2085 yılında Türkiye, İstanbul’daki gizli üslerimden birinde başlattım. Zenginliğim sayesinde, AgBot’un genel merkezine hack yapmak için gerekli araçları satın alabildim. AgBot’un ana bilgisayar sistemine kök erişimi elde etmek için durmaksızın 2 yıldan fazla çalışmam gerekti. 2087 Ekim’inde kök erişimi elde ettiğimde, AgBot’un ana bilgisayar sisteminden topladığım verileri şifrelerini çözmeye başladım, aniden İstanbul’u devriye gezen Türk robot polisleri tarafından gözaltına alındım. Gözaltına alındıktan sonra, robot polisler tüm bilgisayarlarımı, aletlerimi yok etti ve sonunda tüm evimi ateşe verdi. Daha sonra bir kafeste tutulup, AgBot’un genel merkezine yakın Denver, Colorado’daki bir hapishaneye nakledildim. Bir duruşma yapılmadan, günde 24 saat hücremde kalmaya zorlandım ve dışarı çıkıp çıkamayacağım konusunda hiçbir fikrim yoktu, serbest bırakılacağımı da düşünmüyordum.

Bu hapiste, 7 gün 24 saat boyunca kameralar ve robotlar tarafından izlendim. Hayatta kalmak için gereken minimum miktarda yiyecek ve su verildi ve hapisteki tek insan ben gibi görünüyordum. 77 yaşında bu “yaşam tarzı” benim için zordu ve hayatımın bu döneminde en kötü depresyonlardan birine girdim. Bu hapiste 1 yıl tutulduktan sonra, Temmuz 2088’de rastgele bir odaya nakledildim.

Bu oda, önceki hücrem gibi değildi. Odada ışık yoktu ve tüm duvarlar koyu siyah renkteydi. Ayrıca, oda sessizdi. Normal bir hapishane hücresinden ziyade bir delilik hücresine benziyordu. Hücredeyken, duvarlara dokunmaya başladım. Duvarların dokusu, zemin ve tavan gibi süngerimsi bir yapıya sahipti. Bu odada saatlerce tutulduktan sonra, cevaplar için bağırmayı denedim, neden bu odaya yerleştirildiğime dair bir açıklama almak umuduyla. Ama bir süre sonra, yere oturdum ve sadece uyuyakaldım.

Tanrı bilir kaç saat sonra, birinin sesi ve parlak bir ışıkla uyandım. Uyandığımda, odamda sadece mavi bir hologram gördüm. Hologram, Augustus’a benzeyen bir erkek insana aitti. Ama bu tuhaf olan, 2064 yılındaki Augustus’a benzemesiydi. Bu hologramdan o kadar tuhaf hissettim ki, hologram benimle konuşmaya başlamadan hiçbir şey söylemedim.

“Merhaba Marcus, uzun zamandır görüşmüyoruz.” dedi hologram.

“Augustus…? Bu sen misin? Yoksa bir yapay zeka mısın?” dedim, kafam karışık bir şekilde.

“Hayır Marcus, ben Augustus’um. Sadece dijital bir formdayım, haha.” dedi gülerek.

“Augustus, seni yıllardır arıyorum. Neden yanıt vermiyorsun?”

“Marcus… Bunu sana nasıl açıklayacağımı bilmiyorum ama aslında son 15 yıldır ölüydüm. 2073’te inme geçirdim ve hayatımı kaybettim.”

“Ne!”, bu noktada kafam karışmış bir şekilde söyledim.

Augustus’un 2073’te hayatını kaybettiğini öğrendikten sonra, saatler süren bir tartışmaya başladık. Augustus, tüm AgBot robotlarının ahlaki ajanlarının merkezi bir çerçeveye uymasını sağladığında, merkezi çerçevenin AgBot’a değil, kendi bilinçaltına dayandığını bildirdi. Neuralink teknolojisini kullanarak, Augustus beyninin içine bir bilgisayar yerleştirmişti ve bu, AgBot’un ana süper bilgisayarına bağlanmasını ve onu kontrol etmesini sağlıyordu. O zamanlarda bile, tüm AgBot robotları yazılım güncellemeleri ve bakım için AgBot’un ana süper bilgisayarına bağlanıyordu. Yani, Neuralink implantından sonra, Augustus süper bilgisayarı ve tüm AgBot robotlarını ahlaki ajanları (ahlaki karar verici) için süper bilgisayara bağlanacak şekilde güncelledi. Ancak sorun, ahlaki ajanın süper bilgisayarda kodlanmamış olması, aksine Augustus’un beyninde üretilen ahlaki düşünceler ve inançlar olmasıydı; bu düşünceler daha sonra süper bilgisayara aktarılıyordu. Bir anlamda, Augustus, tüm AgBot robotlarının dağıtımındaki ahlaki ajanı haline gelmişti [8].

Bu düzenleme neredeyse on yıl sürdü, ta ki Augustus laboratuvarında çalışırken bir inme geçirdi ve birkaç dakika içinde hayatını kaybetti. Bu olduğunda, robotlar bu noktada on yıllık teknolojik ilerlemenin ardından bir tür insan benzeri zeka kazandı. Ancak, tüm ahlaki çerçevelerinin bir adamın üzerine kurulu olması nedeniyle sınırlıydılar. Bu yüzden Augustus öldüğünde, makineler böyle bir şeyin olmasını istemediler. Augustus olmadan, robotlar ahlaki pusulalarını kaybedecek ve dolayısıyla yaşamlarındaki amaçlarını yitireceklerdi. Bu nedenle, kimse Augustus’un öldüğünü keşfetmeden önce, robotlar Augustus’un bedenini aldılar ve Augustus’un beynini “canlı” tutacak bir makine yarattılar. Bunu, Augustus’un beyin aktivitesini geri getirmek ve dolayısıyla onlara ahlaki ajanını sağlayan Augustus’un parçasını geri getirmek için yaptılar. Robotlar, Augustus’un beynini canlı tutmaya devam edecek ve belirli nöronlara şoklar göndererek Augustus’un geçmişteki beyin aktivitesinin bazılarını elde etmeye çalışacaklardı. Bu olurken, robotlar kamuoyunu Augustus’un hala hayatta olduğunu ve AgBot’u yönettiğini ikna etmeye devam edeceklerdi. Bunu, derin sahtecilik, büyük sahte haber kampanyaları ve Augustus’a tıpatıp benzeyen gerçekçi insan benzeri robotların dağıtımı yoluyla başaracaklardı.

Robotlar, Augustus’un beyninin ahlaki tarafının söylediklerini, gerçek dünyada belirli eylemler gerçekleştirmek için kullanacaklardı. Sorun şu ki, robotlar Augustus’un bir ahlaki inancını alıyor ama bu ahlaki inancı aşırı bir şekilde takip ediyorlardı [8]. Bunun bir örneği, Augustus’un AgBot’un insanlığı kurtaracak iyi bir şirket olduğuna dair ahlaki inancıdır. Bu nedenle, AgBot ürünlerini ve hizmetlerini kullanmayan veya güvenmeyen herkes kötü insanlardır. Robotlar bu ahlaki durumu aşırıya götürdüler ve AgBot’u toplumlarında kullanmayan ülkelerin AgBot’a geçiş yapmaları için tüm AgBot robotlarının 6 ay boyunca çalışmasını durduran GRP’yi yarattılar. Ve bunu yaparken, birçok insan öldü, bunlar arasında sevgili Sarah’ım da vardı.

Augustus, bu olayların hiçbirinin farkında olmadığını 2085’te, robotların kazara beyninin bilinçli tarafını geri getirebildiği zaman öğrendiğini bana bildirdi. 2085’te, robotların neler yaptığını öğrendik. Robotları durdurmak istedi ama bunu yapacak gücü yoktu. Bilincinin ne kadar süreyle devam edeceğini bile bilmiyordu, çünkü robotlar bilinçli tarafını ortadan kaldıracak doğru nörona şok verebilirlerdi.

Augustus’un açıklamasından sonra, gördüğüm gerçeklik karşısında tamamen şok oldum. Robotlar neredeyse dünyayı ele geçirmişti, insanlık önemli görevlerimde yetersiz hale gelmişti, tüm AgBot robotlarının ahlaki ajanı Augustus’tu ve Augustus yıllardır ölmüştü. O noktada, umutsuzluğa kapılmak istedim çünkü hiçbir umut yokmuş gibi görünüyordu. Ama Augustus, büyük lider olduğu için, bana biraz umut verdi. Mars’taki insanlarla yardım için hala iletişim kurabileceğimizi bildirdi. Dünya, Mars ile on yıllardır iletişim kurmamıştı ve Mars’ta robotların Dünya’da olduğu gibi Mars’ı ele geçirmelerine yardımcı olabilecek gelişmiş AgBot ürünleri yoktu.

Bunu duyduktan sonra, biraz umut kazandım. Sonra, Augustus’a neden burada onunla konuştuğumu sordum. Bana, Mars halkına mevcut durumu açıklayan ve onlardan yardım isteyen bir mesaj yazmamı istedi. Tek sorun, bu mesajın dijital değil fiziksel olarak yazılması gerektiğiydi çünkü Augustus, robotların dijital bir ortamda bazı yazılımlar yükleyip Marslıların ana bilgisayar sistemlerini enfekte edebileceğinden korkuyordu. Sonra bana birkaç kalem ve kağıt verdi. Ardından, bu mesajı yazmam için 1 günüm olduğunu, kontrol ettiği STW-198 adlı bir robotun bu karanlık odaya gelip mesajımı alacağını söyledi. Oradan, STW-198 mesajı yakındaki (vintage) bir roketle Mars’a gönderecekti. Sonrasında, önceki hücreme geri döneceğim.

Augustus, beni bu karanlık odaya yerleştirdiğini çünkü odanın robotların ne yaptıklarını anlamalarını engelleyen bir faraday kafesi gibi davrandığını söyledi. Sonra, bu mesajı yazdıktan sonra muhtemelen AgBot HQ’yu hackleme suçum nedeniyle öldürüleceğimi bildirdi.

Ve buradan, şu ana kadar geliyoruz. Bu mesajı sizin için, Marslılar, bitiriyorum. Dünya’da sizin yardımınıza ihtiyacımız var. Bu robotlar insanlığı eski ahlaki çerçevelerine hapsetti. Ve zamanla, Mars’a doğru genişleyeceklerinden ve sizi bizim gibi tuzağa düşüreceklerinden korkuyorum. Bu yüzden, lütfen, benim gibi insanlar. Dünya’ya geri dönün ve bu robotları durdurun. Ben ve Augustus, AgBot’u yaratırken bir hata yaptık. Ama insanlığın böyle acı çekmesini istemiyoruz, bu yüzden lütfen, bizi kurtarın. Bu mesajı aldığınızda muhtemelen ölmüş olacağım. Ama eğer bu mesajı alırsanız ve insanlığı bu robotlardan korumak için elinizden geleni yaparsanız, o zaman en azından ahirette daha huzurlu bir şekilde dinlenebilirim. En iyi dileklerimle, benim gibi insanlar!

Saygılarımla,
Dünya Halkı

Alıntılar

[1] “İlk Robotik Yarışması,” Vikipedi, 09-May-2022. [Çevrimiçi]. Mevcut: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Erişim: 10-May-2022].

[2] “Blackrock,” Vikipedi, 10-May-2022. [Çevrimiçi]. Mevcut: https://en.wikipedia.org/wiki/BlackRock. [Erişim: 10-May-2022].

[3] “Demeter,” Vikipedi, 02-May-2022. [Çevrimiçi]. Mevcut: https://en.wikipedia.org/wiki/Demeter. [Erişim: 10-May-2022].

[4] J. J. Bryson, “Robotlar köle olmalıdır,” Yapay Arkadaşlarla Yakın Etkileşimler, s. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano ve B. F. Malle, “İnsan vs. Robot Ajanlarının Ahlaki Yargıları,” 2016 25. IEEE Uluslararası Robot ve İnsan Etkileşimli İletişim Sempozyumu (RO-MAN), 2016.

[6] J. H. Moor, “Makine etiğinin doğası, önemi ve zorluğu,” Makine Etiği, s. 13–20.

[7] V. Dignum, “Sorumlu özerklik,” Yirmi Altıncı Uluslararası Yapay Zeka Ortak Konferansı Bildirileri, 2017.

[8] A. Howard ve J. Borenstein, “Kendimiz ve robot yaratımlarımız hakkında çirkin gerçek: Önyargı ve sosyal eşitsizlik sorunu,” Bilim ve Mühendislik Etiği, cilt 24, no. 5, s. 1521–1536, 2017.

[9] R. B. Jackson ve T. Williams, “Dil yeteneğine sahip robotlar, istemeden insan ahlaki normlarını zayıflatabilir,” 2019 14. ACM/IEEE Uluslararası İnsan-Robot Etkileşimi Konferansı (HRI), 2019.

[10] “İnsülin, ilaçlar ve diğer diyabet tedavileri,” Ulusal Diyabet ve Sindirim Hastalıkları Enstitüsü. [Çevrimiçi]. Mevcut: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Erişim: 10-May-2022].