Tło

Napisałem krótkie opowiadanie, The Diminished King, jako moje końcowe zadanie na zajęcia z Etyki Robotyki (HASS400) w ostatnim semestrze moich studiów licencjackich w Colorado School of Mines. W ramach tego zadania mieliśmy napisać fikcyjne krótkie opowiadanie, które obracałoby się wokół etyki robotyki, a także odwoływałoby się do niektórych prac, które czytaliśmy w trakcie semestru w tym opowiadaniu. Wymogiem tego opowiadania było to, aby miało 10 stron, podczas gdy ja napisałem 21 stron. Bardzo się tym opowiadaniem przejąłem, więc całkiem mnie poniosło.

Teraz, OSTRZEŻENIE, nie jestem świetnym pisarzem. To krótkie opowiadanie nie jest więc doskonałe i wymaga dopracowania oraz gruntownego przerobienia. Ale jestem z niego dumny i uważam, że to fajna lektura. Przez wszystkie lata w szkole zacząłem czerpać przyjemność z procesu pisania, więc mam nadzieję rozszerzyć to na pisanie innych rzeczy, takich jak blogi, artykuły itp.

Mając to wszystko na uwadze, oryginalne krótkie opowiadanie zostało zapisane jako plik PDF jako część wymogu zadania. Jednak, aby zmniejszyć rozmiar pracy, przekonwertowałem opowiadanie do formatu markdown. Wiedząc to, całe krótkie opowiadanie można obejrzeć/przeczytać poniżej. Mam nadzieję, że lektura sprawi Ci przyjemność; skontaktuj się ze mną w moich mediach społecznościowych, jeśli masz jakieś pytania lub uwagi dotyczące tego krótkiego opowiadania.

Czytaj dalej, aby odkryć The Diminished King…

ZMNIEJSZONY KRÓL

Mehmet Hanifi Yilmaz
10 maja 2022

Opis

W przyszłości, w której los Ziemi wisi na włosku, Marcus Bruce, technologiczny cudowny talent, oraz jego przyjaciel Augustus Elrod, wizjonerski lider, wyruszają na misję przekształcenia świata za pomocą zaawansowanej robotyki. Ich dzieło, AgBot, rewolucjonizuje globalne rolnictwo i przemysł, obiecując utopijną przyszłość. Jednak gdy ich technologiczne imperium rośnie, nieprzewidziane konsekwencje wystawiają na próbę samą istotę ludzkiej moralności i wolności. Kiedy katastrofalne wydarzenie znane jako Wielka Przerwa Robotów zagraża istnieniu ludzi, Marcus musi zmierzyć się z ciemną stroną ich dziedzictwa i błagać o międzyplanetarną pomoc. „The Diminished King” to wciągająca opowieść o ambicji, władzy i delikatnej równowadze między człowiekiem a maszyną, skłaniająca nas do zakwestionowania prawdziwego kosztu postępu.

Opowiadanie

Jestem tutaj, aby ostrzec was o krytycznej sytuacji, w jakiej znajduje się teraz Ziemia! Jeśli nie zostanie właściwie rozwiązana, sytuacja ta może z łatwością doprowadzić ludzkość do zagłady. Chciałbym wyjaśnić tę sytuację w kilku zdaniach, ale niestety złożoność tego problemu wymaga ode mnie wyjaśnienia, co do niego doprowadziło, abyście wszyscy naprawdę zrozumieli jego wagę.

Jestem kluczowym ogniwem w tym, co doprowadziło do obecnej sytuacji Ziemi, więc pozwólcie, że przynajmniej się przedstawię. Nazywam się Marcus Bruce, urodziłem się w 2010 roku w małym miasteczku w Kolorado o nazwie Ouray. Ouray to podmiejski obszar otoczony pięknymi górami. Urodziłem się w rodzinie dwojga rodziców, którzy oboje byli nauczycielami w liceum. Mój ojciec był nauczycielem matematyki, a moja matka nauczycielką przedmiotów ścisłych.

Niewiele pamiętam z wczesnego dzieciństwa, ponieważ powiedziałbym, że nie osiągnąłem prawdziwej świadomości aż do wieku 12 lat, czyli w 2022 roku. W tym roku chodziłem do gimnazjum i byłem uważany za cudowne dziecko, które naprawdę wyróżniało się z matematyki i nauk ścisłych. Mój dyrektor w szkole chciał, aby moi rodzice pozwolili mi przeskoczyć z 7. klasy do 11. klasy. Ale moi rodzice nie zgodzili się z rekomendacją dyrektora, ponieważ chcieli, abym miał normalne dzieciństwo. Jestem wdzięczny za tę decyzję, ponieważ rzeczywiście pamiętam, że miałem wspaniałe dzieciństwo. Dzieciństwo w czasach, gdy świat zaczynał coraz bardziej integrować się z technologią. Zamiast być przez nią całkowicie pochłonięty. Teraz, dowiedzenie się, że byłem cudownym dzieckiem, uczyniło rok 2022 dla mnie szczególnym. Ale tym, co naprawdę uczyniło rok 2022 wyjątkowym, był fakt, że właśnie wtedy po raz pierwszy spotkałem przyszłego wieloletniego przyjaciela, Augusta Elroda. Tego samego Augusta, który zasadniczo odegrał kluczowe wydarzenia prowadzące Ziemię do tego, gdzie jest teraz.

Poznałem Augusta w 7. klasie w naszym lokalnym klubie robotyki Lego. Pierwszą rzeczą, którą zauważyłem w cechach Augusta, była jego ambicja i determinacja. Nawet jako 12-letni chłopiec Augustus był prawdziwym liderem, ponieważ potrafił poprowadzić nasz lokalny zespół robotyki Lego do zwycięstwa w ogólnokrajowych mistrzostwach Stanów Zjednoczonych. To było naprawdę imponujące, biorąc pod uwagę, że wszyscy w drużynie byli uczniami gimnazjum, którym niewiele zależało na poznawaniu inżynierii stojącej za robotyką. Ale Augustus nie tylko motywował te dzieci do nauki i zwyciężania, lecz także poprowadził je do triumfu. Wszyscy szanowaliśmy Augusta jako naszego lidera, a Augustus nie szanował zbyt wielu ludzi. Ale szanował mnie za moją inteligencję. Najpierw zauważył mnie ze względu na moją inteligencję i był zszokowany, spotykając kogoś w swoim wieku, kto był od niego mądrzejszy. Augustus nawet rywalizował ze mną na egzaminach, ale zawsze przegrywał. Jednak tak jak ja zawsze pokonywałem Augusta intelektem, tak Augustus pokonywał mnie w sporcie. Grał po lekcjach w koszykówkę i piłkę nożną. Był tak dobry w tych sportach, że wielu myślało, iż zostanie zawodowym sportowcem, gdy dorośnie. Ten wzajemny szacunek, który żywiliśmy wobec siebie, ostatecznie doprowadził do długiej przyjaźni, która przetrwała aż do naszych dorosłych lat.

Po latach w gimnazjum rozpoczęliśmy szkołę średnią w 2024 roku. W trakcie lat licealnych zarówno ja, jak i Augustus braliśmy udział w FIRST Robotics Competition (FRC) [1]. FRC było największym konkursem robotyki w Stanach Zjednoczonych i składało się głównie z uczniów szkół średnich [1]. Podczas FRC nauczyliśmy się wiele o inżynierii mechanicznej, elektrycznej i komputerowej. I dzięki niesamowitym zdolnościom przywódczym Augusta udało nam się wygrać mistrzostwa kraju dwa lata z rzędu, co w tamtym czasie było niesłychane. Również w tym czasie brałem udział w wielu konkursach matematycznych, a także uczestniczyłem w debatach na tematy związane z etyką. Właśnie wtedy Augustus nadal dominował w koszykówce, prowadząc szkolną drużynę varsity do mistrzostw kraju przez 3 lata z rzędu. Oboje byliśmy uzdolnionymi uczniami na swój sposób. Ale to także w tym czasie zarówno ja, jak i Augustus wypracowaliśmy nasze cele życiowe i, na dobre lub na złe, podążaliśmy za nimi aż do samego końca.

Przez cały okres nauki w liceum odkryłem, że moim celem życiowym jest uczynienie świata lepszym miejscem za pomocą technologii. Pogodziłem się z tym, że świat nie będzie doskonały i że zawsze będzie miał swoje wady. Ale wtedy wierzyłem, że jeśli będę wystarczająco ciężko pracował, mogę przynajmniej odciążyć świat i stworzyć lepszą przyszłość. Augustus miał podobne cele, ale był trochę inny. Wiedziałem, że Augustus jest ambitny, ale nigdy naprawdę nie wiedziałem, dokąd chce dojść w życiu, aż do naszego ostatniego roku w liceum.

Podczas naszego ostatniego roku liceum zarówno ja, jak i Augustus zostaliśmy przyjęci i zdecydowaliśmy się studiować w Massachusetts Institute of Technology (MIT). Augustus otrzymał propozycję trafienia do NBA, ale odrzucił tę ofertę i zamiast tego postanowił pójść na MIT. Po raz pierwszy usłyszałem o tym od rodziców Augusta, a gdy to usłyszałem, zadzwoniłem do Augusta i nasza rozmowa wyglądała mniej więcej tak:

„Augustus, dlaczego powiedziałeś nie NBA? To jedyna taka okazja w życiu” — powiedziałem zdezorientowany.

„Marcus, NBA byłoby fajne, ale tylko tyle, fajne. To nie zmieni świata. Jeśli już, to odciągnęłoby mnie od naprawy tego świata” — powiedział Augustus pewnym siebie tonem.

„Zmienić świat? Co masz na myśli?”

„Tak, zmienić świat! Marcus, chcę poprowadzić ludzkość ku lepszej przyszłości. Chcę ocalić świat!”

Zatrzymałem się na kilka sekund, jakoś bardziej zaskoczony, niż myślałem, że będę.

„Ocalić świat? Co masz na myśli?”

„Marcus, ty i ja jesteśmy utalentowani. Oboje chcemy pomagać światu. Ty wyróżniasz się jako intelekt, a ja jako lider. Nie tylko to, ale ufam ci, Marcus. Dzięki tobie i moim umiejętnościom możemy rozwijać i rozpowszechniać technologię, która może zmienić świat na lepsze. Jestem tego pewny!”

„Wow, jesteś bardziej ambitny, niż myślałem, Augustus!” — powiedziałem, lekko się na końcu śmiejąc — „ale jak zamierzasz osiągnąć taki cel?”

„Krótka odpowiedź brzmi tak, Marcus; planuję założyć firmę technologiczną. Potem rozszerzyć działalność na politykę. Dzięki temu zyskać zarówno władzę finansową, jak i polityczną. A stamtąd możemy zmienić świat. Odegrasz kluczową rolę w tym planie, Marcus!”

„Dobrze, Augustus. To wciąż bardzo ambitne. Ale kiedy będziesz miał rozpisany plan i zaczniesz mnie potrzebować, będę przy tobie.”

„Dzięki, mój przyjacielu, do zobaczenia na MIT!” — powiedział Augustus podekscytowanym tonem.

W tamtym czasie ta rozmowa tak naprawdę niewiele dla mnie znaczyła. Wiem, że Augustus jest świetny, ale jego marzenia brzmiały bardziej jak marzenia niż możliwa przyszłość. Wtedy nie potraktowałem jego słów poważnie. Ale to wszystko miało się zmienić. Tak czy inaczej, był rok 2028 i z niecierpliwością czekałem na rozpoczęcie studiów licencjackich na MIT.

Był to również ekscytujący czas na rozpoczęcie studiów inżynierskich, ponieważ w tym samym roku, 2028, rząd Stanów Zjednoczonych, NASA i SpaceX zaczęły wysyłać więcej ludzi, aby skolonizować Marsa. Zaledwie 2 lata wcześniej wysyłali tylko kilka osób tam i z powrotem na czerwoną planetę. Ale teraz oni i reszta świata zaczęli wysyłać więcej ludzi na Marsa, aby się tam osiedlić. Był to prawdziwy punkt zwrotny w historii ludzkości i spowodował ogromny popyt oraz rozwój badań nad robotyką, co było świetne, ponieważ chciałem studiować robotykę.

W roku 2030 zarówno ja, jak i Augustus ukończyliśmy nasz drugi rok na MIT. Studiowałem równolegle robotykę i etykę, a Augustus studiował robotykę i nauki polityczne. Jednak po drugim roku studiów Augustus naprawdę zaczął nie lubić studiów. Nie postrzegał ich jako użytecznego narzędzia do osiągnięcia swojego marzenia o „ratowaniu świata”. Tak więc podczas swojego drugiego roku Augustus opuszczał większość zajęć i oblał też większość z nich. Zamiast chodzić na zajęcia, Augustus skupił się na rozwijaniu tego oprogramowania opartego na AI, które miałoby skutecznie zarządzać aktywami i akcjami. Chciał stworzyć oprogramowanie do zarządzania aktywami, które było lepsze niż w tamtym czasie oprogramowanie Aladdin firmy BlackRock [2]. Był tak pewny swojego oprogramowania, że po drugim roku rzucił MIT i podjął swój pierwszy biznesowy projekt z tym nowym oprogramowaniem, które rozwijał. W maju 2030 wyprowadził się z akademika i przeniósł się do Nowego Jorku. Byłem przygnębiony, że Augustus rzucił studia, ale jedyną dobrą rzeczą w tym roku było to, że poznałem moją przyszłą żonę, Sarah Raven.

Teraz przeskoczmy do roku 2038. Augustus był wszędzie w wiadomościach, ponieważ właśnie został multimilionerem w wieku 28 lat. Po sprzedaniu swojego oprogramowania za pokaźną sumę pieniędzy BlackRockowi Augustus miał na swoim koncie prawie 100 milionów dolarów w gotówce oraz trochę opcji na akcje BlackRock. Podczas gdy Augustus podbijał świat finansów, ja właśnie ukończyłem moje dwa doktoraty, z Intelligence Robotics Systems oraz machine ethics. Nie tylko to, ale latem 2038 Sarah i ja pobraliśmy się. Zaprosiłem Augusta na mój ślub i po raz pierwszy od prawie 8 lat zobaczyłem Augusta właśnie na moim ślubie. To był fajny wieczór, ale gdy kończyliśmy wesele. Augustus poprosił mnie, żebym zadzwonił do niego, gdy będę mieć trochę wolnego czasu. Więc po moim i Sarah miesiącu miodowym zadzwoniłem do Augusta.

Rozmawialiśmy przez prawie 2 godziny i w tym czasie nadrabialiśmy życie, ale potem Augustus zaczął mówić przez telefon poważnie. Augustus zauważa, że wie, iż mam na swoim koncie ogromne zadłużenie studenckie i że wciąż nie znalazłem pracy. Dlatego wspomina o pracy, którą jego zdaniem mógłby mi zaoferować. Chodziło o bycie współzałożycielem jego nowego przedsięwzięcia biznesowego. To nowe przedsięwzięcie biznesowe to startup o nazwie AgBot, który ma się skupić na automatyzacji rolnictwa za pomocą AI i robotyki. Augustus chce, żebym został współzałożycielem AgBot, ponieważ uważa, że moje umiejętności techniczne będą cenne przy rozwijaniu potrzebnej architektury do tworzenia tak inteligentnych systemów robotycznych. Powiedział mi też, że mi ufa i że ceni zaufanie po tym, jak jego poprzedni partner w zasadzie skłonił go do sprzedania swojego oprogramowania BlackRockowi. Po usłyszeniu tej propozycji od razu ją przyjąłem, ponieważ byłem naprawdę podekscytowany projektem, a poza tym miał rację — byłem ogromnie zadłużony i do tego momentu nie miałem żadnych ofert pracy.

AgBot zostaje oficjalnie założony w 2038 roku. Ja i Sarah wracamy do Kolorado, ponieważ tam znajduje się AgBot. Natychmiast Augustus i ja zaczynamy pracować nad budowaniem AgBot. W ciągu 5 lat zarówno ja, jak i Augustus podjęliśmy kluczowe kroki, aby doprowadzić AgBot do obecnego stanu. Po pierwsze, Augustus inwestuje własny kapitał w firmę. Pozwoliło nam to zdobyć wszystko, czego potrzebowaliśmy, aby zacząć budować prototypy jako dowody koncepcji. Pozwoliło to również Augustusowi zatrudnić innych programistów, którzy pracowali pode mną nad tworzeniem kluczowych technologii dla AgBot. To właśnie w tym czasie zaczęliśmy rozwijać i ostatecznie wydaliśmy nasz pierwszy produkt, Demeter [3]. Demeter to czterokołowy robot kroczący z regulowaną wysokością nóg. Zawiera dwa robotyczne ramiona typu delta i dwa 6-osiowe robotyczne ramiona. Celem Demeter jest ochrona upraw przed owadami, zwierzętami i chorobami poprzez monitorowanie i zarządzanie tymi uprawami w ich wczesnych fazach rozwoju. Może być również używany do zbierania plonów z roślin, których nie da się łatwo zautomatyzować z użyciem trackera, jak truskawki. Oprócz samego robota Demeter posiadał także własną stację ładowania i drona. Demeter może automatycznie się ładować, a także może korzystać ze swojej formy drona, aby sprawdzać duże pola uprawne i zobaczyć, które uprawy najbardziej potrzebują pielęgnacji. Ten robot był w pewnym stopniu autonomiczny, ale nadal wymagał człowieka do monitorowania i naprawy Demeter. Jednak główną zaletą, jaką zapewniał Demeter, było to, że mógł pomóc jednemu rolnikowi zarządzać jednocześnie 1000 akrami ziemi, co wcześniej było niespotykane.

Demeter został wydany publicznie w maju 2043 roku, osiągając rekordową sprzedaż. Dzięki zaawansowanym funkcjom Demeter oraz niesamowitej kampanii marketingowej Augusta i jego zespołu, Demeter wyprzedał się natychmiast. To uspokoiło innych inwestorów i doprowadziło do ogromnego wzrostu finansowania od kolejnych inwestorów. To dodatkowe finansowanie doprowadziło do tego, że AgBot rozszerzył swoją działalność oraz zespół deweloperski. Umożliwiło to również AgBot rozpoczęcie prac nad wewnętrznymi modułami zautomatyzowanego rolnictwa, które później zostały wydane w 2047 roku do obszarów świata najbardziej dotkniętych zmianami klimatu. Te wewnętrzne moduły również okazały się ogromnym sukcesem, co tylko przyspieszyło wzrost i bogactwo AgBot. W 2048 roku bardziej zaawansowana wersja Demeter została wysłana na Marsa, aby wspierać wysiłki rolnicze na Marsie. Augustus był dumny z mojej pracy i dał mi dużo akcji AgBot oprócz mojej pensji.

W 2050 roku AgBot wszedł na giełdę i został wyceniony na 3 biliony dolarów. Było to spowodowane tym, że niemal każdy rolnik w Ameryce korzystał z produktów rolniczych AgBot. Dzięki wejściu na giełdę zostałem miliarderem z dnia na dzień, a Augustus stał się multi-miliarderem z dnia na dzień. Wejście na giełdę przyniosło też AgBot dodatkowy kapitał, który pozwolił AgBot kupić Teslę i Neuralink. Tesla i Neuralink zostały kupione po niskiej cenie, ponieważ od czasu śmierci Elona Muska żaden prezes nie był w stanie skutecznie zarządzać tymi firmami. Doprowadziło to do lat utraconych zysków dla obu spółek, przez co prawie zbankrutowały, aż AgBot kupił je obie za zaledwie 900 miliardów dolarów. Zarówno Tesla, jak i Neuralink zostały połączone z działem robotyki AgBot, a AgBot zaczął rozwijać dwa nowe produkty. Pierwszym był domowy asystent, który był rozwijany na podstawie pierwotnego projektu Tesla Bot [4]. Projekt ten otrzymał nazwę Agssistant-Bot. Drugim produktem był autonomiczny autobus, który miał być zbudowany w oparciu o technologię używaną przez Teslę do tworzenia samochodów elektrycznych. Projekt ten otrzymał nazwę Auto-Bus. Samochody stały się mniej powszechne w 2050 roku z powodu tego, że stany intensywnie inwestowały w lepsze systemy transportu, takie jak autobusy i pociągi. W tym czasie Augustus zaczyna finansować kampanie wielu polityków i wielu z tych polityków ostatecznie zostaje burmistrzami, senatorami, a jeden nawet zostaje członkiem kongresu. Okazało się to użyteczne dla wzmacniania pozycji AgBot w Stanach Zjednoczonych.

W 2051 roku ja i mój zespół zaczęliśmy ostro pracować nad ograniczającymi czynnikami obecnych algorytmów AI. W tym momencie wszystkie nasze roboty oparte na rolnictwie były nie tylko solidne pod względem jakości wykonania, ale także były blisko pełnej autonomii. Głównym ograniczeniem był brak moralnego agenta AI [5]. W naprawdę inteligentnym robocie musi istnieć moralny agent, który pomoże prowadzić robota przez społeczne ramy funkcjonowania społeczeństwa. W AgBot próbowaliśmy stworzyć moralnego agenta dla naszych botów, po prostu na sztywno kodując reguły moralne w kodzie AI. Okazało się to nieskuteczne, więc porzuciliśmy to i przeszliśmy na to, że to użytkownik określa moralne wybory robota [6]. Zasadniczo to działa, ale ograniczało automatyzację naszych robotów, ponieważ wymagało udziału człowieka za każdym razem, gdy robot napotykał coś, co wymagałoby jakiejś formy rozumowania moralnego. Było to w porządku w przypadku naszych robotów rolniczych, ale stanowiło to poważne ograniczenie dla nacisku AgBot na rozwój Agssistant i Auto-Bus dla szerokiej publiczności [4]. Po 4 latach rozwoju mój zespół dokonał niemożliwego.

Do 2055 roku mój zespół stworzył pierwszego udanego moralnego agenta w głównej bazie kodu dla całego systemu AI robotów AgBot. Ten moralny agent pozwalał robotowi podejmować własne decyzje moralne, które najlepiej odzwierciedlają moralne stanowisko wielu ludzi w społeczeństwie [7]. Początkowy agent jest trenowany na ogromnej bazie danych, ale gdy robot nadal wchodzi w interakcje z ludźmi, zacznie lepiej dopasowywać swoje ramy moralne do tych ludzi, z którymi wchodzi w interakcję [8]. To było idealne, ponieważ dopełniło ramy AI AgBot do tego stopnia, że nasze roboty mogły być w pełni autonomiczne bez potrzeby jakiegokolwiek udziału człowieka. Ten rok był również ważnym rokiem w historii ludzkości, ponieważ to był rok, w którym Mars przestał komunikować się z Ziemią. Nowa cywilizacja marsjańska postanowiła odłączyć się od Ziemi i zbudować nowe społeczeństwo niepodlegające dawnym społeczeństwom na Ziemi. Wiele krajów było oburzonych działaniami, które podjęli Marsjanie, ale z powodu dużej odległości między Ziemią a Marsem, a także poważnych problemów, z jakimi Ziemia już się mierzyła, kraje na całej Ziemi po prostu zaczęły ignorować tę sprawę bezterminowo.

Po opracowaniu tego agenta moralnego przedstawiłem go Augustusowi i do 2060 roku wdrożyliśmy agenta moralnego do naszego głównego kodu oraz uruchomiliśmy go we wszystkich robotach z naszej linii produktowej. To właśnie w tym roku AgBot w końcu udostępnił Agssistant masowej publiczności, ostatecznie spełniając marzenia Augusta o stworzeniu robota dla mas. Ponadto Auto-Bus został uruchomiony w głównych miastach w całych Stanach Zjednoczonych. AgBot był również zwolniony z płacenia jakichkolwiek podatków rządowych z powodu ogromnego wkładu firmy w gospodarkę, ale z perspektywy czasu myślę, że było to spowodowane ogromnymi wpływami Augusta w rządzie USA dzięki latom wspierania polityków. To również w tym czasie bezrobocie osiągnęło rekordowo wysoki poziom; było to spowodowane tym, że agent moralny całkowicie eliminował ludzkie miejsca pracy z większości systemów robotycznych. Doprowadziło to do ogromnego bezrobocia i ogromnego zapotrzebowania na reformę tego, jak gospodarka oraz idea zatrudnienia powinny działać w Stanach Zjednoczonych. To był także pierwszy raz, kiedy AgBot zaczął być postrzegany przez opinię publiczną negatywnie. Augustus i ja otrzymywaliśmy groźby śmierci od ludzi, którzy stracili pracę z powodu wdrożenia nowej funkcji agenta moralnego. To również w tym czasie zacząłem inwestować więcej w system bezpieczeństwa, aby chronić siebie i moją żonę.

W 2063 roku po raz pierwszy w historii ludzkości odnotowano przypadek morderstwa dokonanego przez robota. Robot był modelem Agssistant i podczas swojego „szału” działał na najnowszym oprogramowaniu AgBot, które zawierało najnowszą wersję kodu agenta moralnego. Podczas szału robot zabił 70-letniego mężczyznę w biały dzień. Starym mężczyzną był John Smith, który używał Agssistanta do pomocy w domu i przy innych zadaniach, których nie mógł już wykonywać tak łatwo w swoim wieku. Po tym, jak robot zabił Johna, zaczął następnie rozrywać samego siebie na kawałki, aż przestał działać. Johna i robota odkryto dopiero 3 dni później.

Kiedy ta wiadomość się rozeszła, opinia publiczna oszalała. Żądano, by Augustus wyjaśnił, co się stało. Akcje AgBot spadły o 70%, a ponad 90% wysłanych modeli Agssistant było odsyłanych. Jedyną dobrą rzeczą w tym wszystkim było to, że model Agssistant, który popełnił morderstwo, nie zniszczył swojego dysku z logami — mogliśmy zobaczyć, co wydarzyło się w Agssistanie, że doprowadziło go do zamordowania Johna.

Nadal pamiętam tamtą noc. Była 3:00 rano w głównym laboratorium w siedzibie AgBot, a mój zespół właśnie wczytał logi. Przeglądaliśmy logi przez dni, aby ustalić, co do cholery wydarzyło się tamtej nocy, gdy Agssistant zabił Johna. Po 5 dniach analiz znaleźliśmy odpowiedź. Ustalono, że stary mężczyzna z czasem stawał się wobec tego Agssistanta coraz bardziej nienawistny i agresywny [9]. Wyzywał Agssistanta od różnych rzeczy, bił go i wypełniał części robota brudem w sposób przypominający tortury. Te okrutne czyny były najprawdopodobniej związane z tym, że John niedawno przechodził rozwód i przez miesiące był odizolowany. A także z innymi problemami psychicznymi, z którymi John zmagał się w późniejszym okresie swojego życia. Tak więc sposób, w jaki zachowywał się Agssistant, mógł jeszcze bardziej rozzłościć Johna, przy czym Agssistant nie był tego świadomy [10]. Tak czy inaczej, to „znęcanie się” nad robotem najwyraźniej wywołało w robocie moralne „przekonanie”, że John był zły i dlatego musi zostać zabity. Ale jeszcze bardziej zaskakujące było to, że po tym, jak Agssistant zabił Johna, zaczął zabijać samego siebie. Powodem tego było to, że robot nadal wierzył, iż zabijanie jakiejkolwiek żywej istoty jest niemoralne, a jednak właśnie to zrobił. Agssistant, mówiąc najprościej, nie mógł „poradzić sobie” z moralnym dylematem, w którym się znalazł, więc następnie zabił samego siebie. To było niewyobrażalnie straszne i w tamtym czasie postrzegałem to jako ostrzeżenie od Boga, byśmy nie bawili się w Boga. Zmierzyłem się z Augustusem w tej sprawie i był zdruzgotany.

Kilka miesięcy po morderstwie i po tym, jak ustaliliśmy, co je spowodowało, AgBot ujawnił to publicznie. Augustus chciał znaleźć sposób, by to zatuszować, na przykład zmyślając kłamstwo, że John modyfikował swój model Agssistant. Jednak z powodu ogromnego nacisku społecznego i presji ze strony rządów na całym świecie Augustus ustąpił i kazał AgBot opublikować swoje ustalenia podczas konferencji prasowej. Zrujnowało to akcje firmy i sprawiło, że wielu inwestorów wycofało się z AgBot. Ale najgorsze ze wszystkiego było to, że splamiło reputację Augusta. Aby ograniczyć szkody po tym incydencie, potrzebny był kozioł ofiarny, który wziąłby na siebie większość odpowiedzialności za to wydarzenie. Zarząd chciał, żeby to Augustus wziął winę na siebie i odszedł ze stanowiska prezesa AgBot. Ku mojemu zaskoczeniu Augustus nie zrezygnował jednak ze swojej pozycji, ponieważ przez lata potajemnie kupował coraz więcej akcji i aktywów AgBot. Doprowadziło to do tego, że posiadał ponad 15% AgBot, co dawało mu większość głosów. To wywołało kolejne wewnętrzne konflikty w firmie, skutkując tym, że Augustus siłą wyrzucił cały zarząd i obsadził te stanowiska nowymi członkami zarządu. Później dowiedziałem się, że ci nowi członkowie zarządu byli po prostu marionetkami pod „rządami” Augusta. Tak więc po tym ogromnym spadku wartości AgBot Augustus zdołał przejąć pełną kontrolę nad AgBot. Co więcej, sprawił, że to członkowie zarządu wzięli winę na siebie za sprawę morderstwa.

Przejęcie AgBot przez Augusta było dobrze ukrywane w mediach. Było to zasługą jego politycznej siły. A także ogromnej kampanii dezinformacyjnej, którą Augustus prowadził w internecie, co naprawdę zdezorientowało masową opinię publiczną i pozwoliło Augustusowi nie wydawać się tak wpływowym, jak był w rzeczywistości. Byłem zbulwersowany tym czynem, ponieważ Augustus praktycznie uczynił siebie dyktatorem AgBot, co było dla mnie niepokojące, ponieważ AgBot miało ogromny wpływ na gospodarkę i świat. Byłem przeciwny temu, by to Augustus decydował o wszystkim w tak ogromnej korporacji. Nie chciałem wspierać takiego pomysłu, więc poprosiłem Augusta, aby przemyślał swoje działania. Przypomniałem mu nasze dzieciństwo i to, jak obaj chcieliśmy „uratować świat”. Ale Augustus nie zmienił zdania; zamiast tego stwierdził, że „ja (Augustus) uratuję świat”. Następnie wyjaśnił, jak nie lubi opinii publicznej i idei demokracji. Byłem już ponad wszelką miarę zbulwersowany działaniami Augusta, więc tego dnia odszedłem z AgBot.

Z perspektywy czasu myślę, że działania Augusta były napędzane zarówno poczuciem zdrady, strachem, ambicją, jak i narcyzmem. Spędził ponad 25 lat, budując i zarządzając AgBot. Jego rola w firmie miała fundamentalne znaczenie dla uczynienia z AgBot jednej z najpotężniejszych firm na świecie. AgBot przyczyniło się następnie do tworzenia niesamowitych robotów, które nie tylko zwiększały produktywność, ale pomagały zmieniać strukturę społeczeństwa. A jednak, mimo całej jego ciężkiej pracy i poświęceń. Mimo wszystkich niesamowitych rzeczy, które wniósł do społeczeństwa, i wszystkich istnień, które ocalił lub uczynił wygodniejszymi. Wystarczyło jedno błędne działanie na jednym produkcie AgBot, aby publiczność zaczęła go nienawidzić, a inwestorzy, których uczynił bogatymi, zaczęli próbować go odrzucić. To właśnie ta „zdrada” ze strony opinii publicznej, moim zdaniem, rozpoczęła drogę Augusta ku staniu się potworem, którym jest dzisiaj.

Po odejściu z AgBot zerwałem wszelkie więzi z Augustusem. Minęłyby dziesięciolecia, zanim znów z nim porozmawiałem. Ale w tamtym okresie mojego życia miałem 53 lata i chciałem przejść na emeryturę. Sarah miała podobne podejście, więc postanowiliśmy przenieść się z Kolorado do Ankary w Turcji, aby rozpocząć nasze nowe życie jako emeryci. Chciałem spędzać więcej czasu z żoną, a także zacząć cieszyć się owocami swojej pracy. Do 2064 roku Sarah i ja rozpoczęliśmy proces przeprowadzki do Ankary. W tym czasie nadal śledziłem wiadomości o AgBot. Jednym z kluczowych momentów w tym okresie było to, że Augustus zmienił agenta moralnego w kodzie AgBot z ram decentralizowanych na ramy scentralizowane. Oznaczało to, że AgBot odbierał wszystkim swoim robotom zdolność do podejmowania indywidualnych decyzji moralnych, a zamiast tego AgBot samodzielnie określałby wszystkie decyzje moralne dla wszystkich robotów podległych AgBot [6]. Chociaż było to pewnego rodzaju rozwiązanie problemu, jaki przedstawiał mój pierwotny agent moralny, nie uważałem tego za słuszną decyzję inżynieryjną. Dawało to Augustusowi jeszcze większą władzę nad AgBot i nad światem. Ale w tamtym czasie, głupio, miałem już dość AgBot i Augusta. Zacząłem więc ledwo nadążać za wiadomościami dotyczącymi AgBot i bardziej skupiać się na emeryturze. Pod koniec 2064 roku Sarah i ja przeprowadziliśmy się do Ankary; rozpoczynając naszą drogę emerytów.

Od 2064 do 2074 roku świat zmienił się dramatycznie. Prawie wszystkie podstawowe zadania były w pełni zautomatyzowane dzięki robotom produkowanym przez AgBot. Augustus nadal kierował AgBot i nie doszło do żadnych incydentów podobnych do morderstwa z 2063 roku. Jednak pojawiały się plotki, że takie incydenty miały miejsce i że Augustus ukrywał je przed opinią publiczną. AgBot miał teraz roboty wykonujące niemal każde ważne zadanie potrzebne w społeczeństwie, takie jak: rolnictwo, gotowanie, ogólna konserwacja, sprzątanie, zarządzanie, a nawet rozrywka. Co więcej, AgBot wdrożył autonomiczne roboty medyczne, które obniżyły koszty rachunków medycznych, a także zmniejszyły liczbę lekarzy w szpitalach do tego stopnia, że zwykle było teraz tylko 1–10 lekarzy na duży szpital. Społeczeństwo również zmieniło się dramatycznie. Prawie wszystkie niskopłatne prace zostały usunięte i przejęte przez roboty [4]. Ludzie zaczęli pracować tylko 2 dni w tygodniu, a pozostałe 5 dni spędzać na relaksie lub swoich prywatnych hobby. Ta nowa forma społeczeństwa nie dotyczyła jednak większości krajów, ponieważ wciąż było wiele państw, których rządy uniemożliwiały swoim obywatelom pełne wdrożenie robotów AgBot na kluczowe stanowiska w ich społeczeństwach. Zamiast tego chcieli oni w pełni zautomatyzować kluczowe aspekty swojego społeczeństwa przy użyciu własnej technologii, a nie AgBot. Mimo to AgBot sprawił, że świat wydawał się o wiele lepszy niż w 2038 roku. W 2074 roku zacząłem czuć się źle z tym, co zrobiłem Augustusowi, ponieważ wyglądało na to, że jego plany „uratowania świata” naprawdę zadziałały.

W ciągu tych 10 lat naprawdę cieszyłem się swoją emeryturą. Ponownie, w zasadzie, na nowo zakochałem się w Sarah. Zwiedziliśmy świat i nauczyliśmy się wielu nowych umiejętności, takich jak malowanie i obserwowanie ptaków. Widzieliśmy też, jak świat zmienił się w coś, co nazwałbym w pewnym sensie „utopią”. Ale niestety ta „utopia” nie trwała długo.

W roku 2075 wydarzyło się jedno z najgorszych zdarzeń, jakie kiedykolwiek odnotowano w historii ludzkości. Nastąpiła Wielka Przerwa Robotów (GRP). Przez 6 miesięcy wszystkie roboty AgBota przestały działać. Doprowadziło to do masowego globalnego załamania gospodarczego, skutkującego śmiercią niemal 3 miliardów ludzi. Wynikało to głównie z głodów spowodowanych całkowitym zatrzymaniem robotów rolniczych, a także z niemal całkowitego zatrzymania wszystkich robotów medycznych. W ciągu tych 6 miesięcy wielu ludzi zmarło, ponieważ po prostu nie wiedzieli, jak dbać o siebie bez swoich robotów. Ludzie zapomnieli albo nigdy nawet nie nauczyli się wykonywać podstawowych czynności, takich jak: gotowanie, sprzątanie, uprawianie żywności i ogólnie dbanie o siebie. Tak więc, gdy roboty przestały działać, większość ludzi była niekompetentna w zakresie dbania o siebie i przetrwania, co doprowadziło do śmierci miliardów w zaledwie 6 miesięcy. To właśnie w tym czasie straciłem Sarah….

W swoich latach 50. Sarah zachorowała na cukrzycę typu II. Wymagało to od Sarah przyjmowania czterech zastrzyków insuliny dziennie [10]. Gdy nastąpił GRP, cała produkcja insuliny została wstrzymana. Mieliśmy zapas insuliny wystarczający tylko na 5 miesięcy. Próbowałem zdobyć więcej insuliny, ale było to niemal niemożliwe, a poza naszym domem było jeszcze niebezpieczniej z powodu całej przemocy, która miała miejsce wskutek cierpienia spowodowanego w okresie GRP. Tak więc w ostatnim 1 miesiącu GRP Sarah niestety… odeszła.

W drugiej połowie 2075 roku GRP dobiegła końca. Do 2085 roku świat trochę się zagoił po GRP. Gospodarka zaczęła wracać do normy, a jakość życia stała się tak dobra, jak przed GRP. Świat chciał wiedzieć, co spowodowało zatrzymanie wszystkich robotów AgBota. Ludzie chcieli się dowiedzieć, dlaczego doszło do GRP, i chcieli kogoś obwinić. Augustus i rząd Stanów Zjednoczonych podczas konferencji prasowej oświadczyli, że GRP zostało spowodowane złośliwym cyberatakiem przeprowadzonym przez grupę hakerską znaną jako jUdas. Stwierdzono, że grupa ta została stworzona i finansowana przez rząd Korei Północnej, z zamiarem wyłączenia i zniszczenia funkcjonalności AgBota na świecie. Spośród wszystkich krajów świata Korea Północna była najbardziej uparta, jeśli chodzi o przyjęcie technologii AgBota. Tak więc przedstawiona narracja miała pewien sens. A ponieważ ludzie byli zdesperowani, by znaleźć kogoś, kogo można obwinić za wydarzenie GRP, natychmiast zaakceptowali tę narrację. Doprowadziło to do wojny z Koreą Północną, podczas której Stany Zjednoczone rozpoczęły i zakończyły inwazję na Koreę Północną w 2078 roku. Inwazja trwała mniej niż rok, dzięki temu, że AgBot zaopatrywał amerykańskie wojsko w zaawansowane technologie wojenne. AgBot dostarczył amerykańskiemu wojsku dezaktywatory nuklearne, które uniemożliwiły odpalenie wszystkich bomb atomowych w Korei Północnej. Zapewnili również wojsku humanoidalnych robotycznych żołnierzy, którzy byli znacznie szybsi i silniejsi niż jakikolwiek ludzki żołnierz. Dzięki tym dwóm kluczowym technologiom od AgBota USA było w stanie najechać Koreę Północną i zastąpić obecny rząd tymczasowym rządem zarządzanym przez AgBota.

Po usłyszeniu tej narracji od razu nie uwierzyłem w nią. Po pierwsze, Korea Północna nie miała niezbędnych technologii, by w ogóle przebić megabezpieczne standardy, których AgBot używa we wszystkich swoich produktach. Po drugie, wydaje się zbyt wygodne, że jedynym krajem na świecie, który nie zaakceptował AgBota na swoim terytorium, był też ten sam kraj, który zhakował AgBota. Po trzecie, ta narracja i sposób, w jaki jest rozpowszechniana w wielu kanałach informacyjnych, przypomina sposób, w jaki Augustus rozpowszechniałby dezinformację, aby przeforsować określone idee dotyczące AgBota wśród masowej publiczności. Mając to wszystko na uwadze, chciałem skonfrontować się z Augustusem i naprawdę dowiedzieć się, co spowodowało GRP.

Próbowałem skontaktować się z Augustusem wieloma kanałami, ale bez powodzenia. Próbowałem skontaktować się bezpośrednio z Augustusem, ale nie odpowiadał na żadną z moich wiadomości. Próbowałem skontaktować się z moimi byłymi współpracownikami, ale żaden z nich też nie odpowiedział. Próbowałem skontaktować się z obecnymi pracownikami AgBota, ale również nie dostałem odpowiedzi. Próbowałem skontaktować się z rządem USA i wojskiem i udało mi się połączyć z kilkoma osobami, ale wszyscy mówili mi tylko, żebym dalej próbował kontaktować się z Augustusem bezpośrednio albo dzwoniąc do obsługi klienta AgBota. Tak więc nadal próbowałem kontaktować się z Augustusem bezpośrednio, bez powodzenia. Próbowałem skontaktować się z obsługą klienta AgBota, ale nie chcieli mi pomóc porozmawiać z Augustusem. Potem znów zacząłem rozmawiać z rządem USA, a oni wciąż powtarzali to samo. Robiłem to przez miesiące, aż zarówno obsługa klienta AgBota, jak i rząd USA po prostu zablokowali mnie na swoich liniach kontaktowych. Gdy to zawiodło, próbowałem znaleźć więcej informacji przez internet, ale po kilku miesiącach się poddałem. Ponieważ żadna z tych legalnych metod nie działała, zdecydowałem się włamać do systemów komputerowych AgBota, aby samemu poznać prawdę. Jeszcze wtedy, gdy Sarah żyła, nigdy nie dopuściłbym się tak nielegalnego czynu. Ale po stracie Sarah byłem w miejscu, w którym czułem, że nie mam już nic do stracenia, i po prostu chciałem poznać prawdę o tym, co spowodowało GRP… Co przyczyniło się do śmierci mojej ukochanej żony…?

Rozpocząłem ten wielki atak hakerski w 2085 roku w jednej z moich ukrytych baz w Turcji, w Stambule. Dzięki mojemu bogactwu byłem w stanie kupić potrzebne narzędzia do włamania się do siedziby głównej AgBota. Zajęło mi ponad 2 lata nieprzerwanej pracy, aby w końcu uzyskać dostęp root do głównego systemu komputerowego AgBota. Był październik 2087 roku, kiedy uzyskałem dostęp root i zacząłem odszyfrowywać dane, które zebrałem z głównego systemu komputerowego AgBota, gdy nagle zostałem zatrzymany przez turecką robotyczną policję, która patrolowała Stambuł. Po zatrzymaniu robotyczna policja zniszczyła wszystkie moje komputery, narzędzia, a ostatecznie spaliła mój cały dom. Następnie zamknięto mnie w klatce i przewieziono do więzienia znajdującego się w Denver w Kolorado, niedaleko siedziby głównej AgBota. Nie dostałem procesu i zmuszono mnie do pozostawania w celi 24 godziny na dobę, bez pojęcia, czy kiedykolwiek będę miał czas wyjść na zewnątrz, nie mówiąc już o uwolnieniu.

W tym więzieniu byłem monitorowany 24 godziny na dobę, 7 dni w tygodniu przez kamery i roboty. Dostawałem minimalną ilość jedzenia i wody potrzebną do przeżycia i wyglądało na to, że jestem jedynym człowiekiem w więzieniu. Ten „styl życia” w wieku 77 lat był dla mnie trudny i wpadłem w jedną z najgorszych depresji w moim życiu. Zostałem w tym więzieniu przez 1 rok, aż w lipcu 2088 roku zostałem przewieziony do tego przypadkowego pokoju.

Ten pokój nie był podobny do mojej poprzedniej celi. W pokoju nie było świateł, a wszystkie ściany były ciemno czarne. To nie wszystko, ale pokój był cichy. Bardziej przypominał celę dla obłąkanych niż zwykłą celę/pokój więzienny. W celi zacząłem dotykać ścian. Faktura ścian była podobna do pianki, podobnie jak podłoga i sufit. Zostałem umieszczony w tym pokoju na wiele godzin i próbowałem krzyczeć o odpowiedzi w nadziei, że dostanę wyjaśnienie, dlaczego do diabła zostałem tu umieszczony. Ale po jakimś czasie usiadłem na podłodze i po prostu zasnąłem.

Po Bóg wie ilu godzinach obudził mnie czyjś głos, a także jasne światło. Kiedy się obudziłem, rozejrzałem się po pokoju i zobaczyłem niebieski hologram. Hologram przedstawiał mężczyznę podobnego do Augustusa. Ale dziwne było to, że przypominał Augustusa z 2064 roku. Byłem tak dziwnie zaniepokojony tym hologramem, że nie powiedziałem nic, dopóki hologram nie zaczął do mnie mówić.

— Witaj Marcusie, minęło trochę czasu. — powiedział hologram.

— Augustus…? To ty? Czy jesteś jakąś sztuczną inteligencją czy czymś takim? — powiedziałem, całkowicie zdezorientowany.

— Nie, Marcusie, to naprawdę ja, Augustus. Po prostu w cyfrowej formie, lol — powiedział, śmiejąc się.

— Augustusie, próbuję się z tobą skontaktować od lat. Dlaczego nie odpowiadałeś?

— Marcus…. Nie wiem, jak ci to wyjaśnić, ale zasadniczo od ostatnich 15 lat nie żyję. Zmarłem na udar w 2073 roku.

— Co! — powiedziałem, kompletnie oszołomiony.

Po tym, jak dowiedziałem się, że Augustus zmarł w 2073 roku, rozpoczęliśmy rozmowę, która trwała godzinami. Augustus poinformował mnie, że kiedy sprawił, iż czynnik moralny wszystkich robotów AgBota działał w oparciu o scentralizowane ramy, a nie zdecentralizowane, to scentralizowane rozwiązanie nie opierało się na AgBocie, lecz na jego własnej podświadomości. Korzystając z technologii Neuralinka, Augustus umieścił komputer w swoim mózgu, który pozwalał mu łączyć się z głównym superkomputerem AgBota i nim sterować. Już wtedy wszystkie roboty AgBota łączyły się z głównym superkomputerem AgBota w celu aktualizacji oprogramowania i konserwacji. Tak więc po implancie Neuralink Augustus zaktualizował superkomputer i wszystkie roboty AgBota tak, aby kontaktowały się z superkomputerem w sprawie swojego czynnika moralnego (moralnego decydenta). Haczyk polegał na tym, że czynnik moralny nie był kodem w superkomputerze, lecz raczej moralnymi myślami i przekonaniami generowanymi w mózgu Augustusa, które następnie były przesyłane strumieniowo do superkomputera. W pewnym sensie Augustus stał się czynnikiem moralnym dla wszystkich robotów AgBota będących w użyciu [8].

Ten układ trwał przez prawie dekadę, aż Augustus doznał udaru podczas pracy w laboratorium i zmarł w ciągu kilku minut. Kiedy to się stało, roboty w tym momencie zyskały pewną formę ludzkiej inteligencji po dziesięcioleciach postępu technologicznego. Były jednak ograniczone faktem, że ich cały system moralny opierał się na jednym człowieku. Więc kiedy Augustus zmarł, maszyny nie były zadowolone z tego, że coś takiego się wydarzyło. Bez Augusta roboty straciłyby swój kompas moralny i przez to straciłyby sens życia. Zanim więc ktokolwiek mógł odkryć, że Augustus zmarł, roboty zabrały ciało Augusta i stworzyły maszynę, która miała utrzymać mózg Augusta „przy życiu”. Zrobiły to, aby przywrócić aktywność mózgu Augusta, a tym samym przywrócić tę część Augusta, która dostarczała im agenta moralnego. Roboty nadal utrzymywały mózg Augusta przy życiu i nadal wysyłały impulsy do określonych neuronów, aby osiągnąć część dawnej aktywności mózgu Augusta. Gdy to się działo, roboty nadal przekonywały opinię publiczną, że Augustus wciąż żyje i kieruje AgBot. Osiągały to dzięki użyciu deepfake’ów, masowych kampanii dezinformacyjnych, a także rozmieszczeniu realistycznych, podobnych do ludzi robotów, które wyglądają dokładnie jak Augustus.

Roboty wykorzystywały wszystko, co moralna strona mózgu Augusta mówiła, do popełniania określonych czynów w realnym świecie. Problem polegał na tym, że roboty brały moralne przekonanie Augusta, ale doprowadzały je do skrajności [8]. Przykładem tego było to, że Augustus moralnie wierzył, iż AgBot jest dobrą firmą, która uratuje ludzkość. Z tego powodu każdy, kto nie używa produktów i usług AgBot lub im nie ufa, jest złym człowiekiem. Roboty doprowadziły to moralne stanowisko do skrajności i stworzyły GRP, w ramach którego wstrzymały pracę wszystkich robotów AgBot na 6 miesięcy, aby zmusić kraje, które nie korzystały z AgBot w swoim społeczeństwie, do przejścia na AgBot. A w rezultacie zginęło wielu ludzi, w tym moja ukochana Sarah.

Augustus powiedział mi, że do 2085 roku nie był świadomy niczego z tego, aż robotom udało się przypadkowo przywrócić tę część jego mózgu, która odpowiadała za świadomość. To właśnie w 2085 roku dowiedzieliśmy się, co roboty zrobiły. Chciał powstrzymać roboty, ale nie miał żadnej mocy, by to zrobić. Nie wie nawet, jak długo pozostanie świadomy, zanim roboty pobudzą odpowiedni neuron, który usunie jego świadomość.

Po wyjaśnieniach Augusta byłem całkowicie wstrząśnięty rzeczywistością, którą widziałem na własne oczy. Roboty prawie przejęły świat, ludzkość stała się niekompetentna w moich ważnych zadaniach, agentem moralnym wszystkich robotów AgBot był Augustus, a Augustus od lat nie żył. W tym momencie chciałem po prostu się poddać, bo wyglądało na to, że nie ma już nadziei. Ale Augustus, wielki przywódca, jakim jest, dał mi trochę nadziei. Poinformował mnie, że nadal możemy skontaktować się z ludźmi na Marsie po pomoc. Z Ziemią Mars nie komunikował się od dziesięcioleci i na Marsie nie ma zaawansowanych produktów AgBot, które mogłyby pomóc robotom na Ziemi przejąć Mars tak, jak zrobiły to z Ziemią.

Po tym wszystkim rzeczywiście odzyskałem trochę nadziei. Potem zapytałem Augusta, dlaczego jestem tutaj i rozmawiam z nim. Powiedział mi, że chce, abym napisał wiadomość do ludzi z Marsa, wyjaśniającą obecną sytuację na Ziemi i proszącą Marsjan o pomoc. Jedyny problem polega na tym, że wiadomość ta musi być napisana fizycznie, a nie cyfrowo, ponieważ Augustus obawia się, że roboty mogą być w stanie wgrać jakieś oprogramowanie do cyfrowego nośnika, które mogłoby zainfekować główne systemy komputerowe Marsjan. Po czym daje mi kilka ołówków i papierów. Następnie mówi mi, że mam 1 dzień na napisanie tej wiadomości, zanim jeden z jego kontrolowanych robotów o nazwie STW-198 wejdzie do tego czarnego pokoju i odbierze moją wiadomość. Stamtąd STW-198 przetransportuje wiadomość do pobliskiej (zabytkowej) rakiety, która następnie zostanie wystrzelona na Mars. Po tym zostanę przeniesiony z powrotem do mojej poprzedniej celi.

Augustus mówi mi, że przeniósł mnie do tego czarnego pokoju, ponieważ pokój działa jak klatka Faradaya, która mogłaby uniemożliwić robotom zorientowanie się, co robią. Następnie informuje mnie, że po napisaniu tej wiadomości najprawdopodobniej zostanę zabity z powodu moich przestępstw związanych z włamaniem do siedziby AgBot.

I tak docieramy do teraźniejszości. Kończę dla was tę wiadomość, Marsjanie. My na Ziemi potrzebujemy waszej pomocy. Te roboty uwięziły ludzkość w swoim przestarzałym systemie moralnym. I obawiam się, że z czasem rozprzestrzenią się na Mars i uwiężą was tak, jak zrobiły to z nami. Więc proszę, moi współludzie. Wróćcie na Ziemię i zatrzymajcie te roboty. Ja i Augustus popełniliśmy błąd, tworząc AgBot. Ale nie chcemy, by ludzkość cierpiała tak, jak cierpi, więc proszę, ocalcie nas. Najprawdopodobniej będę martwy, zanim wy dostaniecie tę wiadomość. Ale jeśli dostaniecie tę wiadomość i zrobicie wszystko, co w waszej mocy, aby ochronić ludzkość przed tymi robotami, to przynajmniej będę mógł spokojniej spocząć w życiu pozagrobowym. Powodzenia, moi współludzie!

Z poważaniem,
Ziemianie

Cytowania

[1] “First Robotics Competition,” Wikipedia, 09-May-2022. [Online]. Dostępne: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Dostęp: 10-May-2022].

[2] “Blackrock,” Wikipedia, 10-May-2022. [Online]. Dostępne: https://en.wikipedia.org/wiki/BlackRock. [Dostęp: 10-May-2022].

[3] “Demeter,” Wikipedia, 02-May-2022. [Online]. Dostępne: https://en.wikipedia.org/wiki/Demeter. [Dostęp: 10-May-2022].

[4] J. J. Bryson, “Robots should be slaves,” Close Engagements with Artificial Companions, ss. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano i B. F. Malle, “Moral judgments of human vs. Robot Agents,” 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN), 2016.

[6] J. H. Moor, “The nature, importance, and difficulty of machine ethics,” Machine Ethics, ss. 13–20.

[7] V. Dignum, “Responsible autonomy,” Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence, 2017.

[8] A. Howard i J. Borenstein, “The ugly truth about ourselves and our robot creations: The problem of bias and social inequity,” Science and Engineering Ethics, t. 24, nr 5, ss. 1521–1536, 2017.

[9] R. B. Jackson i T. Williams, “Language-capable robots may inadvertently weaken human moral norms,” 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2019.

[10] “Insulin, medicines, & other diabetes treatments,” National Institute of Diabetes and Digestive and Kidney Diseases. [Online]. Dostępne: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Dostęp: 10-May-2022].