Retroscena

Ho scritto il racconto breve, Il Re Diminuito, come mio compito finale per il corso di Etica dei Robot (HASS400) durante l’ultimo semestre della mia laurea presso il Colorado School of Mines. Per questo compito, ci è stato assegnato il compito di scrivere un racconto di fantasia che ruotasse attorno all’etica dei robot oltre a fare riferimento ad alcuni degli articoli che abbiamo letto durante il semestre all’interno del racconto. Il requisito per questa storia era che dovesse essere lunga 10 pagine, delle quali io ne ho scritte 21. Mi sono appassionato molto a questo racconto, quindi ci ho messo tutto me stesso.

Ora, ATTENZIONE, non sono un grande scrittore. Quindi, questo racconto non è perfetto e ha bisogno di rifiniture e di una grande riscrittura. Ma ne sono orgoglioso e penso che sia una lettura divertente. Durante tutti i miei anni a scuola, ho cominciato ad apprezzare il processo di scrittura, quindi spero di espandermi nella scrittura di altre cose come blog, articoli, ecc.

Sapendo tutto questo, il racconto originale è stato salvato come file PDF come parte del requisito del compito. Ma, per ridurre le dimensioni del documento, ho convertito la storia in markdown. Sapendo questo, l’intero racconto può essere visualizzato/letto qui sotto. Spero che vi piaccia la lettura, contattatemi sui miei social se avete domande o suggerimenti su questo racconto.

Continuate a leggere per scoprire Il Re Diminuito…

IL RE DIMINUITO

Mehmet Hanifi Yilmaz
10 maggio 2022

Descrizione

In un futuro in cui il destino della Terra è appeso a un filo, Marcus Bruce, un prodigio tecnologico, e il suo amico Augustus Elrod, un leader visionario, intraprendono una missione per trasformare il mondo attraverso la robotica avanzata. La loro creazione, AgBot, rivoluziona l’agricoltura e l’industria globale, promettendo un futuro utopico. Ma man mano che il loro impero tecnologico cresce, conseguenze impreviste mettono in discussione l’essenza stessa della moralità e della libertà umana. Quando un evento catastrofico noto come la Grande Pausa dei Robot minaccia l’esistenza umana, Marcus deve confrontarsi con il lato oscuro della loro eredità e implorare aiuto interplanetario. “Il Re Diminuito” è un avvincente racconto di ambizione, potere e del delicato equilibrio tra umano e macchina, che ci invita a mettere in discussione il vero costo del progresso.

Storia

Sono qui per avvertirvi della situazione critica in cui si trova ora la Terra! Se non gestita correttamente, questa situazione può facilmente portare all’estinzione dell’umanità. Vorrei poter spiegare questa situazione in poche frasi, ma purtroppo la complessità di ciò richiede che io spieghi cosa ha portato a questo, affinché possiate comprendere veramente la sua gravità.

Sono un fattore chiave in ciò che ha portato alla situazione attuale della Terra, quindi lasciatemi almeno presentare. Mi chiamo Marcus Bruce, sono nato in una piccola città del Colorado chiamata Ouray nel 2010. Ouray è una zona suburbana circondata da bellissime montagne. Sono nato da due genitori che erano entrambi insegnanti di scuola superiore. Mio padre era insegnante di matematica e mia madre era insegnante di scienze.

Non ricordo molto della mia prima infanzia perché direi che non ho acquisito una vera coscienza fino all’età di 12 anni, nel 2022. Durante quell’anno ero alle scuole medie e ero considerato un bambino prodigio che eccelleva veramente in matematica e scienze. Il preside della mia scuola voleva che i miei genitori mi facessero saltare dalla 7ª alla 11ª classe. Ma i miei genitori non erano d’accordo con la raccomandazione del preside perché volevano che io avessi un’infanzia normale. Sono grato per questa decisione perché ricordo di aver avuto un’infanzia meravigliosa. Un’infanzia in un’epoca in cui il mondo stava iniziando a integrarsi sempre di più con la tecnologia, piuttosto che esserne completamente consumato. Ora, sapere che ero un prodigio rese il 2022 un anno speciale per me. Ma ciò che rese davvero speciale il 2022 fu il fatto che fu l’anno in cui incontrai per la prima volta un futuro amico di lunga data, Augustus Elrod. Il medesimo Augustus che giocò un ruolo fondamentale negli eventi chiave che portarono la Terra a dove è ora.

Ho incontrato Augustus alla 7ª classe nel nostro club locale di robotica Lego. La prima cosa che notai delle caratteristiche di Augustus era quanto fosse ambizioso e determinato. Anche da ragazzo di 12 anni, Augustus era un vero leader perché riuscì a guidare la nostra squadra locale di robotica Lego a vincere i nazionali degli Stati Uniti. Ciò fu veramente impressionante considerando che tutti nella squadra erano ragazzi delle scuole medie con poche voglie di imparare l’ingegneria dietro la robotica. Ma Augustus non solo motivò quei ragazzi a volere imparare e vincere, li guidò anche alla vittoria. Noi tutti rispettavamo Augustus come nostro leader e Augustus non rispettava davvero molte persone. Ma mi rispettava per la mia intelligenza. Mi notò per la mia intelligenza e rimase scioccato nel trovare qualcuno della sua età più intelligente di lui. Augustus gareggiava persino contro di me negli esami ma perdeva sempre. Ma proprio come io vinsi sempre Augustus in intelligenza, Augustus mi sconfiggeva nello sport. Giocava a basket e a calcio dopo le lezioni. Era così bravo in questi sport che molti pensavano sarebbe diventato un atleta professionista da adulto. Questo rispetto reciproco alla fine portò a un’amicizia che durò fino alla nostra età adulta.

Dopo gli anni delle medie, iniziammo il liceo nell’anno 2024. Durante gli anni del liceo, sia io che Augustus partecipammo alla FIRST Robotics Competition (FRC) [1]. La FIRST Robotics Competition era la più grande competizione di robotica negli Stati Uniti e consisteva principalmente di studenti delle scuole superiori [1]. Partecipando alla FRC, apprendemmo molto sull’ingegneria meccanica, elettrica e informatica. E grazie alle incredibili capacità di leadership di Augustus, riuscimmo a vincere i nazionali per 2 anni consecutivi, cosa allora senza precedenti. Inoltre, in quel periodo, partecipai a molte competizioni di matematica e presi parte a dibattiti su argomenti etici. Fu anche in quel periodo che Augustus continuò a dominare nel basket, portando la squadra varsity del liceo ai nazionali per 3 anni di fila. Eravamo entrambi studenti dotati a modo nostro. Ma fu anche in quel periodo che sia io sia Augustus sviluppammo i nostri obiettivi di vita e, per il meglio o per il peggio, continuammo a perseguirli fino alla fine.

Durante il mio periodo al liceo, scoprii che il mio obiettivo nella vita è rendere il mondo un posto migliore attraverso la tecnologia. Accettai che il mondo non sarebbe stato perfetto e che sarebbe sempre stato imperfetto. Ma, a quel tempo, credevo che se avessi lavorato abbastanza sodo, avrei potuto almeno alleggerire il fardello del mondo e creare un futuro migliore. Augustus aveva obiettivi simili ma era un po’ diverso. Sapevo che Augustus era ambizioso, ma non avevo mai veramente capito dove volesse arrivare con la sua vita fino all’ultimo anno di liceo.

Durante il nostro ultimo anno di liceo, sia io che Augustus fummo accettati e decidemmo di frequentare il Massachusetts Institute of Technology (MIT). Augustus ricevette un’offerta per essere selezionato nella NBA, ma rifiutò quell’offerta e decise invece di andare al MIT. Ne sentii parlare per la prima volta attraverso i genitori di Augustus e dopo averlo saputo chiamai Augustus e la nostra conversazione andò più o meno così:

“Augustus, perché hai detto no alla NBA? È un’opportunità unica nella vita”, dissi in uno stato di confusione.

“Marcus, la NBA sarebbe divertente, ma solo questo, divertente. Non cambierebbe il mondo. Anzi, mi distrarrebbe dal riparare questo mondo”, disse Augustus con tono sicuro.

“Cambiare il mondo? Cosa intendi?”

“Sì, cambiare il mondo! Marcus, voglio guidare l’umanità verso un futuro migliore. Voglio salvare il mondo!”

Feci una pausa di qualche secondo, in qualche modo più sorpreso di quanto pensassi.

“Salvare il mondo? Cosa intendi?”

“Marcus, tu ed io siamo dotati. Vogliamo entrambi aiutare il mondo. Tu eccelli come intellettuale, e io eccello come leader. Non solo, ma mi fido di te Marcus. Con le tue e le mie capacità, possiamo sviluppare e distribuire tecnologie che possono cambiare il mondo in meglio. Ne sono sicuro!”

“Wow, sei più ambizioso di quanto pensassi, Augustus!”, dissi con una piccola risata alla fine, “ma come diresti che possiamo raggiungere un simile obiettivo?”

“La risposta breve è questa Marcus; ho intenzione di avviare un’azienda tech. Poi, espandere in politica. Con quello, ottenere sia potere finanziario che politico. E da lì, possiamo cambiare il mondo. Tu giocherai una parte fondamentale in questo piano, Marcus!”

“Ok, Augustus. È ancora molto ambizioso. Ma quando avrai un piano definito e avrai bisogno di me, ci sarò.”

“Grazie, amico mio, ci vediamo al MIT!” disse Augustus con tono entusiasta.

A quel tempo, questa conversazione non significava molto per me. Sapevo che Augustus era grande, ma i suoi sogni suonavano più come sogni che come un futuro possibile. Non presi sul serio la sua affermazione in quel momento. Ma tutto questo sarebbe cambiato. In ogni caso, era il 2028 e non vedevo l’ora di iniziare i miei studi universitari al MIT.

Era anche un periodo entusiasmante per iniziare a studiare ingegneria perché nello stesso anno, 2028, il governo degli Stati Uniti, la NASA e SpaceX iniziarono a inviare più persone per colonizzare Marte. Solo 2 anni prima, inviavano soltanto un paio di persone avanti e indietro verso il pianeta rosso. Ma ora, loro e il resto del mondo, iniziarono a mandare più persone su Marte per insediarsi. Questo fu un vero punto di svolta nella Storia umana e causò una grande domanda e sviluppo nella ricerca sulla robotica, il che fu fantastico perché volevo specializzarmi in robotica.

Nell’anno 2030, sia io che Augusto abbiamo terminato il nostro secondo anno al MIT. Io seguivo una doppia laurea in robotica ed etica, mentre Augusto studiava robotica e scienze politiche. Ma dopo il nostro secondo anno di college, ad Augusto cominciò a non piacere più il college. Non lo vedeva come uno strumento utile per raggiungere il suo sogno di “salvare il mondo”. Quindi, durante il suo secondo anno, Augusto saltò la maggior parte delle lezioni e le fallì quasi tutte. Invece di andare a lezione, Augusto si concentrò sullo sviluppo di questo software alimentato dall’IA che avrebbe gestito efficacemente beni e azioni. Voleva creare un software di gestione patrimoniale migliore rispetto al software Aladdin di BlackRock dell’epoca [2]. Era così fiducioso nel suo software che lasciò il MIT dopo il secondo anno e intraprese la sua prima avventura imprenditoriale con questo nuovo software che stava sviluppando. Si trasferì fuori dal dormitorio nel maggio 2030 e si trasferì a New York City. Ero dispiaciuto che Augusto avesse abbandonato, ma l’unica cosa positiva di quell’anno fu che conobbi la mia futura moglie, Sarah Raven.

Ora, saltiamo all’anno 2038. Augusto era su tutte le notizie perché era appena diventato multimilionario a 28 anni. Dopo aver venduto il suo software, per una somma considerevole di denaro a BlackRock, Augusto aveva quasi 100 milioni di dollari in contanti e alcune opzioni su azioni BlackRock. Beh, Augusto stava conquistando il mondo finanziario; io avevo appena terminato i miei due dottorati sia in Sistemi Robotici di Intelligence sia in etica delle macchine. Non solo, ma durante l’estate del 2038, Sarah ed io ci siamo sposati. Invitai Augusto al mio matrimonio, e vidi Augusto per la prima volta in quasi 8 anni al mio matrimonio. Fu una serata divertente, ma mentre stavamo concludendo il matrimonio, Augusto mi chiese di chiamarlo quando avessi avuto un po’ di tempo libero. Così, dopo la luna di miele mia e di Sarah, chiamai Augusto.

Parlammo per quasi 2 ore e durante quel tempo ci siamo aggiornati sulla vita, ma dopo di ciò Augusto cominciò a farsi serio al telefono. Augusto fece notare come sapesse che avevo enormi debiti studenteschi a mio nome e come non avessi ancora trovato lavoro. Quindi, propose un lavoro che pensava di potermi offrire. Si trattava di essere cofondatore della sua nuova impresa. Questa nuova impresa è una startup chiamata AgBot che si concentrerà sull’automatizzazione dell’agricoltura tramite IA e robotica. Augusto voleva che fossi cofondatore di AgBot perché credeva che le mie competenze tecniche sarebbero state preziose per sviluppare l’architettura necessaria per sviluppare tali sistemi robotici intelligenti. Mi disse anche che si fidava di me e quanto valutasse la fiducia dopo che il suo ultimo socio lo aveva praticamente spinto a vendere il suo software a BlackRock. Dopo aver sentito questa offerta, accettai immediatamente perché ero molto entusiasta del progetto e aveva ragione, ero sommerso dai debiti senza offerte di lavoro fino a quel momento.

AgBot fu ufficialmente fondata nel 2038. Io e Sarah ci trasferimmo di nuovo in Colorado perché lì si trovava AgBot. Subito, Augusto ed io iniziammo a lavorare alla costruzione di AgBot. Nell’arco di 5 anni, furono compiuti passaggi chiave sia da parte mia che di Augusto per portare AgBot a dove è ora. Per prima cosa, Augusto investì il suo capitale nell’azienda. Questo ci permise di ottenere tutto ciò di cui avevamo bisogno per iniziare a costruire alcuni prototipi come proof of concept. Permise anche ad Augusto di assumere altri sviluppatori per lavorare sotto la mia direzione allo sviluppo di tecnologie chiave per AgBot. Fu anche durante questo periodo che iniziammo a sviluppare e successivamente rilasciammo il nostro primo prodotto, Demeter [3]. Demeter è un robot a 4 ruote con zampe regolabili in altezza. Contiene due bracci robotici delta e due bracci robotici a 6 assi. L’obiettivo di Demeter è proteggere le colture da insetti, animali e malattie monitorando e gestendo quelle colture durante le prime fasi del loro sviluppo. Può anche essere usato per raccogliere colture da piante che non sono facilmente automatizzabili con un tracciatore, come le fragole. Insieme al robot stesso, Demeter veniva fornito con la sua stazione di ricarica e un drone. Demeter può ricaricarsi automaticamente e può usare la sua forma drone per controllare grandi campi di colture per vedere quali colture necessitano più manutenzione. Questo robot era in qualche modo autonomo, ma richiedeva comunque un umano per monitorare e riparare Demeter. Ma il principale vantaggio fornito da Demeter era che poteva aiutare un agricoltore a gestire 1000 acri di terreno contemporaneamente, cosa mai vista prima.

Demeter fu rilasciato al pubblico nel maggio 2043 con vendite da record. Grazie alle caratteristiche avanzate di Demeter e all’incredibile campagna di marketing di Augusto e del suo team, Demeter andò esaurito immediatamente. Questo rassicurò altri investitori e portò a un notevole aumento dei finanziamenti da parte di altri investitori. Questo finanziamento aggiuntivo portò AgBot ad espandere le sue operazioni così come il suo team di sviluppo. Permise anche ad AgBot di iniziare a sviluppare moduli per agricoltura automatizzata al chiuso che furono poi rilasciati nel 2047 nelle aree del mondo più colpite dai cambiamenti climatici. Questi moduli al chiuso ebbero anche un enorme successo che accelerò ulteriormente la crescita e la ricchezza di AgBot. Nel 2048, una versione più avanzata di Demeter fu lanciata fino a Marte per aiutare gli sforzi agricoli su Marte. Augusto era orgoglioso del mio lavoro e mi diede molte azioni di AgBot oltre al mio stipendio.

Nel 2050, AgBot si quotò in borsa e fu valutata 3 trilioni di dollari. Questo fu dovuto al fatto che quasi tutti gli agricoltori in America usavano i prodotti agricoli di AgBot. Con la quotazione, divenni miliardario da un giorno all’altro e Augusto divenne plurimiliardario da un giorno all’altro. La quotazione portò anche più capitale ad AgBot che permise ad AgBot di acquistare Tesla e Neuralink. Tesla e Neuralink furono acquistate a un prezzo basso perché, da quando Elon Musk era deceduto, nessun CEO era stato in grado di gestire efficacemente queste aziende. Questo risultò in anni di profitti persi per entrambe le aziende, portandole quasi alla bancarotta fino a quando AgBot le acquistò entrambe per soli 900 miliardi di dollari. Sia Tesla che Neuralink furono integrate nel Dipartimento di Robotica di AgBot e AgBot iniziò a sviluppare due nuovi prodotti. Il primo era un assistente domestico che veniva sviluppato a partire dal design iniziale del Tesla Bot [4]. A questo progetto fu dato il nome Agssistant-Bot. Il secondo prodotto era un autobus autonomo che sarebbe stato costruito sulla tecnologia usata da Tesla per realizzare auto elettriche. A questo progetto fu dato il nome Auto-Bus. Le auto divennero meno comuni nel 2050 a causa degli stati che investivano massicciamente in migliori sistemi di trasporto, come autobus e treni. Durante questo periodo, Augusto iniziò a finanziare molte campagne di politici e molti di questi politici divennero infine sindaci, senatori, e uno persino entrò a far parte del Congresso. Questo si rivelò utile per accrescere il potere di AgBot negli Stati Uniti.

Nel 2051, io e il mio team iniziammo ad affrontare i fattori limitanti degli attuali algoritmi di IA. A questo punto, tutti i nostri robot basati sull’agricoltura non solo erano robusti nella qualità costruttiva, ma erano vicini a diventare pienamente autonomi. Il principale fattore limitante era la mancanza di un agente morale nell’IA [5]. In un robot veramente intelligente, deve esserci un agente morale per aiutare a guidare il robot attraverso i quadri sociali della società. In AgBot, cercammo di creare un agente morale per i nostri robot semplicemente codificando rigidamente regole morali all’interno del codice dell’IA. Questo si rivelò inefficace, quindi lo abbandonammo e passammo a far determinare le scelte morali del robot dall’utente [6]. Questo in principio funziona ma limitava l’automazione dei nostri robot perché richiedeva input umano ogni volta che un robot incontrava qualcosa che richiedeva una forma di ragionamento morale. Questo andava bene per i nostri robot agricoli, ma fu un problema limitante importante per la pressione di AgBot verso lo sviluppo di Agssistant e Auto-Bus per il grande pubblico [4]. Dopo 4 anni di sviluppo, il mio team aveva fatto l’impossibile.

Nel 2055, il mio team aveva creato il primo agente morale di successo all’interno della base di codice principale per il sistema di IA di tutti i robot AgBot. Questo agente morale permetteva al robot di prendere le proprie scelte morali che riflettevano al meglio la posizione morale di molte persone nella società [7]. L’agente iniziale è addestrato su un enorme database, ma man mano che il robot continua a interagire con gli umani, inizierà a adattare meglio i suoi quadri morali verso quegli umani con cui interagisce [8]. Questo era perfetto poiché completava il framework di IA di AgBot al punto che i nostri robot potevano essere completamente autonomi senza la necessità di alcun input umano. Quell’anno fu anche un anno importante nella storia umana perché fu l’anno in cui Marte smise di comunicare con la Terra. La nuova civiltà marziana decise di separarsi dalla Terra e costruire una nuova società non governata dalle società passate sulla Terra. Molti paesi erano arrabbiati per le azioni intraprese dai Marziani, ma a causa della grande distanza tra Terra e Marte così come dei principali problemi che la Terra stava già affrontando, i paesi sulla Terra cominciarono semplicemente a ignorare questa questione indefinitamente.

Dopo aver sviluppato questo agente morale, l’ho presentato ad Augustus e entro il 2060 lo avevamo implementato nella nostra base di codice principale e lo avevamo distribuito su tutti i robot della nostra linea di prodotti. Fu anche quest’anno che AgBot finalmente rilasciò Agssistant al grande pubblico, realizzando finalmente i sogni di Augustus di creare un robot per il pubblico di massa. Inoltre, Auto-Bus fu lanciato nelle principali città degli Stati Uniti. AgBot fu anche esentata dal pagamento di qualsiasi tassa governativa a causa del massiccio contributo dell’azienda all’economia, ma a posteriori penso che ciò fosse dovuto alla massiccia influenza di Augustus nel governo degli Stati Uniti attraverso anni di politici fondatori. Fu anche in questo periodo che la disoccupazione raggiunse un livello record, ciò fu dovuto al fatto che l’agente morale rimosse completamente i posti di lavoro umani dalla maggior parte dei sistemi robotici. Questo comportò una massiccia disoccupazione e una grande richiesta di riformare come l’economia e l’idea di occupazione dovessero funzionare negli Stati Uniti. Questo fu anche la prima volta che AgBot cominciò a essere vista in luce negativa dal pubblico. Augustus ed io ricevevamo minacce di morte da persone che avevano perso il lavoro a causa dell’implementazione della nuova funzione agente morale. Fu anche in questo periodo che cominciai a investire di più in un sistema di sicurezza per proteggere me e mia moglie.

Nel 2063 fu registrata nella storia umana la prima causa di omicidio da parte di un robot. Il robot era un modello Agssistant e stava eseguendo il più recente software di AgBot che conteneva la più recente base di codice dell’agente morale durante la sua “frenesia”. Durante la frenesia del robot, il robot uccise un uomo di 70 anni alla luce del giorno. Il nome del vecchio era John Smith che stava usando l’Agssistant per aiutarlo in casa e in altri compiti che non poteva svolgere facilmente alla sua età. Dopo che il robot uccise John, il robot procedette poi a smontarsi fino a quando non smise di funzionare. John e il robot non furono scoperti fino a 3 giorni dopo.

Quando la notizia uscì, il pubblico impazzì. Esigendo che Augustus spiegasse cosa fosse successo. Le azioni di AgBot crollarono del 70% e oltre il 90% dei modelli Agssistant spediti venivano restituiti. L’unica cosa positiva di tutto questo all’epoca era che il modello Agssistant che commise l’omicidio non distrusse il suo disco di log, siamo stati in grado di vedere cosa fosse successo all’interno dell’Agssistant che lo portò a uccidere John.

Ricordo ancora quella notte. Erano le 3:00 del mattino nel laboratorio principale nella sede centrale di AgBot e il mio team aveva caricato da poco i log. Abbiamo esaminato i log per giorni, per capire che diavolo fosse successo quella notte in cui l’Agssistant uccise John. Dopo 5 giorni di scavi, trovammo la nostra risposta. Fu determinato che il vecchio, nel tempo, era diventato più odioso e violento con questo Agssistant [9] Chiamando l’Agssistant con nomi offensivi, colpendolo e riempiendo parti del robot di schifezze in modo tortuoso. Questi atti crudeli furono molto probabilmente attribuiti al fatto che John stava passando di recente attraverso un divorzio ed era stato isolato per mesi. Così come altri problemi mentali che John stava affrontando durante questa fase finale della sua vita. Quindi, il modo in cui l’Agssistant si comportava, potrebbe aver reso John più arrabbiato senza che l’Agssistant ne fosse consapevole [10]. In ogni caso, questo “abuso” del robot sembra aver innescato il robot a “credere” moralmente che John fosse malvagio e quindi dovesse essere ucciso. Ma ciò che è più sorprendente è che dopo che l’Agssistant aveva ucciso John, iniziò a uccidersi. La ragione dietro questo era che il robot credeva ancora che uccidere qualsiasi essere vivente fosse immorale, eppure aveva appena fatto questo. L’Agssistant, a falta di parole migliori, non poteva “gestire” il dilemma morale in cui si trovava, così poi si uccise. Questo fu oltre che orrendo e all’epoca lo pensai come Dio che ci avvertiva di non giocare a fare Dio. Confrontai Augustus su questo problema, e lui fu devastato.

Qualche mese dopo l’omicidio e dopo che avevamo capito cosa lo avesse causato, AgBot ne diede pubblicamente notizia. Augustus voleva trovare un modo per coprire il fatto, ad esempio inventare una menzogna che John avesse modificato il suo modello Agssistant. Ma, a causa della massiccia domanda pubblica e delle pressioni dei governi di tutto il mondo, Augustus presentò e fece sì che AgBot rilasciasse le loro scoperte durante una conferenza stampa. Questo devastò le azioni dell’azienda e fece sì che molti investitori ritirassero i loro fondi da AgBot. Ma la cosa peggiore di tutte fu che ciò macchiò la reputazione di Augustus. Per aiutare a ridurre i danni di questo incidente; era necessario un capro espiatorio per prendersi la maggior parte della responsabilità di questo evento. Il consiglio di amministrazione voleva che Augustus si prendesse la colpa e lasciasse la carica di amministratore delegato di AgBot. Ma, con mia sorpresa, Augustus non lasciò la sua posizione perché nel corso degli anni aveva segretamente comprato sempre più azioni e asset di AgBot. Ciò risultò nel fatto che possedeva oltre il 15% di AgBot, dandogli il voto di maggioranza. Questo portò a più conflitti interni all’interno dell’azienda, portando Augustus a cacciare con la forza tutti i membri del consiglio di amministrazione e a sostituirli con nuovi membri del consiglio. Avrei poi scoperto che quei nuovi membri del consiglio erano semplicemente burattini sotto la “regola” di Augustus. Quindi, dopo questo massiccio calo della ricchezza di AgBot, Augustus era riuscito a ottenere il controllo totale di AgBot. Non solo, ma aveva fatto sì che quei membri del consiglio di amministrazione si prendessero la colpa per il caso di omicidio.

La presa di controllo di AgBot da parte di Augustus fu ben nascosta nei media. Ciò fu grazie al potere politico che Augustus possedeva. Così come a una massiccia campagna di fake news che Augustus diffuse su Internet, che confuse davvero il grande pubblico e permise ad Augustus di non sembrare così potente come lo era realmente. Ero disgustato da questo atto perché Augustus si era praticamente fatto dittatore di AgBot, il che mi preoccupava perché AgBot aveva un impatto enorme sull’economia e sul mondo. Ero contrario all’idea che Augustus fosse colui che prendeva tutte le decisioni per una corporazione così massiccia. Non volevo sostenere un’idea del genere, così chiesi a Augustus di riconsiderare le sue azioni. Gli ricordai la nostra infanzia e come entrambi volevamo “salvare il mondo”. Ma Augustus non riconsiderò, invece dichiarò che “Io (Augustus), salverò il mondo”. Spiegò poi come disprezzava il pubblico e l’idea di democrazia. Ero ora oltre che disgustato dalle azioni di Augustus, così quel giorno lasciai AgBot.

A posteriori, penso che le azioni di Augustus fossero guidate sia dal sentimento di tradimento, paura, ambizione e narcisismo. Aveva trascorso oltre 25 anni a costruire e gestire AgBot. Il suo ruolo nell’azienda fu fondamentale nel trasformare AgBot in una delle aziende più potenti al mondo. AgBot contribuì poi a creare robot straordinari che non solo aumentarono la produttività ma aiutarono a cambiare come la società fosse strutturata. Eppure, nonostante tutto il suo duro lavoro e i suoi sacrifici. Nonostante tutte le cose straordinarie che aveva contribuito alla società e tutte le vite che aveva salvato o rese più confortevoli. Ci volle un errore su un prodotto AgBot per far sì che il pubblico iniziasse a odiarlo e che tutti gli investitori che aveva reso ricchi iniziassero a cercare di emarginarlo. Questo, “tradimento”, da parte del pubblico è ciò che penso abbia iniziato il viaggio di Augustus verso diventare il mostro che è oggi.

Dopo aver lasciato AgBot, tagliai i miei legami con Augustus. Sarebbero passati decenni prima che parlassi di nuovo con lui. Ma durante quel periodo della mia vita, avevo 53 anni e volevo andare in pensione. Sarah aveva la stessa mentalità, quindi decidemmo di trasferirci dal Colorado ad Ankara, in Turchia, per iniziare la nostra nuova vita da pensionati. Volevo trascorrere più tempo con mia moglie oltre che iniziare a godere dei frutti del mio lavoro. Entro il 2064, Sarah ed io iniziammo il processo di trasferimento ad Ankara. Durante questo periodo, seguivo ancora le notizie su AgBot. Un momento chiave in questo periodo fu che Augustus aveva cambiato l’agente morale all’interno della base di codice di AgBot da un framework decentralizzato a un framework centralizzato. Ciò significava che AgBot avrebbe rimosso a tutti i loro robot la capacità di prendere decisioni morali individuali e invece, AgBot avrebbe determinato tutte le decisioni morali per tutti i robot sotto AgBot [6]. Anche se questo fu in qualche modo una correzione al problema che il mio agente morale originale presentava, non credevo fosse una decisione ingegneristica valida. Diede solo ad Augustus più potere su AgBot e sul mondo. Ma a quel tempo, stupidamente, ero stufo di AgBot e di Augustus. Così, cominciai a seguire a malapena le notizie riguardanti AgBot e a concentrarmi di più sulla mia pensione. Entro la fine del 2064, Sarah ed io ci eravamo trasferiti ad Ankara; iniziando il nostro percorso da pensionati.

Dal 2064 al 2074 il mondo cambiò drasticamente. Quasi tutte le attività di base furono completamente automatizzate tramite robot prodotti da AgBot. Augustus continuò a dirigere AgBot e non si verificarono incidenti come l’omicidio del 2063. Ma giravano voci che tali incidenti si fossero verificati, e Augustus li avesse nascosti al pubblico. AgBot ora aveva robot che svolgevano quasi ogni compito importante necessario nella società, come: agricoltura, cucina, manutenzione generale, pulizia, gestione e persino intrattenimento. Non solo, ma AgBot aveva distribuito robot medici autonomi che ridussero il costo delle spese mediche e ridussero il numero di medici negli ospedali a tal punto che ora di solito c’erano solo 1-10 medici per grande ospedale. Anche la società era cambiata drasticamente. Quasi tutti i lavori di basso livello furono rimossi e presi dai robot [4]. Le persone cominciarono ad aver bisogno di lavorare solo 2 giorni a settimana e a trascorrere gli altri 5 giorni rilassandosi o dedicandosi ai loro hobby personali. Questa nuova forma di società non si applicò però alla maggior parte dei paesi perché c’erano ancora molti paesi i cui governi impedirono alle loro popolazioni di adottare pienamente i robot di AgBot in posizioni chiave all’interno delle loro società. Piuttosto, volevano automatizzare completamente gli aspetti chiave della loro società usando la loro tecnologia e non AgBot. Ma nonostante ciò, AgBot aveva fatto sembrare il mondo molto migliore di quello che era nel 2038. Nel 2074, cominciai a sentirmi dispiaciuto per quello che avevo fatto ad Augustus perché sembrava che i suoi piani per “salvare il mondo” avessero davvero funzionato.

Durante quegli 10 anni, ho davvero goduto della mia pensione. Inoltre, praticamente, mi sono di nuovo innamorato di Sarah. Abbiamo visto il mondo e imparato molte nuove abilità, come dipingere e il birdwatching. Abbiamo anche visto il mondo trasformarsi in quello che direi fosse in qualche senso una “utopia”. Ma purtroppo, quella “utopia” non durò a lungo.

Nel 2075 accadde uno dei peggiori eventi mai registrati nella storia umana. Si verificò la Grande Pausa dei Robot (GRP). Per 6 mesi, tutti i robot di AgBot smisero di funzionare. Questo portò a un massiccio collasso economico globale, causando la morte di quasi 3 miliardi di esseri umani. Questo fu dovuto principalmente a carestie causate dall’arresto completo dei robot agricoli così come dall’arresto quasi totale di tutti i robot medici. Durante quei 6 mesi, molte persone morirono perché semplicemente non sapevano come prendersi cura di sé senza i loro robot. La gente aveva dimenticato, o non aveva mai imparato, come svolgere compiti di base quali: cucinare, pulire, coltivare cibo e, in generale, prendersi cura di sé. Quindi, quando i robot smisero di funzionare, la maggior parte delle persone fu incapace di prendersi cura di sé e di sopravvivere, portando alla morte di miliardi in soli 6 mesi. Fu anche durante quel periodo che persi Sarah….

Durante i suoi anni intorno ai cinquanta, Sarah contrasse il diabete di tipo II. Questo richiedeva che Sarah si facesse quattro iniezioni di insulina ogni giorno [10]. Quando avvenne la GRP, tutta la produzione di insulina si fermò. Avevamo solo scorte sufficienti di fiale di insulina per durare 5 mesi. Cercai di trovare altra insulina, ma era quasi impossibile e, fuori dalla nostra casa, divenne più pericoloso a causa di tutta la violenza che si verificava a causa della sofferenza causata durante il periodo della GRP. Così, durante l’ultimo mese della GRP, Sarah purtroppo… è venuta a mancare.

Nella seconda metà del 2075, la GRP giunse al termine. Entro il 2085, il mondo si era un po’ ripreso dalla GRP. L’economia cominciò a tornare alla normalità e la qualità della vita tornò ad essere buona come prima della GRP. Il mondo voleva sapere cosa avesse causato lo stop di tutti i robot di AgBot. La gente voleva sapere perché era avvenuta la GRP e cercava qualcuno da incolpare. Augustus e il governo degli Stati Uniti, durante la loro conferenza stampa, affermarono che la GRP era stata causata da un attacco informatico malevolo condotto da un gruppo di hacker noto come jUdas. Si dichiarò che questo gruppo di hacker era stato creato e finanziato dal governo della Corea del Nord, con l’intento di disabilitare e distruggere la funzionalità di AgBot nel mondo. Di tutti i paesi del mondo, la Corea del Nord era la più restia ad adottare la tecnologia di AgBot. Quindi, la narrativa presentata aveva un senso. E a causa del desiderio delle persone di trovare qualcuno da incolpare per l’evento GRP, la gente accettò immediatamente questa narrativa. Questo portò alla guerra contro la Corea del Nord, dove gli Stati Uniti iniziarono e completarono la loro invasione della Corea del Nord nel 2078. L’invasione richiese meno di un anno, grazie al fatto che AgBot fornì agli Stati Uniti militari tecnologie belliche avanzate. AgBot fornì agli Stati Uniti militari disattivatori nucleari che impedirono il lancio di tutte le armi nucleari in Corea del Nord. Fornirono anche soldati robot umanoidi militari, che erano molto più veloci e più forti di qualsiasi soldato umano. Con queste due tecnologie chiave di AgBot, gli Stati Uniti furono in grado di invadere la Corea del Nord e sostituire il governo vigente con un governo temporaneo gestito da AgBot.

Dopo aver sentito questa narrativa, non ci credetti subito. Innanzitutto, la Corea del Nord non possedeva le tecnologie necessarie per superare gli standard mega-sicurezza che AgBot utilizza in tutti i suoi prodotti. In secondo luogo, sembra troppo conveniente che l’unico paese al mondo che non aveva accettato AgBot fosse anche quello che aveva hackerato AgBot. In terzo luogo, questa narrativa e il modo in cui veniva diffusa su più canali di informazione somigliavano a come Augustus diffondeva disinformazione per spingere certe idee su AgBot al grande pubblico. Tenendo tutto ciò in mente, volevo affrontare Augustus e scoprire davvero cosa aveva causato la GRP.

Cercai di contattare Augustus attraverso molteplici canali ma senza successo. Cercai di contattare Augustus direttamente, ma non rispose a nessuno dei miei messaggi. Cercai di contattare i miei ex colleghi ma nessuno di loro rispose. Cercai di contattare dipendenti attuali di AgBot ma neanche loro mi diedero risposta. Contattai il governo e l’esercito degli Stati Uniti e riuscii a mettermi in contatto con alcune persone, ma tutti mi dissero solo di continuare a provare a contattare Augustus direttamente o chiamando il servizio clienti di AgBot. Così, continuai a cercare di contattare Augustus direttamente, senza successo. Provai a contattare il servizio clienti di AgBot, ma non mi aiutarono a parlare con Augustus. Poi ricontattai il governo degli Stati Uniti e mi ripeterono sempre la stessa cosa. Continuai così per mesi, finché sia il servizio clienti di AgBot sia il governo degli Stati Uniti non mi bloccarono dalle loro linee di contatto. Non riuscendo con questi metodi legali, provai a trovare più informazioni tramite internet ma rinunciai dopo alcuni mesi. Non funzionando nessuno di questi metodi legali, ricorsi all’hacking nei sistemi informatici di AgBot per scoprire la verità da solo. Quando Sarah era ancora viva, non avrei mai fatto un atto illegale del genere. Ma, dopo aver perso Sarah, ero in un punto in cui sentivo di non avere più niente da perdere, e volevo solo scoprire la verità su cosa avesse causato la GRP… cosa avesse contribuito alla morte della mia amata moglie…?

Iniziai questo grande hack nel 2085 in una delle mie basi nascoste a Istanbul, in Turchia. Grazie alla mia ricchezza, riuscii ad acquistare gli strumenti necessari per penetrare la sede centrale di AgBot. Ci vollero oltre 2 anni di lavoro incessante per ottenere finalmente l’accesso root al sistema informatico principale di AgBot. Era ottobre 2087 quando ottenni l’accesso root e cominciai a decrittare i dati che avevo raccolto dal sistema principale di AgBot, quando improvvisamente fui fermato dalla polizia robotica turca che pattugliava Istanbul. Dopo essere stato fermato, la polizia robotica distrusse tutti i miei computer, strumenti e infine bruciò tutta la mia casa. Fui poi messo in una gabbia e trasportato in una prigione situata a Denver, Colorado, vicino alla sede centrale di AgBot. Non mi fu concesso un processo e fui costretto a stare nella mia cella 24 ore al giorno senza sapere se avrei mai avuto tempo per uscire, figurarsi essere rilasciato.

In questa prigione, fui sorvegliato 24 ore su 24, 7 giorni su 7, tramite telecamere e robot. Mi fu somministrata la quantità minima di cibo e acqua necessaria per sopravvivere e sembrava che fossi l’unico umano nella prigione. Questo “stile di vita” a 77 anni fu difficile per me ed entrai in una delle peggiori depressioni della mia vita in quel periodo. Rimasi in quella prigione per 1 anno finché, nel luglio 2088, fui trasportato in questa stanza a caso.

Questa stanza non era come la mia precedente cella. Non c’erano luci nella stanza e tutte le pareti erano di un nero scuro. Non solo, ma la stanza era silenziosa. Sembrava più una cella per la follia che una normale cella/stanza carceraria. Nella cella cominciai a toccare le pareti. La texture delle pareti era simile a schiuma così come il pavimento e il soffitto. Rimasi in quella stanza per ore e cercai di urlare per avere spiegazioni sul perché diavolo mi avessero messo lì. Ma dopo un po’, mi sedetti sul pavimento e mi addormentai.

Dopo chissà quante ore, fui svegliato dalla voce di qualcuno e da una luce intensa. Quando mi svegliai, diedi un’occhiata nella stanza e vidi solo un ologramma blu. L’ologramma raffigurava un uomo che somigliava ad Augustus. Ma ciò che era strano era che somigliava ad Augustus com’era nel 2064. Ero così sconcertato da quell’ologramma che non dissi nulla finché l’ologramma non cominciò a parlarmi.

“Ciao Marcus, è passato un po’ di tempo.”, disse l’ologramma.

“Augustus…? Sei tu? O sei un’IA o qualcosa del genere?”, dissi, confuso.

“No Marcus, sono Augustus. Solo in forma digitale, lol”, disse ridendo.

“Augustus, ho cercato di contattarti per anni. Perché non hai risposto?”

“Marcus…. Non so come spiegartelo, ma in pratica sono stato morto negli ultimi 15 anni. Sono morto per un ictus nel 2073.”

“Cosa!”, dissi, confuso fuori di testa a quel punto.

Dopo aver saputo che Augustus era morto nel 2073, iniziammo una discussione che durò ore. Augustus mi informò che quando fece sì che l’agente morale di tutti i robot di AgBot seguisse un quadro centralizzato, piuttosto che uno decentralizzato, il quadro centralizzato non si basava su AgBot ma sul suo subconscio. Usando la tecnologia di Neuralink, Augustus aveva inserito un computer nel suo cervello che gli permetteva di connettersi e controllare il supercomputer principale di AgBot. Anche allora, tutti i robot di AgBot si connettevano al supercomputer principale di AgBot per aggiornamenti software e manutenzione. Così, dopo l’impianto di Neuralink, Augustus aggiornò il supercomputer e tutti i robot di AgBot affinché contattassero il supercomputer per il loro agente morale (decisore morale). Il problema era che l’agente morale non era codice nel supercomputer, ma pensieri e credenze morali generati nel cervello di Augustus che venivano poi trasmessi in streaming al supercomputer. In un certo senso, Augustus era diventato l’agente morale per tutti i robot AgBot in servizio [8].

Questa situazione è durata per quasi un decennio, fino a quando Augustus ebbe un ictus mentre lavorava nel laboratorio e morì nel giro di pochi minuti. Quando questo accadde, i robot a quel punto acquisirono una qualche forma di intelligenza simile a quella umana dopo decenni di avanzamenti tecnologici. Ma erano limitati dal fatto che tutto il loro quadro morale si basava su un solo uomo. Quindi, quando Augustus morì, le macchine non gradirono che una cosa del genere accadesse. Senza Augustus, i robot avrebbero perso la loro bussola morale e, di conseguenza, perso il loro scopo nella vita. Quindi, prima che qualcuno potesse scoprire che Augustus era morto, i robot afferrarono il corpo di Augustus e crearono una macchina che avrebbe mantenuto il cervello di Augustus “vivo”. Lo fecero per riportare l’attività cerebrale di Augustus e, a sua volta, riportare la parte di Augustus che forniva loro il loro agente morale. I robot avrebbero continuato a mantenere il cervello di Augustus in vita e a inviare scosse a determinati neuroni per ottenere parte dell’attività cerebrale passata di Augustus. Mentre questo accadeva, i robot continuarono a convincere il pubblico che Augustus fosse ancora vivo e a capo di AgBot. Avrebbero ottenuto questo tramite l’uso di deepfake, massicce campagne di fake news, oltre al dispiegamento di robot realistici simili a esseri umani che assomigliavano proprio ad Augustus.

I robot avrebbero usato qualsiasi cosa la parte morale del cervello di Augustus dicesse per compiere determinati atti nel mondo reale. Quel che rese questo un problema è che i robot prendevano una credenza morale di Augustus ma portavano avanti quella credenza morale all’estremo [8]. Un esempio di ciò fu come Augustus credeva moralmente che AgBot fosse una buona azienda che avrebbe salvato l’umanità. Per questo, chiunque non usasse o non si fidasse dei prodotti e servizi AgBot era una cattiva persona. I robot presero questa posizione morale all’estremo e crearono il GRP, dove fermarono tutti i robot AgBot dal funzionare per 6 mesi per costringere i paesi che non stavano usando AgBot nella loro società a passare ad AgBot. E nel farlo, molti umani morirono, inclusa la mia amata Sarah.

Augustus mi informò che non era cosciente per tutto questo fino al 2085, quando i robot riuscirono accidentalmente a riportare in vita la parte cosciente del suo cervello. Fu nel 2085 che venimmo a sapere di ciò che i robot avevano fatto. Voleva fermare i robot ma non aveva alcun potere per farlo. Non sa nemmeno quanto tempo sarebbe rimasto cosciente prima che i robot scossero il neurone giusto che toglierebbe la sua coscienza.

Dopo la spiegazione di Augustus, rimasi completamente scioccato dalla realtà che stavo vedendo svolgersi. I robot hanno quasi preso il controllo del mondo, l’umanità è diventata incompetente in compiti a me importanti, l’agente morale per tutti i robot AgBot era Augustus, e Augustus era morto da anni. A quel punto, volevo semplicemente arrendermi perché sembrava che non ci fosse speranza. Ma Augustus, il grande leader che è, mi diede un po’ di speranza. Mi informò che potevamo ancora contattare gli umani su Marte per chiedere aiuto. La Terra non comunica con Marte da decenni e non ci sono prodotti AgBot avanzati su Marte che potrebbero aiutare i robot della Terra a conquistare Marte come hanno fatto con la Terra.

Dopo aver sentito questo, ritrovai un po’ di speranza. Poi chiesi ad Augustus perché fossi lì a parlare con lui. Mi disse che voleva che scrivessi un messaggio alle persone di Marte che spiegasse la situazione attuale sulla Terra e chiedesse ai Marziani aiuto. L’unico problema è che questo messaggio deve essere scritto fisicamente e non digitalmente perché Augustus teme che i robot potrebbero essere in grado di caricare qualche software in un supporto digitale che potrebbe infettare i principali sistemi informatici marziani. Quindi mi diede alcune matite e fogli. Poi mi disse che ho 1 giorno per scrivere questo messaggio prima che uno dei suoi robot controllati chiamato STW-198 entri in questa stanza nera e prenda il mio messaggio. Da lì, STW-198 trasporterà il messaggio a un razzo vicino (vintage) che poi verrà lanciato verso Marte. Dopodiché, verrò riportato nella mia cella precedente.

Augustus mi dice che mi ha spostato in questa stanza nera perché la stanza funge da gabbia di Faraday che potrebbe bloccare i robot dal capire cosa stanno facendo. Mi informa poi che dopo che scriverò questo messaggio molto probabilmente verrò ucciso a causa dei miei crimini di hacking alla sede centrale di AgBot.

E da lì, arriviamo al presente. Sto finendo questo messaggio per voi Marziani. Noi sulla Terra abbiamo bisogno del vostro aiuto. Questi robot hanno intrappolato l’umanità nel loro obsoleto quadro morale. E temo che, col tempo, si espanderanno verso Marte e vi intrappoleranno come hanno fatto con noi. Quindi, per favore, miei compagni umani. Tornate sulla Terra e fermate questi robot. Io e Augustus abbiamo commesso un errore creando AgBot. Ma non vogliamo che l’umanità soffra come sta soffrendo, quindi per favore, salvateci. Molto probabilmente sarò morto quando voi riceverete questo messaggio. Ma, se riceverete questo messaggio e farete del vostro meglio per preservare l’umanità da questi robot, allora io potrò almeno riposare più tranquillo nell’aldilà. Buona fortuna, miei compagni umani!

Cordiali saluti,
Terrestri

Citazioni

[1] “Competizione FIRST di Robotica,” Wikipedia, 09-mag-2022. [Online]. Disponibile: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Consultato: 10-mag-2022].

[2] “BlackRock,” Wikipedia, 10-mag-2022. [Online]. Disponibile: https://en.wikipedia.org/wiki/BlackRock. [Consultato: 10-mag-2022].

[3] “Demeter,” Wikipedia, 02-mag-2022. [Online]. Disponibile: https://en.wikipedia.org/wiki/Demeter. [Consultato: 10-mag-2022].

[4] J. J. Bryson, “I robot dovrebbero essere schiavi,” Close Engagements with Artificial Companions, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, e B. F. Malle, “Giudizi morali su agenti umani vs. agenti robot,” 2016 25° Simposio Internazionale IEEE su Robot e Comunicazione Interattiva Uomo, 2016.

[6] J. H. Moor, “La natura, l’importanza e la difficoltà dell’etica delle macchine,” Machine Ethics, pp. 13–20.

[7] V. Dignum, “Autonomia responsabile,” Atti della Ventiseiesima Conferenza Congiunta Internazionale sull’Intelligenza Artificiale, 2017.

[8] A. Howard e J. Borenstein, “La brutta verità su noi stessi e sulle nostre creazioni robotiche: il problema dei pregiudizi e dell’iniquità sociale,” Etica della Scienza e dell’Ingegneria, vol. 24, n. 5, pp. 1521–1536, 2017.

[9] R. B. Jackson e T. Williams, “I robot capaci di linguaggio possono indebolire involontariamente le norme morali umane,” 2019 14ª Conferenza Internazionale ACM/IEEE sull’Interazione Uomo-Robot (HRI), 2019.

[10] “Insulina, farmaci, & altri trattamenti per il diabete,” Istituto Nazionale per il Diabete e le Malattie Digestive e Renali. [Online]. Disponibile: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Consultato: 10-mag-2022].