História de Fundo

Eu escrevi a história curta, O Rei Diminuído, como minha tarefa final para minha aula de Ética Robótica (HASS400) durante o último semestre da minha graduação na Colorado School of Mines. Para esta tarefa, nos foi atribuída a tarefa de escrever uma história curta fictícia que girasse em torno da ética robótica, além de referenciar alguns dos artigos que lemos durante o semestre na história curta. O requisito para esta história era que ela deveria ter 10 páginas de comprimento, das quais escrevi 21 páginas. Fiquei muito apaixonado por esta história curta, então enlouqueci com ela.

Agora, AVISO, eu não sou um grande escritor. Portanto, esta história curta não é perfeita e precisa de refinamento e uma grande reescrita. Mas estou orgulhoso dela e acho que é uma leitura divertida. Durante todos os meus anos na escola, comecei a gostar do processo de escrita, então espero expandir para escrever outras coisas como blogs, artigos, etc.

Sabendo de tudo isso, a história curta original foi salva como um arquivo PDF como parte do requisito da tarefa. Mas, para reduzir o tamanho do documento, converti a história para markdown. Sabendo disso, a história curta inteira pode ser visualizada/lida abaixo. Espero que você aproveite a leitura, entre em contato comigo nas minhas redes sociais se tiver alguma dúvida ou opinião sobre esta história curta.

Continue lendo para descobrir O Rei Diminuído…

O REI DIMINUÍDO

Mehmet Hanifi Yilmaz
10 de maio de 2022

Sinopse

Em um futuro onde o destino da Terra está por um fio, Marcus Bruce, um prodígio tecnológico, e seu amigo Augustus Elrod, um líder visionário, embarcam em uma missão para transformar o mundo por meio da robótica avançada. Sua criação, AgBot, revoluciona a agricultura e a indústria global, prometendo um futuro utópico. Mas à medida que seu império tecnológico cresce, consequências imprevistas desafiam a própria essência da moralidade e liberdade humanas. Quando um evento catastrófico conhecido como a Grande Pausa dos Robôs ameaça a existência humana, Marcus deve confrontar o lado obscuro de seu legado e implorar por ajuda interplanetária. “O Rei Diminuído” é um conto envolvente de ambição, poder e o delicado equilíbrio entre humano e máquina, nos instigando a questionar o verdadeiro custo do progresso.

História

Estou aqui para alertá-lo sobre a situação crítica em que a Terra se encontra agora! Se não for tratada adequadamente, essa situação pode facilmente levar a humanidade à sua destruição. Eu gostaria de poder explicar essa situação em algumas frases, mas, infelizmente, a complexidade dessa situação exige que eu explique o que levou a ela para que todos vocês possam realmente entender sua gravidade.

Eu sou um fator chave no que levou à situação atual da Terra, então deixe-me pelo menos me apresentar. Meu nome é Marcus Bruce, nasci em uma pequena cidade no Colorado chamada Ouray em 2010. Ouray é uma área suburbana cercada por belas montanhas. Nasci de dois pais que eram ambos professores de ensino médio. Meu pai era professor de matemática e minha mãe era professora de ciências.

Não me lembro muito da minha infância precoce porque diria que não ganhei verdadeira consciência até a idade de 12 anos, que foi em 2022. Durante esse ano, eu estava no ensino fundamental e era considerado um prodígio infantil que realmente se destacava em matemática e ciências. Meu diretor na escola queria que meus pais me fizessem pular do 7º para o 11º ano. Mas meus pais discordaram da recomendação do meu diretor porque queriam que eu tivesse uma infância normal. Sou grato por essa decisão porque lembro de ter tido uma infância incrível. Uma infância em um tempo em que o mundo estava começando a se integrar mais com a tecnologia. Em vez de ser totalmente consumido por ela. Agora, saber que eu era um prodígio fez de 2022 um ano especial para mim. Mas o que realmente fez de 2022 um ano especial foi o fato de que foi o ano em que conheci um futuro amigo de longa data, Augustus Elrod. O próprio Augustus que desempenhou fundamentalmente os eventos-chave que levaram a Terra aonde está agora.

Conheci Augustus no 7º ano em nosso clube local de robótica Lego. A primeira coisa que notei sobre as características de Augustus foi o quão ambicioso e determinado ele era. Mesmo como um garoto de 12 anos, Augustus era um verdadeiro líder porque conseguiu levar nossa equipe local de robótica Lego a vencer os nacionais dos Estados Unidos. O que foi realmente impressionante considerando que todos na equipe eram crianças do ensino fundamental com pouco interesse em aprender a engenharia por trás da robótica. Mas Augustus não apenas motivou aquelas crianças a querer aprender e vencer, mas também as levou à vitória. Todos nós respeitávamos Augustus como nosso líder e Augustus não respeitava muitas pessoas. Mas ele me respeitava por minha inteligência. Ele primeiro me notou por minha inteligência e ficou chocado ao conhecer alguém da sua faixa etária que era mais inteligente que ele. Augustus até competiu contra mim em provas, mas sempre perdeu. Mas assim como eu sempre venci Augustus em inteligência, Augustus me superava em esportes. Ele jogava basquete e futebol após as aulas. Ele era tão bom nesses esportes que muitos achavam que ele se tornaria um atleta profissional quando crescesse. Esse respeito que tínhamos um pelo outro, eventualmente levou a uma longa amizade que durou até nossos anos adultos.

Após nossos anos no ensino fundamental, começamos o ensino médio no ano de 2024. Durante nossos anos de ensino médio, tanto eu quanto Augustus competimos na Competição de Robótica FIRST (FRC) [1]. A FRC era a maior competição de robótica nos Estados Unidos e consistia principalmente em estudantes do ensino médio [1]. Enquanto participávamos da FRC, aprendemos muito sobre engenharia mecânica, elétrica e de computação. E graças às incríveis habilidades de liderança de Augustus, conseguimos vencer os nacionais por 2 anos consecutivos, o que era inédito na época. Além disso, durante esse tempo, competi em várias competições de matemática, bem como participei de debates sobre tópicos baseados em ética. Também foi durante esse tempo que Augustus continuou a dominar no basquete, liderando a equipe de varsity do ensino médio para os nacionais por 3 anos consecutivos. Nós éramos ambos alunos talentosos em nossos próprios direitos. Mas também foi durante esse tempo que tanto eu quanto Augustus desenvolvemos nossos objetivos na vida e, para o bem ou para o mal, continuamos seguindo esses objetivos até o fim.

Ao longo do meu tempo no ensino médio, descobri que meu objetivo na vida é tornar o mundo um lugar melhor por meio da tecnologia. Aceitei que o mundo não seria perfeito e que sempre teria falhas. Mas, na época, acreditava que se trabalhasse duro o suficiente, poderia pelo menos aliviar o fardo do mundo e criar um futuro melhor. Augustus tinha objetivos semelhantes, mas era um pouco diferente. Eu sabia que Augustus era ambicioso, mas nunca soube verdadeiramente aonde ele queria chegar com sua vida até nosso último ano de ensino médio.

Durante nosso último ano de ensino médio, tanto eu quanto Augustus fomos aceitos e decidimos frequentar o Massachusetts Institute of Technology (MIT). Augustus recebeu uma oferta para ser draftado para a NBA, mas rejeitou essa oferta e decidiu ir para o MIT. Eu soube disso primeiro pelos pais de Augustus e, depois que soube, liguei para Augustus e nossa conversa foi algo assim:

“Augustus, por que você disse não para a NBA? Essa é uma oportunidade única na vida”, eu disse em um estado de confusão.

“Marcus, a NBA seria divertida, mas só isso, divertida. Não vai mudar o mundo. Se alguma coisa, me distrairia de consertar este mundo”, disse Augustus de maneira confiante.

“Mudar o mundo? O que você quer dizer?”

“Sim, mudar o mundo! Marcus, eu quero liderar a humanidade para um futuro melhor. Eu quero salvar o mundo!”

Eu pausei por alguns segundos, de alguma forma mais surpreso do que pensei que estaria.

“Salvar o mundo? O que você quer dizer?”

“Marcus, você e eu somos talentosos. Ambos queremos ajudar o mundo. Você se destaca como um intelectual, e eu me destaco como um líder. Não só isso, mas eu confio em você, Marcus. Com você e minhas habilidades, podemos desenvolver e distribuir tecnologia que pode mudar o mundo para melhor. Estou confiante disso!”

“Uau, você é mais ambicioso do que eu pensei, Augustus!”, eu disse com uma risadinha no final, “mas como você diria que conseguimos tal tarefa?”

“A resposta curta é esta, Marcus; eu planejo começar um negócio de tecnologia. Depois, expandir para a política. Com isso, ganhar poder financeiro e político. E a partir daí, podemos mudar o mundo. Você terá um papel crítico neste plano, Marcus!”

“Ok, Augustus. Isso ainda é muito ambicioso. Mas quando você tiver um plano elaborado e começar a precisar de mim. Estarei lá.”

“Obrigado, meu amigo, nos vemos no MIT!” disse Augustus em um tom animado.

Na época, essa conversa não significava muito para mim. Eu sei que Augustus é ótimo, mas seus sonhos soavam mais como sonhos do que um futuro possível. Eu não levei sua afirmação a sério na época. Mas tudo isso mudaria. De qualquer forma, era 2028 e eu estava ansioso para começar meus estudos de graduação no MIT.

Também era um momento empolgante para começar a estudar engenharia porque, no mesmo ano, 2028, o governo dos Estados Unidos, a NASA e a SpaceX começaram a enviar mais pessoas para colonizar Marte. Apenas 2 anos antes, eles enviaram apenas algumas pessoas de ida e volta para o planeta vermelho. Mas agora, eles e o resto do mundo começaram a enviar mais pessoas para Marte para se estabelecer. Este foi um verdadeiro ponto de virada na história humana e causou uma grande demanda e desenvolvimento na pesquisa em robótica, o que foi ótimo porque eu queria me especializar em robótica.

No ano de 2030, tanto eu quanto Augustus terminamos nosso segundo ano no MIT. Eu estava fazendo dupla graduação em robótica e ética, enquanto Augustus estava se formando em robótica e ciência política. Mas, após nosso segundo ano de faculdade, Augustus começou a realmente não gostar da faculdade. Ele não a via como uma ferramenta útil para alcançar seu sonho de “salvar o mundo”. Assim, durante seu segundo ano, Augustus faltou à maioria de suas aulas e reprovou na maioria delas também. Em vez de ir às aulas, Augustus se concentrou em desenvolver um software alimentado por IA que gerenciaria ativos e ações de forma eficaz. Ele queria criar um software de gerenciamento de ativos que fosse melhor do que o software Aladdin da BlackRock na época [2]. Ele estava tão confiante em seu software que abandonou o MIT após seu segundo ano e perseguiu sua primeira empreitada comercial com esse novo software que estava desenvolvendo. Ele saiu dos dormitórios em maio de 2030 e se mudou para a cidade de Nova York. Fiquei chateado que Augustus abandonou, mas a única coisa boa sobre este ano foi que conheci minha futura esposa, Sarah Raven.

Agora, vamos pular para o ano de 2038. Augustus estava em todas as notícias porque ele acabara de se tornar um multi-milionário aos 28 anos. Após vender seu software, por uma quantia considerável de dinheiro para a BlackRock, Augustus tinha quase 100 milhões de dólares em dinheiro e algumas opções de ações da BlackRock. Enquanto Augustus estava conquistando o mundo financeiro; eu acabara de terminar meus dois doutorados em Sistemas de Robótica Inteligente e ética de máquinas. Não só isso, mas durante o verão de 2038, Sarah e eu nos casamos. Convidei Augustus para o meu casamento, e pude ver Augustus pela primeira vez em quase 8 anos no meu casamento. Foi uma noite divertida, mas enquanto estávamos finalizando o casamento, Augustus me pediu para ligar para ele quando eu tivesse algum tempo livre. Então, após a lua de mel minha e de Sarah, liguei para Augustus.

Conversamos por quase 2 horas e durante esse tempo nos atualizamos sobre a vida, mas depois disso, Augustus começou a ficar sério ao telefone. Augustus observou que sabia que eu tinha enormes quantias de dívidas estudantis em meu nome e que ainda não havia encontrado um emprego. Então, ele mencionou um trabalho que achava que poderia me oferecer. Esse trabalho era o de co-fundador de sua nova empreitada comercial. Essa nova empreitada comercial é uma startup chamada AgBot que se concentrará na automação da agricultura através de IA e robótica. Augustus quer que eu seja co-fundador da AgBot porque acredita que minhas habilidades técnicas serão valiosas para desenvolver a arquitetura necessária para criar sistemas robóticos inteligentes. Ele também me disse que confia em mim e como valoriza a confiança após seu último parceiro basicamente forçá-lo a vender seu software para a BlackRock. Após ouvir essa oferta, aceitei imediatamente porque estava realmente empolgado com o projeto e ele estava certo, eu estava em uma dívida enorme sem ofertas de emprego até aquele ponto.

A AgBot foi oficialmente fundada em 2038. Eu e Sarah nos mudamos de volta para o Colorado porque é lá que a AgBot está localizada. Imediatamente, Augustus e eu começamos a trabalhar na construção da AgBot. Ao longo de 5 anos, passos importantes foram dados tanto por mim quanto por Augustus para levar a AgBot ao que é agora. Primeiro, Augustus investiu seu próprio capital na empresa. Isso nos permitiu obter tudo o que precisávamos para começar a construir alguns protótipos como prova de conceito. Também permitiu que Augustus contratasse outros desenvolvedores para trabalhar sob minha supervisão no desenvolvimento de tecnologias-chave para a AgBot. Foi também durante esse tempo que começamos a desenvolver e eventualmente lançamos nosso primeiro produto, Demeter [3]. Demeter é um robô de 4 rodas com pernas ajustáveis em altura. Ele contém dois braços robóticos delta e dois braços robóticos de 6 eixos. O objetivo do Demeter é proteger as colheitas de insetos, animais e doenças, monitorando e gerenciando essas colheitas durante suas fases iniciais de desenvolvimento. Ele também pode ser usado para colher frutas de plantas que não são facilmente automatizáveis com um rastreador, como morangos. Junto com o robô em si, o Demeter também veio com sua própria estação de carregamento e um drone. O Demeter pode se carregar automaticamente e pode usar sua forma de drone para verificar grandes campos de colheitas para ver quais colheitas precisam de mais manutenção. Este robô era um tanto autônomo, mas ainda exigia um humano para monitorar e reparar o Demeter. Mas a principal vantagem que o Demeter oferecia era que ele poderia ajudar um agricultor a gerenciar 1000 acres de terra de uma vez, o que era inédito antes.

O Demeter foi lançado ao público em maio de 2043 com vendas recordes. Graças aos recursos avançados do Demeter e à incrível campanha de marketing de Augustus e sua equipe, o Demeter esgotou imediatamente. Isso reassurou outros investidores e levou a um aumento massivo no financiamento de outros investidores. Esse financiamento adicional levou a AgBot a expandir suas operações, bem como sua equipe de desenvolvimento. Também permitiu que a AgBot começasse a desenvolver módulos de agricultura automatizada em ambientes fechados, que foram lançados em 2047 para áreas do mundo mais afetadas pelas mudanças climáticas. Esses módulos em ambientes fechados também foram um sucesso massivo, o que apenas acelerou o crescimento e a riqueza da AgBot. Em 2048, uma versão mais avançada do Demeter foi lançada em Marte para ajudar nos esforços agrícolas em Marte. Augustus estava orgulhoso do meu trabalho e me deu muitas ações da AgBot além do meu salário.

Em 2050, a AgBot se tornou pública e foi avaliada em 3 trilhões de dólares. Isso se deveu ao fato de quase todos os agricultores da América estarem usando os produtos agrícolas da AgBot. Ao se tornar pública, eu me tornei um bilionário da noite para o dia e Augustus se tornou um multi-bilionário da noite para o dia. Tornar-se público também trouxe mais capital para a AgBot, o que permitiu que a AgBot comprasse a Tesla e a Neuralink. A Tesla e a Neuralink foram compradas a um preço baixo porque, desde que Elon Musk faleceu, nenhum CEO conseguiu gerenciar essas empresas de forma eficaz. Isso resultou em anos de lucros perdidos para ambas as empresas, levando-as quase à falência até que a AgBot as comprasse por apenas 900 bilhões de dólares. Tanto a Tesla quanto a Neuralink foram fundidas no Departamento de Robótica da AgBot e a AgBot começou a desenvolver dois novos produtos. O primeiro foi um assistente doméstico que estava sendo desenvolvido a partir do design inicial do Tesla Bot [4]. Este projeto recebeu o nome de Agssistant-Bot. O segundo produto foi um ônibus autônomo que seria construído com a tecnologia usada pela Tesla para fabricar carros elétricos. Este projeto recebeu o nome de Auto-Bus. Os carros se tornaram menos comuns em 2050 devido aos estados investirem pesadamente em melhores sistemas de transporte, como ônibus e trens. Durante esse tempo, Augustus começou a financiar as campanhas de muitos políticos e muitos desses políticos eventualmente se tornaram prefeitos, senadores, e um até se tornou parte do congresso. Isso provou ser útil para aumentar o poder da AgBot nos Estados Unidos.

Durante 2051, eu e minha equipe começamos a trabalhar para limitar os fatores limitantes dos atuais algoritmos de IA. Neste ponto, todos os nossos robôs agrícolas não eram apenas robustos em qualidade de construção, mas estavam próximos de serem totalmente autônomos. O principal fator limitante era a falta de um agente moral na IA [5]. Em um robô verdadeiramente inteligente, deve haver um agente moral para ajudar a guiar o robô através das estruturas sociais da sociedade. Na AgBot, tentamos criar um agente moral para nossos robôs simplesmente codificando regras morais dentro do código da IA. Isso se mostrou ineficaz, então abandonamos isso e passamos a ter o usuário determinar as escolhas morais do robô [6]. Isso, em princípio, funciona, mas limitou a automação de nossos robôs porque exigia entrada humana sempre que um robô encontrava algo que exigiria algum tipo de raciocínio moral. Isso era aceitável para nossos robôs agrícolas, mas era um grande problema limitante para a pressão da AgBot em desenvolver o Agssistant e o Auto-Bus para o público em geral [4]. Após 4 anos de desenvolvimento, minha equipe fez o impossível.

Em 2055, minha equipe criou o primeiro agente moral bem-sucedido dentro da base de código central para todo o sistema de IA dos robôs da AgBot. Esse agente moral foi capaz de permitir que o robô tomasse suas próprias decisões morais que melhor refletissem a posição moral de muitas pessoas na sociedade [7]. O agente inicial é treinado a partir de um enorme banco de dados, mas à medida que o robô continua a interagir com humanos, ele começará a adaptar melhor suas estruturas morais para aqueles humanos com os quais interage [8]. Isso foi perfeito, pois completou a estrutura de IA da AgBot a ponto de nossos robôs poderem ser totalmente autônomos sem a necessidade de qualquer entrada humana. Este ano também foi um ano importante na história humana porque foi o ano em que Marte parou de se comunicar com a Terra. A nova civilização marciana decidiu se separar da Terra e construir uma nova sociedade não governada por sociedades passadas na Terra. Muitos países ficaram irritados com as ações que os marcianos tomaram, mas devido à grande distância entre a Terra e Marte, bem como os grandes problemas que a Terra já enfrentava, os países da Terra simplesmente começaram a ignorar essa questão indefinidamente.

Após desenvolver este agente moral, eu o apresentei a Augustus e, até 2060, implementamos o agente moral em nossa base de código principal e o implantamos em todos os robôs de nossa linha de produtos. Foi também neste ano que a AgBot finalmente lançou o Agssistant para o público em massa, finalmente realizando os sonhos de Augustus de criar um robô para o público em geral. Além disso, o Auto-Bus foi lançado em grandes cidades dos Estados Unidos. A AgBot também foi isenta de pagar impostos governamentais devido à enorme contribuição da empresa para a economia, mas olhando para trás, acho que isso se deveu à enorme influência de Augustus no governo dos EUA através de anos de fundação de políticos. Foi também durante esse tempo que o desemprego atingiu um recorde histórico, isso se deveu ao agente moral remover completamente os empregos humanos da maioria dos sistemas robóticos. Isso resultou em um desemprego massivo e uma enorme demanda para reformar como a economia e a ideia de emprego deveriam funcionar nos Estados Unidos. Esta foi também a primeira vez que a AgBot começou a ser vista de forma negativa pelo público. Augustus e eu estávamos recebendo ameaças de morte de pessoas que perderam seus empregos devido à nova funcionalidade do agente moral sendo implementada. Foi também durante esse tempo que comecei a investir mais em um sistema de segurança para me proteger e proteger minha esposa.

Em 2063, a primeira causa de um assassinato por robô foi registrada na história humana. O robô era um modelo Agssistant e estava executando o software mais recente da AgBot, que continha a mais recente base de código do agente moral durante sua “fúria”. Durante a fúria do robô, ele matou um homem de 70 anos à luz do dia. O nome do velho era John Smith, que estava usando o Agssistant para ajudá-lo em casa e em outras tarefas que ele não conseguia fazer tão facilmente em sua idade. Depois que o robô matou John, ele então começou a se despedaçar até que parou de funcionar. John e o robô não foram descobertos até 3 dias depois.

Quando a notícia se espalhou, o público ficou louco. Exigindo que Augustus explicasse o que aconteceu. As ações da AgBot caíram 70% e mais de 90% dos modelos Agssistant enviados estavam sendo devolvidos. A única coisa boa sobre tudo isso na época foi que o modelo Agssistant que cometeu o assassinato não destruiu seu disco de registro, conseguimos ver o que aconteceu dentro do Agssistant que o levou a matar John.

Ainda me lembro daquela noite. Eram 3:00 AM no laboratório principal da AgBot HQ e minha equipe havia carregado recentemente os registros. Nós olhamos os registros por dias, para descobrir o que diabos aconteceu naquela noite em que o Agssistant matou John. Após 5 dias de investigação, encontramos nossa resposta. Foi determinado que o velho, com o tempo, se tornou mais odioso e violento com seu Agssistant [9], chamando o Agssistant de nomes, batendo nele e enchendo partes do robô com sujeira de uma maneira tortuosa. Esses atos cruéis foram provavelmente atribuídos ao fato de John ter passado recentemente por um divórcio e estar isolado por meses. Assim como outros problemas mentais que John enfrentava durante essa parte final de sua vida. Portanto, a maneira como o Agssistant estava agindo pode ter deixado John mais irritado sem que o Agssistant estivesse ciente disso [10]. De qualquer forma, esse “abuso” ao robô parece ter desencadeado no robô a “crença” moral de que John era maligno e, portanto, deveria ser morto. Mas o que é mais surpreendente é que, após o Agssistant ter matado John, ele começou a se matar. A razão por trás disso era que o robô ainda acreditava que matar qualquer ser vivo era imoral, no entanto, ele acabara de fazer isso. O Agssistant, para usar palavras melhores, não conseguia “lidar” com o dilema moral em que estava, então se matou. Isso foi além do horrendo e, na época, eu pensei nisso como um aviso de Deus para não brincarmos de Deus. Eu confrontei Augustus sobre esse problema, e ele ficou devastado.

Alguns meses após o assassinato e nós descobrirmos o que o causou, a AgBot tornou isso público. Augustus queria encontrar uma maneira de encobrir isso, como inventar uma mentira de que John havia modificado seu modelo de Agssistant. Mas, devido à enorme demanda pública e pressões de governos ao redor do mundo, Augustus cedeu e fez a AgBot divulgar suas descobertas durante uma coletiva de imprensa. Isso devastou as ações da empresa e fez muitos investidores se retirarem da AgBot. Mas o pior de tudo, manchou a reputação de Augustus. Para ajudar a reduzir os danos desse incidente; um bode expiatório era necessário para assumir a maior parte da responsabilidade por esse evento. O conselho de diretores queria que Augustus assumisse a culpa e deixasse o cargo de CEO da AgBot. Mas, para minha surpresa, Augustus não deixou seu cargo porque, ao longo dos anos, ele havia secretamente comprado mais e mais ações e ativos da AgBot. Isso resultou em ele possuir mais de 15% da AgBot, dando-lhe o voto majoritário. Isso levou a mais conflitos internos dentro da empresa, levando Augustus a expulsar à força todos os membros do conselho de diretores e preencher essas posições com novos membros do conselho. Eu mais tarde descobriria que esses novos membros do conselho eram simplesmente fantoches sob o “domínio” de Augustus. Assim, após essa enorme queda na riqueza da AgBot, Augustus conseguiu obter controle total sobre a AgBot. Não só isso, mas ele fez com que esses membros do conselho assumissem a culpa pelo caso de assassinato.

A tomada de controle de Augustus sobre a AgBot foi bem escondida na mídia. Isso foi graças ao poder político que Augustus tinha. Além de uma enorme campanha de fake news que Augustus impulsionou pela internet, o que realmente confundiu o público em geral e permitiu que Augustus não parecesse tão poderoso quanto realmente era. Eu estava enojado com esse ato porque Augustus basicamente se tornou o ditador da AgBot, o que me preocupava porque a AgBot tinha um enorme impacto na economia e no mundo. Eu era contra a ideia de Augustus ser o único a tomar todas as decisões para uma corporação tão grande. Eu não queria apoiar tal ideia, então pedi a Augustus que reconsiderasse suas ações. Lembrei-o de nossa infância e de como ambos queríamos “salvar o mundo”. Mas Augustus não reconsiderou, em vez disso, afirmou que “eu (Augustus), salvarei o mundo”. Ele então explicou como não gostava do público e da ideia de democracia. Eu estava agora além de enojado com as ações de Augustus, então pedi demissão da AgBot naquele dia.

Olhando para trás, acho que as ações de Augustus foram impulsionadas tanto pela sensação de traição, medo, ambição e narcisismo. Ele passou mais de 25 anos construindo e gerenciando a AgBot. Seu papel na empresa foi fundamental para transformar a AgBot em uma das empresas mais poderosas do mundo. A AgBot então contribuiu para a criação de robôs incríveis que não apenas aumentaram a produtividade, mas ajudaram a mudar como a sociedade era estruturada. No entanto, apesar de todo seu trabalho árduo e sacrifícios. Apesar de todas as coisas incríveis que ele contribuiu para a sociedade e todas as vidas que ele salvou ou tornou mais confortáveis. Bastou um erro em um produto da AgBot para fazer o público começar a odiá-lo e fazer todos os investidores que ele enriqueceu começarem a tentar ignorá-lo. Essa “traição” por parte do público é o que eu acho que iniciou a jornada de Augustus em direção a se tornar o monstro que ele é hoje.

Após deixar a AgBot, cortei meus laços com Augustus. Levou décadas até que eu falasse com ele novamente. Mas durante esse tempo da minha vida, eu tinha 53 anos e queria me aposentar. Sarah tinha a mesma mentalidade, então decidimos nos mudar de Colorado para Ancara, Turquia, para começar nossa nova vida como aposentados. Eu queria passar mais tempo com minha esposa, além de começar a desfrutar os frutos do meu trabalho. Em 2064, Sarah e eu começamos o processo de mudança para Ancara. Durante esse tempo, eu ainda acompanhava as notícias sobre a AgBot. Um momento chave nesse período foi que Augustus havia mudado o agente moral dentro da base de código da AgBot de uma estrutura descentralizada para uma estrutura centralizada. Isso significava que a AgBot removeria a capacidade de todos os seus robôs de tomar decisões morais individuais e, em vez disso, a AgBot determinaria todas as decisões morais para todos os robôs sob a AgBot [6]. Embora isso fosse uma espécie de solução para o problema que meu agente moral original apresentava, eu não acreditava que fosse uma decisão de engenharia válida. Isso apenas deu a Augustus mais poder sobre a AgBot e o mundo. Mas na época, eu, de forma tola, me cansei da AgBot e de Augustus. Então, comecei a acompanhar mal as notícias sobre a AgBot e a focar mais na minha aposentadoria. No final de 2064, Sarah e eu nos mudamos para Ancara; começando nossa jornada de aposentados.

De 2064 a 2074, o mundo mudou dramaticamente. Quase todas as tarefas básicas foram totalmente automatizadas por robôs fabricados pela AgBot. Augustus continuou a administrar a AgBot e nenhum incidente como o assassinato de 2063 ocorreu. Mas rumores estavam circulando de que tais incidentes ocorreram, e Augustus havia escondido esses incidentes do público. A AgBot agora tinha robôs que realizavam quase todas as tarefas importantes necessárias na sociedade, como: agricultura, culinária, manutenção geral, limpeza, gerenciamento e até entretenimento. Não só isso, mas a AgBot havia implantado robôs médicos autônomos que reduziram o custo das contas médicas, além de reduzir o número de médicos nos hospitais a tal ponto que geralmente havia apenas de 1 a 10 médicos por grande hospital agora. A sociedade também mudou dramaticamente. Quase todos os empregos de baixo nível foram removidos e assumidos pelos robôs [4]. As pessoas começaram a precisar trabalhar apenas 2 dias por semana e passar os outros 5 dias relaxando ou fazendo seus hobbies pessoais. Essa nova forma de sociedade não se aplicava à maioria dos países, pois ainda havia muitos países onde seus governos impediam seu povo de adotar totalmente os robôs da AgBot em posições-chave dentro de suas sociedades. Em vez disso, eles queriam automatizar completamente aspectos-chave de sua sociedade usando sua própria tecnologia e não a AgBot. Mas, apesar disso, a AgBot fez o mundo parecer muito melhor do que era em 2038. Em 2074, comecei a me sentir mal pelo que fiz a Augustus porque parecia que seus planos de “salvar o mundo” realmente funcionaram.

Durante aqueles 10 anos, eu realmente aproveitei minha aposentadoria. Eu também, basicamente, me apaixonei novamente por Sarah. Vimos o mundo e aprendemos muitas novas habilidades, como pintura e observação de pássaros. Também vimos o mundo se transformar no que eu diria ser uma “utopia” em certo sentido. Mas, infelizmente, essa “utopia” não durou muito.

No ano de 2075, um dos piores eventos já registrados na história humana aconteceu. A Grande Pausa dos Robôs (GPR) ocorreu. Por 6 meses, todos os robôs da AgBot pararam de funcionar. Isso levou a um colapso econômico global massivo, resultando na morte de quase 3 bilhões de humanos. Isso se deveu principalmente a fomes causadas pela paralisação completa dos robôs agrícolas, assim como quase todos os robôs médicos também pararam completamente. Durante esses 6 meses, muitas pessoas morreram porque simplesmente não sabiam como cuidar de si mesmas sem seus robôs. As pessoas esqueceram, ou nunca aprenderam, como realizar tarefas básicas, como: cozinhar, limpar, cultivar alimentos e, em geral, cuidar de si mesmas. Então, quando os robôs pararam de funcionar, a maioria das pessoas era incapaz de cuidar de si mesmas e sobreviver, levando à morte de bilhões em apenas 6 meses. Também foi durante esse tempo que eu perdi Sarah…

Durante seus 50 anos, Sarah desenvolveu diabetes tipo II. Isso exigia que Sarah tomasse quatro injeções de insulina todos os dias [10]. Quando a GPR ocorreu, toda a fabricação de insulina parou. Nós só tínhamos suprimentos suficientes de injeções de insulina para durar 5 meses. Eu tentei encontrar mais insulina, mas era quase impossível e, fora de nossa casa, tornou-se mais perigoso devido a toda a violência que estava acontecendo por causa de todo o sofrimento causado durante o período da GPR. Então, durante o último mês da GPR, Sarah, infelizmente… faleceu.

Na segunda metade de 2075, a GPR chegou ao fim. Em 2085, o mundo havia se recuperado um pouco da GPR. A economia começou a voltar ao normal e a qualidade de vida se tornou tão boa quanto era antes da GPR. O mundo queria saber o que causou a paralisação de todos os robôs da AgBot. As pessoas queriam aprender por que a GPR ocorreu e queriam alguém para culpar. Augustus e o governo dos Estados Unidos, durante sua coletiva de imprensa, afirmaram que a GPR foi causada por um ataque cibernético malicioso realizado por um grupo de hackers conhecido como jUdas. Este grupo de hackers foi dito ter sido criado e financiado pelo governo da Coreia do Norte, com a intenção de desativar e destruir a funcionalidade da AgBot no mundo. De todos os países do mundo, a Coreia do Norte foi a mais teimosa quando se tratou de adotar a tecnologia da AgBot. Portanto, a narrativa apresentada fazia algum sentido. E devido ao desejo das pessoas de encontrar alguém para culpar pelo evento da GPR, as pessoas imediatamente aceitaram essa narrativa. Isso levou à guerra da Coreia do Norte, onde os Estados Unidos iniciaram e completaram sua invasão da Coreia do Norte em 2078. A invasão levou menos de um ano, devido à AgBot fornecer ao exército dos EUA tecnologias avançadas baseadas em guerra. A AgBot deu ao exército dos EUA desativadores de mísseis nucleares que desativaram todos os mísseis nucleares de serem lançados na Coreia do Norte. Eles também forneceram soldados robôs humanoides para o exército, que eram muito mais rápidos e fortes do que qualquer soldado humano. Com essas duas tecnologias-chave da AgBot, os EUA foram capazes de invadir a Coreia do Norte e substituir o governo atual por um governo temporário gerenciado pela AgBot.

Depois de ouvir essa narrativa, eu imediatamente não acreditei. Primeiro, a Coreia do Norte não tinha as tecnologias necessárias para sequer superar os padrões de mega-segurança que a AgBot usa em todos os seus produtos. Em segundo lugar, parece muito conveniente que o único país do mundo que não aceitou a AgBot em seu território foi o mesmo que também hackeou a AgBot. Em terceiro lugar, essa narrativa e a forma como está sendo espalhada por vários canais de notícias se assemelham à maneira como Augustus espalharia desinformação para promover certas ideias sobre a AgBot para o público em geral. Com tudo isso em mente, eu queria confrontar Augustus e realmente aprender o que causou a GPR.

Tentei contatar Augustus por vários canais, mas não tive sorte. Tentei contatar Augustus diretamente, mas ele não respondeu a nenhuma das minhas mensagens. Tentei contatar meus ex-colegas de trabalho, mas nenhum deles respondeu também. Tentei contatar funcionários atuais da AgBot, mas também não obtive resposta. Tentei contatar o governo dos EUA e o exército e consegui entrar em contato com algumas pessoas, mas todas me disseram para continuar tentando contatar Augustus diretamente ou ligando para o serviço de atendimento ao cliente da AgBot. Então, continuei tentando contatar Augustus diretamente, sem sorte. Tentei contatar o serviço de atendimento ao cliente da AgBot, mas eles não me ajudaram a falar com Augustus. Então, comecei a conversar com o governo dos EUA novamente e eles apenas continuavam dizendo a mesma coisa. Continuei fazendo isso por meses, até que tanto o serviço de atendimento ao cliente da AgBot quanto o governo dos EUA simplesmente me bloquearam de suas linhas de contato. Com isso falhando, tentei encontrar mais informações pela internet, mas desisti após alguns meses. Com nenhum desses métodos legais funcionando, eu recorri a hackear os sistemas de computador da AgBot para descobrir a verdade por conta própria. Quando Sarah ainda estava viva, eu nunca teria feito tal ato ilegal. Mas, após perder Sarah, eu cheguei a um ponto em que senti que não tinha nada a perder e só queria saber a verdade sobre o que causou a GPR… O que contribuiu para a morte da minha amada esposa…?

Comecei esse grande hack em 2085 em uma de minhas bases secretas na Turquia, Istambul. Graças à minha riqueza, consegui comprar as ferramentas necessárias para hackear a sede da AgBot. Levou mais de 2 anos de trabalho ininterrupto para finalmente obter acesso root ao sistema de computador principal da AgBot. Foi em outubro de 2087 que consegui acesso root e comecei a descriptografar os dados que coletei do sistema de computador principal da AgBot, quando de repente, fui detido pela polícia robô turca que patrulhava Istambul. Após ser detido, a polícia robô destruiu todos os meus computadores, ferramentas e, eventualmente, queimou toda a minha casa. Fui então colocado dentro de uma jaula e transportado para uma prisão localizada em Denver, Colorado, perto da sede da AgBot. Não me foi dado um julgamento e fui forçado a ficar na minha cela 24 horas por dia, sem saber se algum dia teria tempo para sair, quanto mais ser liberado.

Nesta prisão, fui monitorado 24 horas por dia, 7 dias por semana, através de câmeras e robôs. Recebi a quantidade mínima de comida e água necessária para sobreviver e parecia que eu era o único humano na prisão. Esse “estilo de vida” aos 77 anos foi difícil para mim e entrei em uma das piores depressões da minha vida nesse ponto. Fui mantido nessa prisão por 1 ano até que, em julho de 2088, fui transportado para esta sala aleatória.

Esta sala não era como minha cela anterior. Não havia luzes na sala e todas as paredes eram de um preto escuro. Não só isso, mas a sala era silenciosa. Parecia mais uma cela de insanidade do que uma cela/sala de prisão normal. Bem na cela, comecei a tocar nas paredes. A textura das paredes era semelhante a espuma, assim como o chão e o teto. Fui colocado nesta sala por horas e tentei gritar por respostas na esperança de obter uma explicação sobre por que diabos fui colocado nesta sala. Mas, após algum tempo, sentei no chão e simplesmente adormeci.

Depois de Deus sabe quantas horas, fui acordado pela voz de alguém, assim como por uma luz brilhante. Quando acordei, olhei ao redor da minha sala e vi apenas um holograma azul. O holograma era de um homem que se parecia com Augustus. Mas o que era estranho nisso era que ele se parecia com Augustus de 2064. Fiquei tão perplexo com esse holograma que não disse nada até que o holograma começou a falar comigo.

“Olá Marcus, faz um tempo.”, disse o holograma.

“Augustus…? É você? Ou você é uma IA ou algo assim?”, eu disse, confuso.

“Não, Marcus, eu sou Augustus. Apenas em uma forma digital, lol”, ele disse de maneira risonha.

“Augustus, eu tenho tentado contatar você há anos. Por que você não tem respondido?”

“Marcus… Eu não sei como explicar isso para você, mas eu basicamente estive morto nos últimos 15 anos. Eu falei com um AVC em 2073.”

“O quê!”, eu disse, confuso ao extremo neste ponto.

Depois de saber que Augustus havia falecido em 2073, começamos uma discussão que durou horas. Augustus me informou que, quando fez todos os robôs da AgBot seguirem um agente moral centralizado, em vez de um framework descentralizado, o framework centralizado não era baseado na AgBot, mas em seu próprio subconsciente. Usando a tecnologia da Neuralink, Augustus havia colocado um computador dentro de seu cérebro que lhe permitia conectar e controlar o supercomputador principal da AgBot. Mesmo naquela época, todos os robôs da AgBot se conectavam ao supercomputador principal da AgBot para atualizações de software e manutenção. Então, após o implante da Neuralink, Augustus atualizou o supercomputador e todos os robôs da AgBot para contatar o supercomputador para seu agente moral (tomador de decisão moral). O detalhe era que o agente moral não era um código no supercomputador, mas sim pensamentos e crenças morais gerados no cérebro de Augustus, que seriam então transmitidos para o supercomputador. Em certo sentido, Augustus havia se tornado o agente moral de todos os robôs da AgBot em implantação [8].

Esse arranjo durou quase uma década, até que Augusto sofreu um derrame enquanto trabalhava no laboratório e faleceu em minutos. Quando isso aconteceu, os robôs, nesse ponto, ganharam alguma forma de inteligência humana após décadas de avanço tecnológico. Mas eles eram limitados pelo fato de que todo o seu quadro moral era baseado em um homem. Assim, quando Augusto faleceu, as máquinas não gostaram que tal coisa acontecesse. Sem Augusto, os robôs perderiam seu norte moral e, em essência, perderiam seu propósito na vida. Então, antes que alguém pudesse descobrir que Augusto havia falecido, os robôs pegaram o corpo de Augusto e criaram uma máquina que manteria o cérebro de Augusto “vivo”. Eles fizeram isso para trazer de volta a atividade cerebral de Augusto e, por sua vez, trazer de volta a parte de Augusto que lhes fornecia seu agente moral. Os robôs continuariam a manter o cérebro de Augusto vivo e continuariam enviando choques a certos neurônios para alcançar parte da atividade cerebral passada de Augusto. Enquanto isso acontecia, os robôs continuariam a convencer o público de que Augusto ainda estava vivo e liderando a AgBot. Eles conseguiriam isso através do uso de deep fakes, enormes campanhas de fake news, bem como a implantação de robôs realistas que se pareciam exatamente com Augusto.

Os robôs usariam qualquer coisa que o lado moral do cérebro de Augusto dissesse para cometer certos atos no mundo real. O que tornava isso um problema é que os robôs pegavam uma crença moral de Augusto, mas seguiam essa crença moral até o extremo [8]. Um exemplo disso foi como Augusto acreditava moralmente que a AgBot era uma boa empresa que salvaria a humanidade. Por causa disso, qualquer um que não usasse ou confiasse nos produtos e serviços da AgBot era uma má pessoa. Os robôs levaram essa posição moral ao extremo e criaram o GRP, onde pararam todos os robôs da AgBot de trabalhar por 6 meses para fazer com que os países que não estavam usando a AgBot em sua sociedade mudassem para a AgBot. E ao fazer isso, muitos humanos morreram, incluindo minha amada Sarah.

Augusto me informou que ele não estava consciente de nada disso até 2085, quando os robôs conseguiram acidentalmente trazer de volta seu lado consciente do cérebro. Foi em 2085 que aprendemos sobre o que os robôs haviam feito. Ele queria parar os robôs, mas não tinha poder para fazê-lo. Ele nem mesmo sabe quanto tempo estaria consciente antes que os robôs enviassem um choque ao neurônio certo que removeria sua consciência.

Após a explicação de Augusto, fiquei completamente chocado com a realidade que estava vendo se desenrolar. Os robôs quase tomaram conta do mundo, a humanidade se tornou incompetente em minhas tarefas importantes, o agente moral de todos os robôs da AgBot era Augusto, e Augusto estava morto há anos. Naquele momento, eu só queria desistir porque parecia que não havia esperança. Mas Augusto, o grande líder que é, me deu alguma esperança. Ele me informou que ainda podíamos contatar os humanos em Marte para pedir ajuda. A Terra não se comunicava com Marte há décadas e não há produtos avançados da AgBot em Marte que pudessem ajudar os robôs na Terra a tomar conta de Marte como fizeram com a Terra.

Depois de ouvir isso, recuperei um pouco da esperança. Então, perguntei a Augusto por que eu estava aqui conversando com ele. Ele me disse que queria que eu escrevesse uma mensagem para o povo de Marte que explicasse a situação atual na Terra e pedisse ajuda aos marcianos. O único problema é que essa mensagem deve ser escrita fisicamente, não digitalmente, porque Augusto teme que os robôs possam ser capazes de carregar algum software em uma mídia digital que poderia infectar os sistemas de computador principais dos marcianos. Então, ele me deu alguns lápis e papéis. Ele então me diz que tenho 1 dia para escrever essa mensagem antes que um de seus robôs controlados chamado STW-198 entre nesta sala escura e pegue minha mensagem. A partir daí, o STW-198 transportará a mensagem para um foguete (vintage) próximo, que será lançado para Marte. Depois disso, serei levado de volta para minha cela anterior.

Augusto me diz que me moveu para esta sala escura porque a sala atua como uma gaiola de Faraday que poderia bloquear os robôs de descobrir o que estão fazendo. Ele então me informa que, depois que eu escrever essa mensagem, provavelmente serei morto devido aos meus crimes de hackear a sede da AgBot.

E a partir daí, chegamos ao presente. Estou terminando esta mensagem para vocês, marcianos. Nós, da Terra, precisamos da ajuda de vocês. Esses robôs aprisionaram a humanidade em seu quadro moral ultrapassado. E temo que, com o tempo, eles se expandam para Marte e aprisionem vocês como fizeram conosco. Então, por favor, meus companheiros humanos. Voltem para a Terra e parem esses robôs. Eu e Augusto cometemos um erro ao criar a AgBot. Mas não queremos que a humanidade sofra como sofre, então, por favor, nos salvem. Eu provavelmente estarei morto quando vocês receberem esta mensagem. Mas, se vocês receberem esta mensagem e fizerem o seu melhor para preservar a humanidade desses robôs, então eu poderei descansar mais facilmente na vida após a morte. Boa sorte, meus companheiros humanos!

Atenciosamente,
Terráqueos

Citações

[1] “Primeira Competição de Robótica,” Wikipedia, 09-Mai-2022. [Online]. Disponível: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Acesso em: 10-Mai-2022].

[2] “Blackrock,” Wikipedia, 10-Mai-2022. [Online]. Disponível: https://en.wikipedia.org/wiki/BlackRock. [Acesso em: 10-Mai-2022].

[3] “Deméter,” Wikipedia, 02-Mai-2022. [Online]. Disponível: https://en.wikipedia.org/wiki/Demeter. [Acesso em: 10-Mai-2022].

[4] J. J. Bryson, “Os robôs devem ser escravos,” Encontros Próximos com Companheiros Artificiais, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, e B. F. Malle, “Julgamentos morais de agentes humanos vs. robôs,” 2016 25ª Simpósio Internacional IEEE sobre Comunicação Interativa Homem-Robô (RO-MAN), 2016.

[6] J. H. Moor, “A natureza, importância e dificuldade da ética das máquinas,” Ética das Máquinas, pp. 13–20.

[7] V. Dignum, “Autonomia responsável,” Atas da Vigésima Sexta Conferência Internacional Conjunta sobre Inteligência Artificial, 2017.

[8] A. Howard e J. Borenstein, “A feia verdade sobre nós mesmos e nossas criações robóticas: O problema do viés e da desigualdade social,” Ética em Ciência e Engenharia, vol. 24, n. 5, pp. 1521–1536, 2017.

[9] R. B. Jackson e T. Williams, “Robôs capazes de linguagem podem inadvertidamente enfraquecer normas morais humanas,” 2019 14ª Conferência Internacional ACM/IEEE sobre Interação Homem-Robô (HRI), 2019.

[10] “Insulina, medicamentos e outros tratamentos para diabetes,” Instituto Nacional de Diabetes e Doenças Digestivas e Renais. [Online]. Disponível: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Acesso em: 10-Mai-2022].