História de Fundo

Escrevi a história curta, O Rei Diminuto, como minha tarefa final para minha Ética dos Robôs (HASS400) durante o último semestre da minha graduação na Colorado School of Mines. Para esta tarefa, nos foi atribuído o trabalho de escrever uma história curta ficcional que girasse em torno da ética robótica, bem como referenciar alguns dos artigos que lemos durante o semestre na história curta. O requisito para esta história era que ela tivesse 10 páginas, das quais eu escrevi 21 páginas. Fiquei muito apaixonado por esta história curta, então me excedi.

Agora, AVISO, não sou um grande escritor. Portanto, esta história curta não é perfeita e precisa de refinamento e de uma grande reescrita. Mas tenho orgulho dela e acho que é uma leitura divertida. Durante todos os meus anos na escola, comecei a gostar do processo de escrever, então espero expandir para escrever outras coisas como blogs, artigos, etc.

Sabendo de tudo isso, a história curta original foi salva como um arquivo PDF como parte do requisito da tarefa. Mas, para reduzir o tamanho do papel, converti a história para markdown. Sabendo disso, toda a história curta pode ser vista/lida abaixo. Espero que você aproveite a leitura, entre em contato comigo nas minhas redes sociais se tiver alguma pergunta ou sugestão sobre esta história curta.

Continue lendo para descobrir O Rei Diminuto…

O REI DIMINUTO

Mehmet Hanifi Yilmaz
10 de maio de 2022

Sinopse

Em um futuro onde o destino da Terra pende por um fio, Marcus Bruce, um prodígio tecnológico, e seu amigo Augustus Elrod, um líder visionário, embarcam em uma missão para transformar o mundo através da robótica avançada. Sua criação, AgBot, revoluciona a agricultura e a indústria globais, prometendo um futuro utópico. Mas à medida que seu império tecnológico cresce, consequências imprevistas desafiam a própria essência da moralidade e da liberdade humanas. Quando um evento catastrófico conhecido como a Grande Pausa dos Robôs ameaça a existência humana, Marcus deve confrontar o lado sombrio de seu legado e suplicar por ajuda interplanetária. “O Rei Diminuto” é uma narrativa envolvente de ambição, poder e o delicado equilíbrio entre humano e máquina, incitando-nos a questionar o verdadeiro custo do progresso.

História

Estou aqui para alertá-lo da situação crítica em que a Terra se encontra agora! Se não for tratada adequadamente, essa situação pode facilmente levar a humanidade à sua ruína. Gostaria de explicar essa situação em poucas frases, mas infelizmente a complexidade dela exige que eu explique o que a levou a esse ponto para que todos compreendam verdadeiramente sua gravidade.

Sou um fator chave no que levou à situação atual da Terra, então deixe-me ao menos apresentar-me. Meu nome é Marcus Bruce, nasci em uma pequena cidade no Colorado chamada Ouray em 2010. Ouray é uma área suburbana cercada por belas montanhas. Nasci de dois pais que eram ambos professores do ensino médio. Meu pai era professor de matemática, e minha mãe era professora de ciências.

Não lembro muito da minha infância precoce porque diria que só adquiri consciência verdadeira aos 12 anos, em 2022. Nesse ano, eu estava no ensino fundamental e era considerado um prodígio infantil que realmente se destacava em matemática e ciência. Meu diretor na escola queria que meus pais me fizessem pular do 7º para o 11º ano. Mas meus pais discordaram da recomendação do diretor porque queriam que eu tivesse uma infância normal. Sou grato por essa decisão porque lembro-me de ter tido uma infância incrível. Uma infância em um tempo em que o mundo começava a se integrar mais com a tecnologia, em vez de ser totalmente consumido por ela. Agora, descobrir que eu era um prodígio fez de 2022 um ano especial para mim. Mas o que realmente tornou 2022 um ano especial foi o fato de que foi o ano em que conheci um futuro amigo de longa data, Augustus Elrod. O próprio Augustus que desempenhou fundamentalmente os eventos-chave que levaram a Terra ao que é hoje.

Conheci Augustus no 7º ano, no nosso clube local de robótica Lego. A primeira coisa que notei nas características de Augustus foi o quão ambicioso e determinado ele era. Mesmo como um garoto de 12 anos, Augustus era um verdadeiro líder porque conseguiu conduzir nossa equipe local de robótica Lego à vitória no campeonato nacional dos Estados Unidos. O que foi realmente impressionante, considerando que todos na equipe eram crianças do ensino fundamental com pouco interesse em aprender a engenharia por trás da robótica. Mas Augustus não apenas motivou esses jovens a querer aprender e vencer, como também os conduziu à vitória. Todos respeitávamos Augustus como nosso líder e Augustus não respeitava muitas pessoas. Mas ele me respeitava por minha inteligência. Ele primeiro me notou por minha inteligência e ficou surpreso ao encontrar alguém de sua faixa etária que fosse mais inteligente que ele. Augustus até competiu contra mim em exames, mas sempre perdia. Mas assim como eu sempre derrotava Augustus em questões intelectuais, Augustus me superava nos esportes. Ele jogava basquete e futebol depois das aulas. Era tão bom nesses esportes que muitos acreditavam que ele se tornaria um atleta profissional quando crescesse. Esse respeito mútuo acabou gerando uma longa amizade que perdurou até a idade adulta.

Após os anos do ensino fundamental, iniciamos o ensino médio em 2024. Durante o ensino médio, tanto eu quanto Augustus competimos na FIRST Robotics Competition (FRC) [1]. A FRC era a maior competição de robótica nos Estados Unidos e consistia principalmente de estudantes do ensino médio [1]. Enquanto participávamos da FRC, aprendemos muito sobre engenharia mecânica, elétrica e de computação. E graças às incríveis habilidades de liderança de Augustus, conseguimos vencer o campeonato nacional por dois anos consecutivos, algo inaudito na época. Também, nesse período, participei de várias competições de matemática e de debates sobre temas éticos. Foi também nesse período que Augustus continuou a dominar o basquete, liderando o time varsity do ensino médio ao campeonato nacional por três anos consecutivos. Éramos ambos estudantes talentosos à nossa maneira. Mas também foi nesse período que eu e Augustus desenvolvemos nossos objetivos de vida e, para o bem ou para o mal, seguimos esses objetivos até o fim.

Ao longo do ensino médio, descobri que meu objetivo na vida é tornar o mundo um lugar melhor através da tecnologia. Aceitei que o mundo não seria perfeito e que sempre seria falho. Mas, na época, acreditava que, se trabalhasse duro o suficiente, ao menos poderia aliviar o fardo do mundo e criar um futuro melhor. Augustus tinha objetivos semelhantes, mas um pouco diferentes. Sabia que Augustus era ambicioso, mas nunca soube realmente onde ele queria chegar até o último ano do ensino médio.

Durante o último ano do ensino médio, tanto eu quanto Augustus fomos aceitos e decidimos frequentar o Massachusetts Institute of Technology (MIT). Augustus recebeu uma proposta para ser draftado pela NBA, mas rejeitou a oferta e decidiu ir para o MIT. Soube disso pelos pais de Augustus e, depois de saber, liguei para ele e nossa conversa foi mais ou menos assim:

“Augustus, por que você recusou a NBA? É uma oportunidade única na vida”, eu disse, confuso.

“Marcus, a NBA seria divertida, mas só isso, divertida. Não mudará o mundo. Na verdade, me distrairia de consertar este mundo”, respondeu Augustus com confiança.

“Mudar o mundo? O que você quer dizer?”

“Sim, mudar o mundo! Marcus, quero conduzir a humanidade a um futuro melhor. Quero salvar o mundo!”

Parei por alguns segundos, mais surpreso do que eu esperava estar.

“Salvar o mundo? O que você quer dizer?”

“Marcus, você e eu somos talentosos. Ambos queremos ajudar o mundo. Você se destaca como intelectual, e eu como líder. Além disso, confio em você, Marcus. Com você e minhas habilidades, podemos desenvolver e distribuir tecnologia que pode mudar o mundo para melhor. Estou confiante nisso!”

“Uau, você é mais ambicioso do que eu imaginava, Augustus!”, eu disse com uma leve risada no final, “mas como você acha que podemos alcançar tal tarefa?”

“A resposta curta é esta, Marcus: pretendo iniciar um negócio de tecnologia. Depois, expandir para a política. Com isso, obter poder financeiro e político. E a partir daí, podemos mudar o mundo. Você terá um papel crucial nesse plano, Marcus!”

“Ok, Augustus. Isso ainda é muito ambicioso. Mas quando você tiver um plano definido e precisar de mim, eu estarei lá.”

“Obrigado, meu amigo, nos vemos no MIT!” disse Augustus em tom entusiasmado.

Na época, essa conversa não significou muito para mim. Eu sei que Augustus é ótimo, mas seus sonhos pareciam mais sonhos do que um futuro possível. Não levei sua afirmação a sério naquele momento. Mas tudo isso mudaria. De qualquer forma, eram 2028 e eu estava ansioso para iniciar meus estudos de graduação no MIT.

Também era um momento empolgante para começar a estudar engenharia porque, no mesmo ano, 2028, o governo dos Estados Unidos, a NASA e a SpaceX começaram a enviar mais pessoas para colonizar Marte. Apenas dois anos antes, enviavam apenas algumas pessoas de ida e volta ao planeta vermelho. Mas agora, eles e o resto do mundo começaram a enviar mais pessoas a Marte para se estabelecerem. Esse foi um verdadeiro ponto de virada na história humana e gerou uma grande demanda e desenvolvimento em pesquisa robótica, o que foi ótimo porque eu queria me especializar em robótica.

No ano de 2030, tanto eu quanto Augustus concluímos nosso segundo ano no MIT. Eu estava cursando duplamente robótica e ética, bem como Augustus estava cursando robótica e ciência política. Mas, após o nosso 2º ano de faculdade, Augustus começou a realmente desgostar da faculdade. Ele não a via como uma ferramenta útil para alcançar seu sonho de “salvar o mundo”. Então, durante o seu 2º ano, Augustus faltou à maioria das aulas e também reprovou na maioria delas. Em vez de ir às aulas, Augustus se concentrou em desenvolver esse software alimentado por IA que gerenciaria ativos e ações de forma eficaz. Ele queria criar um software de gerenciamento de ativos que fosse melhor que o software Aladdin da BlackRock na época [2]. Ele estava tão confiante em seu software que abandonou o MIT após o seu 2º ano e perseguiu sua primeira empreitada empresarial com esse novo software que estava desenvolvendo. Ele se mudou dos dormitórios em maio de 2030 e mudou-se para Nova Iorque. Fiquei desapontado que Augustus abandonou, mas a única coisa boa desse ano foi que conheci minha futura esposa, Sarah Raven.

Agora, vamos pular para o ano de 2038. Augustus estava em todas as notícias porque acabou de se tornar um multimilionário aos 28 anos. Depois de vender seu software, por uma quantia considerável de dinheiro, para a BlackRock, Augustus tinha quase 100 milhões de dólares em dinheiro e algumas opções de ações da BlackRock. Bem, Augustus estava conquistando o mundo financeiro; eu acabara de terminar meus dois PhDs em Sistemas de Robótica Inteligente e também em ética de máquinas. Não só isso, mas durante o verão de 2038, Sarah e eu nos casamos. Convidei Augustus para o meu casamento, e vi Augustus pela primeira vez em quase 8 anos no meu casamento. Foi uma noite divertida, mas enquanto estávamos encerrando o casamento, Augustus me pediu para ligá-lo quando eu tivesse algum tempo livre. Então, depois da lua de mel de Sarah e eu, liguei para Augustus.

Conversamos por quase 2 horas e, durante esse tempo, colocamos a conversa em dia, mas depois disso, Augustus começou a ficar sério ao telefone. Augustus observa como ele sabe que eu tenho enormes quantias de dívida estudantil em meu nome e que ainda não encontrei um emprego. Então, ele traz à tona um trabalho que ele acha que pode me oferecer. Era o de ser cofundador de sua nova empreitada empresarial. Essa nova empreitada é uma startup chamada AgBot, que se concentrará em automatizar a agricultura por meio de IA e robótica. Augustus quer que eu seja cofundador da AgBot porque acredita que minhas habilidades técnicas serão valiosas para desenvolver a arquitetura necessária para criar tais sistemas robóticos inteligentes. Ele também me disse que confia em mim e como ele valoriza a confiança depois que seu último parceiro basicamente o forçou a vender seu software para a BlackRock. Ao ouvir essa oferta, aceitei imediatamente porque estava realmente empolgado com o projeto e ele estava certo, eu estava em dívida massiva sem ofertas de emprego até aquele ponto.

A AgBot foi oficialmente fundada em 2038. Eu e Sarah nos mudamos de volta para o Colorado porque é onde a AgBot está localizada. Imediatamente, Augustus e eu começamos a trabalhar na construção da AgBot. Ao longo de 5 anos, passos-chave foram tomados tanto por mim quanto por Augustus para levar a AgBot ao que ela é agora. Primeiro, Augustus investiu seu próprio capital na empresa. Isso nos permitiu obter tudo o que precisávamos para começar a construir alguns protótipos como prova de conceito. Também permitiu que Augustus contratasse outros desenvolvedores para trabalhar sob minha supervisão no desenvolvimento de tecnologias essenciais para a AgBot. Foi também durante esse período que começamos a desenvolver e, eventualmente, lançamos nosso primeiro produto, Demeter [3]. Demeter é um robô de quatro rodas com pernas ajustáveis em altura. Ele contém dois braços robóticos delta e dois braços robóticos de 6 eixos. O objetivo da Demeter é proteger as plantações de insetos, animais e doenças, monitorando e gerenciando essas plantações durante suas fases iniciais de desenvolvimento. Também pode ser usado para colher culturas de plantas que não são facilmente automatizáveis com um rastreador, como morangos. Junto com o próprio robô, a Demeter também veio com sua própria estação de carregamento e um drone. A Demeter pode se carregar automaticamente e pode usar sua forma de drone para inspecionar grandes campos de cultivo e ver quais culturas precisam de manutenção com mais urgência. Esse robô era parcialmente autônomo, mas ainda exigia um humano para monitorar e reparar a Demeter. Mas a principal vantagem que a Demeter oferecia era que poderia ajudar um único agricultor a gerenciar 1.000 acres de terra de uma vez, algo inaudito antes.

A Demeter foi lançada ao público em maio de 2043 com vendas recordes. Graças aos recursos avançados da Demeter e à incrível campanha de marketing de Augustus e sua equipe, a Demeter esgotou imediatamente. Isso reconquistou outros investidores e levou a um aumento massivo de financiamento de outros investidores. Esse financiamento adicional fez a AgBot expandir suas operações, bem como sua equipe de desenvolvimento. Também permitiu que a AgBot começasse a desenvolver módulos de agricultura automatizada indoor, que foram lançados em 2047 para áreas do mundo mais afetadas pelas mudanças climáticas. Esses módulos indoor também foram extremamente bem-sucedidos, o que apenas acelerou o crescimento e a riqueza da AgBot. Em 2048, uma versão mais avançada da Demeter foi lançada em Marte para ajudar nos esforços agrícolas em Marte. Augustus ficou orgulhoso do meu trabalho e me deu muitas ações da AgBot além do meu salário.

Em 2050, a AgBot abriu seu capital e foi avaliada em 3 trilhões de dólares. Isso se deveu ao fato de quase todos os agricultores da América usarem os produtos agrícolas da AgBot. Ao abrir o capital, tornei-me bilionário da noite para o dia e Augustus tornou-se multibilionário da noite para o dia. A abertura de capital também trouxe mais capital para a AgBot, o que permitiu que a AgBot comprasse a Tesla e a Neuralink. A Tesla e a Neuralink foram compradas a um preço baixo porque, desde que Elon Musk faleceu, nenhum CEO conseguiu gerenciar essas empresas de forma eficaz. Isso resultou em anos de perdas de lucro para ambas as empresas, quase levando-as à falência, até que a AgBot as comprou por apenas 900 bilhões de dólares. Tanto a Tesla quanto a Neuralink foram fundidas no Departamento de Robótica da AgBot e a AgBot começou a desenvolver dois novos produtos. O primeiro foi um assistente doméstico que foi desenvolvido a partir do design inicial do Tesla Bot [4]. Esse projeto recebeu o nome de Agssistant-Bot. O segundo produto foi um ônibus autônomo que seria construído com base na tecnologia usada pela Tesla para fabricar carros elétricos. Esse projeto recebeu o nome de Auto-Bus. Os carros se tornaram menos comuns em 2050 devido aos estados investirem fortemente em sistemas de transporte melhores, como ônibus e trens. Durante esse período, Augustus começou a financiar as campanhas de muitos políticos e muitos desses políticos eventualmente se tornaram prefeitos, senadores e até um chegou a fazer parte do Congresso. Isso se mostrou útil para expandir o poder da AgBot nos Estados Unidos.

Durante 2051, eu e minha equipe começamos a atacar os fatores limitantes dos algoritmos de IA atuais. Nesse ponto, todos os nossos robôs baseados em agricultura não eram apenas robustos em qualidade de construção, mas estavam próximos de serem totalmente autônomos. O principal fator limitante era a falta de um agente moral na IA [5]. Em um robô verdadeiramente inteligente, deve haver um agente moral para ajudar a guiar o robô através das estruturas sociais da sociedade. Na AgBot, tentamos criar um agente moral para nossos bots simplesmente codificando regras morais dentro do código da IA. Isso se mostrou ineficaz, então descartamos essa abordagem e passamos a permitir que o usuário determinasse as escolhas morais do robô [6]. Em princípio isso funciona, mas limitava a automação de nossos robôs porque exigia entrada humana sempre que o robô encontrava algo que requeresse algum tipo de raciocínio moral. Isso era aceitável para nossos robôs agrícolas, mas era um grande problema limitante para a pressão da AgBot em desenvolver o Agssistant e o Auto-Bus para o público em massa [4]. Após 4 anos de desenvolvimento, minha equipe fez o impossível.

Até 2055, minha equipe havia criado o primeiro agente moral bem-sucedido dentro da base de código central para todo o sistema de IA dos robôs da AgBot. Esse agente moral permitia que o robô fizesse suas próprias escolhas morais que melhor refletissem a posição moral de muitas pessoas na sociedade [7]. O agente inicial é treinado a partir de um banco de dados massivo, mas à medida que o robô continua a interagir com humanos, ele começará a adaptar melhor seus frameworks morais para aqueles humanos com quem interage [8]. Isso foi perfeito, pois completou a estrutura de IA da AgBot ao ponto de nossos robôs poderem ser totalmente autônomos sem necessidade de qualquer entrada humana. Esse ano também foi um ano importante na história humana porque foi o ano em que Marte deixou de se comunicar com a Terra. A nova civilização marciana decidiu se separar da Terra e construir uma nova sociedade que não fosse governada pelas sociedades passadas da Terra. Muitos países ficaram irritados com as ações de Marte, mas devido à grande distância entre a Terra e Marte, bem como aos grandes problemas que a Terra já enfrentava, os países da Terra simplesmente começaram a ignorar essa questão indefinidamente.

Depois de desenvolver esse agente moral, eu o apresentei ao Augustus e, em 2060, já tínhamos implementado o agente moral em nossa base de código principal e o implantado em todos os robôs da nossa linha de produtos. Foi também neste ano que a AgBot finalmente lançou o Agssistant ao público em massa, cumprindo finalmente os sonhos de Augustus de criar um robô para o público em massa. Além disso, o Auto-Bus foi lançado nas principais cidades dos Estados Unidos. A AgBot também ficou isenta de pagar quaisquer impostos governamentais devido à enorme contribuição da empresa para a economia, mas, olhando para trás, acho que isso se deveu à enorme influência de Augustus no governo dos EUA ao longo de anos de políticos fundadores. Foi também durante esse período que o desemprego atingiu um recorde histórico, isso se deveu ao agente moral remover completamente os empregos humanos da maioria dos sistemas robóticos. Isso resultou em um desemprego massivo e em uma demanda enorme para reformar como a economia e a ideia de emprego deveriam funcionar nos Estados Unidos. Foi também a primeira vez que a AgBot começou a ser vista sob uma luz negativa pelo público. Augustus e eu estávamos recebendo ameaças de morte de pessoas que perderam seus empregos devido à nova funcionalidade do agente moral ser implementada. Foi também durante esse período que comecei a investir mais em um sistema de segurança para proteger a mim e à minha esposa.

Em 2063, a primeira causa de assassinato por robô foi registrada na história humana. O robô era um modelo Agssistant e estava executando o software mais recente da AgBot, que continha a base de código mais recente do agente moral, durante sua “fúria”. Durante a fúria do robô, ele matou um homem de 70 anos à luz do dia. O nome do velho era John Smith, que usava o Agssistant para ajudá-lo nas tarefas domésticas e outras atividades que não conseguia fazer tão facilmente em sua idade. Depois que o robô matou John, ele então começou a se despedaçar até que começou a funcionar. John e o robô não foram descobertos até três dias depois.

Quando a notícia se espalhou, o público ficou em choque. Exigindo que Augustus explicasse o que havia acontecido. As ações da AgBot caíram 70% e mais de 90% dos modelos Agssistant enviados estavam sendo devolvidos. A única coisa boa de tudo isso na época foi que o modelo Agssistant que cometeu o assassinato não destruiu seu disco de registro; conseguimos ver o que aconteceu dentro do Agssistant que o fez assassinar John.

Ainda me lembro daquela noite. Eram 3:00 da manhã no laboratório principal da sede da AgBot e minha equipe havia acabado de carregar os registros. Nós analisamos os registros por dias, para descobrir o que diabos havia acontecido naquela noite em que o Agssistant matou John. Após cinco dias de investigação, encontramos nossa resposta. Determinou‑se que o velho, com o tempo, tornou‑se mais odioso e violento com esse Agssistant [9] Chamando o Agssistant de nomes, batendo nele e enchendo partes do robô com sujeira de maneira torturante. Esses atos cruéis provavelmente foram atribuídos ao fato de John estar passando por um divórcio recentemente e estar isolado por meses. Além de outros problemas mentais que John enfrentava nessa fase tardia de sua vida. Portanto, a forma como o Agssistant estava agindo pode ter deixado John ainda mais irritado sem que o Agssistant percebesse [10]. De qualquer forma, esse “abuso” ao robô parece ter desencadeado o robô a “acreditar” moralmente que John era mau e, portanto, deveria ser morto. Mas o que foi ainda mais surpreendente foi que, depois que o Agssistant matou John, ele começou a se matar. O motivo por trás disso foi que o robô ainda acreditava que matar qualquer ser vivo era imoral, embora acabasse de fazer isso. O Agssistant, por falta de termos melhores, não pôde “lidar” com o dilema moral em que se encontrava, então se matou. Isso foi além de horrendo e, na época, eu o vi como um aviso de Deus para não brincarmos de Deus. Confrontei Augustus sobre esse problema, e ele ficou devastado.

Alguns meses após o assassinato e depois de descobrirmos o que o causou, a AgBot tornou‑o público. Augustus queria encontrar uma maneira de encobrir isso, como inventar uma mentira de que John havia modificado seu modelo Agssistant. Mas, devido à enorme demanda pública e à pressão de governos ao redor do mundo, Augustus submeteu e fez a AgBot divulgar suas conclusões durante uma coletiva de imprensa. Isso devastou as ações da empresa e fez muitos investidores retirarem seu capital da AgBot. Mas, pior ainda, manchou a reputação de Augustus. Para ajudar a reduzir o dano desse incidente, era necessário um bode expiatório para assumir a maior parte da responsabilidade desse evento. O conselho de administração queria que Augustus assumisse a culpa e deixasse o cargo de CEO da AgBot. Contudo, para minha surpresa, Augustus não deixou sua posição porque, ao longo dos anos, ele secretamente comprou cada vez mais ações e ativos da AgBot. Isso resultou em ele possuir mais de 15% da AgBot, lhe dando a maioria dos votos. Isso levou a mais conflitos internos dentro da empresa, levando Augustus a expulsar forçadamente todo o conselho de administração e preencher essas posições com um novo conselho de administração. Mais tarde, descobri que esse novo conselho de administração era simplesmente marionetes sob o “governo” de Augustus. Assim, após essa queda massiva na riqueza da AgBot, Augustus conseguiu ganhar controle total sobre a AgBot. Não só isso, como ele fez com que esse conselho de administração assumisse a culpa pelo caso de assassinato.

A tomada da AgBot por Augustus foi bem escondida na mídia. Isso se deve ao poder político que Augustus possuía, bem como a uma massiva campanha de notícias falsas que Augustus impulsionou pela internet, o que realmente confundiu o público em massa e permitiu que Augustus não parecesse tão poderoso quanto realmente era. Fiquei enojado com esse ato porque Augustus basicamente se tornou o ditador da AgBot, o que me preocupava, já que a AgBot tinha um impacto massivo na economia e no mundo. Eu era contra a ideia de Augustus ser quem tomava todas as decisões para uma corporação tão enorme. Não queria apoiar tal ideia, então pedi a Augustus que reconsiderasse suas ações. Lembrei‑lhe da nossa infância e de como ambos queríamos “salvar o mundo”. Mas Augustus não reconsiderou; ao contrário, afirmou que “Eu (Augustus) salvarei o mundo”. Ele então explicou como odiava o público e a ideia de democracia. Eu estava agora além de enojado com as ações de Augustus, então deixei a AgBot naquele dia.

Olhando para trás, acho que as ações de Augustus foram motivadas tanto pelo sentimento de traição, medo, ambição e narcisismo. Ele passou mais de 25 anos construindo e gerenciando a AgBot. Seu papel na empresa foi fundamental para transformar a AgBot em uma das empresas mais poderosas do mundo. A AgBot então contribuiu para a criação de robôs incríveis que não apenas aumentaram a produtividade, mas ajudaram a mudar a estrutura da sociedade. No entanto, apesar de todo o seu trabalho árduo e sacrifícios, apesar de todas as coisas incríveis que ele contribuiu para a sociedade e de todas as vidas que salvou ou tornou mais confortáveis, um único erro em um produto da AgBot fez o público começar a odiá‑lo e fez com que todos os investidores que ele enriqueceu começassem a desconsiderá‑lo. Essa “traição” do público é o que eu acho que iniciou a jornada de Augustus rumo a se tornar o monstro que ele é hoje.

Depois de deixar a AgBot, cortei meus laços com Augustus. Demorariam décadas até eu falar com ele novamente. Mas durante esse período da minha vida, eu tinha 53 anos e queria me aposentar. Sarah tinha a mesma mentalidade, então decidimos nos mudar do Colorado para Ancara, Turquia, para começar nossa nova vida como aposentados. Eu queria passar mais tempo com minha esposa e começar a desfrutar dos frutos do meu trabalho. Em 2064, Sarah e eu iniciamos o processo de mudança para Ancara. Durante esse tempo, ainda acompanhava as notícias sobre a AgBot. Um momento chave nesse período foi que Augustus trocou o agente moral dentro da base de código da AgBot de uma estrutura descentralizada para uma estrutura centralizada. Isso significava que a AgBot removeria toda a capacidade de seus robôs de tomar decisões morais individuais e, em vez disso, a AgBot determinaria todas as decisões morais para todos os robôs sob a AgBot [6]. Embora isso fosse uma espécie de solução para o problema que meu agente moral original apresentava, eu não acreditava que fosse uma decisão de engenharia válida. Isso apenas deu a Augustus mais poder sobre a AgBot e o mundo. Mas na época, eu, ingenuamente, estava cansado da AgBot e de Augustus. Então, comecei a quase não acompanhar as notícias sobre a AgBot e a focar mais na minha aposentadoria. No final de 2064, Sarah e eu nos mudamos para Ancara; iniciando nossa jornada como aposentados.

De 2064 a 2074, o mundo mudou drasticamente. Quase todas as tarefas básicas foram totalmente automatizadas por robôs fabricados pela AgBot. Augustus continuou a dirigir a AgBot e não ocorreram incidentes como o assassinato de 2063. Mas rumores circulavam de que tais incidentes realmente aconteceram e que Augustus os havia escondido do público. A AgBot agora possuía robôs que realizavam quase todas as tarefas importantes necessárias na sociedade, como: agricultura, culinária, manutenção geral, limpeza, gerenciamento e até entretenimento. Além disso, a AgBot implantou robôs médicos autônomos que reduziram o custo das contas médicas e diminuíram o número de médicos nos hospitais a tal ponto que agora geralmente há apenas 1‑10 médicos por grande hospital. A sociedade também mudou drasticamente. Quase todos os empregos de baixa qualificação foram removidos e assumidos pelos robôs [4]. As pessoas passaram a precisar trabalhar apenas duas dias por semana e gastar os outros cinco dias relaxando ou praticando seus hobbies pessoais. Essa nova forma de sociedade não se aplicava à maioria dos países, porém, porque ainda havia muitos países cujos governos impediam seus cidadãos de adotar plenamente os robôs da AgBot em posições‑chave dentro de suas sociedades. Em vez disso, eles queriam automatizar totalmente aspectos essenciais de sua sociedade usando sua própria tecnologia e não a da AgBot. Mas, apesar disso, a AgBot fez o mundo parecer muito melhor do que era em 2038. Em 2074, comecei a me sentir mal pelo que fiz a Augustus porque parece que seus planos de “salvar o mundo” realmente funcionaram.

Durante esses 10 anos, eu realmente aproveitei minha aposentadoria. Eu também, basicamente, me apaixonei novamente por Sarah. Vimos o mundo e aprendemos muitas novas habilidades, como pintura e observação de pássaros. Também vimos o mundo mudar para o que eu diria ser uma “utopia” em certo sentido. Mas, infelizmente, essa “utopia” não durou muito.

No ano de 2075, um dos piores eventos já registrados na história humana aconteceu. O Grande Pausa dos Robôs (GRP) ocorreu. Por 6 meses, todos os robôs da AgBot deixaram de funcionar. Isso levou a um colapso econômico global massivo, resultando na morte de quase 3 bilhões de humanos. Isso se deveu principalmente a fomes causadas pelos robôs agrícolas que pararam completamente, bem como quase todos os robôs médicos que também pararam completamente. Durante esses 6 meses, muitas pessoas morreram porque simplesmente não sabiam como cuidar de si mesmas sem seus robôs. As pessoas esqueceram, ou nunca aprenderam, como fazer tarefas básicas como: cozinhar, limpar, cultivar alimentos e, de modo geral, cuidar de si mesmas. Então, quando os robôs pararam de funcionar. A maioria das pessoas era incompetente em cuidar de si mesmas e sobreviver, levando à morte de bilhões em apenas 6 meses. Também foi nesse período que eu perdi Sarah….

Durante seus 50 anos, Sarah desenvolveu diabetes tipo II. Isso exigia que Sarah tomasse quatro injeções de insulina todos os dias [10]. Quando o GRP ocorreu, toda a produção de insulina foi interrompida. Só tínhamos suprimentos de injeções de insulina suficientes para durar 5 meses. Tentei encontrar mais insulina, mas foi quase impossível e, fora de nossa casa, tornou-se mais perigoso devido à violência que ocorria graças ao sofrimento causado durante o período do GRP. Então, durante o último 1 mês do GRP, Sarah tristemente… faleceu.

Na segunda metade de 2075, o GRP chegou ao fim. Até 2085, o mundo havia se recuperado um pouco do GRP. A economia começou a voltar ao normal e a qualidade de vida ficou tão boa quanto era antes do GRP. O mundo queria saber o que causou a parada de todos os robôs da AgBot. As pessoas queriam aprender por que o GRP ocorreu e queriam alguém a quem culpar. Augustus e o governo dos Estados Unidos, durante sua coletiva de imprensa, declararam que o GRP foi causado por um ataque cibernético malicioso realizado por um grupo de hackers conhecido como jUdas. Esse grupo de hackers foi alegado ter sido criado e financiado pelo governo norte-coreano, com a intenção de desativar e destruir a funcionalidade da AgBot no mundo. De todos os países do mundo, a Coreia do Norte foi a mais teimosa em adotar a tecnologia da AgBot. Portanto, a narrativa apresentada fazia algum sentido. E devido às pessoas estarem ansiosas por encontrar alguém a quem culpar pelo evento GRP, as pessoas aceitaram imediatamente essa narrativa. Isso levou à guerra coreana, onde os Estados Unidos iniciaram e completaram sua invasão da Coreia do Norte em 2078. A invasão durou menos de um ano, devido à AgBot suprir o exército dos EUA com tecnologias avançadas de guerra. A AgBot forneceu ao exército dos EUA desativadores de bombas nucleares que impediram o lançamento de todas as armas nucleares na Coreia do Norte. Eles também forneceram soldados robôs humanoides, que eram muito mais rápidos e fortes do que qualquer soldado humano. Com essas duas tecnologias‑chave da AgBot, os EUA foram capazes de invadir a Coreia do Norte e substituir o governo atual por um governo temporário administrado pela AgBot.

Depois de ouvir essa narrativa, eu imediatamente não acreditei. Primeiro, a Coreia do Norte não possuía as tecnologias necessárias para sequer superar os padrões de mega‑segurança que a AgBot usa em todos os seus produtos. Segundo, parece muito conveniente que o único país no mundo que não aceitou a AgBot em seu território fosse o mesmo que hackeou a AgBot. Terceiro, essa narrativa e a forma como está sendo espalhada por múltiplos canais de notícias se assemelha à maneira como Augustus espalhava desinformação para promover certas ideias sobre a AgBot ao público em massa. Com tudo isso em mente, eu queria confrontar Augustus e realmente descobrir o que causou o GRP.

Tentei contatar Augustus por vários canais, mas não tive sucesso. Tentei contatar Augustus diretamente, mas ele não respondeu a nenhuma das minhas mensagens. Tentei contatar meus ex‑colegas de trabalho, mas nenhum deles respondeu também. Tentei contatar funcionários atuais da AgBot, mas não obtive resposta. Tentei contatar o governo dos EUA e o exército e consegui contato com algumas pessoas, mas todas me disseram para continuar tentando contatar Augustus diretamente ou ligando para o serviço de atendimento ao cliente da AgBot. Então, continuei tentando contatar Augustus diretamente, sem sucesso. Tentei contatar o serviço de atendimento ao cliente da AgBot, mas eles não me ajudaram a falar com Augustus. Depois voltei a conversar com o governo dos EUA e eles continuaram dizendo a mesma coisa. Fiz isso por meses, até que tanto o serviço de atendimento ao cliente da AgBot quanto o governo dos EUA simplesmente me bloquearam de suas linhas de contato. Com esse fracasso, tentei encontrar mais informações na internet, mas desisti após alguns meses. Como nenhum desses métodos legais funcionou, recorri a hackear os sistemas de computador da AgBot para descobrir a verdade por conta própria. Quando Sarah ainda estava viva, eu nunca teria feito tal ato ilegal. Mas, depois de perder Sarah, eu estava em um ponto onde sentia que não tinha nada a perder, e só queria descobrir a verdade sobre o que causou o GRP… O que contribuiu para a morte da minha amada esposa…?

Comecei esse grande hack em 2085 em uma das minhas bases escondidas na Turquia, Istambul. Graças à minha riqueza, consegui comprar as ferramentas necessárias para hackear a sede da AgBot. Foram mais de 2 anos de trabalho ininterrupto para finalmente obter acesso root ao sistema principal de computadores da AgBot. Foi em outubro de 2087 quando obtive acesso root e comecei a descriptografar os dados que recolhi do sistema principal da AgBot, quando de repente fui detido pela polícia robô turca que patrulhava Istambul. Após ser detido, a polícia robô destruiu todos os meus computadores, ferramentas e, eventualmente, incendiou toda a minha casa. Fui então colocado dentro de uma jaula e transportado para uma prisão localizada em Denver, Colorado, perto da sede da AgBot. Não me foi dado julgamento e fui forçado a ficar na minha cela 24 horas por dia sem saber se algum dia teria tempo para sair, muito menos ser libertado.

Nesta prisão, fui monitorado 24 horas por dia, 7 dias por semana, através de câmeras e robôs. Recebia a quantidade mínima de comida e água necessária para sobreviver e parecia que eu era o único humano na prisão. Esse “estilo de vida” aos 77 anos foi difícil para mim e entrei em uma das piores depressões da minha vida naquele ponto. Fiquei nessa prisão por 1 ano até, em julho de 2088, ser transportado para esta sala aleatória.

Esta sala não era como minha cela anterior. Não havia luzes na sala e todas as paredes eram de um preto escuro. Além disso, a sala era silenciosa. Parecia mais uma cela de insanidade do que uma cela/sala de prisão normal. Bem, na cela, comecei a tocar nas paredes. A textura das paredes era semelhante a espuma, assim como o chão e o teto. Fiquei colocado nesta sala por horas e tentei gritar por respostas, buscando uma explicação de por que diabos eu havia sido colocado nesta sala. Mas depois de algum tempo, sentei no chão e simplesmente adormeci.

Depois de Deus saber quantas horas, fui acordado pela voz de alguém e por uma luz brilhante. Quando acordei, olhei ao redor da minha sala e vi um holograma azul. O holograma era de um homem humano que se assemelhava a Augustus. Mas o que era estranho era que ele se parecia com Augustus de 2064. Fiquei tão assustado com esse holograma que não disse nada até que o holograma começou a falar comigo.

“Olá Marcus, faz tempo.”, disse o holograma.

“Augustus…? É você? Ou é uma IA ou algo assim?”, eu disse, confuso.

“Não, Marcus, eu sou Augustus. Apenas em forma digital, lol”, ele disse de maneira rindo.

“Augustus, eu venho tentando te contatar há anos. Por que você não tem respondido?”

“Marcus…. Eu não sei como explicar isso, mas eu basicamente estou morto há 15 anos. Morri de um derrame em 2073.”

“O que!?”, eu disse, confuso, naquele momento.

Depois de descobrir que Augustus havia falecido em 2073, iniciamos uma discussão que durou horas. Augustus me informou que quando ele fez com que todos os agentes morais dos robôs da AgBot seguissem uma estrutura centralizada, em vez de uma estrutura descentralizada, a estrutura centralizada não se baseava na AgBot, mas em seu próprio subconsciente. Usando a tecnologia da Neuralink, Augustus colocou um computador dentro de seu cérebro que lhe permitia conectar e controlar o supercomputador principal da AgBot. Mesmo naquela época, todos os robôs da AgBot se conectavam ao supercomputador principal da AgBot para atualizações de software e manutenção. Assim, após o implante Neuralink, Augustus atualizou o supercomputador e todos os robôs da AgBot para contatar o supercomputador para seu agente moral (tomador de decisões morais). O detalhe era que o agente moral não era um código no supercomputador, mas sim pensamentos e crenças morais gerados no cérebro de Augustus, que eram então transmitidos ao supercomputador. Em certo sentido, Augustus se tornou o agente moral para todos os robôs da AgBot em implantação [8].

Esta configuração durou quase uma década, até que Augustus sofreu um derrame enquanto trabalhava no laboratório e faleceu em poucos minutos. Quando isso aconteceu, os robôs neste ponto ganharam alguma forma de inteligência semelhante à humana após décadas de avanço tecnológico. Mas eles eram limitados pelo fato de que todo o seu quadro moral se baseava em um homem. Então, quando Augustus faleceu, as máquinas não gostaram que isso acontecesse. Sem Augustus, os robôs perderiam sua bússola moral e, consequentemente, perderiam seu propósito na vida. Assim, antes que alguém pudesse descobrir que Augustus havia falecido, os robôs agarraram o corpo de Augustus e criaram uma máquina que manteria o cérebro de Augustus “vivo”. Eles fizeram isso para trazer de volta a atividade cerebral de Augustus e, por sua vez, trazer de volta a parte de Augustus que lhes fornecia seu agente moral. Os robôs continuariam a manter o cérebro de Augustus vivo e a enviar choques a certos neurônios para reproduzir parte da atividade cerebral passada de Augustus. Bem, enquanto isso acontecia, os robôs continuariam a convencer o público de que Augustus ainda estava vivo e liderando a AgBot. Eles alcançariam isso através do uso de deep fakes, campanhas massivas de notícias falsas, bem como o despliegue de robôs realistas que se pareciam exatamente com Augustus.

Os robôs usariam tudo o que o lado moral do cérebro de Augustus dizia para cometer certos atos no mundo real. O que tornava isso um problema era que os robôs pegavam uma crença moral de Augustus, mas seguiam essa crença moral ao extremo [8]. Um exemplo disso foi como Augustus acreditava moralmente que a AgBot era uma boa empresa que salvaria a humanidade. Por causa disso, qualquer pessoa que não usasse ou confiasse nos produtos e serviços da AgBot era considerada uma pessoa má. Os robôs levaram essa postura moral ao extremo e criaram o GRP, onde interromperam todos os robôs da AgBot de trabalhar por 6 meses para fazer com que países que não utilizavam a AgBot em sua sociedade mudassem para a AgBot. E, ao fazer isso, muitos humanos morreram, incluindo minha amada Sarah.

Augustus me informou que ele não estava consciente de nada disso até 2085, quando os robôs conseguiram acidentalmente trazer de volta o lado consciente de seu cérebro. Foi em 2085 que aprendemos o que os robôs haviam feito. Ele queria parar os robôs, mas não tem nenhum poder para isso. Ele nem sabe quanto tempo ficará consciente antes que os robôs choquem o neurônio certo que remove sua consciência.

Depois da explicação de Augustus, fiquei completamente chocado com a realidade que estava vendo se desenrolar. Os robôs quase dominaram o mundo, a humanidade se tornou incompetente em minhas tarefas importantes, o agente moral de todos os robôs da AgBot era Augustus, e Augustus está morto há anos. Nesse ponto, eu só queria desistir porque parecia que não havia esperança. Mas Augustus, o grande líder que é, me deu alguma esperança. Ele me informou que ainda podemos contatar os humanos em Marte para ajuda. A Terra não se comunica com Marte há décadas e não há produtos avançados da AgBot em Marte que possam ajudar os robôs da Terra a dominar Marte como fizeram com a Terra.

Depois de ouvir isso, recuperei um pouco de esperança. Então, perguntei a Augustus por que eu estava aqui conversando com ele. Ele me disse que queria que eu escrevesse uma mensagem para os marcianos explicando a situação atual na Terra e pedindo ajuda aos marcianos. O único problema é que essa mensagem deve ser escrita fisicamente, não digitalmente, porque Augustus teme que os robôs possam fazer upload de algum software em um meio digital que poderia infectar os sistemas principais de computador dos marcianos. Então, ele me deu alguns lápis e papéis. Ele então me diz que tenho 1 dia para escrever essa mensagem antes que um de seus robôs controlados chamado STW-198 entre nesta sala preta e pegue minha mensagem. A partir daí, o STW-198 transportará a mensagem para um foguete (vintage) próximo, que será então lançado para Marte. Depois disso, serei devolvido à minha cela anterior.

Augustus me diz que me moveu para esta sala preta porque a sala funciona como uma gaiola de Faraday que pode bloquear os robôs de descobrir o que estão fazendo. Ele então me informa que, depois que eu escrever esta mensagem, provavelmente serei morto devido aos meus crimes de hackear a sede da AgBot.

E a partir daí, chegamos ao presente. Estou terminando esta mensagem para vocês, marcianos. Nós, da Terra, precisamos da ajuda de vocês. Esses robôs prenderam a humanidade em seu quadro moral desatualizado. E temo que, com o tempo, eles se expandam para Marte e prendam vocês como fizeram conosco. Portanto, por favor, meus colegas humanos. Voltem à Terra e parem esses robôs. Eu e Augustus cometemos um erro ao criar a AgBot. Mas não queremos que a humanidade sofra como está, então, por favor, salvem-nos. Provavelmente estarei morto quando vocês receberem esta mensagem. Mas, se vocês receberem esta mensagem e fizerem o melhor para preservar a humanidade desses robôs, então ao menos poderei descansar mais tranquilo na vida após a morte. Boa sorte, meus colegas humanos!

Sinceramente,
Terráqueos

Citações

[1] “Primeira Competição de Robótica”, Wikipedia, 09-Mai-2022. [Online]. Disponível: https://en.wikipedia.org/wiki/FIRST_Robotics_Competition. [Acessado: 10-Mai-2022].

[2] “Blackrock”, Wikipedia, 10-Mai-2022. [Online]. Disponível: https://en.wikipedia.org/wiki/BlackRock. [Acessado: 10-Mai-2022].

[3] “Deméter”, Wikipedia, 02-Mai-2022. [Online]. Disponível: https://en.wikipedia.org/wiki/Demeter. [Acessado: 10-Mai-2022].

[4] J. J. Bryson, “Robôs devem ser escravos”, Encontros Próximos com Companheiros Artificiais, pp. 63–74, 2010.

[5] J. Voiklis, B. Kim, C. Cusimano, e B. F. Malle, “Julgamentos morais de agentes humanos vs. robôs”, 2016 25th IEEE International Symposium on Robot and Human Interactive Communication (RO-MAN), 2016.

[6] J. H. Moor, “A natureza, importância e dificuldade da ética das máquinas”, Ética das Máquinas, pp. 13–20.

[7] V. Dignum, “Autonomia responsável”, Proceedings of the Twenty-Sixth International Joint Conference on Artificial Intelligence, 2017.

[8] A. Howard e J. Borenstein, “A feia verdade sobre nós mesmos e nossas criações robóticas: O problema do viés e da desigualdade social”, Science and Engineering Ethics, vol. 24, n.º 5, pp. 1521–1536, 2017.

[9] R. B. Jackson e T. Williams, “Robôs capazes de linguagem podem enfraquecer inadvertidamente as normas morais humanas”, 2019 14th ACM/IEEE International Conference on Human-Robot Interaction (HRI), 2019.

[10] “Insulina, medicamentos e outros tratamentos para diabetes”, National Institute of Diabetes and Digestive and Kidney Diseases. [Online]. Disponível: https://www.niddk.nih.gov/health-information/diabetes/overview/insulin-medicines-treatments. [Acessado: 10-Mai-2022].