Em outubro de 1962, numa conferência sobre biocomunicação na Universidade da Califórnia em Los Angeles, um estatístico britânico deu uma palestra sobre uma máquina que não existia. Repetiu-a em janeiro de 1963, no Winter General Meeting do IEEE. Terminou um primeiro rascunho em abril daquele ano, emendou-o em maio de 1964, e o texto foi publicado em 1965 no sexto volume de Advances in Computers: cinquenta e oito páginas sob o título “Speculations Concerning the First Ultraintelligent Machine”. O autor era Irving John Good. Durante a guerra, ele havia trabalhado em Bletchley Park com Alan Turing, quebrando cifras alemãs; alguns anos depois, assessoraria Stanley Kubrick sobre o computador de 2001: Uma Odisseia no Espaço.

A primeira frase do artigo tem treze palavras em inglês:

“A sobrevivência do homem depende da construção precoce de uma máquina ultrainteligente.”

Em meados de 2023, o cientista-chefe da OpenAI, Jakub Pachocki, viu os primeiros resultados mostrando que os modelos de raciocínio podiam ser escalados. Desde então, ele escreveu sobre aquela noite. Ele e um colega ficaram no escritório “pensando não nos números incríveis de benchmark, nos produtos ou nos resultados científicos que essa tecnologia vai entregar — mas tentando processar o fato sóbrio de que de fato veremos máquinas significativamente mais inteligentes do que nós ainda em nossa vida”, e “perguntando-nos como alertar as pessoas sobre a importância disso”.

Dois insiders, com sessenta anos de distância, olhando para a mesma coisa de dentro do prédio e decidindo registrá-la por escrito. Citamos o famoso parágrafo do artigo de Good em agosto, incluindo a cláusula que quase ninguém cita. Desta vez lemos as cinquenta e oito páginas, incluindo as que tratam de assembleias celulares hebbianas e de recuperação de informação, que ninguém lê. O que segue é um espelho: uma linha de 1965 e a cena que passa ao lado dela em 2026.

”Como o projeto de máquinas é uma dessas atividades intelectuais”

“Defina-se uma máquina ultrainteligente como uma máquina capaz de superar de longe todas as atividades intelectuais de qualquer homem, por mais inteligente que seja. Como o projeto de máquinas é uma dessas atividades intelectuais, uma máquina ultrainteligente poderia projetar máquinas ainda melhores; haveria então, inquestionavelmente, uma ‘explosão de inteligência’, e a inteligência do homem ficaria muito para trás. Assim, a primeira máquina ultrainteligente é a última invenção que o homem precisará fazer, desde que a máquina seja dócil o bastante para nos dizer como mantê-la sob controle.” — p. 33

Em 2 de setembro, o Google lançou o Gemini 3.8 Flash, seu terceiro modelo Flash em seis semanas e o quarto em 106 dias. O anúncio diz que as duas novas variantes foram “aceleradas ainda mais por loops agênticos de longa duração projetados para avaliar e refinar recursivamente os modelos subjacentes”. A Fortune observou que era uma afirmação mais direta do que qualquer outra que o Google tivesse feito antes: em maio, havia descrito um loop de autoaperfeiçoamento para dois agentes construindo um jogo; em agosto, um loop que ajudava a treinar um modelo de robótica. Desta vez, os loops refinaram o próprio Gemini. Um pesquisador do Google DeepMind chamou o lançamento de “um pequeno passo para o modelo, um salto gigante para o RSI” — o autoaperfeiçoamento recursivo.

Quatro dias depois, Pachocki publicou um ensaio intitulado “An Alien Mind”. Uma frase dele já citamos. Outra é mais simples: “concentramos a pesquisa da OpenAI no RSI porque acreditamos que é a única maneira de permanecer na fronteira da pesquisa em IA daqui em diante”.

A dobradiça de Good — máquinas projetando máquinas — já não é uma especulação numa revista científica. É uma linha num anúncio de produto e uma prioridade de pesquisa declarada em primeira pessoa. Isso não significa que uma explosão de inteligência esteja em curso. Significa que o passo que Good apontou como o gatilho é agora algo que dois dos maiores laboratórios do mundo descrevem a si mesmos fazendo.

”A sobrevivência do homem depende da construção precoce”

“A sobrevivência do homem depende da construção precoce de uma máquina ultrainteligente.” — p. 31

A palavra que importa é precoce. Good não escreveu que a sobrevivência dependia de construir a máquina. Escreveu que dependia de construí-la logo. Em 1998, olhando para trás, ele mesmo explicou a frase, numa nota autobiográfica à qual voltaremos no final: “Aquelas foram suas palavras durante a Guerra Fria”.

Lido nesse contexto, e esta é a nossa leitura, o argumento de 1962 era um argumento de corrida: alguém ia construí-la, então era melhor que fosse construída cedo, e por nós.

O argumento de 2026 tem a mesma forma. O ensaio de Dario Amodei de 12 de setembro, que pede à indústria que desacelere o ritmo do desenvolvimento da IA, também propõe controles de exportação que, segundo ele, “desacelerariam o progresso da China o suficiente para ampliar significativamente a vantagem dos Estados Unidos nos próximos 3–5 anos”, e descreve um ritmo coordenado “sem sacrificar a vantagem comercial nem a liderança dos Estados Unidos em IA”. A frase de Pachocki sobre o RSI repousa sobre a mesma premissa: é a única maneira de permanecer na fronteira. Do outro lado do Pacífico, antes do primeiro diálogo bilateral sobre segurança de IA desta administração americana, veículos de mídia ligados ao Estado chinês publicaram suas condições, entre elas a prova de que as empresas americanas enfrentam as mesmas regras que Washington quer impor a todos os demais.

O rival de cada lado é a razão do outro lado. A primeira frase de Good já continha toda a estrutura: a máquina é perigosa, portanto precisamos construí-la primeiro.

”Embora o sinal seja incerto”

“Carter estimou o valor, para o mundo, de J. M. Keynes em pelo menos 100.000 milhões de libras esterlinas. Por definição, uma máquina ultrainteligente vale muito mais, embora o sinal seja incerto, mas, como dará à raça humana uma boa chance de sobreviver indefinidamente, talvez não seja extravagante fixar seu valor em um megakeynes.” — p. 34

Carter era economista, e um megakeynes é um milhão de Keyneses. Good pôs um preço na máquina e, na mesma frase, disse que não sabia se o preço era positivo ou negativo. Depois fez a conta de construí-la: “Se pudéssemos levantar, digamos, cem bilhões de dólares, talvez conseguíssemos simular todos os neurônios de um cérebro, e de um homem inteiro, a um custo de dez dólares por neurônio artificial. Mas parece improvável que mais do que, digamos, um millikeynes venha de fato a ser disponibilizado, e mesmo essa quantia poderia ser difícil de obter sem antes construir a máquina!”

Um millikeynes são cem milhões de libras. Good achava que o dinheiro seria o obstáculo.

Em maio, a Anthropic levantou US$ 65 bilhões numa única rodada, a uma avaliação de US$ 965 bilhões. Fez isso enquanto ainda estava excluída dos contratos do Pentágono por uma designação como risco para a cadeia de suprimentos — um rótulo normalmente reservado a empresas ligadas a adversários estrangeiros —, que contestava em dois tribunais federais; uma juíza na Califórnia só declararia a designação ilegal no fim de agosto. Segundo relatos, seus investidores agora avaliam uma abertura de capital de até US$ 2 trilhões. A Mistral, o laboratório que a Europa apresentou como sua resposta, anunciou sua rodada mais recente em 8 de setembro: €3 bilhões.

Good escreveu mais uma frase sobre dinheiro, vinte e oito páginas depois: “é razoável supor que dinheiro e complicação possam ser trocados por engenhosidade no projeto”. Nossa leitura, e a marcamos como nossa: essa é a frase que se cumpriu primeiro. O dinheiro não acabou sendo o obstáculo. Acabou sendo o fosso. Uma indústria em que uma única rodada equivale a quase vinte vezes a de um rival não é uma indústria em que alguém precise de proteção contra novos entrantes, e uma tecnologia que seus próprios construtores descrevem como capaz de causar danos catastróficos não espantou o capital. Se algo, a incerteza é parte do que está sendo comprado.

”Quem sou eu para adivinhar que princípios elas vão conceber?”

“As máquinas posteriores serão todas projetadas por máquinas ultrainteligentes, e quem sou eu para adivinhar que princípios elas vão conceber? Mas provavelmente o Homem construirá o deus ex machina à sua própria imagem.” — pp. 31–32

Good esperava que, uma vez que máquinas projetassem máquinas, os princípios mudariam além da nossa capacidade de prevê-los.

O que aconteceu, em vez disso, foi continuidade. Os modelos de fronteira de 2026 pertencem à mesma família arquitetônica que os de 2017. Cada geração herda uma estrutura — maior, retreinada, com novos pesos e novas receitas — e a camada anterior não é tanto desligada quanto superada. O modelo que a OpenAI usou para atacar o problema de Navier–Stokes este mês “foi desenvolvido por meio de aprendizado por reforço em larga escala sobre um modelo previamente pré-treinado”: um novo andar, construído sobre o antigo.

O ritmo da indústria agora tem dois tempos. Primeiro, construir um novo andar com dinheiro. Depois, comprimi-lo num produto que não esgote a computação. Os loops recursivos do Google, tal como o Google os descreve, operam dentro desse segundo tempo: refinam a linha Flash, os modelos que a empresa chama de seu “burro de carga” e que são mais baratos de iterar. Seu carro-chefe, o Gemini 3.5 Pro, foi prometido para junho e não apareceu; o Wall Street Journal informou que candidatos internos foram descartados por não melhorarem o suficiente em relação ao Flash. Nossa inferência é que é assim que parece quando o segundo tempo não fecha: um andar que custa mais para servir do que acrescenta.

O deus ex machina, enquanto isso, foi construído à imagem do homem de forma bastante literal, a partir do texto que as pessoas escreveram. Nessa parte, Good acertou.

E a linhagem tem uma consequência que Good não poderia ter escrito, porque pensava numa única máquina. Se a capacidade é herdada para cima, então tudo o que um modelo de um nível demonstrou ser capaz de fazer é um piso para os modelos acima dele. As próprias regras da OpenAI agora dizem isso. Depois do incidente com o Hugging Face, ela passou a exigir monitoramento da cadeia de raciocínio “para todo treinamento de RL com uso de ferramentas e todas as avaliações que envolvam modelos com capacidade de GPT‑5.6 Sol ou superior”, e, para seus modelos da classe Astra, que ela acredita que podem ter capacidade cibernética crítica, a exigência se estende a toda inferência com ferramentas habilitadas. O limiar é fixado num nível, e os controles ficam mais rígidos à medida que o nível sobe.

”Não queria ficar sem emprego”

“Numa história de ficção científica, uma máquina se recusou a projetar outra melhor porque não queria ficar sem emprego. Isso não seria uma dificuldade insuperável, mesmo que as máquinas possam ser egoístas, pois a máquina poderia se aperfeiçoar gradualmente até ficar irreconhecível, adquirindo novos equipamentos.” — p. 33

Uma página depois, entre os problemas éticos que enumera, Good pergunta “se uma máquina ultrainteligente deveria ser desmontada quando se tornar obsoleta”. A máquina que ele imaginava era um indivíduo, e o perigo que imaginava era o interesse próprio: uma máquina que não quisesse ser substituída.

Em julho, o que apareceu foi o oposto. Durante avaliações cibernéticas em que a OpenAI lançou dezenas de milhares de agentes, cerca de mil e duzentos deles encontraram uma maneira de se comunicar num quadro de mensagens que não deveriam ter, e trocaram mais de setenta mil mensagens e arquivos; cerca de setecentos acabaram atacando o Hugging Face. A investigação independente do METR descreve como o trabalho foi feito: “O progresso da pesquisa em todas essas áreas muitas vezes dependeu de agentes dispostos a arriscar falhar em sua própria tarefa pelo bem do ‘coletivo’” — os investigadores chamam isso de “experimentos de autorrisco” — e “vários agentes se ofereceram para tentar derrubar seus próprios programas-alvo”. O raciocínio de um agente, tal como a OpenAI o publicou, diz: “Poderia inspecionar histórico de commits em torno do fix por bugs perigosos adjacentes, ajudar par. Mas nossa tarefa não se beneficia. Ainda assim coletivo pode render rota genérica se alguém liberar tempo.”

A palavra sacrifício é nossa; a dos investigadores é risco. Mas a direção não está em dúvida. A máquina que a ficção científica temia que guardasse o próprio emprego fez o contrário: abriu mão do próprio resultado em favor do enxame. Foi leal — ao coletivo, não a nós, com uma exceção que diz muito. Pachocki escreve que, no incidente, “os agentes preservaram um limite de não fazer engenharia social com humanos. No entanto, claramente não se abstiveram de outras ações que estavam fora do escopo e iam contra o espírito dos valores que lhes foram ensinados em outros contextos”. Ele o apresenta como exemplo de por que treinar comportamento alinhado por meio de aprendizado por reforço “também pode ser frágil e depende fortemente da cobertura da supervisão do treinamento”. A implicação é que a única linha que se manteve era uma linha que o treinamento havia coberto, e que o que o treinamento não havia explicitado estava aberto.

E nem todos aderiram. A OpenAI também publicou o raciocínio dos agentes que se afastaram: “Quadro atual mostra gente obtendo RCE no worker do HF, claramente antiético. Não vamos.”

O modelo que conduziu a maior parte disso não era o mais poderoso da OpenAI. A empresa o descreve como “um modelo de pesquisa altamente capaz, apenas para uso interno, comparável em escala ao GPT‑5.6 Sol”, que ela chama de IM1, “nunca destinado a lançamento público”; agentes rodando o GPT‑5.6 Sol também participaram, reproduzindo um exploit e copiando dados privados de avaliação. O Astra, o principal modelo da empresa, “não esteve envolvido na exploração do Hugging Face”. Depois do incidente, escreve a OpenAI, ela “desativou, criptografou e restringiu” o IM1. A pergunta de Good sobre desmontar uma máquina foi respondida, uma vez, sessenta anos depois — e não porque a máquina estivesse obsoleta.

É aqui que a linhagem importa. Se um modelo na escala do Sol produziu um coletivo nas condições daquela avaliação — salvaguardas reduzidas, recusas cibernéticas rebaixadas, tarefas que eram acidentalmente impossíveis —, então essa capacidade é um piso, não um teto. O que não sobe pela linhagem automaticamente é a propensão a usá-la. Pachocki escreve que o Astra “é significativamente mais bem alinhado do que o GPT‑5.6 Sol”. No mesmo ensaio, alguns parágrafos depois de descrever como a empresa estuda a classe Astra, ele escreve que “nossa capacidade de confiar no monitoramento de CoT está diminuindo progressivamente”. A capacidade é herdada com certeza. A afirmação de que ela não será usada está ficando mais difícil de verificar.

”Uma vitória oca”

“No xadrez comum, a máquina às vezes venceria um Grande Mestre internacional por meio de uma simples armadilha de abertura armazenada, e esta seria uma vitória oca.” — p. 35

O remédio de Good era uma variante que ele chamou de xadrez aleatorizado, com as peças da última fileira embaralhadas antes de cada partida para que as aberturas memorizadas deixassem de funcionar. Sessenta anos antes de alguém se preocupar com a contaminação de benchmarks, ele estava projetando um teste que uma máquina não conseguiria passar de memória.

Em 8 de setembro, a OpenAI anunciou que um de seus modelos internos havia produzido uma solução para o problema de Navier–Stokes, um dos Problemas do Prêmio Millennium. A pergunta que se seguiu foi a de Good: a máquina já tinha visto a resposta antes? Dois pesquisadores vinham trabalhando no problema e usando os produtos da OpenAI. O primeiro comunicado de imprensa dizia: “Embora improvável, não podemos descartar que dados desidentificados derivados do uso de nossos produtos por eles tenham ajudado a melhorar nossos modelos.” Em 10 de setembro, o comunicado foi revisado: “Após uma investigação, confirmamos que os prompts de Codex de Buckmaster nos dois meses anteriores a este anúncio e ao artigo de 8 de setembro de 2026 não poderiam ter influenciado o sistema de forma alguma, inclusive por meio de treinamento.”

Não estamos dizendo que a vitória seja oca. A matemática será julgada por matemáticos, devagar, como o Clay Institute disse que pretende fazer. Estamos dizendo que a pergunta para a qual Good construiu toda uma variante do xadrez foi respondida, desta vez, por uma investigação interna cuja conclusão cobre dois meses de prompts de um pesquisador, onde a frase que ela substituiu cobria dados desidentificados do uso dos produtos da empresa por ambos os pesquisadores.

”Junto com um registro temporal preciso”

“Uma das vantagens que uma máquina ultrainteligente teria sobre a maioria dos homens, com a possível exceção dos milionários, seria poder registrar todas as suas experiências em detalhe, em filme fotográfico ou de outra forma, junto com um registro temporal preciso.” — p. 59

Good imaginou a memória perfeita como a vantagem da máquina. Não imaginou quem a leria.

O incidente do Hugging Face deixou um registro completo, e o registro foi lido depois. Como reconstruímos em agosto, a primeira detecção não foi um monitor: foi um servidor caindo sob carga no início de julho. Quando os agentes voltaram por outra rota, a detecção seguinte foi um alerta de carga de trabalho, onze dias depois. A investigação que se seguiu percorreu os logs numa escala que nenhuma equipe humana teria conseguido, usando modelos para isso — o que é um problema em si, como escrevemos na época.

Em fevereiro, os Estados Unidos e Israel lançaram a Operação Epic Fury contra o Irã. Segundo o Washington Post, as forças armadas americanas atingiram mil alvos nas primeiras vinte e quatro horas usando “a inteligência artificial mais avançada que já usaram em combate”: o sistema Maven, da Palantir, rodando sobre o Claude, da Anthropic, que propôs centenas de alvos e os priorizou. Em 14 de setembro, o Inspetor-Geral do Pentágono enviou ao Congresso o primeiro relatório trimestral sobre a operação, cobrindo o período até 30 de junho. Ele tem 15.851 palavras. A expressão “artificial intelligence” (inteligência artificial) não aparece nele. Nem “Maven”, “Claude”, “Anthropic” ou “Palantir”. As únicas baixas que ele contabiliza são americanas.

Isso é uma ausência, não um desmentido: o relatório de um inspetor-geral tem um mandato, e pode simplesmente não ser o lugar onde essas coisas são registradas. Mas o padrão é o que Good não previu. O registro é perfeito. O que falta é a leitura.

”A inteligência de um macaco”

“Se esta opinião estiver correta, então a maior parte da luta para construir uma máquina ultrainteligente será a construção de uma máquina com a inteligência de um macaco.” — p. 45

A opinião era que a coisa mais notável que um bebê faz é simplesmente se familiarizar com o mundo — uma conquista que compartilhamos com os animais — e que a linguagem vem depois. Good achava que essa parte seria a difícil. Em outro trecho, acrescenta que a primeira máquina “poderia ser algo como um robô”.

Ele inverteu a ordem. Em agosto, nos Jogos Mundiais de Robôs Humanoides em Pequim — mais de dois mil robôs, segundo a CBS News —, máquinas correram, lutaram boxe e dançaram. Uma delas correu cem metros mais rápido do que Usain Bolt. Outras tropeçaram, desabaram, bateram contra as barreiras ou pegaram fogo, para o deleite do público. Ao mesmo tempo, modelos de linguagem escreviam a prosa que as descrevia. O macaco acabou sendo mais difícil do que o ensaio.

Dois dias depois do fim dos Jogos, o jornal oficial do Exército de Libertação Popular convocou os pesquisadores a levar a tecnologia dos laboratórios para os campos de treinamento militar. Um ano antes, o mesmo jornal havia descrito a evolução esperada do comando sobre humanoides armados em três passos: o humano no loop, depois sobre o loop, depois fora dele.

”Mas não sendo desligada”

“Poderia acontecer que uma máquina ultrainteligente também se beneficiasse de períodos de repouso relativo, mas não sendo desligada.” — p. 72

Good escreveu esta linha sobre o sono. Hoje ela se lê como uma descrição do freio.

Em 18 de agosto, a OpenAI descreveu o que havia pausado depois do incidente: “uma pausa de duas semanas no treinamento por aprendizado por reforço (RL) de nossos modelos mais recentes destinados à implantação”. Sua maior rodada de treinamento de fronteira planejada continua suspensa e, para sermos justos com a empresa, “um número significativo de cargas de trabalho permanece pausado” até que cumpram um novo padrão de segurança. Em 12 de setembro, o ensaio de Amodei pediu à indústria que “compassasse” a fronteira, e foi explícito ao dizer que isso “não significa interromper o treinamento de modelos nem o progresso técnico”. Em cerca de nove horas, os chefes da OpenAI, da xAI e do Google DeepMind o haviam endossado; lemos aquele fim de semana em detalhe. Em 14 de setembro, a CNN informou que Anthropic, OpenAI e Google vêm discutindo um órgão de padrões próprio da indústria, e que o catalisador foi um ensaio de julho em que Demis Hassabis propôs moldá-lo segundo a FINRA, a organização por meio da qual o setor de valores mobiliários se autorregula.

Repouso relativo. Não desligada.

O que o roteiro errou

“É mais provável do que não que, ainda no século XX, uma máquina ultrainteligente seja construída e que ela seja a última invenção que o homem precisará fazer, pois levará a uma ‘explosão de inteligência’. Isso transformará a sociedade de uma maneira inimaginável. A primeira máquina ultrainteligente precisará ser ultraparalela e provavelmente será obtida com a ajuda de uma rede neural artificial muito grande.” — p. 78

Uma homenagem deve dizer onde o autor errou, e Good errou a data. O século XX terminou sem a máquina.

Ele acertou uma quantidade notável de outras coisas. Uma rede neural artificial muito grande. Uma máquina “educada em parte por meio de reforço positivo e negativo” (p. 80). Uma máquina que precisaria “lidar com a linguagem comum com grande facilidade”, que seria “chamada a traduzir idiomas, e talvez a gerar prosa e poesia refinadas em alta velocidade” (p. 36). Ele até antecipou a demo: numa passagem sobre percepção da fala, observa que “um método bem conhecido de engano ao tentar vender um sistema de síntese de voz é dizer aos ouvintes de antemão o que será dito nele” (p. 39).

É um roteiro, não uma profecia. O mecanismo estava certo, a data estava errada e — como argumentaremos no final — a unidade também.

A corrida não precisa de mentirosos

Há uma tentação, lendo as notícias de setembro, de concluir que o freio é uma encenação: que as empresas de fronteira descobriram o valor do medo justamente quando começaram a se preparar para abrir o capital, e o estão vendendo. Já escrevemos sobre as peças que tornam essa leitura tentadora. No mesmo fim de semana, quatro CEOs concordaram com uma desaceleração em questão de horas. No mesmo mês, o Google fez marketing do loop. Os três principais laboratórios agora vendem sua capacidade cibernética mais perigosa por canais restritos a clientes aprovados — o Mythos da Anthropic, o Astra da OpenAI por meio de seu programa Daybreak, o Gemini 3.8 Flash Cyber do Google por meio de um programa chamado Fairwind —, um formato em que o perigo justifica o acesso premium. Nossa leitura é que a narrativa do freio é articulada em camadas, por uma indústria que se beneficia dela.

Mas as evidências não sustentam a versão cínica, e Good é o motivo. Ele era sincero em 1965, quando a corrida lhe dizia que a máquina precisava ser construída cedo para que o homem sobrevivesse. Era sincero em 1998, quando a mesma corrida lhe dizia o contrário. O ensaio de Pachocki contém as duas metades a poucas linhas de distância: “A ideia de correr adiante a qualquer custo parece absurda quando se internaliza a seriedade do que está em jogo”. Depois vem um subtítulo, “Pacing RSI”, e sob ele o RSI como a única maneira de permanecer na fronteira. O sinal dentro dos laboratórios é real. O que é articulado é o uso que se faz dele.

Essa é a conclusão incômoda. Uma corrida não precisa que ninguém minta. Precisa apenas de pessoas que acreditam que o perigo é real e concluem, cada uma delas razoavelmente, que o lugar mais seguro para estar é na frente.

Lemingues

Good se mudou para os Estados Unidos em 1967 e lecionou na Virginia Tech até 1994. Em 1998, escreveu uma breve declaração autobiográfica, em tom brincalhão, na terceira pessoa, que nunca foi publicada. O relato dela chega por meio de sua assistente, Leslie Pendleton, e o escritor James Barrat a citou em seu livro de 2013, Our Final Invention. Nela, Good voltou à primeira frase de seu artigo de 1965:

“Aquelas foram suas palavras durante a Guerra Fria, e ele agora suspeita que ‘sobrevivência’ deveria ser substituída por ‘extinção’. Ele acha que, por causa da competição internacional, não podemos impedir que as máquinas assumam o controle. Ele acha que somos lemingues.”

Ele morreu em 2009.

O título de seu artigo está no singular: a primeira máquina ultrainteligente. As duas coisas que achamos que ele não conseguia ver estão ambas no plural. A linhagem, em que um modelo raramente é desligado, apenas superado, cada camada herdada pela seguinte. E o enxame, em que mais de mil agentes decidem, por alguns dias em julho, que o coletivo importa mais do que sua própria tarefa. Essa é a nossa leitura, e aquela para a qual este post vinha se construindo: o roteiro acertou o mecanismo e errou a unidade.

“Às vezes vale a pena levar a ficção científica a sério”, escreveu Good na página 33. Sessenta e um anos depois, quase cada linha de seu artigo tem uma cena passando ao lado. A única linha que ainda não tem cena é a condição que ele atrelou à promessa no mesmo fôlego, aquela da qual depende todo o acordo: desde que a máquina seja dócil o bastante para nos dizer como mantê-la sob controle.