A corrida armamentista do século XX baseou sua capacidade de destruição em um comando positivo: para aniquilar o planeta, alguém precisa apertar um botão. O alerta que cerca a inteligência artificial inverte de ponta a ponta essa mecânica. Se a narrativa do apocalipse digital for levada ao pé da letra, não estamos diante de um artefato militar adormecido que espera uma ordem de disparo, mas de um motor em aceleração contínua que ruma ao colapso a menos que alguém construa e acione um botão de parada. É a metáfora da bomba atômica ao contrário.
Essa retórica ganhou os holofotes em maio de 2023, quando dezenas de executivos e pesquisadores assinaram a declaração de vinte e duas palavras do Center for AI Safety, equiparando o risco de extinção por IA a pandemias e guerras nucleares. Parecia o ápice do pessimismo tecnológico. Contudo, nas últimas semanas, o coro ressurgiu com força desproporcional nos bastidores e no debate legislativo global.
Desta vez, o alarme veio de dentro dos próprios laboratórios.
O pesquisador Jacob Coxon renunciou publicamente à Anthropic, alertando que os principais concorrentes do setor estão apostando a sobrevivência coletiva em uma corrida cega e incontrolável. Evan Hubinger, líder de ciência do alinhamento da mesma empresa, foi ainda mais taxativo ao endossar a declaração nas redes sociais: estimou em mais de 10% a chance de a tecnologia causar a extinção humana na próxima década, admitindo que o setor não possui um plano factual para garantir a segurança de modelos com superinteligência. Ao mesmo tempo, o cientista-chefe da OpenAI, Jakub Pachocki, e cientistas veteranos em sessões do parlamento britânico voltaram a pedir tratados internacionais urgentes e tetos para o avanço dos modelos.
O desenho que se repete é uma anomalia corporativa. Quem desenvolve a tecnologia vai a público dizer que ela pode erradicar a civilização se continuar funcionando, mas nenhum desses laboratórios desliga suas máquinas ou reduz a velocidade de seus lançamentos.
Diante de um empresário pragmático, essa incoerência precisa ser desfeita. Por trás da urgência moral, há incentivos operacionais e de mercado muito claros.
O primeiro deles é a economia do silício e da infraestrutura.
A indústria enfrenta uma barreira física dura: a escassez de chips de última geração, a capacidade limitada de data centers e o consumo energético que beira o insustentável. Manter a pesquisa pesada em modelos de fronteira enquanto se tenta fornecer inferência em escala comercial para milhões de usuários drenou o fluxo de caixa de dezenas de empresas. Quando os custos explodem e o retorno sobre o capital investido é cobrado pelos fundos de investimento, um freio regulatório ou uma pausa coordenada serve como um álibi perfeito. Permite às gigantes congelar metas de entrega sem confessar fragilidade operacional ou estrangulamento de hardware.
O segundo componente é a valorização artificial pré-liquidez.
No capitalismo de risco, aterrorizar o público funciona como a forma mais agressiva de validação de mercado. Dizer que um algoritmo é potente ao ponto de ameaçar a humanidade confere ao produto um status quase sagrado. Para empresas que buscam avaliações estratosféricas antes de aberturas de capital ou novas rodadas de captação privada, a venda do perigo existencial é um poderoso instrumento de valuation. Ninguém investe centenas de bilhões de dólares em um mero assistente de produtividade; o dinheiro corre atrás de quem alega ter inventado a tecnologia definitiva.
O terceiro fator é a barreira de entrada e a geopolítica de conveniência.
A criação de licenças estatais e auditorias pesadas para modelos de fronteira protege os pioneiros que já possuem musculatura financeira, expulsando startups e o ecossistema de código aberto da disputa. Além disso, ao colocar o tema sob o prisma bélico, qualquer acidente ou atraso na entrega de resultados pode ser atribuído preventivamente à rivalidade com a China. O argumento é conveniente: o Ocidente precisa bancar e proteger seus líderes locais porque, caso contrário, o adversário externo não terá escrúpulos em acelerar.
A imagem da bomba atômica ao contrário revela essa fratura de interesse. O poder atômico foi desenvolvido pelo Estado dentro de bases militares secretas e contido por acordos diplomáticos entre governos soberanos. A inteligência artificial de ponta é construída em servidores de empresas privadas, movida por metas de receita e retornos trimestrais.
Tratar esses alertas como pura consciência humanitária é ingenuidade executiva.
O desafio técnico da segurança digital existe, mas o teatro do apocalipse costuma ser o disfarce ideal para quem deseja construir uma cerca regulatória em torno do próprio negócio. Quando os construtores de uma máquina pedem desesperadamente a criação de um botão de emergência, quase sempre estão apenas disputando quem terá o direito exclusivo de controlar o painel.