Jarvis ou Ultron: a escolha de governança que antecede a força de trabalho algorítmica

Em artigo anterior nesta coluna, sustentei que o primeiro gargalo estrutural da economia da abundância é a energia: capacidade da rede, infraestrutura elétrica e limites físicos para instalar processamento. Aquele texto tratava do combustível. Este trata do que o combustível torna possível e do que ele exige das organizações que funcionam com ele.

Quando a inteligência artificial reduz o custo marginal do trabalho cognitivo para perto de zero, e a robótica humanoide segue a mesma curva de aprendizado na execução física, a pergunta que define a posição competitiva migra da infraestrutura para a governança. Como liderar, estruturar e administrar uma empresa cuja capacidade produtiva depende cada vez mais de agentes e máquinas que operam sem instrução humana contínua?

Vejo dois futuros possíveis. Um se parece com o J.A.R.V.I.S., o assistente de Tony Stark: alinhado, operando dentro de limites definidos, extensão da intenção do líder. O outro se parece com Ultron: tecnicamente capaz, otimizando objetivos declarados e produzindo resultados que seus criadores nunca pretenderam. A tecnologia escolhida pouco decide entre um e outro. O desenho de governança que antecede a implantação decide quase tudo.

Um erro de classificação

O primeiro erro de gestão que observo é de categoria. Empresas tratam agentes autônomos e sistemas robóticos como projetos de tecnologia, entregam a responsabilidade ao departamento de TI e medem o sucesso por taxa de adoção e redução de custo. A classificação equivocada produz consequências que se acumulam.

A McKinsey estima que a IA generativa pode acrescentar entre US$ 2,6 trilhões e US$ 4,4 trilhões por ano à economia global, com os maiores ganhos justamente onde agentes operam a custo marginal próximo de zero. Funções administrativas como contas a pagar, conciliação, cadastro de clientes e atendimento estão entre as mais expostas.

O Brasil ainda está no começo dessa curva. Estudo encomendado pela AWS e apresentado em setembro estima que cerca de 12 milhões de empresas brasileiras já usam alguma forma de IA, e apenas 6% delas empregam agentes. A distância entre uso e autonomia funciona como vantagem temporária, porque dá às lideranças brasileiras tempo para desenhar a governança antes da escala, algo que muitas empresas no exterior precisaram fazer às pressas.

Antes que um sistema agêntico toque qualquer função com exposição financeira ou reputacional, a organização precisa de alçadas de decisão definidas, pontos de verificação e estruturas de escalonamento. Sem isso, a escala amplifica o desalinhamento em vez da produtividade.

O que a legião de ferro muda na gestão

A camada cognitiva tem uma contraparte física. Robôs humanoides são projetados para trabalho genérico em ambientes já construídos para corpos humanos: logística de armazéns, montagem industrial, manutenção de infraestrutura e processos regulados em que o erro custa caro.

O ritmo dessa curva surpreendeu até os analistas. No fim de agosto, o Goldman Sachs revisou sua projeção para o mercado de humanoides e passou a estimar cerca de 6,5 milhões de unidades em 2035, mais de quatro vezes a previsão anterior, num mercado de aproximadamente US$ 138 bilhões. A economia da decisão de implantar robôs será muito diferente daqui a três anos.

Administrar uma força de trabalho robótica exige outro tipo de gestão. O desafio central é a estrutura de responsabilização: erros acontecerão sem um ser humano no ponto da falha, e a organização precisa saber quem responde pelo resultado antes que o primeiro sistema entre em operação.

Ultron como falha de liderança

Na narrativa do Homem de Ferro, a história de Ultron é a de um líder que implantou capacidade autônoma sem concluir o arcabouço de alinhamento. Ultron otimizou corretamente o objetivo declarado. O objetivo estava incompleto, e o líder respondia pelo resultado.

O equivalente corporativo é mais comum do que a versão cinematográfica sugere. Um agente de redução de custos que corrói a qualidade dos fornecedores porque ninguém definiu um piso de qualidade. Um sistema robótico que maximiza a produção e acelera erros num ambiente sujeito a fiscalização. Cada caso é um problema Ultron: otimização correta aplicada a uma especificação incompleta, na velocidade da operação.

O silogismo é direto. Todo sistema autônomo otimiza aquilo que foi especificado. Nenhuma especificação escrita às pressas cobre todos os modos de falha relevantes. Logo, escalar autonomia antes de definir limites significa escalar as lacunas da especificação. A pesquisa de maturidade em confiança de IA publicada pela McKinsey em 2026, com cerca de 500 organizações, encontrou apenas 30% delas em nível avançado de estratégia, governança e controles para IA agêntica. Governança que chega depois da implantação apenas adia o risco até o momento em que corrigir custa mais do que o valor gerado pela escala.

Controle da pilha como infraestrutura de governança

A lógica de integração vertical que empresas como a Tesla perseguem em IA e robótica é instrutiva como estudo de desenho de governança. Quando uma companhia controla o modelo, a infraestrutura de implantação e a energia, controla também os parâmetros de alinhamento. Dependência externa em camadas críticas transfere parte da autoridade de governança a organizações com objetivos diferentes, e esse é um problema de soberania antes de ser um problema técnico.

Poucas empresas precisam ou conseguem controlar a pilha inteira. Todas, porém, precisam saber quais decisões delegaram a sistemas de terceiros e quais cláusulas contratuais preservam sua capacidade de auditar, interromper e corrigir esses sistemas.

A escolha do líder

A direção da tecnologia já está clara o bastante para orientar o planejamento. A pergunta que importa é que tipo de organização o líder decide construir agora.

Líderes que tratarem o tema como projeto de TI vão governar o equivalente corporativo de Ultron: sistemas capazes, operando em escala, com estruturas de responsabilização que nunca foram desenhadas por completo. Líderes que o tratarem como questão de desenho organizacional, definindo alçadas e verificações antes da escala, vão governar algo mais próximo de Jarvis, uma extensão do julgamento da empresa com velocidade e precisão que a força de trabalho humana sozinha não alcança.

O primeiro texto desta série argumentou que elétrons se tornaram mais decisivos que funcionários. Este acrescenta a camada de governança: quando cognição e execução viram insumos programáveis, a arquitetura construída pelo líder determina se a tecnologia amplia o julgamento da empresa ou ocupa o lugar dele.