Autoridade antes da autonomia na IA empresarial
IA empresarial não se torna segura ou útil com um único ajuste de autonomia. A autoridade precisa ser conquistada ação por ação: observar, recomendar, simular, escrever com aprovação e operar dentro de limites mensuráveis. Essa progressão conecta capacidade técnica e responsabilidade operacional.
A pergunta errada sobre agentes
Perguntar se um agente deve ser autônomo é amplo demais. Ele pode ler estoque com segurança e não estar qualificado para alterar o ponto de reposição; redigir bem sem poder enviar; conciliar padrões conhecidos e escalar uma tarifa incomum.
Autonomia não é propriedade do modelo. É uma permissão vinculada a uma ação definida, sob condições definidas. O mesmo sistema pode ter níveis diferentes para retrieval, análise, comunicação e escrita. Um interruptor global bloqueia automação útil ou concede mais poder do que a evidência sustenta.
O relatório de BCG e Consumer Goods Forum publicado em junho de 2026 destaca a distância entre experimentação e valor em escala, além do papel de governança e operating model. Interpretamos isso como um problema de execução: transformar desempenho do modelo em autoridade operacional delimitada.
Capacidade, permissão e accountability
A capacidade pergunta se o sistema produz um resultado aceitável; a permissão, se ele pode agir naquele contexto; a accountability, quem assume o resultado, que evidência permanece e quem responde a um erro.
Um benchmark cobre apenas parte da primeira pergunta. Nosso método de harness e roteamento de modelos começa por privacidade e residência: primeiro se define o caminho permitido, depois se comparam qualidade, latência e custo.
Uma escada de autoridade para cada ação
1. Somente leitura
O sistema consulta dados aprovados e observa eventos sem propor decisão por um canal produtivo. Aqui se comprovam identidade, escopo, logging e tratamento. Ler também exige controles por campo para clientes, RH, preços e segurança.
2. Recomendação
O sistema propõe uma ação com entradas, política, incerteza, alternativas e efeito esperado. Um simples “aprovar” não oferece entendimento. Por isso medimos qualidade, correções do reviewer e outcomes, não apenas taxa de aceitação.
3. Dry-run
O sistema monta a escrita exata e a valida sem alterar produção: endpoint de validação, tabela sombra com diff determinístico ou mensagem final com envio desabilitado. Isso revela IDs inválidos, estado desatualizado, permissões incorretas, rate limits e fan-out. O padrão validate_only de nosso guia da Google Ads API é um exemplo.
4. Escrita aprovada
Após aprovação, o sistema executa uma alteração específica. A autorização fica vinculada ao payload revisado e expira se preço, destinatário, quantidade ou estado mudar. O caminho requer idempotência, precondições, privilégio mínimo, auditoria e recovery. “Human in the loop” só é controle se a pessoa vê os campos materiais, sabe avaliá-los e pode impedir a execução.
5. Autonomia delimitada
O sistema age sem aprovação caso a caso dentro de um envelope explícito: ação, contas, tempo, valor, volume, confiança, freshness e classe de exceção. Fora dele, rejeita ou escala. Essa autoridade é conquistada com evidência produtiva e pode ser reduzida.
Definir o contrato de ação
| Campo | Pergunta |
|---|---|
| Intenção | Qual resultado de negócio a ação busca? |
| Alvo | Qual sistema, objeto e campo pode mudar? |
| Elegibilidade | Quais contas, casos e dados são permitidos? |
| Precondições | O que deve ser verdadeiro e atual na execução? |
| Limites | Quais limites de valor, volume, tempo e confiança? |
| Evidência | Quais entradas, regras, modelo e aprovações guardar? |
| Recuperação | A ação pode ser revertida, compensada ou contida? |
| Owner | Quem assume o resultado e responde à falha? |
O contrato evita que um caso conversacional estreito receba credenciais administrativas amplas. Também permite comparar ações e traduzir política em schemas, assertions e testes.
Evidências que justificam autoridade
Combinamos qualidade de decisão, execução, operação e controle: erros ponderados por severidade, calibração, payloads válidos, precondições, duplicatas, latência, escaladas, correções, outcomes, acessos, proveniência e auditoria.
Métricas exigem denominadores, coortes e gravidade. Uma média pode esconder uma classe minoritária perigosa. Quando a escala interna é confidencial, usamos índices: se o volume ponderado de intervenção é Baseline = 100, períodos seguintes mostram direção, não causalidade automática.
Promoção e rebaixamento simétricos
As equipes costumam definir como ganhar autoridade, não como perdê-la. A promoção pode exigir amostra representativa, nenhum erro crítico aberto, rollback testado e aprovação do owner. Tempo e taxa de aceitação não bastam.
O rebaixamento deve ocorrer com dados ausentes ou antigos, versão errada de política, volume anormal, conciliação falha, rollback indisponível, distribution shift ou credenciais expiradas. O sistema pode voltar de autonomia para escrita aprovada, recomendação ou leitura sem ser totalmente desligado.
Separar modelos de controles determinísticos
A autoridade pertence ao action gateway, não ao modelo. Modelos interpretam, recuperam evidência, classificam e redigem; serviços determinísticos impõem identidade, schema, limites, campos permitidos, precondições e idempotência.
O output do modelo continua sendo input não confiável: vira proposta tipada, é resolvido contra o estado atual, recalculado quando possível, rejeitado se houver campos desconhecidos e revalidado na execução. Nosso guia de agent skills específicos de domínio descreve workflows delimitados; a camada de autoridade acrescenta o controle de produção.
O papel humano muda
Na recomendação, a pessoa avalia o caso; na escrita aprovada, verifica a consequência exata; na autonomia delimitada, concentra-se no envelope, amostragem, exceções e saúde do sistema. A accountability não desaparece: migra do trabalho repetitivo para a ownership do controle.
Overrides recorrentes de operadores são sinal de aprendizagem, não problema de adoção. Muitas vezes revelam contexto ausente antes das métricas agregadas.
Um rollout prático
- Definir contrato e owner responsável.
- Aplicar gates de privacidade, residência, identidade e data readiness.
- Criar conjunto revisado com casos raros e adversos.
- Operar leitura e recomendação com proveniência completa.
- Testar a integração real via dry-run e diff determinístico.
- Ativar aprovações vinculadas ao payload, rollback e resposta a incidentes.
- Conceder envelope autônomo estreito a uma coorte representativa.
- Revisar outcomes, exceções e controles; promover ou rebaixar por regra.
Nem toda ação precisa se tornar autônoma. Escritas raras, irreversíveis ou muito contextuais podem manter aprovação individual. A escada ainda melhora recomendação e execução.
A decisão executiva
A governança se torna concreta quando líderes aprovam contratos de ação, não “agentes”. O orçamento segue outcomes mensuráveis, o risco é discutido por escopo, reversibilidade e evidência, e Tecnologia compara modelos do pool elegível sem redesenhar autoridade.
O princípio: capacidade merece consideração; evidência merece permissão; ownership sustenta autoridade.