Agentes de IA com autonomia: quem responde quando eles erram?

Os agentes de IA já estão trabalhando dentro das empresas. Uma pesquisa do IDC de julho de 2026 indica que 95% das organizações têm ao menos um fluxo de trabalho com agente em produção, e quase uma em cada quatro já tem mais de quinze [1]. A pergunta deixou de ser se a empresa vai usar agentes. Ela agora é outra: até onde o agente pode ir sozinho, e quem responde quando ele vai?

As duas casas de análise mais citadas do mercado respondem de formas que, à primeira vista, parecem opostas. Vale ler as duas com atenção, porque é na tensão entre elas que está a forma certa de operar agentes.

Em resumo

• Os agentes de IA já agem sozinhos: 95% das organizações têm ao menos um fluxo com agente em produção, segundo o IDC [1].
• A autonomia total ainda não está pronta: o Gartner recomenda implantações semiautônomas e projeta que mais de 40% dos projetos de agentes serão cancelados até 2027 [2].
• A autonomia deve ser dada por ação, na medida do risco: o agente faz sozinho o que tem volta, propõe o que exige julgamento, e o que não tem volta passa por duas pessoas.
• A responsabilidade não se transfere ao agente: o dever de quem administra é fiduciário, e o registro do que o agente fez é a prova da diligência de quem responde [14].

Duas leituras do mesmo mercado

O IDC define a categoria pela autonomia. Na avaliação que publicou em outubro de 2026, uma plataforma de IA agêntica é o sistema que permite construir, implantar, governar e orquestrar agentes capazes de raciocinar, decidir e executar tarefas de várias etapas sem supervisão humana contínua [1]. A mesma definição, porém, exige que pessoas e agentes trabalhem juntos nos processos do negócio, com escalonamento e passagem de bastão para a pessoa quando for preciso.

O Gartner põe o freio no mesmo ponto. No Hype Cycle de IA Agêntica de 2026, a leitura é que agentes totalmente autônomos ainda não estão prontos para a maioria dos casos corporativos, que a supervisão humana continua essencial e que as empresas devem planejar implantações semiautônomas [2]. No Hype Cycle de IA de 2026, o Gartner projeta que mais de 40% dos projetos de agentes serão cancelados até 2027, por custo, valor pouco claro e falhas na gestão de risco [2].

Os números de adoção também divergem. O Gartner fala em 17% das organizações com agentes implantados e 42% esperando implantar em doze meses [2]; o IDC fala em 95% com algum fluxo de agente em produção [1]. As pesquisas têm datas, amostras e definições diferentes (um fluxo com agente não é o mesmo que um agente implantado), e por isso os números não se anulam. Eles mostram um mercado que experimenta muito e ainda escala pouco.

Lidas juntas, as duas fontes dizem a mesma coisa: o valor está na autonomia, e a autonomia só escala quando alguém consegue explicar, limitar e responder pelo que o agente faz.

A nossa tese

A forma como operamos agentes cabe numa frase: autonomia que cresce com prova, dentro de regras que a empresa define, e uma pessoa que sempre responde.

Na prática, isso tem três partes.

A autonomia é dada por ação, na medida do risco. Conferir documentos, montar um dossiê ou checar estoque são ações reversíveis e de baixo risco; o agente pode fazê-las sozinho, com registro de cada passo. Liberar um crédito acima da política ou enviar dados pessoais a um parceiro são ações de outra natureza; nelas o agente para, propõe e uma pessoa decide. Uma ação que não tem volta exige duas pessoas.

A autonomia sobe com evidência e desce sozinha. Quando o histórico de uma ação mostra que o agente acerta dentro dos limites, a pessoa responsável pode pedir mais autonomia para ela, e outra pessoa decide. Se o agente estoura os limites de forma repetida, se o comportamento dele muda ou se o responsável deixa de responder por ele, o nível cai sem esperar ninguém. Ampliar exige decisão humana; reduzir é automático.

Toda autonomia tem dono. O agente age sempre em nome de alguém com autoridade sobre aquele trabalho. Se essa pessoa sai, a autonomia do agente sai com ela, até que outra pessoa assuma. A responsabilidade nunca fica com o agente nem com o fornecedor da ferramenta.

Isso se traduz em quatro resultados que a diretoria acompanha juntos: produtividade (o que o agente faz sozinho), orçamento (o custo dos agentes posto ao lado do ganho medido), controles e riscos (o que fica de fora do limite e por quê) e autoridade responsável (quem delegou, quem decidiu e com que prova).

Por que a responsabilidade não se delega

Há três razões, em ordem crescente de peso.

A regulação. O Regulamento Europeu de IA exige que sistemas de alto risco possam ser efetivamente supervisionados por pessoas, que essas pessoas consigam interpretar o resultado, decidir não usá-lo, revertê-lo e interromper o sistema com segurança [3]. No Brasil, a LGPD dá ao titular o direito de pedir revisão de decisões tomadas só com base em tratamento automatizado e de receber informação clara sobre os critérios usados [4]. Setores como crédito, saúde e seguros somam regras próprias a esse mínimo.

As normas de gestão. O NIST AI Risk Management Framework põe a responsabilização no centro da função de governança: papéis, responsabilidades e linhas de autoridade definidos para os riscos de IA [5]. A ISO/IEC 42001 pede um sistema de gestão de IA com papéis atribuídos, avaliação de impacto e controle sobre o ciclo de vida dos sistemas [6]. O Gartner, na sua leitura de AI TRiSM, insiste que políticas escritas não bastam: a governança precisa estar embutida e ser aplicada continuamente, durante a execução [7].

A auditoria. A pergunta que chega ao conselho, ao auditor e ao regulador é sempre a mesma: quem decidiu, com que informação e com que autorização? Um agente não assina essa resposta. Uma pessoa assina, e precisa ter a prova na mão.

Os contrapontos, levados a sério

Uma tese só se sustenta se aguenta as objeções mais fortes. Estas são as cinco que mais ouvimos.

1. “Supervisão humana não escala. Vira carimbo.”

É verdade, e a literatura é antiga. Parasuraman e Manzey mostraram que pessoas diante de sistemas automatizados tendem à complacência e ao viés de automação: aceitam a recomendação sem examiná-la, sobretudo quando o sistema costuma acertar [8]. O Regulamento Europeu de IA cita esse viés pelo nome e exige que quem supervisiona seja capaz de reconhecê-lo [3].

A resposta é não pôr a pessoa para revisar a rotina. Se o agente pode agir sozinho dentro dos limites, a pessoa entra só no que sai deles, e o volume de revisão cai para o que de fato merece atenção. Nas decisões mais sensíveis, a pessoa registra a própria avaliação antes de ver a recomendação do agente, para que a recomendação não decida por ela. Supervisão que vira carimbo é sinal de que o limite está mal desenhado.

2. “Autonomia incremental é lenta. Quem der autonomia total chega antes.”

Chega antes ao cancelamento, se o Gartner estiver certo sobre os 40% [2]. O incremento que defendemos não é uma fila; ele é por ação e proporcional ao risco. Uma ação reversível pode ganhar autonomia rápido; uma ação sem volta talvez nunca ganhe. O IDC registra que 69% das organizações priorizam agentes especializados em tarefas e processos específicos [1], que é exatamente o terreno onde dá para medir e liberar autonomia ação por ação.

3. “Governança é custo. Atrasa o valor.”

Os dados apontam o contrário. Os três maiores desafios citados ao IDC são a transparência e explicabilidade dos resultados (37%), o custo de implantação e integração (36%) e a gestão da mudança cultural (34%) [1]. O Gartner lista observabilidade, cibersegurança e controle proativo de custo como prioridades diante da adoção rápida [2]. Para entrar na avaliação do IDC, a governança é a única capacidade obrigatória, e a medição de valor é uma das onze avaliadas [1]. Sem governança, a empresa não sabe o que o agente fez nem quanto ele custou. Sem saber isso, não consegue provar o retorno, e o projeto entra na estatística dos cancelados.

4. “A lei não exige um humano em tudo.”

Correto. O Regulamento Europeu de IA exige supervisão humana para os sistemas de alto risco, não para todos [3]. A LGPD, desde a alteração de 2019, assegura o direito à revisão de decisões automatizadas, mas não exige que essa revisão seja feita por uma pessoa [4]. A nossa posição não se apoia no mínimo legal. Ela se apoia na responsabilidade corporativa: alguém precisa responder ao conselho, ao cliente e ao auditor pelo que foi feito em nome da empresa, com ou sem obrigação legal específica.

5. “As grandes plataformas já governam agentes.”

Também é verdade, e o IDC mostra o mercado convergindo de várias direções: fornecedores de aplicações corporativas, de automação, de dados, de nuvem e de modelos [1]. Várias dessas plataformas já governam agentes próprios e de terceiros. Duas coisas, porém, continuam em aberto para muitas empresas. A primeira é onde o agente roda: o IDC registra que 42% das organizações miram nuvem privada e 34% servidores próprios para seus agentes [1], e nem toda plataforma oferece isso. A segunda é quem responde por cada caso: governar o acesso do agente é diferente de ter uma pessoa com nome, autoridade e prova para cada ação que ele toma.

Como isso aparece na operação

O melhor teste da tese é levá-la aonde o erro custa mais. Nos três casos abaixo, todos ilustrativos, a mesma regra se repete. O agente faz sozinho o que é rotina e tem volta. Ele propõe o que exige julgamento, e uma pessoa decide. O que não tem volta passa por duas pessoas. A autonomia é liberada degrau por degrau, na medida do risco de cada ação, e cada caso tem um dono com nome.

Crédito: a decisão que a lei manda explicar

Uma financeira recebe pedidos de crédito pessoal e de capital de giro toda manhã. A gerente de crédito é a dona do caso: define quanto os agentes podem custar, o que fazem sozinhos e o efeito esperado, que é aprovar mais pedidos bons sem aumentar a inadimplência.

• O agente faz sozinho: monta o dossiê de cada pedido (cadastro, renda, consulta de crédito, documentos), confere as informações e calcula os indicadores da política. Cada passo deixa registro, e nenhum deles move dinheiro.
• O agente propõe, uma pessoa decide: a concessão. Quando o tomador é pessoa física, a avaliação de crédito está entre os usos de alto risco do Regulamento Europeu de IA [9], e a LGPD dá ao cliente o direito de pedir revisão da decisão automatizada que define o seu perfil de crédito e de saber os critérios usados [4].
• Duas pessoas: a exceção à política, como um limite acima do que a política permite. Depois do desembolso, não há volta.
• Como a autonomia cresce e cai: com o histórico, a renovação de limite de clientes em dia, dentro da política, pode passar a sair sozinha, se a gerente pedir e outra pessoa aprovar. O cliente continua podendo pedir revisão, e a gerente continua respondendo por cada renovação. Se o desempenho dessas renovações cair abaixo do que a política aceita, a autonomia volta a ser só de proposta, sem esperar ninguém.

Saúde: aprovar pode, negar nunca

Uma operadora de plano de saúde recebe milhares de pedidos de autorização de exames e procedimentos por dia. O dono do caso é o médico responsável pela regulação assistencial.

• O agente faz sozinho: confere cobertura do contrato, carência e documentos do pedido, e autoriza os exames de rotina quando todos os critérios do contrato batem. Os dados de saúde são dados pessoais sensíveis na LGPD [4], e os limites do agente definem também quais dados ele pode consultar.
• O agente propõe, uma pessoa decide: qualquer negativa. O agente pode aprovar o que cumpre os critérios, mas nunca nega sozinho. A negativa vai para um médico auditor, que decide e assina a justificativa. As regras da ANS exigem que a negativa seja dada por escrito, com o motivo e a cláusula ou norma que a fundamenta, e asseguram ao beneficiário o pedido de reanálise [12].
• Duas pessoas: a negativa de procedimento de alto custo ou de tratamento continuado, como o oncológico, em que o efeito sobre o paciente pode ser grave e difícil de reverter. O médico auditor decide, e uma segunda revisão clínica confirma.
• Como a autonomia cresce e cai: as autorizações automáticas podem se estender a novos tipos de exame conforme o histórico mostrar acerto. Se a auditoria encontrar autorizações indevidas acima do que a operadora aceita, o agente volta a propor naquele tipo de pedido.

Riscos e compliance: a comunicação que não tem volta

Um banco monitora milhões de transações por mês para prevenir lavagem de dinheiro. O dono do caso é o diretor responsável pela prevenção à lavagem de dinheiro, função que a regulação do Banco Central exige que a instituição designe [11].

• O agente faz sozinho: monitora as transações, cruza com o cadastro e com as listas restritivas, e monta o dossiê de cada alerta com o histórico do cliente.
• O agente propõe, uma pessoa decide: encerrar um alerta como falso positivo ou classificá-lo como suspeito. O analista decide e registra o motivo.
• Duas pessoas: a comunicação ao Coaf. Ela não tem volta, e a lei proíbe dar ciência dela a qualquer pessoa, inclusive ao cliente [10]. O agente prepara a comunicação para caber no prazo de 24 horas que a lei impõe, mas quem envia são duas pessoas, e o agente nunca fala com o cliente sobre o alerta.
• Como a autonomia cresce e cai: com o histórico, o encerramento de alertas de um padrão conhecido e de baixo risco pode sair sozinho. Se uma revisão mostrar que um alerta foi encerrado indevidamente, a autonomia daquela ação cai na hora, e o padrão volta para o analista.

Nos três casos, a pergunta “quem decidiu?” tem sempre um nome, e a autonomia que o agente tem hoje é a que o histórico dele justificou. O custo dos agentes fica ao lado do ganho medido, e quem fecha a conta é a empresa.

Como esses limites se aplicam a agentes de várias plataformas está em O décimo deploy não se redesenha e na arquitetura de agentes da Arcogi.

Onde isso está no mapa do mercado

No Hype Cycle de IA Agêntica de 2026, a governança e a segurança de IA agêntica aparecem perto do pico de expectativas, enquanto o espaço de colaboração entre pessoas e agentes e os agentes guardiões ainda estão no início da curva [2]. No Hype Cycle de Tecnologias Emergentes de 2026, a primeira prioridade apontada aos CIOs é distribuir as decisões entre pessoas e máquinas autônomas, equilibrando inovação com supervisão humana e prontidão da organização [2]. Em outras palavras: o mercado já entendeu que precisa governar agentes, e está começando a desenhar como pessoas e agentes trabalham juntos. É nessa segunda parte que a responsabilidade se decide.

O ponto: autonomia não exclui a responsabilidade

A autonomia dos agentes é o que gera produtividade, e por isso ela vai crescer. Mas autonomia não é exclusão da responsabilidade humana. Dar autonomia a um agente é uma decisão de alguém, e quem decide responde pelo que decidiu.

Errar é humano, e os agentes também erram. Eles erram de outro jeito: um modelo de linguagem pode produzir uma resposta falsa com toda a aparência de certa, e o NIST lista essa confabulação entre os riscos próprios da IA generativa [13]. Por isso a pergunta útil não é quem erra menos, a pessoa ou o agente. A pergunta útil é se o erro aparece a tempo, se dá para desfazê-lo e se alguém responde por ele. Os limites por risco, o registro de cada ato e a autonomia que cai sozinha existem para que as três respostas sejam sim.

A responsabilidade de quem administra uma empresa é fiduciária. A Lei das Sociedades por Ações exige do administrador o cuidado e a diligência que uma pessoa ativa e honesta emprega nos próprios negócios, e lealdade à companhia [14]; o Código Civil exige o mesmo cuidado dos administradores das demais sociedades [15]. Esse dever não se transfere a uma ferramenta, a um fornecedor ou a um agente. Quem delega trabalho ao agente continua respondendo pelo resultado.

Há um lado desse dever que costuma passar despercebido. A mesma Lei das Sociedades por Ações permite que o juiz exclua a responsabilidade do administrador que agiu de boa-fé e no interesse da companhia [14]. Quando um agente erra, o que mostra a boa-fé e a diligência de quem responde é a prova: o limite que estava definido, o registro do que o agente fez, quem autorizou e por quê. A governança dos agentes, portanto, protege também a pessoa que responde por eles.

A questão, então, é se a autonomia cresce com prova, dentro de regras que a empresa entende e com alguém que responde, ou se cresce no escuro até o primeiro incidente.

O agente age. A pessoa responde.

Fundamentos e leituras

1. IDC. IDC MarketScape: Worldwide Agentic AI Platforms 2026 Vendor Assessment. Neil Ward-Dutton e Melih Murat. IDC #US54140926, outubro de 2026 (excerto IDC #US54140926e). Pesquisa IDC de julho de 2026 citada no documento. acessar
2. Gartner. See 3 of the Most Popular Gartner Hype Cycles: Hype Cycle for Agentic AI (2026), Hype Cycle for Artificial Intelligence, 2026, e Hype Cycle for Emerging Technologies, 2026. Gartner, 2026. acessar
3. União Europeia. Regulamento (UE) 2024/1689 (Regulamento de Inteligência Artificial), art. 14, Supervisão humana. acessar
4. Brasil. Lei nº 13.709/2018 (LGPD), art. 11 (dados sensíveis) e art. 20 (revisão de decisões automatizadas), com a redação da Lei nº 13.853/2019. acessar
5. NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1, janeiro de 2023, função GOVERN. acessar
6. ISO/IEC 42001:2023. Information technology. Artificial intelligence. Management system. acessar
7. Gartner. AI Trust, Risk and Security Management (AI TRiSM), artigo em gartner.com/en/articles/ai-governance-trism. acessar
8. Parasuraman, R.; Manzey, D. H. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410, 2010. acessar
9. União Europeia. Regulamento (UE) 2024/1689, Anexo III, ponto 5, alíneas b e c (avaliação de crédito de pessoas físicas; risco e preço em seguros de vida e saúde). acessar
10. Brasil. Lei nº 9.613/1998, art. 11, II, com a redação da Lei nº 12.683/2012 (comunicação ao Coaf em 24 horas, sem dar ciência a qualquer pessoa). acessar
11. Banco Central do Brasil. Circular nº 3.978/2020 (política, procedimentos e controles internos de prevenção à lavagem de dinheiro e ao financiamento do terrorismo). acessar
12. ANS. Resolução Normativa nº 623/2024 (atendimento ao beneficiário; revogou a RN nº 395/2016), em vigor desde 1º de julho de 2025. acessar
13. NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1, julho de 2024 (risco de confabulação). acessar
14. Brasil. Lei nº 6.404/1976 (Lei das Sociedades por Ações), arts. 153 (diligência), 154, 155 (lealdade), 158 e 159, § 6º. acessar
15. Brasil. Lei nº 10.406/2002 (Código Civil), art. 1.011. acessar