Toda plataforma de agentes anuncia "human-in-the-loop". Poucas explicam onde o humano entra, e a diferença entre um desenho bom e um ruim é a diferença entre um agente que opera e um agente que gera fila para uma pessoa aprovar. Este texto trata do onde e do como.
Vale começar pelo que não é. Supervisão humana não é rede de segurança para agente imaturo, a ser removida quando ele "ficar bom". É parte permanente do desenho, pelo mesmo motivo que um gerente aprova desconto acima de um valor: não porque o vendedor é ruim, mas porque a decisão tem consequência que exige outra alçada.
Onde colocar: os quatro critérios
A pergunta não é "esse agente precisa de supervisão", e sim "esta ação precisa". Ação por ação, quatro critérios decidem.
1. Irreversibilidade
Consultar um pedido é reversível: se errou, consulta de novo. Cancelar o pedido não é. Enviar uma mensagem ao cliente não é. Emitir uma nota não é. Quanto mais difícil desfazer, mais forte o argumento para uma pessoa aprovar antes.
2. Valor
Um desconto de 2% e um desconto de 30% são a mesma ação com consequências diferentes. O limite por valor é a régua mais simples e a mais eficaz: o agente decide sozinho até um teto, e acima dele espera aprovação. O teto é decisão de negócio, não de engenharia, e pode ser diferente por área.
3. Dado sensível
Ação que envolve dado de saúde, financeiro ou de menor pede alçada humana independentemente do valor, porque o erro tem consequência regulatória além da operacional.
4. Exigência legal
Decisão que afeta o titular e é tomada só por processamento automatizado dá a ele o direito de pedir revisão humana (art. 20 da LGPD). Aprovar crédito, negar cobertura, classificar risco: nesses casos o caminho de revisão não é opção de desenho, é obrigação. O post sobre governança e LGPD trata disso.
A maior parte das ações de um agente não passa em nenhum dos quatro critérios, e é por isso que ele existe. Supervisão que se aplica a tudo não é cuidado: é a fila de antes, com um agente na frente.
Como colocar: os três modos
| Modo | Como funciona | Quando usar |
|---|---|---|
| Aprovar antes | O agente prepara a ação e para. Uma pessoa aprova, ajusta ou recusa. Só então a ação acontece. | Irreversível, acima do teto de valor, dado sensível. É o modo mais seguro e o mais caro em tempo. |
| Revisar depois | O agente age. Uma amostra das ações é revisada por pessoa, com prazo. Erro encontrado vira ajuste. | Ações de baixo risco e alto volume. É o que mantém a qualidade sem criar fila. |
| Transferir | O agente reconhece que o caso não é dele e passa a conversa inteira, com contexto, a uma pessoa. | Fora de escopo, baixa confiança, pedido explícito do cliente, sinal de risco. |
Os três convivem no mesmo agente. Uma operação madura tem poucas ações em "aprovar antes", a maioria em "revisar depois", e um critério de transferência claro. O erro típico é ter tudo no primeiro modo, por medo, ou nada em nenhum, por pressa.
Como a pessoa não vira o gargalo
O risco de "aprovar antes" é óbvio: a pessoa vira fila. Um agente que gera trezentos pedidos de aprovação por dia não automatizou nada, só mudou quem digita. Quatro desenhos evitam isso:
- Teto por valor, e não aprovação universal. Se 90% das ações ficam abaixo do teto, 90% não geram fila. O teto começa baixo e sobe conforme a taxa de acerto do agente é comprovada.
- Aprovação em lote. A pessoa vê dez ações preparadas de uma vez, com o contexto de cada uma, e aprova em conjunto o que está certo. Uma tela, não dez notificações.
- Escalonamento por tempo. Se ninguém aprovou em determinado prazo, a ação vai para outra alçada ou é transferida, em vez de ficar parada até alguém lembrar.
- O pedido de aprovação carrega a decisão pronta. A pessoa não investiga; ela confirma. O agente entrega o que consultou, o que propõe e por quê. Aprovação que exige a pessoa refazer o trabalho não é supervisão, é retrabalho.
Transferência bem feita
O terceiro modo é o mais visível para o cliente e o mais frequentemente mal feito. Uma transferência boa tem três propriedades: acontece cedo (o agente reconhece o limite na primeira mensagem que o revela, não na quarta), vai para a fila certa (cobrança para cobrança, não para uma fila geral), e leva o contexto inteiro (o que o cliente disse, o que o agente consultou, o que já foi respondido). O cliente não repete nada, e a pessoa continua de onde o agente parou.
O sinal de que a transferência está mal desenhada é mensurável: conte quantas vezes o cliente pede uma pessoa antes de conseguir. Se a média passa de um, o critério de parada está errado.
O que medir
- Ações aprovadas sem alteração. Se a pessoa aprova 98% do que o agente propõe sem mudar nada, o teto pode subir.
- Ações recusadas ou alteradas, por motivo. É onde está o aprendizado: cada recusa é um caso para o conjunto de teste.
- Tempo até a aprovação. Se sobe, a fila está se formando.
- Erros encontrados na revisão de amostra. Taxa que sobe é o sinal precoce de que o processo mudou.
- Pedidos de humano antes da transferência. A métrica de transferência bem desenhada.
Como a Runflow implementa
Na plataforma, a aprovação humana é configurada por tipo de ação, e não como um botão global: você aprova antes de o agente agir onde o risco exige, e o resto flui. No Conversation Hub, a transferência para pessoa acontece na mesma conversa, para a fila do departamento certo, com o histórico inteiro, e a conversa pode voltar ao agente depois. Cada aprovação, recusa e transferência fica na trilha de execução, que é o que permite medir os itens acima e ajustar o teto com base em evidência.
Perguntas frequentes
O que é human-in-the-loop em agentes de IA?
É o desenho em que uma pessoa participa de decisões do agente em pontos definidos: aprovando uma ação antes de ela acontecer, revisando uma amostra do que foi feito depois, ou recebendo a conversa quando o caso sai do escopo. Não é rede de segurança temporária para agente imaturo; é parte permanente do desenho, pelo mesmo motivo que um gerente aprova desconto acima de um valor.
Quando um agente de IA precisa de aprovação humana?
A decisão é por ação, não por agente, e depende de quatro critérios: irreversibilidade (cancelar pedido, enviar mensagem, emitir nota), valor acima de um teto definido pelo negócio, envolvimento de dado sensível como saúde ou financeiro, e exigência legal, como decisões automatizadas que afetam o titular, para as quais a LGPD garante o direito de revisão humana. A maioria das ações não passa em nenhum critério, e é por isso que o agente existe.
Quais são os modos de supervisão humana em agentes de IA?
Três, que convivem no mesmo agente. Aprovar antes: o agente prepara e para até uma pessoa confirmar, indicado para ação irreversível ou acima do teto. Revisar depois: o agente age e uma amostra é revisada com prazo, indicado para baixo risco e alto volume. Transferir: o agente passa a conversa inteira com contexto a uma pessoa, quando o caso está fora do escopo, a confiança é baixa, o cliente pediu ou há sinal de risco.
Como evitar que a aprovação humana vire gargalo?
Com teto por valor em vez de aprovação universal, para que a maioria das ações não gere fila; aprovação em lote, com várias ações preparadas numa tela só; escalonamento por tempo, para que ação parada vá a outra alçada; e pedido de aprovação que carrega a decisão pronta, com o que foi consultado e o que se propõe, para que a pessoa confirme em vez de investigar.
Como saber se a transferência do agente para o humano está bem desenhada?
Contando quantas vezes o cliente pede uma pessoa antes de conseguir: se a média passa de um, o critério de parada está errado. Uma transferência boa acontece cedo, na primeira mensagem que revela o limite; vai para a fila do departamento certo; e leva o contexto inteiro, para que o cliente não repita nada e a pessoa continue de onde o agente parou.