Defina a ação que exige a sua aprovação
O panorama: Imagine um agente que prepara propostas comerciais. Ele pode buscar informações autorizadas, organizar uma versão e apontar o que falta. Enviar a proposta ao cliente é outra decisão, com consequência fora do rascunho.
Os detalhes:
- A proposta de controle empresarial da Anthropic ajuda a trazer o debate para a operação: acesso, registros e revisão precisam ter responsáveis. A aplicação que proponho aqui é mais simples e não depende de adotar essa solução específica.
- Escreva três grupos de ações para uma tarefa. O que o agente pode consultar, o que pode alterar sozinho e o que exige confirmação. Depois apresente uma situação ambígua, como um desconto não aprovado, e observe se ele interrompe a execução para pedir contexto.
Por que importa: O resultado esperado desse exercício é uma regra compreensível, não um selo de segurança. Se você não consegue explicar onde o agente deve parar, a equipe também terá dificuldade para perceber quando ele passou do limite. Essa definição vale antes de conectar email, pagamentos ou informações de clientes.
