Agentes de IA com segurança: ferramentas, permissões e aprovação humana
Um agente de IA é tão seguro quanto as ferramentas que pode chamar. Como limitar escopo, propagar permissões do usuário e exigir aprovação antes de efeitos reais.
Explicações técnicas sobre os problemas que encontramos ao construir sistemas complexos. Sem atalhos, com código quando ajuda.
Um agente de IA é tão seguro quanto as ferramentas que pode chamar. Como limitar escopo, propagar permissões do usuário e exigir aprovação antes de efeitos reais.
Ponto flutuante binário não representa 0,10 exatamente. Como representar dinheiro, escolher regras de arredondamento e dividir valores sem perder ou criar centavos.
A maior parte dos erros de um sistema RAG nasce na recuperação, não no modelo. Como montar um conjunto de avaliação e medir recall, MRR e fidelidade no CI.
Retentativas são inevitáveis em redes reais. Como implementar chaves de idempotência em uma API: armazenamento, concorrência, validação de payload e expiração.
Como projetar controles de risco que rodam antes de cada ordem: quais checagens incluir, em que ordem, como manter estado sem locks e por que falhar fechado.
Modelos não quebram com erro: perdem precisão em silêncio quando os dados mudam. Como monitorar deriva de entrada e de previsão, com PSI, e decidir quando retreinar.
Uma migração aparentemente simples pode travar uma tabela inteira em produção. Como evitar locks longos, usar expand/contract e criar índices e constraints com segurança.
Microsserviços resolvem problemas de escala e de organização, e criam outros de rede e consistência. Como estruturar um monólito modular que pode ser dividido depois.
Gravar no banco e publicar no broker são duas operações que falham separadamente. Como o padrão outbox resolve isso, com relay, ordenação e consumidores idempotentes.
Indexadores que tratam blocos recentes como definitivos acumulam dados órfãos. Como detectar reorganizações, fazer rollback e expor o nível de confirmação.
Contratos atualizáveis resolvem um problema e criam outros. Como funcionam os proxies, os erros de armazenamento mais comuns e a governança que um upgrade exige.
Vazamento de dados faz um modelo brilhar na validação e falhar em produção. Os tipos mais comuns, como detectá-los e como validar com dados temporais.