llm-cascade
Uma camada entre a aplicação e os provedores de IA.
Roteamento por tarefa, fallback e registro de modelo e custo. O exemplo de agentes define planejador, executor e revisor com contratos JSON e até três chamadas ao roteador.
- Problema
- Dependência de um provedor e falhas pouco observáveis.
- Evidência
- Demo determinística, testes de rejeição e saídas inválidas; CI em Python 3.10–3.12.
python examples/agent_workflow.py --demoFixtures offline. Não mede a qualidade de modelos reais.
Ver o fluxo ↓