跳转到正文
运行篇约 1 分钟
打开原图 ↗

第 09 章 AI 网关与统一流量治理 ​

本章先读《AI 网关与统一流量治理综述》,了解 LLM、MCP 和 Agent 三类流量在身份、权限、预算、路由、审计与审批上的边界,以及网关怎样与执行端点、可观测性和评估联动。

《智能路由:如何利用便宜模型提升智价比》从 HiRoute 的实验与实际会话出发,讨论怎样在自己的任务里判断经济模型能否胜任、什么时候切换模型,以及怎样保留证据、回放调整,再逐步扩大经济模型的使用范围。

《把主力模型用在刀刃上:一个月 300 亿 Token、31 万行 Rust 背后的 AI Coding 实践》记录了用 HiRoute 开发 HiRoute 的实践,介绍按任务阶段选择模型、用测试与人工反馈兜底、委派独立支线,以及通过真实会话复盘和历史回放调整路由。

  1. 01AI 网关与统一流量治理综述 →
  2. 02智能路由:如何利用便宜模型提升智价比 →
  3. 03把主力模型用在刀刃上:一个月 300 亿 Token、31 万行 Rust 背后的 AI Coding 实践 →

发现问题或有实践经验想分享? 参与本书讨论 ↗

面向企业级 Agent 的开源白皮书