第 09 章 AI 网关与统一流量治理
本章先读《AI 网关与统一流量治理综述》,了解 LLM、MCP 和 Agent 三类流量在身份、权限、预算、路由、审计与审批上的边界,以及网关怎样与执行端点、可观测性和评估联动。
《智能路由:如何利用便宜模型提升智价比》从 HiRoute 的实验与实际会话出发,讨论怎样在自己的任务里判断经济模型能否胜任、什么时候切换模型,以及怎样保留证据、回放调整,再逐步扩大经济模型的使用范围。
《把主力模型用在刀刃上:一个月 300 亿 Token、31 万行 Rust 背后的 AI Coding 实践》记录了用 HiRoute 开发 HiRoute 的实践,介绍按任务阶段选择模型、用测试与人工反馈兜底、委派独立支线,以及通过真实会话复盘和历史回放调整路由。