穿越框架迭代与模型进化的系统性工程指南。
目的是弥补特定模型的短板。例如:窗口小做切块、不认工具写正则解析。
解决一个智能体在真实业务环境工作时的普遍问题。例如:上下文管理、控制流。
工程师的真正价值在于:用手里确定性的代码,去包裹住模型那不确定的推理过程。
在 Agent 开发中,上下文中混杂着提示词、历史与环境信息,它不是数据,上下文就是程序逻辑本身。
不能用传统的流水线思维。模型是棋子,工程师控制它走的范围(设定边界)。
盲目的 Retry 对幻觉无效,因为错误是结构性的(缺知识)。
过去的监控大屏给人类看,现在的反馈给模型看。闭环修正无需人工。
就像 CPU 性能提升了几百万倍,我们并没有淘汰操作系统。相反,底层算力越恐怖,就越需要庞大复杂的 OS 去调度。
未来物理世界依旧杂乱无章(接口超时、服务宕机),在这个模型永远无法自己获取物理世界实时全貌的环境里,工程师搭桥的能力只会越发金贵。