架构师之路·· 5 天前AI 评估 · 36/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
大模型没有记忆、token就是钱、上下文窗口就是天花板:Agent 架构设计的三个基石
大模型没有记忆,token就是钱,上下文窗口就是天花板(1/12)
AI 导读
大模型每次调用都是无状态独立请求,所谓"记忆"是 Agent 每轮把历史聊天记录重新打包塞回上下文实现的。token 是模型理解、生成与计费的最小单位,同样意思中文通常比英文更费 token,Agent 类交互的 token 消耗约为普通聊天的 4 倍,多 Agent 系统可达 15 倍。
来源:架构师之路 · mp.weixin.qq.com