Show HN· rhunterharris·· 28 天前精选AI 评分62
Cachetoast 发布:在提示缓存过期前拦截提示并生成新会话交接
Show HN: Cachetoast
AI 导读
Cachetoast 是一个面向编码智能体的本地工具,当会话至少 100k tokens 且空闲超过缓存 TTL 时,它会拦下你的下一条提示,避免智能体以未缓存输入的价格重读整个上下文,并给出在新会话继续的交接。
推荐理由
原文说明了提示缓存过期后重读上下文的成本机制,以及用本地交接在新会话继续的做法。
来源:Show HN · github.com