The Decoder· Jonathan Kemper·· 22 小时前AI 评分35
"Nvidia 研究团队认为巨大的 AI 上下文窗口是死胡同"
Nvidia researchers argue huge AI context windows are a dead end
AI 导读
Nvidia 研究团队指出,语言模型处理整个小说的上下文窗口往往过度且昂贵,周期性摘要和针对性查找在许多测试中效果相当。GPT-5.6 Sol 处理约一百万个 token,足以处理托尔斯泰的《战争与和平》。
来源:The Decoder · the-decoder.com