跳到正文
原文
The Decoder· Jonathan Kemper·· 22 小时前AI 评分35

"Nvidia 研究团队认为巨大的 AI 上下文窗口是死胡同"

Nvidia researchers argue huge AI context windows are a dead end

AI 导读

Nvidia 研究团队指出,语言模型处理整个小说的上下文窗口往往过度且昂贵,周期性摘要和针对性查找在许多测试中效果相当。GPT-5.6 Sol 处理约一百万个 token,足以处理托尔斯泰的《战争与和平》。

来源:The Decoder · the-decoder.com