开源中国·· 2026-09-29精选AI 评分71
Jeff 开源发布:22 毫秒出决策的小模型,0.8B 微调在 benchmark 上逼近 Jev
Jeff 开源发布:22 毫秒出一次决策的小模型、0.8B 微调在 benchmark 上逼近 Jev
AI 导读
开源项目 Jeff 发布,定位为专做快速决策的小模型,基于 Qwen3.5 和 Gemma 4 微调,作为 zero-shot 分类器一次前向计算即返回每个选项的校准概率,不生成文本、无需解析。在 RTX PRO 6000 上约 22 毫秒出一次决策,并支持 Apple M4 Max(MLX)。其 0.8B 微调版本在 benchmark 上逼近 Jev。
推荐理由
开源小模型把决策任务做成零样本分类,给出延迟与基准对比,便于判断端侧快速决策的可行性。
来源:开源中国 · oschina.net