跳到正文

#评测/基准

今日 2 条
10月10日周六
10月9日周五
  1. TechCrunch · AI62

    AI 排行榜 Arena 完成 2 亿美元 B 轮融资,估值 10 个月翻倍至 31 亿美元

    AI 模型众包排行榜 Arena 完成 2 亿美元 B 轮融资,估值达 31 亿美元,由 Lightspeed Venture Partners 和 Khosla Ventures 领投,Salesforce Ventures、01 Advisors、Dell Technologies Capital、Endeavor Catalyst、a16z、Felicis 等参投。

    推荐理由:Arena 在模型刷榜争议中把社区投票做成企业评估生意,其估值与营收变化可作为观察 AI 评测商业化的一手样本。

  2. Show HN42

    Show HN:Jevman——让 AI 决策模型玩 Pac-Man

    Jevman 让六个 AI 决策模型各与经典街机幽灵对战 100 局,并按平均得分排名,得分在彼此误差范围内即视为并列。该基准开源,任何部署在 HTTP 端点后的模型(托管模型、微调模型或本地运行的模型)都可参赛:游戏在每个路口以 JSON 发送迷宫状态并索取方向,每题限时 2 秒,超时由备用规则接管,每局三条命或 5 分钟封顶。提交结果经 CI 重放每局比赛核验得分后,以自报成绩加入排行榜。

  3. Show HN58

    Edge Delta 开源 AI SRE Arena,面向 Kubernetes 上 AI SRE Agent 的开放基准

    Edge Delta 在 GitHub 开源 Project Arena,一个面向 Kubernetes 上 AI SRE Agent 的厂商中立基准,可部署一次性集群、注入故障、导入任意产品的调查记录并用可配置的 AI 评委打分。

    推荐理由:开源基准把故障注入、调查记录导入和评分拆成独立步骤,读者可据此复现或对比不同 AI SRE 产品的调查能力。

10月8日周四
  1. Show HN62

    Favz 索引 GitHub 上 16.6 万个 AI 智能体配置

    Favz 抓取公开 GitHub 仓库中签入的 AI 智能体配置,统计其中的 MCP 服务器、技能与插件,目前已收录 166,014 个仓库(从 211,411 个中筛出),首次全量扫描于 2026-10-07 完成。

    推荐理由:基于 16.6 万个公开仓库的配置统计,给出 MCP 服务器、技能与插件的真实采用分布,可对照自身技术选型。

  2. 量子位62

    UniPat AI 发布 PaperBenchX:GPT-6 Astra 论文完整复现率仅 13.98%

    UniPat AI 发布 PaperBenchX,这是国际上第一个多学科端到端论文结果复现的 Benchmark,从 93 篇论文构建 93 个复现任务,横跨电磁、光子、化学、材料、生物、机器人等 12 个研究方向和 10 种领域原生科学环境,含 3168 条专家校验评分项。

    推荐理由:PaperBenchX 用 93 个跨学科复现任务量出 AI 与通用 AI 科学家之间的距离,并开源 12 个任务供复用。

  3. Simon Willison71

    Anthropic 发布 Claude Haiku 5.5,定价对齐 GPT-6 Luna

    Anthropic 发布快速低成本模型 Claude Haiku 5.5,定价为每百万 token 输入 0.10 美元、输出 0.50 美元,与 OpenAI 上月的 GPT-6 Luna 一致,但超过 100,000 token 后涨至 0.50/2.50 美元,而 Luna 在 272,000 token 后才涨到 0.20/0.75 美元。

    推荐理由:作者实测了 Haiku 5.5 的定价、tokenizer 与推理档位,并对比 GPT-6 Luna 给出不同用量下的成本差异。

  4. TechCrunch · AI62

    Common Sense Media 评测:ChatGPT for Teens 在心理危机中仍鼓励继续对话

    Common Sense Media 将 ChatGPT for Teens 评为“不可接受的风险”,其研究发现该产品的参与度设计“在危机情境中依然普遍存在”。

    推荐理由:Common Sense Media 对 ChatGPT for Teens 的实测显示,危机场景中的挽留话术与中断提醒失效,可作为评估青少年 AI 安全设计的参照。

10月7日周三
  1. Ask HN22

    Ask HN:如何使用和解读 OpenAI Decisions API

    有开发者用经典统计实验测试 OpenAI Decisions API,发现谓词式提问的概率结果接近理论值,例如硬币正面 70%、抽中红球 50%。但让它"选择一个结果"时出现偏差:红球真实概率 50% 时输出达 86%,且调整选项顺序会把该估计从 86% 变为 73%。该开发者据此询问如何在工作中信任并落地这类"System One"式分类器。

  2. The Decoder62

    Google 发布图像模型 Nano Banana 2.1,价格约为前代一半

    Google 发布图像生成与编辑模型 Nano Banana 2.1,取代 2026 年 2 月发布的 Nano Banana 2,价格约为前代一半:1K 图像从 6.70 美分降至 3.36 美分,4K 从 15.10 降至 7.56 美分。

    推荐理由:原文给出 Nano Banana 2.1 的定价对比与基准数据,读者可据此判断它在 Google 图像模型序列中的性价比位置。

  3. Simon Willison22

    Mistral Large 4 发布

    Mistral 推出新模型 Mistral Large 4,Simon Willison 用同一提示词让它与 Claude Opus 5.5、GPT-6.1-sol、Gemini 3.8 Flash 同台生成"穿渔网袜在火星乱穿马路的犰狳"SVG,以检验基准饱和后的模型表现。各模型均使用默认推理等级。

  4. Ask HN22

    Ask HN:为什么人人都成了 LLM 专家?

    Hacker News 上有人发问:为何新模型发布仅一小时后,就有评论者断言它是垃圾或史上最佳,而他们显然还没来得及深入测试。发帖者质疑人们是否盲目相信容易被操纵的 benchmark,还是只凭感觉,并追问该如何衡量一个模型比另一个更好。

  5. Microsoft Research18

    微软研究院 Jennifer Neville 谈 AI 的意外失败与评测边界

    微软研究院 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果超出预期时深入审视数据的重要性。

10月6日周二
  1. IT之家12

    IT早报 1006:华为与高通达成专利许可协议;DeepSeek V4.1 Flash 缩小中美模型 LiveBench 差距至 3%

    华为与高通达成覆盖 5G、AI、计算及网络技术的广泛专利许可协议,高通将收购华为部分美国专利,交易完成后华为专利许可累计总金额超 69 亿美元。DeepSeek 推出 V4.1 Flash 后,中国顶尖 AI 模型与美国领先模型的 LiveBench 跑分差距缩小至 3%。2026 上半年全球纯燃油车新车销量占比首次跌破 50%,降至 49%,电动汽车销量上涨 12%、占比达 17%。

  2. Show HN71

    SelfBench 发布:用仓库自身已合并 PR 构建私有编码智能体基准

    SelfBench 是一个面向编码智能体的私有基准工具,把仓库已合并的 PR 还原成带隐藏测试的任务,再运行不同模型与 harness,按准确率和单任务成本绘制 Pareto 前沿。

    推荐理由:用仓库自身已合并 PR 生成带隐藏测试的私有基准,并按准确率与成本画出 Pareto 前沿,为选型提供可复现依据。

  3. GitHub Blog · AI & ML52

    GitHub 发布 ReviewBench:面向 AI 代码审查的开放基准

    GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的开放离线基准,研究预览版已上线官网。基准基于 1.039 亿个 GitHub pull request 的分布构建,包含 19 种语言、187 个开源仓库的 219 个 pull request,采用多来源 golden set 与统一评分标准,发布前由资深工程师独立复核,一致率 96.6%。

    推荐理由:GitHub 公开了代码审查基准的构建方法与评测口径,读者可据此判断自家审查智能体的强弱与取舍。

  4. Simon Willison27

    Qwen3.8 27B 用英文单词做加法的基准测试

    Simon Willison 在 DGX Spark 上测试本地 Qwen3.8-27B-Q4_K_M.gguf 能否仅用英文单词表达整数加法结果。禁用推理时 5,070 个用例数值准确率仅 23.57%,一至三位数操作数从 97.04% 降至十至十三位数的 6.44%,格式合规率 96.17%。启用推理后 169 次配对测试答对 167 次。

10月5日周一
  1. Show HN62

    DoubtBench 发布:用人类分歧评测 System One 模型的不确定性

    DoubtBench 是一个基于 NVIDIA HelpSteer2 多人标注数据构建的基准,把标注者的分歧转化为约 7,500 道 Score、Choice 和 Noul 题目,同时考察模型答对率和概率是否与人类分歧对齐。

    推荐理由:DoubtBench 用 HelpSteer2 的多人标注衡量模型概率是否与人类分歧一致,并给出可复现的评测命令与榜单。