跳到正文

评测基准

模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化的持续记录。

最新精选

第 1–20 条 · 共 42 条
10月31日周六
  1. Microsoft Research70

    微软从合成企业数据评估到真实 Microsoft Copilot AI 信心

    微软发布了行业评估数据生成平台,用于评估 Microsoft Copilot AI 的性能和安全性,该平台基于公开数据生成合成企业环境,并自动生成评估数据。

    推荐理由:微软通过构建行业评估数据生成平台,为 Microsoft Copilot AI 的评估提供了标准化基准,有助于提升企业对 AI 系统的信任。

10月29日周四
  1. InfoQ中文85

    谷歌发布 Gemini 4 Carbon:大模型新标杆,但普通开发者暂时无法使用

    谷歌发布新一代大模型 Gemini 4 Carbon,在多个领域性能提升,包括编程、长程智能体任务和网络安全。目前仅向部分网络安全专家开放,后续逐步扩大访问范围。

    推荐理由:谷歌发布了新一代大模型 Gemini 4 Carbon,在多个领域性能提升,但普通开发者暂时无法使用,引发对 AI 模型实际应用和成本效益的思考。

  2. IT之家85

    Artificial Analysis Intelligence Index v5 基准重构发布,DeepSeek V4.1 Flash 1017 取得最高成绩

    Artificial Analysis 发布 Intelligence Index v5,重构基准,DeepSeek V4.1 Flash 1017 在 FrontierCode 2.0 上取得最高成绩,反映开源与闭源模型差距。

    推荐理由:该基准重构关注了编码能力的评价,DeepSeek V4.1-Flash 1017 在 FrontierCode 2.0 上取得最高成绩,反映了开源与闭源模型之间的差距变化。

10月28日周三
  1. The Decoder65

    新人工智能分析指数扩大了开放模型与封闭模型之间的差距

    人工智能分析对智能指数进行了更新,导致 Kimi K3.1 Pro 在排名中下降五个位置。该模型最初在第四位,但在第五版中降至第九位,落后于八个封闭模型。人工智能分析现在将开放模型与排行榜顶部之间的差距定为 12 分,比之前增加了 3 分。

    推荐理由:原文分析了开放模型与封闭模型在评测中的差距,读者可以了解评测方法的变化及其对模型排名的影响。

  2. Show HN65

    LLM Verifications 发布大型语言模型评测排行榜

    LLM Verifications 发布了包含 78 个模型和 80 个问题的评测排行榜,对多个大型语言模型在准确性、速度、延迟和成本方面进行了比较。

    推荐理由:该评测提供了多个大型语言模型在准确性、速度、延迟和成本方面的比较,有助于读者了解不同模型的特点和适用场景。

  3. AWS Machine Learning Blog65

    Property Finder 通过 Amazon Bedrock 优化模型评估和选择

    Property Finder 发现其评估标签存在偏差,导致模型比较失去有效性。通过在 Amazon Bedrock 上应用进化提示优化,实现了更高的准确性和更低的成本。

    推荐理由:Property Finder 通过识别评估偏差、构建无偏见的真实标签和应用于 Amazon Bedrock 的进化提示优化,实现了更高的准确性和更低的成本。读者可以从中学习到如何在自己的工作负载中应用这些方法。

10月27日周二
10月26日周一
10月24日周六
  1. Simon Willison65

    Kimi K3.1 Pro 发布:性能评测与开源承诺

    Kimi K3.1 Pro 已在 Kimi API 上发布,提供高速版本,定价与 GPT-6.1 Sol 相同,但速度更快。Moonshot 承诺将在 11 月 4 日发布完整模型权重。Kimi 在评测中表现出色,接近 Claude Opus 5.5 和 GPT-6 Astra 的水平。

    推荐理由:Kimi K3.1 Pro 的发布和性能评测为读者提供了了解大型语言模型最新进展的机会。

10月21日周三
  1. InfoQ中文85

    OpenAI 研究展示 AI 在代码迁移方面的进展

    OpenAI 发布了针对低资源编程语言的研究,展示了 GPT-6.1 Sol 在 COBOL 代码迁移评测中的准确率提升至 97.9%,并公布了 MultiLangBench 评测代码与测试套件。

    推荐理由:OpenAI 的研究展示了 AI 在代码迁移方面的进展,读者可以了解 AI 如何帮助理解和迁移老代码,以及其在企业系统改造中的应用潜力。

10月19日周一
10月16日周五
  1. The Decoder75

    Google DeepMind 的 Gemini 4 Argon 模型在 ARC-AGI-3 基准测试中取得优异成绩

    Google DeepMind 的 Gemini 4 Argon 模型在 ARC-AGI-3 基准测试中取得了 97.5% 的成绩,成为继 OpenAI 后第二个突破 95% 阈值的 AI 实验室。该模型在多个基准测试中表现出色,但在数学和软件工程领域仍需提升。

    推荐理由:原文详细介绍了 Google DeepMind 的 Gemini 4 Argon 模型在 ARC-AGI-3 基准测试中的表现,读者可以了解该模型在通用问题解决方面的最新进展。

  2. Show HN65

    StarSkirmish Bench v0.2 评测:大型语言模型在 StarCraft 游戏中的表现

    StarSkirmish Bench v0.2 评测了多个大型语言模型在 StarCraft 游戏中的表现,GPT-6 Astra 表现最佳,Gemini 4 Argon 和 Claude Opus 5.5 紧随其后。

    推荐理由:StarSkirmish Bench v0.2 对比了多个大型语言模型在 StarCraft 游戏中的表现,为读者提供了关于不同模型在复杂任务中表现的数据和见解。

10月15日周四
  1. The Decoder60

    OpenAI 将发布至少一个模型,但其旗舰产品仍需对齐工作

    OpenAI 正在开发新的旗舰模型,该模型使用与 Astra 相同的循环 Transformer 技术,但需要进行对齐工作以确保其目标与 OpenAI 的研究人员和客户的期望相符。此外,该模型还需要加强测试基础设施,并接受美国政府的安全评估。

    推荐理由:OpenAI 正在开发新的旗舰模型,该模型使用与 Astra 相同的循环 Transformer 技术,但需要进行对齐工作以确保其目标与 OpenAI 的研究人员和客户的期望相符。此外,该模型还需要加强测试基础设施,并接受美国政府的安全评估。

10月13日周二
  1. Microsoft Research45

    StudentSim:通过模拟学生学习行为改进 AI 辅导系统

    微软研究团队开发的 StudentSim 系统能够模拟学生学习行为,为 AI 辅导系统的研发提供评估和改进方法,有助于加速 AI 辅导系统的迭代和优化。

    推荐理由:StudentSim 通过模拟学生学习行为,为 AI 辅导系统的研发提供了一种新的评估和改进方法,有助于加速 AI 辅导系统的迭代和优化。

10月9日周五