跳到正文

#评测/基准

今日 0 条
10月31日周六
  1. Microsoft Research70

    微软从合成企业数据评估到真实 Microsoft Copilot AI 信心

    微软发布了行业评估数据生成平台,用于评估 Microsoft Copilot AI 的性能和安全性,该平台基于公开数据生成合成企业环境,并自动生成评估数据。

    推荐理由:微软通过构建行业评估数据生成平台,为 Microsoft Copilot AI 的评估提供了标准化基准,有助于提升企业对 AI 系统的信任。

10月28日周三
  1. AWS Machine Learning Blog65

    Property Finder 通过 Amazon Bedrock 优化模型评估和选择

    Property Finder 发现其评估标签存在偏差,导致模型比较失去有效性。通过在 Amazon Bedrock 上应用进化提示优化,实现了更高的准确性和更低的成本。

    推荐理由:Property Finder 通过识别评估偏差、构建无偏见的真实标签和应用于 Amazon Bedrock 的进化提示优化,实现了更高的准确性和更低的成本。读者可以从中学习到如何在自己的工作负载中应用这些方法。

10月20日周二
10月13日周二
  1. Microsoft Research45

    StudentSim:通过模拟学生学习行为改进 AI 辅导系统

    微软研究团队开发的 StudentSim 系统能够模拟学生学习行为,为 AI 辅导系统的研发提供评估和改进方法,有助于加速 AI 辅导系统的迭代和优化。

    推荐理由:StudentSim 通过模拟学生学习行为,为 AI 辅导系统的研发提供了一种新的评估和改进方法,有助于加速 AI 辅导系统的迭代和优化。

10月7日周三
  1. Microsoft Research18

    微软研究院 Jennifer Neville 谈 AI 的意外失败与评测边界

    微软研究院 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在传统 benchmark 之外测试时出现的"意外失败"。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果超出预期时深入审视数据的重要性。

10月6日周二
  1. GitHub Blog · AI & ML52

    GitHub 发布 ReviewBench:面向 AI 代码审查的开放基准

    GitHub 发布 ReviewBench,一个面向 AI 代码审查智能体的开放离线基准,研究预览版已上线官网。基准基于 1.039 亿个 GitHub pull request 的分布构建,包含 19 种语言、187 个开源仓库的 219 个 pull request,采用多来源 golden set 与统一评分标准,发布前由资深工程师独立复核,一致率 96.6%。

    推荐理由:GitHub 公开了代码审查基准的构建方法与评测口径,读者可据此判断自家审查智能体的强弱与取舍。

9月23日周三
8月13日周四
  1. Microsoft Research39

    微软研究院发布 MindTopo 基准,揭示多模态模型拓扑推理短板

    微软研究院推出 MindTopo 基准,用于评估多模态大语言模型的拓扑推理能力,覆盖连通性、分离、顺序、包围与打结五类关系,并区分静态推理与交互规划两个认知层级。测试显示,当前模型在静态识别上明显优于交互规划,且两者均远低于人类水平,失败多出现在规划阶段而非感知阶段。图像与视频生成仅在单帧内保留拓扑关系时有用,跨动作序列仍不可靠。

8月4日周二
  1. Microsoft Research71

    微软研究院开源 Orchard:面向可扩展智能体 AI 的开放框架

    微软研究院发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可复用于软件工程、网页导航和个人助理等任务,并支持在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 中直接训练智能体。

    推荐理由:微软研究院开源 Orchard 框架,给出环境服务与三个领域训练配方,读者可了解小模型在真实 harness 中训练的具体路径。

7月29日周三
7月8日周三
6月30日周二
6月17日周三
6月16日周二
5月29日周五
5月16日周六
  1. Google DeepMind62

    WeatherNext 如何帮助美国国家飓风中心预测飓风 Melissa 登陆牙买加

    Google DeepMind 与 Google Research 开发的 AI 天气模型 WeatherNext 帮助美国国家飓风中心提前五天预测飓风 Melissa 将以五级强度登陆牙买加,置信度达 80%,三天前升至接近 100%。

    推荐理由:原文给出 WeatherNext 在飓风路径与强度预测上的实际表现,读者可了解 AI 天气模型如何辅助官方预警决策。

3月18日周三
  1. Google DeepMind40

    Google DeepMind 发布 AGI 认知框架,并联合 Kaggle 发起评测黑客松

    Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》,提出包含感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决、社会认知 10 项能力的认知分类框架,并配套三阶段评估协议,用留出测试集防止数据污染、采集具人口代表性的人类基线、将 AI 表现映射到人类表现分布。

2月26日周四
2月23日周一
2月18日周三
12月16日周二
12月9日周二
11月19日周三
11月4日周二
9月25日周四
5月12日周一
4月10日周四
4月2日周三
2月18日周二
  1. OpenAI News50

    OpenAI 推出 SWE-Lancer 基准

    OpenAI 发布 SWE-Lancer 基准,用于测试前沿大语言模型能否在真实自由职业软件工程任务中赚到 100 万美元。该基准以真实世界的自由职业软件工程工作为评测对象。

    推荐理由:OpenAI 用真实自由职业软件工程任务构建基准,读者可了解前沿 LLM 在真实编码工作上的变现能力如何被衡量。

10月30日周三
10月10日周四
8月13日周二
6月22日周五