跳到正文

评测基准

模型到底谁强:Benchmark 成绩、评测方法论争议与排行榜变化的持续记录。

最新精选

第 61–66 条 · 共 66 条
4月1日周三
  1. Google Research60

    构建更好的 AI 评测基准:需要多少标注者?

    Google Research 发布了一篇论文,探讨了在机器学习中,如何平衡标注者数量与数据项数量以实现可重复性。研究发现,使用 3-5 个标注者通常不足以捕捉人类意见的细微差别,并提出了优化评测基准的建议。

    推荐理由:原文提出了关于 AI 评测中标注者数量与数据项数量之间权衡的研究,对构建更可靠和高效的 AI 评测基准有重要意义。

11月21日周五
2月18日周二
  1. OpenAI News50

    OpenAI 推出 SWE-Lancer 基准

    OpenAI 发布 SWE-Lancer 基准,用于测试前沿大语言模型能否在真实自由职业软件工程任务中赚到 100 万美元。该基准以真实世界的自由职业软件工程工作为评测对象。

    推荐理由:OpenAI 用真实自由职业软件工程任务构建基准,读者可了解前沿 LLM 在真实编码工作上的变现能力如何被衡量。

12月4日周三
8月13日周二
6月18日周二