Gemini 4 Argon 在与 ChatGPT 和 Claude 的竞争中落败
有分析指出 Gemini 4 Argon 在与 ChatGPT 和 Claude 的竞争中落败,并深入剖析了其具体落后之处以及受限发布带来的弊端。文章还向 Google DeepMind 提出了可供参考的改进建议。
有分析指出 Gemini 4 Argon 在与 ChatGPT 和 Claude 的竞争中落败,并深入剖析了其具体落后之处以及受限发布带来的弊端。文章还向 Google DeepMind 提出了可供参考的改进建议。
Aleph Alpha 用自建基准测试了阿里 Qwen、DeepSeek 和月之暗面 Kimi,覆盖天安门、台湾、新疆等 967 个敏感话题,其评分系统仅将 17% 至 41% 的回答评为平衡,其余为重复官方立场、回避或拒答。
OpenAI 发布 GPT-6.1 Sol,定价 $2/$10 per million input/output tokens,比 Astra 的 $10/$50 大幅降低,在 DeepSWE v1.1 上超 GPT-6 Sol 6.4 分。
Graphite 研究分析了 Claude Opus 5.5、OpenAI Astra、Gemini 3.1 Pro 等前沿模型的写作习惯,发现 13,000 个在 AI 内容中出现频率至少为人类两倍的短语。
The Verge 记者 Allison Johnson 实测 OpenAI 本周发布的智能体平台 Dots,它带有拟人化头像和可自定义名称,目前每位用户只能拥有一个,界面与 Meta Muse 类似,可在一个窗口对话、另一个窗口观察其在虚拟机中操作。
Mercor 的一项研究让 12 名平均 5.5 年经验的持证 CPA 完成 APEX Accounting Benchmark 的简化任务,结果显示 AI 模型在结构化记账任务上比会计师更快、更准确且成本更低。
爱范儿用 Opus 5.5 公开案例的提示词在 MiniMax Code 中实测 MiniMax M3.1 Flash Preview,覆盖动态作品集、手绘短片、水墨动画、纽约天际线时间轴交互以及卡丁车和水下探索等游戏原型。
推荐理由:作者用同一批公开提示词对比 MiniMax M3.1 Flash 与 Opus 5.5 的前端创作成品,可观察 Flash 级模型在动效、手绘与交互场景中的实际完成度。
爱范儿实测了近期在海外 AI 圈刷屏的匿名模型 Space Bunny Alpha,它能把随手画的草图在不到 5 分钟内变成可打开的网站,也能根据草图生成可交互的 3D 网页。
推荐理由:作者用草图转网页、3D 游戏和发动机展台等实测,呈现匿名模型 Space Bunny 的能力边界与日常主力定位。
Anthropic 发布新 Sonnet 模型 Claude Sonnet 5.5,官方称其运行速度提升 30% 以上、多数工作成本最多降低 30%,定价与 Sonnet 5 相同但在各项基准上均优于 Sonnet 5。
推荐理由:作者用同一套鹈鹕提示词实测新 Sonnet,并对比免费层与 ChatGPT 的能力差异。
OpenAI 发布 MentalHealthBench,一个由专家参与构建的基准,用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。
微软研究院推出 MindTopo 基准,用于评估多模态大语言模型的拓扑推理能力,覆盖连通性、分离、顺序、包围与打结五类关系,并区分静态推理与交互规划两个认知层级。测试显示,当前模型在静态识别上明显优于交互规划,且两者均远低于人类水平,失败多出现在规划阶段而非感知阶段。图像与视频生成仅在单帧内保留拓扑关系时有用,跨动作序列仍不可靠。
微软研究院发布开源框架 Orchard,核心是 Kubernetes 环境服务 Orchard Env,可复用于软件工程、网页导航和个人助理等任务,并支持在 Codex、OpenClaw、ZeroClaw 等真实部署 harness 中直接训练智能体。
推荐理由:微软研究院开源 Orchard 框架,给出环境服务与三个领域训练配方,读者可了解小模型在真实 harness 中训练的具体路径。
启用两项 API 设置后,GPT-5.6 在 ARC-AGI-3 基准测试中的得分提升至原来的三倍。这两项设置分别用于保留推理过程和启用压缩,从而同时提升了得分与效率。
OpenAI 发布新分析,指出热门编码基准 SWE-Bench Pro 存在可靠性问题,引发对 AI 模型评测准确性的担忧。该分析聚焦于如何从编码评测中区分有效信号与噪声。
OpenAI 推出 GeneBench-Pro,一个用复杂真实数据集测试 AI 在基因组学、生物学和科研领域表现的新基准。
OpenAI 发布 LifeSciBench,一个由专家撰写并评审的基准,用于评估 AI 系统处理真实生命科学研究任务与决策的能力。该基准聚焦真实科研场景,而非通用问答。
OpenAI 推出 Deployment Simulation,一种利用真实对话数据在部署前预测 AI 模型行为的方法,以提升安全性和评估准确性。
OpenAI 分享第三方 AI 评估指南,覆盖如何评估前沿系统的模型能力、安全防护与有效性。该指南面向第三方评估实践,给出可信评估的操作规范。
Google DeepMind 与 Google Research 开发的 AI 天气模型 WeatherNext 帮助美国国家飓风中心提前五天预测飓风 Melissa 将以五级强度登陆牙买加,置信度达 80%,三天前升至接近 100%。
推荐理由:原文给出 WeatherNext 在飓风路径与强度预测上的实际表现,读者可了解 AI 天气模型如何辅助官方预警决策。
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》,提出包含感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决、社会认知 10 项能力的认知分类框架,并配套三阶段评估协议,用留出测试集防止数据污染、采集具人口代表性的人类基线、将 AI 表现映射到人类表现分布。
OpenAI 与 Pacific Northwest National Laboratory 合作推出 DraftNEPABench,用于评估 AI 编程智能体如何加速联邦许可审批。该基准显示,NEPA 草案撰写时间有望最多缩短 15%,并推动基础设施审查现代化。
OpenAI 宣布不再评估 SWE-bench Verified,原因是该基准正日益受到污染,无法准确衡量前沿编码能力。其分析指出该基准存在测试缺陷和训练数据泄漏问题,并推荐改用 SWE-bench Pro。
OpenAI 与 Paradigm 推出 EVMbench,用于评估 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准聚焦高严重性漏洞的发现、修复与攻击三个环节。
OpenAI 推出 FrontierScience 基准,用于测试 AI 在物理、化学和生物学领域的推理能力,衡量其向真实科学研究迈进的程度。
Google DeepMind 联合 Kaggle 发布 FACTS Benchmark Suite,在原有 FACTS Grounding 基础上新增 Parametric、Search、Multimodal 三项基准,并将 Grounding 升级至 v2,共 3513 个公开样例。
OpenAI 发文阐述 evals 如何帮助企业定义、衡量并改进 AI 表现,从而降低风险、提升生产力并形成战略优势。文章面向企业场景,说明 evals 在 AI 落地中的作用。
OpenAI 推出 IndQA,一个用于评估 AI 系统印度语言能力的新基准,覆盖 12 种语言和 10 个知识领域,由领域专家共同构建,重点考察文化理解与推理能力。
OpenAI 推出 GDPval,一个衡量模型在真实世界、具有经济价值任务上表现的新评测,覆盖 44 个职业。该评测用于评估模型在现实工作任务中的实际能力,而非仅限学术基准。
OpenAI 推出面向医疗场景的 AI 评测基准 HealthBench,用于在真实情境中评估模型表现。该基准由 250 多名医生参与构建,旨在为医疗领域模型性能与安全性提供统一标准。
OpenAI 推出 BrowseComp,一个面向浏览智能体(browsing agents)的基准测试。该基准用于评估智能体在网页浏览任务中的表现。
OpenAI 推出 PaperBench,用于评估 AI 智能体复现前沿 AI 研究的能力。该基准测试考察智能体能否重现最先进的 AI 研究成果。
OpenAI 发布 SWE-Lancer 基准,用于测试前沿大语言模型能否在真实自由职业软件工程任务中赚到 100 万美元。该基准以真实世界的自由职业软件工程工作为评测对象。
推荐理由:OpenAI 用真实自由职业软件工程任务构建基准,读者可了解前沿 LLM 在真实编码工作上的变现能力如何被衡量。
OpenAI 发布事实性基准 SimpleQA,用于衡量语言模型回答简短事实型问题的能力。该基准针对的是模型在短小、以事实检索为核心的问题上的作答表现。
OpenAI 推出 MLE-bench,用于衡量 AI 智能体在机器学习工程任务上的表现。该基准测试评估智能体完成机器学习工程工作的能力。
OpenAI 发布 SWE-bench 的人工校验子集 SWE-bench Verified,用于更可靠地评估 AI 模型解决真实软件问题的能力。
推荐理由:OpenAI 发布人工校验的 SWE-bench 子集,读者可了解现有代码评测基准为何需要人工筛选。
OpenAI 首届 Retro Contest 已完成,该竞赛旨在探索能从上一次经验中泛化到新任务的算法。竞赛结果已公布。