Yann LeCun 发新论文挑战 Scaling Law:1.09 亿参数胜过 720 亿,模型越大不一定越懂世界
Yann LeCun 与其合作者提出了一种新的跨模态表征对齐方法,通过实验证明了一个仅有 1.09 亿参数的文本模型在跨模态表征对齐测试中超过了包括 Qwen2.5-72B、Llama-3-70B 在内的大型语言模型。
推荐理由:LeCun 的论文挑战了 AI 行业中模型规模与理解能力的关系,提出了新的跨模态表征对齐方法,对 AI 理论研究有重要意义。
Yann LeCun 与其合作者提出了一种新的跨模态表征对齐方法,通过实验证明了一个仅有 1.09 亿参数的文本模型在跨模态表征对齐测试中超过了包括 Qwen2.5-72B、Llama-3-70B 在内的大型语言模型。
推荐理由:LeCun 的论文挑战了 AI 行业中模型规模与理解能力的关系,提出了新的跨模态表征对齐方法,对 AI 理论研究有重要意义。
何恺明团队提出的VISTA框架,通过保存和利用视觉信息,显著提升了多模态模型在交互式视觉推理任务中的表现,为Agent能力的发展提供了新的思路。
推荐理由:VISTA框架通过保存和利用视觉信息,显著提升了多模态模型在交互式视觉推理任务中的表现,为Agent能力的发展提供了新的思路。
以色列魏茨曼科学研究所教授Michal Irani团队开发的Brain-IT模型,能够通过分析fMRI数据重建受试者观看图像时的视觉画面。
推荐理由:该研究展示了AI在图像生成领域的最新进展,可能对相关领域产生重要影响。
何恺明团队提出纯视觉ARC解题方案NAT-ARC,在VARC流程前插入ImageNet MAE预训练,不依赖LLM。表现最好的单模型为0.6B的huge尺度,ARC-1上pass@2达63.4±0.7%,集成后达70.2±0.6%,总参数量约2B。
推荐理由:论文用ImageNet预训练打通视觉路线在ARC上的scaling瓶颈,并给出注意力可视化与任务拆解证据。
作者发布 HieraticBench,用 268 条真实文献、符号及其他埃及文字作为对照,测试前沿模型识别和翻译圣书体(hieroglyphs 的草写体)的能力。
推荐理由:作者用自己未公开的圣书体句子和真实文献测试多个前沿模型,给出识别与释读的具体差距。
研究团队提出 Image-to-Code 方法,让编码智能体从单张照片出发,迭代编写并运行 Blender 程序,直到场景匹配原图,输出可直接运行和修改的代码。
推荐理由:LEGO-Bench 用模拟器场景提供精确 3D 真值,揭示编码智能体自评几何接近随机水平这一关键局限。
何恺明团队提出NAT-ARC,一套不依赖LLM的纯视觉ARC解题方案,用ImageNet上的MAE预训练encoder后迁移到抽象格子推理。表现最好的单模型为0.6B的huge尺度,在ARC-1上取得63.4%的pass@2分数,集成后达到70.2%,逼近使用8B语言模型的专用系统The ARChitects的71.6%。
推荐理由:论文用ImageNet预训练打通视觉路线在ARC上的scaling瓶颈,并给出注意力与可视化证据。
微软研究院推出 MindTopo 基准,用于评估多模态大语言模型的拓扑推理能力,覆盖连通性、分离、顺序、包围与打结五类关系,并区分静态推理与交互规划两个认知层级。测试显示,当前模型在静态识别上明显优于交互规划,且两者均远低于人类水平,失败多出现在规划阶段而非感知阶段。图像与视频生成仅在单帧内保留拓扑关系时有用,跨动作序列仍不可靠。
微软研究院推出放射学研究模型 CARE-X,一个统一胸部 X 光 VLM,可同时完成报告生成、疾病存在与否定判断、病灶定位及多标签分类等任务,并支持生成式与双推理两种模式。
Google DeepMind 宣布 AI co-clinician 研究计划,探索 AI 智能体在医生临床监督下协助患者诊疗。在 98 个真实初级保健查询的盲评中,该系统 97 例无关键错误,医生更偏好其回答而非现有证据合成工具;在 20 个模拟远程问诊场景、140 项问诊技能评估中,专家医生整体表现更好,但 AI 在 68 项上达到或超过初级保健医生水平。
推荐理由:Google DeepMind 公开 AI co-clinician 研究,含 98 例零关键错误与 140 项问诊能力对比,可看医疗智能体的能力边界。
Google DeepMind 联合 Kaggle 发布 FACTS Benchmark Suite,在原有 FACTS Grounding 基础上新增 Parametric、Search、Multimodal 三项基准,并将 Grounding 升级至 v2,共 3513 个公开样例。
Google DeepMind 在 Nature 发表新论文,分析 AI 视觉模型与人类在组织视觉世界上的差异,并提出一种三步对齐方法。该方法先用 THINGS 数据集训练一个冻结主模型的小型适配器作为教师模型,再生成包含百万张图像、数百万条类人判断的 AligNet 数据集,最后微调其他学生模型。
推荐理由:DeepMind 在 Nature 发表视觉对齐研究,读者可了解人类与模型表征差异及三步对齐方法。
Google 发布森林砍伐风险预测基准数据集,基于纯卫星输入和 vision transformers 架构,可在 30 米尺度上预测 2000-2024 年森林流失风险。
OpenAI 在 CLIP 中发现了一类多模态神经元,无论概念以字面、符号还是概念化形式呈现,它们都会对同一概念产生响应。这可能解释 CLIP 在分类出人意料的视觉变体时的准确表现,也是理解 CLIP 及类似模型所学关联与偏置的重要一步。
推荐理由:OpenAI 公开 CLIP 中跨字面、符号与概念形式响应同一概念的多模态神经元,为理解其分类准确性与习得偏置提供线索。