跳到正文

#开源生态

今日 0 条
11月2日周一
  1. InfoQ中文70

    Yann LeCun 发新论文挑战 Scaling Law:1.09 亿参数胜过 720 亿,模型越大不一定越懂世界

    Yann LeCun 与其合作者提出了一种新的跨模态表征对齐方法,通过实验证明了一个仅有 1.09 亿参数的文本模型在跨模态表征对齐测试中超过了包括 Qwen2.5-72B、Llama-3-70B 在内的大型语言模型。

    推荐理由:LeCun 的论文挑战了 AI 行业中模型规模与理解能力的关系,提出了新的跨模态表征对齐方法,对 AI 理论研究有重要意义。

10月30日周五
10月22日周四
  1. InfoQ中文60

    FlashQLA:面向 Qwen 系列模型线性注意力的高性能优化实践

    FlashQLA 是一个针对 GDN 线性注意力的高性能 GPU 算子库,本文详细介绍了其定位、背景、序列并行方案、滑动窗口性质利用、硬件友好代数改写以及 warp specialization 实现等核心技术,并给出了性能基准和生态集成进展。

    推荐理由:本文介绍了 FlashQLA,一个针对 GDN 线性注意力的高性能 GPU 算子库,对 Qwen 系列模型线性注意力的高性能优化实践进行了详细阐述,读者可以了解其性能提升和应用场景。

10月16日周五
10月14日周三
10月11日周日
  1. IT之家85

    华为与华东师大联合研发时序预测基础模型登顶国际权威评测榜单

    华为与华东师范大学联合研发的时序预测基础模型登顶国际权威评测榜单TIME-leaderboard和GIFT-Eval(Pretrained类目),标志着国内时序基础模型达到全球领先水平,具有重大研究价值。

    推荐理由:华为与华东师范大学联合研发的时序预测基础模型登顶国际权威评测榜单,标志着国内时序基础模型达到全球领先水平,具有重大研究价值。

10月7日周三
10月6日周二
  1. The Decoder62

    研究者将 LeCun 的 JEPA 扩展为跨物理到生物的通用世界模型 JEPA-Anything

    PhAI Labs 联合斯坦福、牛津、普林斯顿的研究者提出 JEPA-Anything,把标准 JEPA 的单一预测拆成四个正交因子、各由独立预测模块处理,再重组为完整世界状态,在物理、机器人、天气、单细胞和临床等七个领域共用同一套原则。

    推荐理由:JEPA-Anything 把单一预测拆成多个正交预测模块,在物理动力学任务上误差最多降约 35%,并给出跨领域复用的具体路径。

10月5日周一
  1. Show HN62

    DoubtBench 发布:用人类分歧评测 System One 模型的不确定性

    DoubtBench 是一个基于 NVIDIA HelpSteer2 多人标注数据构建的基准,把标注者的分歧转化为约 7,500 道 Score、Choice 和 Noul 题目,同时考察模型答对率和概率是否与人类分歧对齐。

    推荐理由:DoubtBench 用 HelpSteer2 的多人标注衡量模型概率是否与人类分歧一致,并给出可复现的评测命令与榜单。

9月24日周四
  1. Microsoft Research62

    微软研究院:将物理 AI 推理卸载到边缘或云端可提升机器人性能与续航

    微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,可提升任务成功率、支持更大模型并延长续航。

    推荐理由:微软研究院系统测量了机器人端侧推理与卸载推理的差异,并给出可复用的 Kubernetes 卸载工具链。

8月21日周五
  1. Microsoft Research40

    微软 Skala 1.1 发布:训练数据增 2.5 倍,已接入 CP2K 并推进 Psi4、FHI-aims、ORCA、VASP 集成

    微软研究院发布深度学习 DFT 交换关联泛函 Skala 1.1,训练数据比首个公开版本多 2.5 倍,在 GMTKN55 的 55 个类别中 32 项排名第一,加权平均误差 2.8 kcal/mol。Skala 现已在 CP2K 中可用,并正被集成进 Psi4、FHI-aims、ORCA 和 VASP,同时微软推出持续追踪各版本计算性能的 living benchmark。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把数十年内核经验带到 Apple Silicon

    Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX 后端,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核经验自动适配 Apple Silicon。

    推荐理由:原文给出 CUDA 到 MLX 的翻译层设计与两组内核实测数据,可了解跨硬件迁移优化知识的具体做法。

7月9日周一
  1. OpenAI News62

    OpenAI 发布可逆生成模型 Glow

    OpenAI 发布可逆生成模型 Glow,采用可逆 1x1 卷积,在简化此前可逆生成模型架构的同时支持高分辨率图像生成与高效采样。该模型还能发现可用于操控数据属性的特征,OpenAI 同步开源模型代码并提供在线可视化工具。

    推荐理由:OpenAI 公开 Glow 的可逆生成模型架构与代码,读者可了解其用可逆 1x1 卷积简化模型并支持属性编辑的思路。

7月20日周四
  1. OpenAI News70

    OpenAI 发布强化学习算法 PPO

    OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization(PPO),称其表现与当时最先进方法相当或更好,同时实现和调参都简单得多。PPO 已成为 OpenAI 的默认强化学习算法,原因是易用且性能良好。

    推荐理由:OpenAI 公开 PPO 算法并说明其相比当时主流方法更易实现和调参,可了解该算法的设计取舍。