跳到正文

#部署/工程

今日 0 条
10月23日周五
  1. InfoQ中文75

    上下文语言模型:通过自主管理上下文提升性能、降低计算成本

    Meta、麻省理工学院与华盛顿大学的研究人员提出上下文语言模型(CLM),一种使语言模型能够自主管理和编辑自身上下文的新方法。该方法在性能和计算效率方面均取得显著提升,并探索了三种不同的上下文管理方法。

    推荐理由:该研究提出了上下文语言模型,通过自主管理上下文提升性能和降低计算成本,对语言模型领域有重要意义。

10月1日周四
9月24日周四
  1. Microsoft Research62

    微软研究院:将物理 AI 推理卸载到边缘或云端可提升机器人性能与续航

    微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,可提升任务成功率、支持更大模型并延长续航。

    推荐理由:微软研究院系统测量了机器人端侧推理与卸载推理的差异,并给出可复用的 Kubernetes 卸载工具链。

4月22日周三
  1. Google DeepMind62

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构

    Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构,将大规模训练拆分为解耦的计算岛并异步传输数据,从而隔离局部硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并自动重新接入,用 Gemma 4 模型验证其基准 ML 性能与传统训练方法持平。

    推荐理由:原文给出分布式训练在带宽、故障隔离和跨代硬件上的实测结果,可据此判断大规模预训练基础设施的演进方向。

12月6日周三