跳到正文

数据与训练

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

322条精选相关主题论文研究部署工程模型发布

最新精选

第 221–240 条 · 共 322 条
10月7日周三
  1. Show HN58

    Liatir 开源本地优先生物信息学 AI 桌面应用

    Liatir 是一个用 Rust、Tauri 2 和 SvelteKit 构建的本地优先生物信息学桌面环境,把原生工具、本地管理的 AI 模型、.lia 插件、可视化流水线和科学查看器整合到一个应用中,并提供 API Connectors、外部工作流集成和受控的本地 MCP 接口。

    推荐理由:原文给出本地优先桌面环境的架构与单细胞基础模型对比结果,可据此判断本地 AI 科研工具的组织方式。

  2. The Verge · AI58

    Google DeepMind、Meta 与 Isomorphic Labs 联合向 Biohub 投资 3 亿美元

    Google DeepMind、Meta 和 AI 药物发现初创公司 Isomorphic Labs 联合向扎克伯格夫妇创立的非营利生物医学研究机构 Biohub 投资 3 亿美元,用于构建 AI 数据集,帮助研究人员以数字化方式提出、预测和回答生物学问题。

    推荐理由:读者可了解 Biohub 虚拟细胞项目的多方出资结构,以及联邦机构在数据与资金上的配套投入。

  3. Show HN62

    Show HN:交互式演示一个小型 GPT 从一次前向传播到一步 RLHF 的全部数值

    作者发布了一个交互式演示,逐步展示一个类 GPT-2 小型模型的完整计算过程,每个矩阵都完整显示在屏幕上,所有数值都在浏览器中实时计算,悬停任意单元格即可看到该步的具体数学运算。

    推荐理由:作者用浏览器内实时计算的交互式演示,把一个小型 GPT 从分词到采样、预训练与 RLHF 的每一步数值摊开。

  4. IT之家58

    微软、OpenAI 遭美国多家地方媒体起诉,被指侵犯版权

    埃默里奇报业等美国地方媒体起诉微软和 OpenAI,指控其蓄意窃取数万篇版权文章用于训练 AI 模型,并绕过付费墙等限制系统且未获授权。原告称两家公司借此赚取数十亿美元而出版商未获分成,主张其违反《版权法》和《数字千年版权法》,要求支付损害赔偿并请求法院颁布禁令删除模型中的侵权训练数据。

    推荐理由:美国地方报业集团起诉微软与 OpenAI,指控其绕过付费墙抓取数万篇版权文章训练模型,并寻求删除训练数据。

  5. Latent Space82

    OpenAI 发布内部模型产出的 722 篇数学论文,称解决 500 个公开数学难题中的 90 个

    OpenAI 在一个公开 GitHub 仓库中发布了内部前沿模型产出的数学成果,共 722 篇手稿、归入 372 个相关结果族,来自约 4000 道研究问题的评测,平均每个结果约消耗 3 小时 ChatGPT Pro 思考算力,模型本身未发布。

    推荐理由:OpenAI 用内部模型批量产出数学结果并公开仓库,读者可据此了解这批成果的规模、算力成本与外界质疑。

  6. Show HN58

    TerrainSR:快速生成逼真高程图的高程图超分模型

    作者 joegibbs 发布 TerrainSR,一个用于高程图快速超分的模型,目标是生成逼真地形。他为一个历史游戏需要 1:1 比例的欧洲模型,但 100m 数据分辨率太低,10m LIDAR 数据则覆盖不全、占用数百 GB 且包含矿场和建筑等人造物。该模型在未开发地貌上训练,可为低分辨率高程数据快速补充合理的侵蚀特征和岩石等细节,重建人类干预前的地形样貌。

    推荐理由:作者说明了低分辨率高程数据与 LIDAR 数据各自的局限,以及用未开发地貌训练模型补齐侵蚀细节的思路。

10月6日周二
  1. Google Research65

    谷歌研究:利用行星地理基础模型促进全球公共卫生

    谷歌研究团队介绍了利用地球AI的行星地理基础模型(PDFM)在公共卫生领域的应用,该模型通过整合多种地理信息,如人口动态、环境因素等,为公共卫生决策提供支持,并在多个健康挑战中取得了显著成果。

    推荐理由:该研究介绍了利用地球AI的行星地理基础模型在公共卫生领域的应用,展示了其在多种健康挑战中的价值,为公共卫生决策提供了新的思路和方法。

  2. Show HN62

    Show HN:浏览器中的生物 ML 工具集

    作者发布 athanortools.com,在浏览器中集成 RDKit、OpenDDE、Boltz-2、Chai-1、Protenix-v2、ESMFold 2、ESMC、IgBLAST、ProteinMPNN、LigandMPNN、RFdiffusion3、ThermoMPNN、CatPred 等生物分子工具。

    推荐理由:作者把数十个生物分子模型整合进浏览器端工具,读者可据此了解免安装使用结构预测与蛋白设计的路径。

  3. The Decoder62

    研究者将 LeCun 的 JEPA 扩展为跨物理到生物的通用世界模型 JEPA-Anything

    PhAI Labs 联合斯坦福、牛津、普林斯顿的研究者提出 JEPA-Anything,把标准 JEPA 的单一预测拆成四个正交因子、各由独立预测模块处理,再重组为完整世界状态,在物理、机器人、天气、单细胞和临床等七个领域共用同一套原则。

    推荐理由:JEPA-Anything 把单一预测拆成多个正交预测模块,在物理动力学任务上误差最多降约 35%,并给出跨领域复用的具体路径。

  4. The Decoder71

    宁德时代与腾讯领投 DeepSeek 新一轮融资,公司计划 2027 年初 IPO

    据 Bloomberg 报道,DeepSeek 新一轮融资接近完成,至少募资 120 亿美元,最初目标约 75 亿美元、估值约 750 亿美元,知情人士称总额可能接近 150 亿美元,宁德时代与腾讯出资份额最大。

    推荐理由:融资规模与投资方构成显示资本对 DeepSeek 的定价变化,也牵出 2027 年 IPO 与自研芯片的后续路径。

  5. IT之家62

    消息称希捷与东芝竞购 TDK 硬盘磁头业务,争夺 AI 存储供应链关键环节

    据彭博社报道,希捷与东芝正在争夺 TDK 的硬盘磁头业务,交易价值最高可达数十亿美元。东芝今年春季率先与 TDK 开启收购谈判,希捷随后在夏季提出更高报价。TDK 是全球唯一独立生产硬盘磁记录磁头的厂商,同时向希捷、东芝和西部数据供货,东芝完全依赖其供应这一部件。

    推荐理由:围绕硬盘磁头这一 AI 存储供应链关键环节,呈现希捷与东芝竞购 TDK 业务的动机与格局影响。

  6. Show HN62

    Spectra-FFT 发布:将 LLM 训练的 AdamW 显存占用降低约 50%

    Spectra-FFT 发布,作为 AdamW 的即插即用替代优化器,在频域存储优化器状态,官方称可将优化器显存占用降低约 50% 以上,用一行代码替换 AdamW(...) 即可接入现有 PyTorch 训练脚本。

    推荐理由:原文给出优化器替换方式与显存占用变化,读者可据此判断受限硬件上全参微调的可行性。

  7. TechCrunch · AI71

    Reflection 发布开源权重模型 Beam,对标中国开源模型并压低推理算力

    Reflection AI 正式发布其首个前沿开源权重模型 Beam,称在高级推理基准上性能与中国领先开源模型持平,且推理算力消耗低 3-4 倍。Beam 是文本 MoE 模型,总参数 501B、激活 23B,预训练 23.8 万亿 token,上下文窗口 100 万 token;公司称其得分与 Z.ai 的 GLM-5.2 相当,并超过当前西方领先开源模型。

    推荐理由:Reflection 首款开源权重模型 Beam 的规格与对标对象,可用来观察西方开源模型追赶中国模型的路径。

10月5日周一
  1. The Decoder62

    Aleph Alpha 发布 78B 开源权重模型 Kolibri

    Aleph Alpha 发布 Kolibri,一个德语和英语双语模型,总参数 78B,采用混合专家架构,每个 token 约激活 3B 参数。公司称 Kolibri 在两种语言的质量与运行成本上处于帕累托前沿,德语基准得分 71%,解码速度快于 GPT OSS A5B、Qwen 3.6 A3B 和 Gemma 4 A4B 等同类模型。

    推荐理由:读者可了解欧洲开源模型在德语能力、成本与合规上的具体取舍,以及其训练数据与算力来源。

  2. Show HN58

    我连续37天测量MCP注册表:一份公开MCP服务器的透明日志

    作者发布mcp-transparency-log项目,用爬虫按日观测官方注册表中公开可达的MCP服务器,记录其工具名称、描述、JSON schema和四个注解提示,并写入带签名树头的RFC 6962 Merkle日志。

    推荐理由:作者用37天连续观测记录MCP服务器工具面的真实变化,给出签名机制无法覆盖的漂移证据。

  3. IT之家71

    华为麒麟 9050 Pro 裸片显微照首曝:双裸片垂直堆叠,晶体管密度提升 55%

    半导体分析机构 Kurnal Insights 于当地时间 9 月 30 日发布华为麒麟 9050 Pro 裸片显微照,首次从物理层面展示其内部结构:两颗尺寸相同的裸片垂直堆叠,单颗面积约 120.65mm²,略小于前代麒麟 9030S 的 122mm²,一颗负责核心计算逻辑,另一颗专用于 SRAM 和缓存。

    推荐理由:半导体分析机构首次公开麒麟 9050 Pro 裸片结构,读者可据此了解双裸片垂直堆叠的物理实现与功耗数据。