把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
作者在 Show HN 发布 digitup，一款面向用 AI 工具建站者的网站检查服务，用大白话提示网站是否正常工作、是否安全，并给出优先修复项。它会检查公开可见的密钥、他人可访问的客户数据、意外开放的站点部分和易被攻击的设置，同时监控站点可用性、注册登录与支付等关键流程，异常时通过 WhatsApp、Telegram 或邮件通知。
推荐理由：面向 AI 工具建站人群的检查工具，把密钥泄露、数据暴露等问题转成可直接粘贴的修复提示词。
cliproxy-rs 是 CLIProxyAPI 的 Rust 重写版，在本地运行一个服务，让 Claude Code、Codex CLI、Cursor 等工具共用已有的 Claude Max 或 ChatGPT 订阅与 API key，并内置仪表盘显示各账号限额。
推荐理由：作者给出与 CLIProxyAPI 的兼容方式和实测性能对比，可据此判断是否替换现有本地代理。
DeepSeek 弹性计算团队大量招聘 HC，尤其需要资深工程师，并同步公开技术分享《DeepSeek 弹性计算（DSec）：面向大规模 Agent 训练的沙盒基础设施》。
推荐理由：DeepSeek 弹性计算团队扩招，同时披露 DSec 沙盒基础设施的生产规模与优化细节，可了解其 Agent 训练底座。
NVIDIA 宣布本月推出 DGX Spark 64GB 版本，由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 等厂商发售，10 月 23 日上市，起售价 4,999 美元。
推荐理由：原文给出 64GB 配置的售价、上市时间和双机集群性能数据，读者可据此判断本地跑大模型的成本与扩展方式。
openJiuwen 团队发布并开源智能路由框架 model-router，首发 x-router 自演进模型路由算法，在 Agent 与模型之间增加一层按请求动态选模的决策能力。
推荐理由：openJiuwen 开源智能路由框架，给出三层架构与两组实测数据，可据此判断 Agent 多模型调度的成本收益。
OpenAI 的 GPT-6 Astra Ultrafast 已在 NVIDIA Blackwell GPU 上运行，并面向 OpenAI API 以及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由：原文给出 Astra Ultrafast 在 Blackwell 上的加速幅度与开放入口，读者可据此判断它对编码智能体循环的实际影响。
谷歌推出开源编排器与声明式运行时 AX，托管于 agentexecutor.io 和 GitHub 的 google/ax 项目，采用 Apache 2.0 许可证，用于执行和扩展自主 AI 代理工作负载。
推荐理由：谷歌把有状态代理当作 Actor 来调度，读者可据此判断代理基础设施与现有 Kubernetes 工作流的差异。
9 月 30 日，DeepSeek 宣布开源面向华为昇腾算力平台的一组基础设施组件，涵盖 TileLang 高级语言编译工具，以及 DeepGEMM、DeepEP、TileKernels、FlashMLA 和 DeepSelect 的昇腾平台实现，与英伟达平台开源组件一一对应。
推荐理由：DeepSeek 把面向昇腾 950 的算子编译与计算通信组件开源，并给出与英伟达版本的接口对应关系，读者可据此判断迁移成本。
AWS 官方博客演示在 Amazon Bedrock AgentCore Runtime Instances 上部署三智能体音乐制作流水线：作曲智能体用 Claude Sonnet 4.6 生成音乐简报并在实例的 NVIDIA L4 上运行 ACE-Step 渲染音频，交付智能体读取共享卷上的 .wav 做 EQ、压缩与限幅，合规智能体独立复测并比对曲库相似度。
推荐理由：AWS 官方给出三智能体共享 GPU 实例的完整代码与实测数据，可迁移到其他长时多智能体工作流。
CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上可用，Cognition 成为首个在生产负载上运行该系统的客户。
推荐理由：CoreWeave 上线 Vera Rubin NVL72 并公布 Devin 实测吞吐数据，读者可据此判断智能体编码负载的算力成本走向。
openJiuwen 发布 WorkSwarm 全双工多模态能力，让实时音视频对话与 Core Agent 后台执行并行：用户可随时插话打断播报，复杂任务在后台继续搜索、调用工具并生成文件。
推荐理由：openJiuwen 把实时音视频对话与后台 Core Agent 执行拆成两条并行路径，读者可据此判断边聊边办事的交互如何落地。
DeepSeek 于 9 月 30 日正式开源面向华为昇腾算力平台的基础设施组件，涵盖 TileLang 高级语言编译工具、计算库和分布式通信库，所有组件与此前面向英伟达平台的开源组件一一对应。其中重点是 TileLang 的昇腾版本，DeepSeek 称要建立新一代自主可控的 GPU 软件生态，需先有通用且编程简单的语言工具。
推荐理由：DeepSeek 把面向英伟达的组件对应搬到昇腾平台，读者可据此了解国产算力软件栈的补齐进度。
GPT-6.1 Sol 现已在 Amazon Bedrock 正式可用，面向智能体编码、计算机使用和专业工作负载提供更强的推理能力。据 OpenAI 称，它在 DeepSWE v1.1 上达到 GPT-6 Astra 的水平，每任务成本约为后者的五分之一，并比 GPT-6 Sol 的最佳成绩高出 6.4 个百分点。
推荐理由：原文给出 GPT-6.1 Sol 在 Bedrock 上的可用入口与成本对比，读者可据此判断智能体编码任务的性价比变化。
微软研究院对移动操作机器人工作负载做了系统性测量，发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU，可提升任务成功率、支持更大模型并延长续航。
推荐理由：微软研究院系统测量了机器人端侧推理与卸载推理的差异，并给出可复用的 Kubernetes 卸载工具链。
Google DeepMind 公布 Private AI Compute 平台的新技术能力，将持久化服务端记忆引入该平台，让 AI 助手在跨设备场景下保留上下文，同时维持端侧级别的隐私标准。
推荐理由：Google 给出私有 AI 计算加入持久化服务端记忆的架构思路，读者可了解云端长期记忆如何与端侧隐私标准结合。
NVIDIA 在加拿大多伦多 ROSCon 大会上发布 Isaac ROS 5.0，这是一套基于 ROS 的 GPU 加速软件包集合，新增智能体工作流与平台支持。
推荐理由：Isaac ROS 5.0 把智能体工作流引入机器人开发，并列出多家厂商的落地方式，可据此判断开源机器人工具链的走向。
GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust，AI 智能体写了大部分代码，跨 128 个 PR 增量合入 main。
推荐理由：作者以亲历者身份给出把 43 万行 TypeScript 运行时原地迁移到 Rust 的完整工程方法，可迁移到大型重构。
NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果，在 Qwen3-VL 上吞吐最高达 GB300 NVL72 的 3.7 倍，在 DeepSeek-R1 上最高达 2.5 倍。
推荐理由：MLPerf Inference v6.1 结果给出 Vera Rubin NVL72 相对 GB300 的吞吐与扩展效率数字，可用于比较两代平台的推理经济性。
GitHub 推出研究预览版 Project HydraFusion，在运行时通过多模型编排完成任务，用户可在 GitHub Copilot CLI 中通过 /experimental 选择 HydraFusion，按各模型标准费率计费。
推荐理由：GitHub 官方披露 HydraFusion 的三种编排模式与三项基准的成本质量对比，可据此判断多模型编排在编码任务上的取舍。
OpenAI 预览新的 API 服务档 Ultrafast，运行 GPT-5.6 Sol 时最高提速 14 倍，由 Cerebras 提供支持，输出速度最高达每秒 750 个 token。
推荐理由：OpenAI 公布 Ultrafast 服务档的加速倍数与吞吐数字，读者可据此判断高速推理档的定位。