跳到正文

部署工程

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

217条精选相关主题开源生态数据与训练端侧 AI

最新精选

第 141–160 条 · 共 217 条
10月6日周二
  1. Show HN62

    rashomon:为编码智能体提供独立执行记录器

    Altrace 发布 rashomon,一个为 Claude Code 提供独立执行记录的工具,会记录智能体每一步执行的命令和文件编辑及其成败,并与智能体自己的收尾总结对照。

    推荐理由:原文给出了独立记录编码智能体实际执行步骤并与自述对照的机制,读者可据此判断智能体汇报的可信度。

  2. Show HN62

    Postquel:免费 macOS Postgres 客户端,AI 助手复用本机 Claude Code 与 Codex 账号

    作者发布 Postquel,一款面向 macOS 的原生 PostgreSQL 客户端,提供表格浏览编辑、SQL 编辑器与 AI 助手,要求 macOS 15 及以上,支持 Apple silicon 与 Intel,已签名公证。

    推荐理由:作者开源了一款 macOS 原生 Postgres 客户端,其 AI 助手复用本机已登录的 Claude Code、Codex 或 Cursor 账号,可观察自带账号接入本地工具的工程思路。

  3. Show HN71

    Eon 发布 Era:为智能体生成完整模拟公司

    Eon 工程师发布 Era,为智能体生成完整的模拟公司,覆盖 Salesforce、Slack、Jira、Google Drive 等系统,同一批客户、交易和员工贯穿所有系统,并通过 MCP server 和兼容真实厂商的 API 暴露,可直接把已有智能体指向它做测试和基准评测。

    推荐理由:Era 把同一家公司投影到 11 个系统并暴露 MCP 与厂商 API,读者可据此判断智能体评测环境的搭建方式。

  4. Show HN62

    Skytail:把 Three.js 游戏编译成 C++ 并跑在 Xbox 上

    Skytail 是一个用 TypeScript 和 three.js 写的无尽飞行游戏,同一份代码既能在浏览器运行,也能通过 GeaStack CLI 提前编译成 C++ 原生 macOS 和 Xbox 应用,原生版本不依赖 JavaScript 引擎。

    推荐理由:同一份 TypeScript 代码经 GeaStack 编译为 C++,在浏览器、macOS 和 Xbox 上复用同一套 three.js 渲染器,可看跨平台原生构建的可行路径。

  5. Show HN71

    SelfBench 发布:用仓库自身已合并 PR 构建私有编码智能体基准

    SelfBench 是一个面向编码智能体的私有基准工具,把仓库已合并的 PR 还原成带隐藏测试的任务,再运行不同模型与 harness,按准确率和单任务成本绘制 Pareto 前沿。

    推荐理由:用仓库自身已合并 PR 生成带隐藏测试的私有基准,并按准确率与成本画出 Pareto 前沿,为选型提供可复现依据。

10月5日周一
  1. Show HN62

    Cachetoast 发布:在提示缓存过期前拦截提示并生成新会话交接

    Cachetoast 是一个面向编码智能体的本地工具,当会话至少 100k tokens 且空闲超过缓存 TTL 时,它会拦下你的下一条提示,避免智能体以未缓存输入的价格重读整个上下文,并给出在新会话继续的交接。

    推荐理由:原文说明了提示缓存过期后重读上下文的成本机制,以及用本地交接在新会话继续的做法。

  2. Show HN62

    Recast:用 LLM 在运行时自我修复的 Smalltalk 实验应用

    Recast 是一个用 LLM 在运行时自我修复的 Smalltalk 实验应用,它把 LLM 接入运行中应用的异常路径:失败调用会提供调用栈、方法源码、接收者状态和测试,模型提出修复方案,由另一个 VM 校验后再替换实时镜像中的方法,后续调用无需重新构建或重启即可使用新代码。

    推荐理由:演示了把 LLM 接入运行时异常路径、由独立 VM 校验后再热替换方法的完整闭环,可据此判断自动修复的边界。

  3. Show HN62

    Super Smash Bros. Melee 原生 Rust 移植版开源

    作者发布 Super Smash Bros. Melee(NTSC-U 1.02)的 Rust 原生移植版,按 doldecomp/melee 反编译逐函数编写,并与 Dolphin 中运行的原版逐 tick 比对。

    推荐理由:读者可以看到一个逐函数移植的确定性模拟器如何用 20 倍于 Dolphin 的速度跑完整对局,并据此判断它在 AI 与游戏研究中的可用性。

  4. Show HN71

    Carve 发布开源 Mac 智能体:模型提议动作,代码决定是否执行

    Carve 发布开源 Mac 智能体,按 ⌥D 选定一个窗口后由模型提议动作、普通代码决定是否执行,发送、提交表单、花钱、删除等后果性动作一律停下等用户批准。

    推荐理由:开源 Mac 智能体把动作审批和窗口边界写进代码而非模型,读者可据此判断计算机操作类智能体的安全边界该放在哪一层。

  5. Show HN62

    Vibivibi 发布编码智能体会话端到端加密分享工具

    Vibivibi 上线一款 CLI 工具 vibi,可对 Claude Code、Codex CLI、OpenCode 和 Pi 的会话文件做端到端加密备份与分享,在另一台机器 pull 后按原路径安装,用 --resume 继续完整历史。

    推荐理由:原文给出了端到端加密的会话同步机制与支持范围,读者可据此判断跨机器续接编码智能体会话的可行性与代价。

  6. Show HN58

    Lazychat 发布 lazygit 风格 TUI,统一运行 Claude Code 与 Codex

    Lazychat 是一个 lazygit 风格的终端界面,可在同一窗口并排运行 Claude Code 和 Codex 会话,并显示哪个会话正在等待输入。它把每个项目的 Git 暂存、diff、提交和普通 shell 都放在一个按键可达的位置,还提供会话详情视图,展示提示词调用流程、上下文占用和最近十次提示词的状态、耗时、token 与 API 成本。

    推荐理由:原文展示了多智能体会话、Git 操作与终端整合在一个 TUI 中的具体交互方式,可据此判断日常编码工作流是否值得迁移。

  7. Show HN62

    Proofkit 发布浏览器交付前检查工具,支持 WordPress 与 Medium

    Proofkit 发布浏览器扩展,可在 WordPress(区块与经典编辑器)、Medium 及多数浏览器 CMS 中就地检查客户风格指南、拼写变体和错别字,覆盖 249 个词组与 530 种拼写,支持美式与英式英语。

    推荐理由:原文列出了浏览器内交付前检查的具体能力与免费策略,读者可据此判断它是否适合接入现有写作流程。

  8. Show HN58

    Reright.it 发布智能体文本人工审批工具

    Reright.it 发布一款面向智能体代写文本的人工审批工具,智能体提交草稿后需用户编辑并批准才会发送,未批准的内容不会发出。它作为 MCP server 接入 Claude Code、Codex、Cursor、Gemini CLI 和 VS Code 中的 Copilot 等客户端,安装脚本会在本机配置 hooks、MCP 连接和规则文本。

    推荐理由:产品把智能体代写文本改成人工审批队列,并公开了绕过方式与加密边界,便于判断其实际约束力。