跳到正文

端侧 AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

最新精选

第 41–60 条 · 共 74 条
10月7日周三
  1. Show HN58

    Willow 发布语音听写工具,称比系统听写准确 3 倍

    Willow 发布语音听写产品,称其准确率比系统自带听写高 3 倍,文字最快 200ms 出现。产品支持风格匹配、自动学习词典、快捷短语、100 多种语言和离线模式,并称通过 SOC 2 Type II 认证、符合 HIPAA、零数据留存且端到端加密。

    推荐理由:原文列出语音听写的准确率、延迟与风格匹配等具体指标,可据此判断它和系统自带听写的差异。

  2. Show HN62

    Sidekins 发布 Mac 桌面伴侣:按住按键圈选屏幕提问,可与好友的 sidekin 互动

    Sidekins 发布 Mac 桌面伴侣应用,按住 fn 和 control 圈选屏幕任意内容即可提问,截图不会被保存,仅支持 Apple silicon(M1 或更新)的 Mac。它还能一步步引导操作、后台执行找商品等任务并在结账前停下,以及把消息以你的声音送到好友屏幕上,好友需同样安装才能互相拜访。应用免费起步,每月有一定消息和任务额度,Pro 提供更多。

    推荐理由:原文用一天时间线展示桌面伴侣的交互方式,并明确说明屏幕读取与代发消息的权限边界。

10月6日周二
  1. IT之家58

    挪威政府拟在部分敏感区域临时禁用人工智能眼镜

    挪威政府当地时间本月 5 日表示,计划尽快向议会提交草案,临时禁止在公园、海滩、博物馆、购物中心、学校、幼儿园、游乐场、医疗机构、健身场所等敏感区域使用人工智能眼镜,并为后续永久性立法设立专家咨询机构。

    推荐理由:挪威拟在公园、学校等敏感区域临时禁用 AI 眼镜,并同步筹备永久立法,可观察可穿戴设备引发的隐私监管路径。

  2. Ask HN62

    Orcah Studio 推出本地优先视频智能体,可检索视频内容

    Orcah Studio 创始人 Ilias 发布本地优先桌面应用,目前支持 Mac OS,可完成音频转写、人脸识别、物体检测、OCR 和视频场景描述。应用内置本地优先的视频智能体,能理解提示词并定位到用户要找的具体片段,该智能体基于一个 8B 参数的开源权重模型微调,支持工具调用。此外还提供 MCP,可接入 Claude Code、Codex 和 OpenCode 检索已索引的视频。

    推荐理由:创始人自述本地优先视频智能体的能力组合与 MCP 接入方式,可了解端侧视频检索的一种实现路径。

  3. Show HN62

    Skytail:把 Three.js 游戏编译成 C++ 并跑在 Xbox 上

    Skytail 是一个用 TypeScript 和 three.js 写的无尽飞行游戏,同一份代码既能在浏览器运行,也能通过 GeaStack CLI 提前编译成 C++ 原生 macOS 和 Xbox 应用,原生版本不依赖 JavaScript 引擎。

    推荐理由:同一份 TypeScript 代码经 GeaStack 编译为 C++,在浏览器、macOS 和 Xbox 上复用同一套 three.js 渲染器,可看跨平台原生构建的可行路径。

  4. Show HN58

    Rei:跑在 Game Boy Color 上的 374K 参数语言模型 v1.0 发布

    作者发布 v1.0,把 374K 参数的语言模型用汇编跑在 Game Boy Color 上,并新增第二张卡带 Rei,一个会问名字并记住的对话角色。故事模型和 token 未变,编码器改为精确实现并快 150 倍,首个 token 从 6.8 秒降到 1.8 秒,速度 0.46 秒/token。

    推荐理由:作者把 374K 参数模型塞进 Game Boy Color 并给出逐项实测数据,可看端侧推理的极限工程取舍。

10月5日周一
  1. Show HN71

    Parakeetogo:可在 CPU 上运行的便携 ASR 二进制,速度约为 Photon 的 2 倍

    作者发布 Parakeetogo,一个面向 moondream/parakeet-redux(parakeet-tdt-0.6b-v3 的 1.58-bit 三值版本)的独立 C++ 推理引擎,支持 x86 与 ARM CPU,单个二进制完成音频输入到文本输出,无需 Python 和运行时下载。

    推荐理由:作者给出与 Photon 同机对比的实测数据与跨架构一致性验证,可据此判断 CPU 端 ASR 部署的可行边界。

  2. Show HN58

    EarWing:可 3D 打印的开源转录硬件设备

    作者发布开源硬件转录设备 EarWing,可自行 3D 打印并组装,使用 ESP32 开发板和 4 个麦克风做降噪。转录与摘要生成在浏览器端完成,转录用 Parakeet,要点、开放问题和行动项提取用 LFM 2.6B,代码已开源于 GitHub,作者称软件目前较粗糙但在 Chrome 中运行良好。

    推荐理由:开源硬件方案把转录设备的成本结构摊开,读者可据此判断自建替代订阅的可行边界。

  3. Show HN71

    Minigraf:Rust 编写的嵌入式双时态图数据库发布

    Minigraf 是一个用 Rust 编写的单文件嵌入式图数据库,支持 Datalog 查询和双时态(事务时间加有效时间)时间旅行,定位为面向 AI 智能体、移动应用和浏览器的图记忆存储。

    推荐理由:作者给出了双时态图数据库的完整能力清单与多语言绑定,读者可据此判断它能否替代现有 Agent 记忆存储方案。

  4. InfoQ中文62

    苹果公布 Apple Reference Image 设计:iPhone 18 Pro 传感器级照片签名,信任交给私有云计算

    苹果公布 Apple Reference Image 设计,这是 iPhone 18 Pro 和 iPhone 18 Pro Max 主摄像头上一项需用户主动启用的拍摄模式,可生成带时间戳并验证来自真实传感器拍摄的照片。

    推荐理由:材料呈现了苹果把图像溯源信任从 C2PA 编辑链转向传感器与自家云的设计,以及社区对重放攻击和匿名性的分歧。

  5. Show HN62

    Moching 发布桌面 AI 智能体,内置 219 个工具(Rust)

    Moching 发布桌面 AI 智能体,内置 219 个原生工具,覆盖 PC 系统控制、浏览器自动化、Office 文档、媒体与视频生成、屏幕感知、HID 控制、记忆知识库、LSP 代码智能等 12 个领域,采用 Rust 核心加嵌入式 Python 运行时。

    推荐理由:原文列出 219 个内置工具的分域清单与跨平台安装信息,可据此判断桌面级智能体的能力边界。

  6. IT之家71

    Meta 开源 Muse Gadgets,用 ESP32 和树莓派打造自定义 AI 硬件

    Meta 于当地时间 10 月 2 日宣布推出开源项目 Muse Gadgets,允许开发者为个人 AI 智能体 Muse 打造自定义硬件,并已在 GitHub 按 Apache 2.0 许可发布 ESP32 固件和 Linux 设备 SDK。

    推荐理由:Meta 把 Muse 智能体开放到 ESP32 和树莓派,读者可据此判断个人智能体接入自有硬件的门槛与安全边界。