跳到正文

端侧 AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

最新精选

第 61–71 条 · 共 71 条
10月4日周日
  1. Show HN78

    SCM:macOS 本地 AI 搜索照片与视频每一帧

    作者发布 macOS 本地优先的 AI 搜索工具 SCM,可对任意文件夹内的照片和视频按自然语言检索,推理全部在本机完成,不上传、无账号。视频按镜头切分并嵌入,结果可定位到具体时间码;另提供 OCR 文字检索、Whisper 对话逐句检索和可选的本地 LLM 问答。默认 CLIP 模型权重约 435MB,首次下载后完全离线,可通过 Homebrew 安装。

    推荐理由:作者公开了本地优先的多模态检索工具,含视频分镜与对话检索的实现细节,可对照自己的素材管理方案。

  2. IT之家62

    苹果 MacBook Pro 外接 iPhone 17 Pro Max 运行 AI 模型,预填充性能最高提升 44%

    Reddit 用户 u/StayLameBro 通过 USB-C 将 iPhone 17 Pro Max 外接至 24GB 统一内存的 M4 Pro 版 MacBook Pro,用自制软件把 Qwen3.8-27B 的运算拆分给两台设备协同处理,预填充性能最高提升 44%。

    推荐理由:读者可看到把 iPhone 接入 Mac 分担模型层运算的具体拆分方式,以及不同上下文长度下的实测提升与局限。

  3. IT之家58

    特斯拉 FSD 将升级坑洼避让与导航学习用户驾驶习惯

    特斯拉 AI 团队首席软件工程师菲尔·段回复用户时确认,针对坑洼避让和导航选路两方面的改进即将上线。坑洼避让自 2019 年起被承诺、自今年春季 FSD v14.3 起列入版本更新说明的待上线项,目前尚不确定随小版本补丁推送还是等到 FSD v15;导航方面将基于「偏好路线」特性学习用户手动选道与介入操作,并延伸到终点停车习惯,同时特斯拉正把 Grok 整合进 FSD 以支持自然语音下达驾驶指令。

    推荐理由:特斯拉 FSD 确认将上线坑洼避让与学习用户驾驶习惯的导航重构,读者可了解其功能边界与落地节奏。

10月3日周六
10月2日周五
9月29日周二
  1. 36氪60

    腾讯 Marvis 改版为 AI 管家,主打电脑与文件管理

    腾讯近日推出新版 Marvis,将这款个人 Agent 从“操作系统层级的个人 AI 助手”升级为“AI 管家”,主打电脑、文件、软件和浏览器四类任务,新增电池健康检查、高耗电应用识别和开机启动项调整等系统与硬件管理功能。

    推荐理由:腾讯 Marvis 从个人助手转向电脑管家,端侧建索引再调云端模型的路径与多数办公 Agent 不同。

  2. 开源中国71

    Jeff 开源发布:22 毫秒出决策的小模型,0.8B 微调在 benchmark 上逼近 Jev

    开源项目 Jeff 发布,定位为专做快速决策的小模型,基于 Qwen3.5 和 Gemma 4 微调,作为 zero-shot 分类器一次前向计算即返回每个选项的校准概率,不生成文本、无需解析。在 RTX PRO 6000 上约 22 毫秒出一次决策,并支持 Apple M4 Max(MLX)。其 0.8B 微调版本在 benchmark 上逼近 Jev。

    推荐理由:开源小模型把决策任务做成零样本分类,给出延迟与基准对比,便于判断端侧快速决策的可行性。

8月12日周三
  1. Google DeepMind71

    Google DeepMind 发布 SL2T 手语转文字模型,率先落地 Pixel 11 的 Gboard 与 Live Transcribe

    Google DeepMind 发布多语言手语转文字模型 SL2T,首次把手语 AI 带入消费产品,在 Pixel 11 的 Gboard 和 Live Transcribe 中支持美国手语(ASL)转英文听写,后续将扩展更多设备与语言。

    推荐理由:官方给出 SL2T 的训练规模、基准分数与端侧隐私方案,可据此判断手语转文字落地的可行边界。

6月9日周二
4月3日周五