跳到正文

#部署/工程

今日 0 条
11月2日周一
10月30日周五
10月27日周二
10月24日周六
10月21日周三
  1. IT之家65

    OpenAI 发布研究报告:增强 AI 模型攻克冷门编程语言,COBOL 迁移准确率飙至 97.9%

    OpenAI 发布研究报告,展示了增强 GPT-6 Astra 等模型在迁移 COBOL、Fortran、Visual Basic 等低资源编程语言方面的能力,COBOL 迁移准确率高达 97.9%。

    推荐理由:OpenAI 发布的研究报告展示了 GPT-6 Astra 等模型在迁移 COBOL 等低资源编程语言方面的能力,对软件现代化和系统维护具有重要意义。

10月8日周四
10月7日周三
  1. Simon Willison42

    EmbeddingGemma 2 采用 Apache 2.0 许可证

    EmbeddingGemma 2 采用 Apache 2.0 许可证,Simon Willison 认为嵌入模型不应使用闭源、专有的托管模式。嵌入模型应用通常需计算并存储数千乃至数百万条嵌入向量,一旦厂商停用模型,用户就得为重新计算这些向量付费。他更愿意付费使用托管版本,同时保留厂商停服后可自行运行开放权重或另寻供应商的余地。

  2. Show HN62

    TOD 发布通用决策模型:约 400M 参数,前置拦截高置信度决策

    TOD 发布一个基于 Task Oriented Design 的通用决策模型,读取文本与图像、抽取事实并从可用动作中选出下一步,只处理有把握的回合,其余原样交给现有 LLM。

    推荐理由:TOD 用约 400M 参数的小模型前置拦截高置信度决策,给出了成本、延迟与校准误差的实测数据,可据此判断这类分层方案是否适合自己的工作流。

10月6日周二
  1. Show HN78

    Vev 开源决策模型发布:对截图提问并返回每个答案的概率

    Vev 发布 v0.1 研究预览版,这是一个类似 Jev 的决策模型,可对文本、JSON 记录或截图提出是/否、多选或分级问题,并在约 40 ms 内返回每个允许答案的概率,不生成文本。

    推荐理由:开源决策模型给出逐选项概率而非生成文本,读者可据此判断它在截图判定类任务上的可用边界。

10月5日周一
10月4日周日
  1. Show HN72

    gutsy-0.8b v0.4 发布:CPU 本地运行的校准决策模型

    gutsy-0.8b v0.4 发布,这是基于 Qwen3.5-0.8B 微调的本地决策模型,接收文本或 JSON 状态与是非、选择、打分三类问题,返回每个选项的概率,不做文本生成、不联网、无按次调用成本。

    推荐理由:0.8B 决策模型在 CPU 上给出校准概率,并公开了训练数据构成与各基准的弱项,便于判断这类小模型能承担哪些判断任务。

10月3日周六
9月22日周二
  1. Simon Willison66

    TypeSafe AI 发布 Jev,推出 System One 决策模型

    TypeSafe AI 发布 Jev,这是其称为 System One 模型的新类别模型,输入文本后不返回文本,而是返回对应类别、是/否问题、评分的浮点数及置信度。Jev 只对输入收费,首个模型输入价格为每百万 token 0.042 美元,输出免费,且支持并行评估多个问题。作者认为它适合分类、打标签、排序和搜索重排等任务,但指出它更接近黑盒,偏差问题需要重点关注。

  2. Latent Space74

    TypeSafe AI 发布 Jev:面向软件而非聊天的 System 1 模型

    TypeSafe AI 发布首个大型可编程模型 Jev,定位为面向代码消费的 System 1 模型,优化目标是每美元智能而非聊天体验。其核心创新是未发表的 RLCD(Reinforcement Learning for Calibrated Decisions),用带认知诚实概率的答案替代 RLHF 的人类评分反馈,以缓解幻觉、谄媚和对人类的长期依赖。

7月30日周四
6月11日周四
  1. Google DeepMind74

    Google DeepMind 发布 DiffusionGemma:文本生成最高提速 4 倍

    Google DeepMind 发布实验性开源模型 DiffusionGemma,采用文本扩散方式并行生成整块文本,在专用 GPU 上最高实现 4 倍推理提速,单张 NVIDIA H100 上超过 1000 tokens/秒,RTX 5090 上超过 700 tokens/秒。

    推荐理由:官方给出 26B MoE 文本扩散模型的速度数据与硬件门槛,可据此判断本地低并发场景的取舍。

8月5日周二
  1. OpenAI News82

    OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 开源权重模型

    OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开源权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开源模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。

    推荐理由:OpenAI 开源两款权重模型并给出尺寸与许可,读者可据此判断本地部署与推理任务的可用性。