跳到正文

#部署/工程

今日 0 条
10月13日周一
  1. OpenAI News62

    OpenAI 与 Broadcom 达成战略合作,将部署 10 吉瓦自研 AI 加速器

    OpenAI 与 Broadcom 宣布多年期战略合作,将部署 10 吉瓦由 OpenAI 设计的 AI 加速器。双方将共同开发下一代系统与以太网方案,计划到 2029 年支撑可扩展、高能效的 AI 基础设施。

    推荐理由:OpenAI 与 Broadcom 合作自研加速器并规划 10 吉瓦部署,可观察其算力自给路径与供应链布局。

10月6日周一
10月1日周三
9月23日周二
9月22日周一
8月7日周四
8月5日周二
  1. OpenAI News82

    OpenAI 发布 gpt-oss-120b 与 gpt-oss-20b 开源权重模型

    OpenAI 发布 gpt-oss-120b 和 gpt-oss-20b 两款开源权重语言模型,采用 Apache 2.0 许可。官方称这两款模型在推理任务上优于同规模开源模型,具备较强的工具调用能力,并针对消费级硬件的高效部署做了优化。

    推荐理由:OpenAI 开源两款权重模型并给出尺寸与许可,读者可据此判断本地部署与推理任务的可用性。

7月31日周四
7月30日周三
7月22日周二
5月22日周四
5月8日周四
3月6日周四
2月6日周四
1月21日周二
10月29日周二
10月1日周二
  1. OpenAI News60

    OpenAI 在 API 中推出 Prompt Caching

    OpenAI 在 API 中推出 Prompt Caching,对模型近期已见过的输入提供自动折扣。该功能面向重复使用相同前缀的调用场景,无需额外配置即可生效。

    推荐理由:OpenAI 为 API 引入提示词缓存,对重复输入自动折扣,读者可据此估算长提示词场景的成本变化。

8月6日周二
7月18日周四
5月6日周一
4月23日周二
3月18日周一
6月9日周四
6月2日周四
7月28日周三
1月25日周一
  1. OpenAI News52

    OpenAI 将 Kubernetes 集群扩展至 7500 节点

    OpenAI 将 Kubernetes 集群扩展到 7500 节点,为 GPT-3、CLIP、DALL·E 等大模型提供可扩展的基础设施,同时也支持小规模快速迭代研究,例如 Scaling Laws for Neural Language Models。

    推荐理由:OpenAI 公开将 Kubernetes 集群扩展到 7500 节点的实践,为大规模模型训练的基础设施选型提供一手参考。

1月30日周四
12月6日周三
6月28日周三
11月15日周二
8月29日周一