OpenAI 与 Anthropic、Google、Microsoft 公布 Frontier Model Forum 新执行董事及 1000 万美元 AI 安全基金
OpenAI 联合 Anthropic、Google 和 Microsoft 宣布了 Frontier Model Forum 的新任执行董事,并设立 1000 万美元的 AI 安全基金。
OpenAI 联合 Anthropic、Google 和 Microsoft 宣布了 Frontier Model Forum 的新任执行董事,并设立 1000 万美元的 AI 安全基金。
OpenAI 宣布 DALL·E 3 现已在 ChatGPT Plus 和 Enterprise 中可用。为支持更大范围发布,OpenAI 开发了一套安全缓解方案,并同步分享了其在内容来源溯源方面的研究更新。
推荐理由:OpenAI 官方说明 DALL·E 3 面向 ChatGPT Plus 与 Enterprise 开放,并同步披露安全缓解与来源溯源研究进展。
Retool 借助 GPT-4 为企业提供快速、安全的 AI 应用构建方式。
Typeform 借助 GPT-3.5 和 GPT-4,把在线表单升级为动态、对话式的数据收集体验。
Ironclad 借助 GPT-4 简化合同审查流程。
OpenAI 发布 DALL·E 3 系统卡,用于说明该图像生成模型在安全与风险方面的评估情况。
OpenAI 宣布 ChatGPT 新增看、听、说能力,可处理图像与语音输入并语音回复。
OpenAI 发布 GPT-4V(ision) 系统卡,介绍该多模态模型在安全与部署方面的评估情况。
OpenAI 宣布公开招募红队网络(Red Teaming Network)成员,邀请有意提升 OpenAI 模型安全性的领域专家加入。该网络旨在汇集外部专业力量参与模型安全测试与评估。
OpenAI 宣布在爱尔兰都柏林设立办公室,以扩大其在欧洲的业务布局。
OpenAI 宣布将于 11 月 6 日在旧金山举办其首届开发者大会,线下参会报名将在未来几周开放,全球开发者均可观看主题演讲直播。
OpenAI 发布面向教师的 ChatGPT 课堂使用指南,包含推荐提示词、ChatGPT 工作原理与局限性的说明,以及 AI 检测工具的有效性和偏见问题。
OpenAI 发布 ChatGPT Enterprise,主打企业级安全与隐私,并称其为目前能力最强的 ChatGPT 版本。官方公告未披露更多功能细节与定价信息。
推荐理由:OpenAI 官方发布面向企业的 ChatGPT 版本,读者可了解其安全隐私定位与能力版本信息。
OpenAI 与 Scale 达成合作,企业客户可借助 Scale 的 AI 专业能力微调 OpenAI 最先进的模型。该支持面向企业微调场景,帮助客户定制模型。
OpenAI 宣布开发者现在可以用自己的数据微调 GPT-3.5 Turbo,以适配各自的使用场景,同时更新了 API。
推荐理由:OpenAI 开放 GPT-3.5 Turbo 微调,开发者可用自有数据定制模型,是当时少数可微调的主流商用模型之一。
OpenAI 收购了 Global Illumination,后者整个团队已加入 OpenAI。
OpenAI 将 GPT-4 用于内容政策制定与内容审核决策,带来更一致的标注、更快的政策优化反馈闭环,并减少人工审核员的参与。
OpenAI 联合组建新的行业机构 Frontier Model Forum,旨在推动前沿 AI 系统的安全与负责任开发。该论坛将推进 AI 安全研究、确定最佳实践与标准,并促进政策制定者与行业间的信息共享。
OpenAI 与其他领先 AI 实验室通过自愿承诺,共同强化 AI 的安全性、安全防护与可信度,推动 AI 治理向前迈进。
OpenAI 为 ChatGPT 推出自定义指令功能,用户可设置自己的偏好,ChatGPT 会在之后所有对话中记住这些偏好。
推荐理由:OpenAI 官方为 ChatGPT 加入自定义指令,读者可了解用户偏好如何跨对话持续生效。
OpenAI 与美国新闻项目达成超 500 万美元的合作,旨在探索人工智能的发展如何支持本地新闻领域繁荣创新,并确保本地新闻机构参与塑造这项新兴技术的未来。
Viable 利用 GPT-4 以革命性规模分析定性数据,并实现前所未有的准确度。
OpenAI 分享了在 22 个国家开展对话所获得的洞察,并说明将如何把这些洞察纳入后续工作。
OpenAI 宣布首次国际扩张,在英国伦敦设立新办公室。这是 OpenAI 的第一个海外办公室。
OpenAI 宣布一系列 API 更新,包括更易引导的模型、函数调用能力、更长的上下文以及更低的价格。材料未给出具体模型版本、上下文长度或价格数字。
推荐理由:OpenAI 公布 API 模型可控性、函数调用、更长上下文与降价四项更新,可据此判断接口能力与成本变化。
OpenAI 启动网络安全资助计划,通过资助及其他支持方式,推动面向防御方的 AI 网络安全能力建设。
OpenAI 训练了一个模型,通过奖励每一步正确推理(过程监督)而非只奖励最终正确答案(结果监督),在数学问题求解上取得新的 SOTA。除性能提升外,过程监督还带来对齐收益:直接训练模型产出被人类认可的思维链。
推荐理由:OpenAI 用过程监督替代结果监督训练数学推理模型,读者可了解两种奖励方式的差异与对齐收益。
OpenAI 启动一项资助计划,将发放 10 笔各 10 万美元的资助,用于资助在法律允许范围内建立民主流程、决定 AI 系统应遵循何种规则的实验。
OpenAI 发文呼吁现在就开始思考超级智能的治理问题,即未来能力远超 AGI 的 AI 系统。文章指出当下正是着手考虑这一议题的好时机。
OpenAI 发布 ChatGPT iOS 应用,可同步对话记录并支持语音输入,同时把最新的模型改进带到移动端。
推荐理由:OpenAI 官方公布 ChatGPT iOS 应用的核心能力,读者可据此了解移动端入口与语音输入带来的使用变化。
OpenAI 使用 GPT-4 自动为大型语言模型中的神经元行为撰写解释,并对这些解释打分。团队同时发布了覆盖 GPT-2 全部神经元的解释与评分数据集,并说明这些解释并不完美。
推荐理由:OpenAI 用 GPT-4 自动为 GPT-2 神经元生成并评分解释,并公开全部神经元的解释数据集。
ChatGPT 用户现在可以关闭聊天记录,自行选择哪些对话可以被用于训练 OpenAI 的模型。
推荐理由:ChatGPT 新增关闭聊天记录开关,读者可据此了解对话数据是否用于模型训练的自主控制方式。
OpenAI 宣布推出漏洞赏金计划,邀请外界帮助发现其技术与服务中的安全漏洞,以打造安全、可靠、可信的 AI 技术。该计划是 OpenAI 致力于开发安全且先进 AI 承诺的一部分。
OpenAI 阐述了其 AI 安全方法,强调确保 AI 系统在构建、部署和使用各环节的安全性对其使命至关重要。
OpenAI 公布 ChatGPT 3 月 20 日宕机事件的调查结果,说明已采取的措施并披露该 bug 的技术细节。
OpenAI 宣布为 ChatGPT 实现插件的初步支持。插件是专为语言模型设计的工具,以安全为核心原则,可帮助 ChatGPT 获取最新信息、执行计算或调用第三方服务。
推荐理由:OpenAI 官方给出 ChatGPT 插件的最初形态,读者可据此理解模型接入外部工具与实时信息的早期路径。
OpenAI 发布题为 GPTs are GPTs 的研究,初步考察大语言模型对劳动力市场的潜在影响。原文正文未能抓取,仅标题可用。
冰岛正在使用 GPT-4 保护其语言。OpenAI 介绍了这一合作,旨在借助大语言模型延续冰岛语的使用。
Khan Academy 在一项有限试点项目中探索 GPT-4 的应用潜力,用于支持课堂虚拟教育。该试点由 OpenAI 提供 GPT-4 能力,具体功能与规模尚未披露。
Be My Eyes 借助 GPT-4 变革视觉无障碍体验。该应用利用 GPT-4 的能力为视障用户提供视觉辅助,帮助他们更好地感知和理解周围环境。