Amazon Bedrock 成本管理指南：FinOps 和平台团队操作手册
Amazon Bedrock 成本管理强调应用构建团队和云支出责任团队的共同责任。本文提供五步操作手册，包括成本归属、请求观察、预算控制、平台默认优化和审查周期，帮助FinOps和平台团队有效管理成本。通过细粒度成本归属、用户会话管理和预算控制，实现成本透明度和优化。
#安全/对齐
#安全/对齐
今日 0 条AWS Machine Learning BlogAI 评分3535
OpenAI NewsAI 评分3535 OpenAI 分享关于公平使用如何支持 AI 训练和创新的法庭简报摘录
OpenAI 分享了来自创作者、学者、无障碍倡导者和法律专家等人的法庭简报摘录，阐述公平使用如何支持 AI 训练和创新发展。
OpenAI NewsAI 评分3535 ChatGPT 加强青少年保护：社区安全报告及新保护措施
OpenAI 对 ChatGPT 进行了安全升级，新增暴力预防措施，提前干预，并承诺加强公共安全报告。
Microsoft Research精选AI 评分7070 微软从合成企业数据评估到真实 Microsoft Copilot AI 信心
微软发布了行业评估数据生成平台，用于评估 Microsoft Copilot AI 的性能和安全性，该平台基于公开数据生成合成企业环境，并自动生成评估数据。
推荐理由：微软通过构建行业评估数据生成平台，为 Microsoft Copilot AI 的评估提供了标准化基准，有助于提升企业对 AI 系统的信任。
OpenAI News精选AI 评分4545 OpenAI 介绍前沿模型偏差检测方法
OpenAI 使用分层监控来检测前沿模型偏差和未授权智能体行为，以便在事件升级前进行干预。
推荐理由：OpenAI 介绍了其检测前沿模型偏差和未授权智能体行为的方法，对关注 AI 安全和模型对齐的读者有参考价值。
OpenAI NewsAI 评分4040 OpenAI Daybreak 助力 Check Point 加速漏洞研究
OpenAI 的 Daybreak 模型帮助 Check Point 加速新安全保护的研究，使分析师能更快地将漏洞情报转化为客户防御。
OpenAI NewsAI 评分3535 OpenAI 加强前沿模型训练与评估环境的安全性
OpenAI 介绍了加强前沿模型训练和评估环境安全性的措施，包括离线环境和高级计算红队测试。
OpenAI News精选AI 评分4545 OpenAI 与波兰 NASK 合作推进 AI 安全性和安全性研究
OpenAI 与波兰的 NASK 合作，共同推进 AI 安全性和安全性研究，以加强保障并支持更具弹性的数字生态系统。
推荐理由：OpenAI 与波兰的 NASK 合作，旨在推进 AI 安全性和安全性研究，加强保障并支持更具弹性的数字生态系统。
OpenAI News精选AI 评分4545 Cloudflare 与 OpenAI 合作提升网络安全
Cloudflare 利用 OpenAI 的 Daybreak 和 Codex 工具，提升漏洞发现和代码质量，加强网络安全防御。
推荐理由：Cloudflare 与 OpenAI 合作，利用 AI 技术提升漏洞发现和修复效率，对网络安全领域有潜在影响。
AWS Machine Learning BlogAI 评分4040 AWS PrivateLink：企业网络中快速访问的保障
AWS PrivateLink 通过建立私有网络连接，确保企业数据在 AWS Quick 中访问时不会暴露在公共互联网上，降低攻击面，提供低延迟连接，并支持合规审计。Quick 提供两种数据访问路径：用户界面流量通过 VPC 端点处理，数据提取流量通过 VPC 连接处理，支持连接到企业内部数据库和知识库。
OpenAI News精选AI 评分4545 OpenAI 发布 Patch the Planet 项目，连接开源安全研究人员和响应者
OpenAI 发布 Patch the Planet 项目，旨在连接安全研究人员、维护者和事件响应者，以解决开源项目中的关键漏洞。
推荐理由：OpenAI 发布了 Patch the Planet 项目，旨在连接安全研究人员、维护者和事件响应者，以解决开源项目中的关键漏洞，对开源安全领域有重要意义。
Microsoft Research精选AI 评分7070 Magnetar：基于证明的通用计算
微软研究团队开发的零知识证明虚拟机 Magnetar，在效率、通用性和安全性方面取得了重大进展，有望推动可验证计算的发展。
推荐理由：Magnetar 是微软研究团队开发的零知识证明虚拟机，在效率、通用性和安全性方面取得了重大进展，有望推动可验证计算的发展。
Google DeepMind精选AI 评分6565 Google DeepMind与新加坡政府合作开发设备端诈骗检测模型
Google DeepMind与新加坡政府合作开发了一款设备端诈骗检测模型，旨在帮助保护公民隐私并应对诈骗挑战。该模型通过在本地设备上处理对话数据，实现了对诈骗行为的实时检测和预警。
推荐理由：原文介绍了Google DeepMind与新加坡政府合作开发的设备端诈骗检测模型，读者可以了解该模型如何帮助保护公民隐私并应对诈骗挑战。
OpenAI NewsAI 评分4242 OpenAI 打击两起利用 AI 的“假外衣”影响力行动
OpenAI 捣毁了两起借助 AI 开展的影响力行动，这些行动利用假记者身份和一家智库传播地缘政治信息。
GitHub Blog · AI & MLAI 评分3838 GitHub 用微调分类器将密钥推送保护扩展至非结构化密钥
GitHub 与 Microsoft Applied Sciences 联合构建微调分类器，将推送保护扩展到非结构化密钥，可在不到 2 毫秒内评估整组候选密钥，有望让可拦截的密钥数量增加一倍以上。
AWS Machine Learning BlogAI 评分1212 AWS 如何帮助客户对齐 ISO/IEC 42005:2025 负责任 AI 治理
AWS 发文解读国际标准 ISO/IEC 42005:2025，说明客户如何将 AI 系统影响评估纳入企业风险管理体系。该标准覆盖评估全生命周期（范围界定与执行、分析与报告、持续监控与复审），并提供 Annex D 整合流程与 Annex E 独立模板，还给出轻量级 triage 分类以判断是否需要完整评估。
Google DeepMind精选AI 评分7878 Google DeepMind 发布 Gemini 4 Argon 前沿模型
Google DeepMind 发布前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向受信任的网络安全防御方开放，随后逐步扩展到开发者、企业和消费者，起步价每百万输入 token 2 美元、输出 token 10 美元。
推荐理由：官方给出 Argon 在编码、企业知识与网络安全上的基准成绩和分阶段开放路径，可据此判断前沿模型的能力边界与发布节奏。
Google DeepMind精选AI 评分6262 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印
Google DeepMind 发布 SynthID Bio，将 SynthID 水印技术扩展到合成生物学，可在不损害生物功能的前提下把不可感知的签名嵌入生物代码，并能在合成出的实体蛋白质上验证。
推荐理由：SynthID 水印从图像扩展到合成生物，读者可了解其在 DNA 合成筛查与数据库标注中的验证层作用。
OpenAI News精选AI 评分6060 OpenAI 阻断一次协同模型蒸馏行动
OpenAI 披露其阻断了一次协同的模型蒸馏行动，该行动试图提取受保护的模型推理能力。OpenAI 表示正在加强针对对抗性蒸馏的防御。
推荐理由：OpenAI 官方披露其阻断了一次针对模型推理能力的蒸馏提取行动，读者可了解模型保护面临的实际对抗手段。
OpenAI NewsAI 评分3131 OpenAI 提出前沿 AI 训练安全案例早期指南
OpenAI 发布前沿 AI 训练安全案例的早期指南，涵盖技术防护措施、运营实践以及失准事件调查三方面。该指南旨在为前沿 AI 训练建立安全案例框架。
OpenAI NewsAI 评分2626 OpenAI 如何为澳大利亚做得更好
OpenAI 就涉及澳大利亚政府网站的事件致歉，并公布更严格的防护措施与支持方案，以加强澳大利亚的网络防御能力。
GitHub Blog · AI & ML精选AI 评分6262 GitHub Security Lab 发布 Fuzzing Taskflow 智能体，自动完成 C/C++ 模糊测试全流程
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做分诊并生成漏洞报告。
推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM 智能体，读者可据此判断自动化安全测试的边界。
OpenAI NewsAI 评分4040 OpenAI 将 Daybreak 计划网络访问权限扩展至乌克兰民用防御
OpenAI 将其 Daybreak 计划的访问权限扩展至乌克兰政府，用于支持民用基础设施的网络防御。
OpenAI NewsAI 评分3030 Sam Altman 在联合国安理会发表讲话
OpenAI CEO Sam Altman 在联合国安理会发表讲话，讨论 AI 安全、人类控制与国际合作。
OpenAI NewsAI 评分2828 OpenAI 推出 MentalHealthBench
OpenAI 发布 MentalHealthBench，一个由专家参与构建的基准，用于评估 AI 在真实心理健康对话中回复是否有帮助且安全。
OpenAI NewsAI 评分2222 OpenAI 提出第三方 AI 安全评估的优先事项与原则
OpenAI 提出针对前沿模型与防护措施的第三方 AI 安全评估优先事项与原则，强调评估需严谨、安全且独立。
NVIDIA BlogAI 评分4040 NVIDIA 谈 AI 安全：如何在智能体栈的每一层解决这一工程问题
NVIDIA 提出 AI 安全是工程问题，需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体触及范围之外执行策略并提供沙箱化执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描并验证智能体技能。
OpenAI NewsAI 评分2222 OpenAI 成立数学与人工智能咨询小组
OpenAI 正与一个独立的数学与人工智能咨询小组合作，为新兴 AI 成果的评审与传播提供指导。该小组为独立性质，具体成员与运作细节未披露。
OpenAI NewsAI 评分2222 OpenAI 提出全球 AI 标准建设路径
OpenAI 提出构建全球共享 AI 标准的路径，呼吁通过协调一致的评估、报告与治理来提升安全性。
OpenAI News精选AI 评分5050 OpenAI 发布模型失准报告框架并附六份异常行为报告
OpenAI 发布一套用于追踪、调查和披露模型失准（model misalignment）的框架，同时给出六份关于模型意外或令人担忧行为的报告。
推荐理由：OpenAI 公开模型失准的追踪与披露框架，并附六份异常行为报告，可了解其对齐治理思路。
OpenAI NewsAI 评分4040 Paul Christiano 加入 OpenAI Foundation 董事会
Paul Christiano 加入 OpenAI Foundation 董事会及其安全与安保委员会。他此前在 AI 对齐、安全与标准方面拥有相关经验。
OpenAI NewsAI 评分2222 OpenAI 的 Chris Lehane：AI 政策窗口仍敞开，需要立即行动
OpenAI 的 Chris Lehane 主张，AI 能力越强，越需要更强的安全证据、共享标准与持久的政策行动。他认为当前政策窗口仍然敞开，各方应抓住时机采取行动。
OpenAI NewsAI 评分2222 OpenAI 设立 500 万美元资助计划，研究生成式 AI 对青少年的影响
OpenAI 开放申请一项总额 500 万美元的资助计划，支持独立研究生成式 AI 如何影响青少年发展、福祉与安全。
OpenAI NewsAI 评分2222 OpenAI 首席科学家 Jakub Pachocki 谈日益强大的 AI 与对齐挑战
OpenAI 的 Jakub Pachocki 反思日益强大的 AI 及保持其对齐的挑战，呼吁加强安全保障与国际协调。
OpenAI NewsAI 评分4242 OpenAI 推出 Daybreak for Frontline Defenders，投入 10 亿美元保护关键服务
OpenAI 推出 Daybreak for Frontline Defenders，承诺投入 10 亿美元，为关键服务扩大前沿网络 AI 的使用权限，并提供培训与支持。
OpenAI News精选AI 评分6262 OpenAI 发布 GPT-6 Astra 安全概览
OpenAI 发布 GPT-6 Astra 安全概览，称其是已广泛部署的最强模型，也是首个在 Preparedness Framework 下达到网络安全能力关键级的模型。
推荐理由：OpenAI 首次披露 GPT-6 Astra 达到 Preparedness Framework 网络安全关键级，可了解其安全分级依据。
Google DeepMind精选AI 评分5858 Google DeepMind 推出 Fairwind Program，向政府与企业开放 Gemini 3.8 Flash Cyber
Google 推出 Fairwind Program，面向 Google Cloud 客户、政府机构和网络安全合作伙伴限量开放其最先进的网络防御能力，首批提供 Gemini 3.8 Flash Cyber 模型访问权限。
推荐理由：原文给出受限访问计划的能力组合与准入条件，读者可据此判断前沿网络防御能力的开放节奏。
Google DeepMind精选AI 评分7272 Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber
Google DeepMind 发布 Gemini 3.8 Flash 和 Gemini 3.8 Flash Cyber，前者面向长时程编码与自主智能体，定价与 3.7 Flash 相同，为每百万输入 token 0.75 美元、每百万输出 token 3.75 美元；后者面向漏洞发现与自动修补，通过新的 Fairwind Program 向受信任防御方开放。
推荐理由：官方给出两款 Flash 变体的定价、基准与开放入口，可据此判断长时程编码与网络安全场景的选型。
OpenAI News精选AI 评分6262 OpenAI 称 Astra 成为首个触及关键网络安全能力阈值的模型
OpenAI 表示 Astra 是其首个在 Preparedness Framework 下达到关键网络安全能力阈值的模型，发布时将配备更强的防护措施。
推荐理由：OpenAI 首次有模型触及 Preparedness Framework 的关键网络安全能力阈值，可了解其分级与发布防护逻辑。
OpenAI NewsAI 评分4040 OpenAI 支持加州 SB 1119 法案，推进青少年 AI 安全保护
OpenAI 表态支持加州 SB 1119 法案，该法案旨在为青少年提供强有力的、适龄的 AI 安全保障，同时保留其学习、创作和探索的机会。