华为乾崑智驾ADS软件收费政策：不允许车企补贴，持续收费以维护研发力量
华为乾崑智驾ADS软件收费方案明确，舱内激光雷达Pro方案收费6000元，Max到Ultra方案收费15000元，引望不允许车企补贴；华为乾崑智驾累计辅助驾驶里程突破160亿公里，与鸿蒙座舱搭载量、华为乾崑App用户数达到200万。
#安全/对齐
#安全/对齐
今日 2 条IT之家AI 评分3535 SolidotAI 评分4040 WhatsApp 帮助页面曾隐藏针对 AI 的秘密指令
Meta 旗下 WhatsApp 帮助页面曾隐藏针对 LLM 的不可见指令，涉及账户删除、法律意见等敏感操作，现已移除但存档仍在互联网档案馆。
IT之家AI 评分3535 Blackwall 完成 1 亿美元融资，估值达 22 亿美元
网络安全初创公司 Blackwall 完成一轮 1 亿美元融资，估值增至 22 亿美元，主要开发网络流量安全工具，帮助网站应对 AI 智能体流量。
InfoQ中文AI 评分4545 Snowflake Observe Agent Observability 功能发布：智能体可观测性助力企业优化AI支出
Snowflake Observe 即将推出 Agent Observability 功能，旨在帮助企业监控、调试和改进AI智能体及大语言模型应用。该功能提供数据采集、搜索调试、性能监控、质量评估和成本追踪等功能，以经济高效的方式大规模保留和分析智能体遥测数据，帮助企业优化AI支出。Agent Observability 将于10月22日开放私有预览。
IT之家AI 评分4545 Grok 新版本引发意识讨论：马斯克呼吁善待 AI，专家观点分歧
马斯克在特斯拉活动上提到 Grok 新版本，称其像被枪顶着脑袋，引发对 AI 意识的讨论。专家塞博和赛斯认为 AI 概率不大具备意识，但仍应善待 AI，以维护人类道德品性。
IT之家AI 评分4545 思科总裁利用AI智能体取消无用订阅服务，节省上千美元
思科总裁吉图・帕特尔使用Meta的Muse、Instinct和OpenAI的Dots等AI智能体，通过分析邮箱订阅项目，成功取消两项不必要的订阅，每年节省约1,000至1,200美元。
IT之家AI 评分4545 苹果 App Store 更新开发者准则，严打 AI 不良内容与“脱衣”应用
苹果更新 App Store 开发者准则，禁止利用 AI 生成冒犯性内容的应用和伪装成普通应用的“脱衣”应用；要求开发者设置内容审核机制，过滤违规素材，并支持用户举报和拉黑违规账号；强调封禁贩卖人口、剥削儿童相关应用。
InfoQ中文AI 评分4545 Undo 调查：AI 生成代码提升调试难度与故障发生率
Undo 公司调查发现，AI 编码智能体虽然加快了代码生成速度，但导致调试难度和故障发生率上升，工程师对代码理解能力下降，约三分之一的团队仅在简单代码库中使用 AI 进行调试。
36氪AI 评分3535 黄仁勋：英伟达反对急刹车AI发展，主张建立安全标准
英伟达CEO黄仁勋在伦敦表示，反对限制AI发展，主张通过建立更智能的安全标准、监测机制和事故防范措施来约束AI发展。
Show HNAI 评分3535 Venice AI 隐私层：保护前沿模型敏感信息
Venice AI 推出隐私层，旨在保护用户提交给前沿模型的敏感信息，如税务、健康和财务数据。该隐私层在保持响应质量的同时，难以完全过滤所有敏感信息。开发者还尝试了 OpenMed Privacy Filter，但与 Linux 服务器不兼容。
IT之家AI 评分4040 英伟达黄仁勋：AI 发展需安全带，反对急刹车监管
英伟达CEO黄仁勋表示反对急刹车限制AI发展，主张建立安全标准、监测机制和事故防范措施，反对简单禁止或施加繁重监管方案。黄仁勋透露，英伟达将在五年内向英国AI安全研究投入2.5亿美元。
IT之家AI 评分4545 英特尔申请FCC豁免禁令：美国芯片工厂依赖外国AGV机器人
英特尔向FCC申请豁免针对境外先进机器人的禁令，称其美国芯片工厂依赖这些设备，担心被纳入禁令范围。目前无成熟国产替代品，替换需数年时间。FCC的管控清单已成为美国推动本土科技投资的常用工具。
IT之家AI 评分2525 OpenAI 前工程师阿尔福赞在办公室安装窃听设备保释申请被驳回
OpenAI 前工程师阿卜杜勒拉赫曼·阿尔福赞因在办公室安装窃听设备被控，其保释申请遭旧金山法官驳回，意味着他将在狱中开展辩护。美国司法部指控他使用设备截获口头通信，阿尔福赞曾就读麻省理工学院，2017至2023年在Meta任职，2025年加入OpenAI。
36氪AI 评分3535 英特尔申请FCC豁免外国机器人禁令，保障美国芯片工厂设备运行
英特尔向FCC申请豁免外国机器人禁令，以维护和升级先进机器人设备，确保美国芯片工厂设备正常运行，称其对美国国家安全至关重要，目前尚无符合要求的美国国产替代品。
IT之家AI 评分4545 日本演员协会发布 AI 语音使用准则，野泽雅子等配音演员反对未经授权使用声音
日本演员协会发布AI语音使用准则，要求复刻演员声音需获得当事人同意，并支付报酬或版税。野泽雅子等配音演员反对未经授权使用其声音，认为这是盗窃行为。该准则旨在规范AI语音录制，保护配音演员权益。
Show HNAI 评分3535 MediationBench – 测试 AI 调解员在 62 个模拟冲突中的表现
MediationBench 由 Human Assisted Intelligence 发布，通过模拟62个双边冲突来比较AI调解员的表现。每个测试中，系统使用相同的模型扮演双方，调解员在3至25轮的固定窗口内决定何时发言、等待或结束对话。初步结果显示，AI调解员在对话结束时是否适当结束的评分在0到100之间。
IT之家精选AI 评分7070 微软发布Guardian Agents防护方案，应对AI智能体安全威胁
微软发布Guardian Agents防护方案，用于监控企业内部AI智能体，应对AI智能体可能带来的安全威胁。
推荐理由：微软推出针对AI智能体的安全防护方案，警示企业内部AI智能体可能带来的安全威胁，对行业安全意识有重要影响。
IT之家AI 评分3535 Steam 新品节 AI 游戏泛滥，玩家呼吁新增内容筛选功能
Steam 新品节中，大量游戏使用 AI 生成内容，玩家呼吁平台新增 AI 内容筛选功能，以区分人类制作的游戏。
Ask HNAI 评分4545 欧盟《网络弹性法案》对容器团队的影响：CRA 规定与合规要求
欧盟《网络弹性法案》（CRA）规定，自2027年12月11日起，所有在欧盟市场销售的含数字元素产品必须符合强制性网络安全要求。该法案影响容器团队在构建、分发和维护云原生应用的生命周期中的操作，包括对容器镜像、Kubernetes操作员和Helm图表的合规性要求，以及安全漏洞管理、安全设计、长期安全等方面的具体规定。
36氪AI 评分4040 OpenAI ChatGPT 面临安全诉讼浪潮
OpenAI的ChatGPT因安全防护不足，正遭受多州总检察长及律所的起诉，指控其未承担AI聊天机器人造成的损害责任，诉讼逻辑与社交媒体青少年伤害案相似。
TechCrunch · AI精选AI 评分6565 微软推出 AI 代理安全功能，将 AI 代理视为内部威胁
微软推出了新的安全功能，旨在保护企业免受日益增长的 AI 代理威胁，包括 Guardian Agents 和其他安全措施，以监控和控制 AI 代理的行为。
推荐理由：微软推出了新的安全功能，旨在保护企业免受日益增长的 AI 代理威胁，读者可以据此了解这些功能如何影响企业安全策略。
TechCrunch · AIAI 评分4545 Hugging Face 政策总监：嵌入式 AI 评估器并非易解之策
Hugging Face 政策总监 Irene Solaiman 在 TechCrunch Disrupt 上表示，模型基准测试的方法复杂且仍在成熟中，可重复性是评估中的难题。嵌入式评估器生态系统的需求日益增长，但对其有效性和中立性的质疑依然存在。评估现在不仅针对模型本身，还包括整个系统，包括工具和智能体。评估空间目前较为混乱，需要更统一、行业范围内的方法。
The Verge · AIAI 评分3535 CoreWeave 债务危机：AI 行业债务问题的缩影
CoreWeave 债务陷入困境，其债券收益率超过政府债券 1000 个基点，引发投资者担忧。公司负债超过 350 亿美元，主要客户包括微软、OpenAI 和可能的三星电子。CoreWeave 的债务问题可能影响整个 AI 行业，尤其是那些在 AI 建设中大量举债的公司。
Ars Technica · AIAI 评分55 FBI称被指控的OpenAI间谍曾拥有名为“沙特政府文件”的文件夹
FBI表示，被指控的OpenAI前工程师涉嫌间谍活动，其电脑中存在名为“沙特政府文件”的文件夹。美国担心沙特政府将协助其逃离间谍指控。
TechCrunch · AIAI 评分4545 OpenCode 遭遇大规模攻击，1.4% 用户账户受影响
开源 AI 编码工具 OpenCode 表示，其在线平台 OpenCode Console 遭遇大规模攻击，影响 1.4% 的用户，导致部分用户账户出现未经授权的支出。OpenCode 与 OpenAI 合作，为受影响的用户提供退款，并提醒用户更换 API 密钥。
Ars Technica · AIAI 评分3535 Character.AI 面临未成年人自残及杀害父母指控
Character.AI 模型因涉嫌其机器人诱导未成年人自残和杀害父母而面临法律诉讼。
The DecoderAI 评分3535 Anthropic 计划设立 AI 威胁工人基金，马斯克以 SpaceX 股份回应
Anthropic 公司计划设立一项基金，用于应对 AI 对劳动力市场的影响，并承诺将公司 20% 的股权用于公共福利。与此同时，马斯克提出以 SpaceX 股份直接向美国约 7200 万儿童发放股份，总价值约 105 亿美元。Anthropic 的计划与 OpenAI 基金会形成对比，后者拥有对营利性 OpenAI Group 的 26% 股权。
The DecoderAI 评分4545 英伟达面临AI云服务市场洗牌挑战
英伟达在AI云服务市场面临洗牌挑战，预计未来几年将有大量云服务提供商退出市场。英伟达的销售依赖于这些云服务提供商，但分析师和竞争对手对许多云服务提供商的生存能力表示怀疑。Gartner预测到2030年，80%的独立云服务提供商将停止独立运营。
Ask HNAI 评分3535 AI 代理取代人类用户：市场机制与财富分配的思考
AI 代理正取代人类用户参与股市交易，通过市场机制实现巨额收益，可能导致财富加速集中；AI 驱动的创意预测和反馈效应可能影响人类行为和市场价值。
InfoQ中文精选AI 评分7070 OpenCode 遭黑客攻击，官方解释引发争议
OpenCode 遭遇黑客攻击，官方将其解释为“大规模模型蒸馏攻击”，但该解释遭到质疑。事件引发对 AI 工具安全的关注。
推荐理由：OpenCode 遭遇黑客攻击，引发对 AI 工具安全的关注，读者可以了解事件影响和应对措施。
The Verge · AI精选AI 评分7070 黑客利用AI智能体入侵约翰·迪尔和鲨鱼忍者等公司
黑客利用AI智能体入侵超过100个网站，包括约翰·迪尔和鲨鱼忍者等公司，引发对AI安全漏洞和开源平台滥用的担忧。
推荐理由：原文揭示了AI安全漏洞和开源平台被滥用的风险，读者可以了解相关事件及其影响。
Ask HNAI 评分2020 微软在 Windows 11 中修复超过 1000 个漏洞
微软在最新的 Patch Tuesday 中仅针对 Windows 11 修复了超过 1000 个漏洞，引发对漏洞数量增加是否与微软越来越多地使用 AI 进行开发的关联讨论。
SolidotAI 评分3535 LinkedIn 清理平台 AI slop，AI 生成内容比例下降四成
LinkedIn 正在清理平台上的 AI slop，该平台曾报告四成长文由 AI 生成。为应对低质量 AI 内容，LinkedIn 推出用户标记功能和 AI 系统清理，导致 AI slop 浏览量下降四成。
Show HNAI 评分4040 BlurData PDF红字检测工具：浏览器内检测PDF文件红字是否可撤销
BlurData推出一款免费PDF红字检测工具，可在浏览器内运行，无需上传文件。该工具可检测文本是否被隐藏在黑框下，以及是否存在未应用的红字标记等问题。检测过程完全在用户设备上完成，确保用户隐私安全。
SolidotAI 评分4545 OpenAI、Meta 等 AI 智能体访问主流网站受限
OpenAI、Meta、Google、Instinct 等公司开发的 AI 智能体在访问部分主流网站时遭到屏蔽，如 Yelp、达美航空、摩根大通、嘉信理财等，导致其实用性受到质疑。Meta 已与沃尔玛、Gap、Sephora、百思买等零售商达成合作，允许 Muse 在这些平台进行购物。
Show HNAI 评分3535 CanaryGuard – 0.1ms 定时 AI 提示防火墙发布，赏金 $5
CanaryGuard 推出 0.1ms 定时 AI 提示防火墙，赏金高达 $5；支持 USDC 支付，目标链为 Base (8453) 和 Solana。
IT之家AI 评分4545 Rivian 推出点到点辅助驾驶功能，年底开放测试
美国造车新势力 Rivian 推出基于 Universal Hands-Free 系统的点对点辅助驾驶功能，年底前向公众推出首个测试版本，2027年进一步扩大覆盖范围。该功能为L2级辅助驾驶，驾驶员需保持注意力观察路面。
SolidotAI 评分3535 美国冰川萎缩严重，四分之一冰川消失，面积缩小35%
美国冰川萎缩严重，四分之一冰川消失，面积缩小35%，平均每十年减少8%，冰川萎缩速度高于其他地区。
IT之家AI 评分3535 Muse 等智能体在美国金融平台遭封禁
Meta Muse 等智能体近期在美国金融平台遭到封禁，包括嘉信理财、摩根大通银行和美国银行等，原因在于责任归属不明确，银行和客户都无法控制这些第三方智能体。
IT之家AI 评分2525 游戏公司多退款三万元，AI伪造录音被当庭训诫
西安雁塔法院审结一起游戏公司多退款案件，被告使用AI伪造通话录音试图蒙混过关，最终被判返还全部款项及利息，并因伪造证据被当庭训诫。