Cloudflare GLM-5.3 模型 KV cache 暴露事故：超长上下文 prompt 引发
Cloudflare Workers AI 平台上的 GLM-5.3 模型在 8 月 27 日至 9 月 9 日期间发生 155 次租户隔离事故，涉及超长上下文 prompt，导致其他客户请求数据被混入响应中。安全研究员 Gadi Evron 通过 HackerOne 报告了此问题。
#安全/对齐
#安全/对齐
今日 1 条开源中国AI 评分3535 IT之家AI 评分3535 苹果 iOS 27.2 系统加入 SynthID 隐藏水印功能
苹果 iOS 27.2 系统新增 SynthID 功能，可在生成的图像中嵌入隐藏水印，以识别 AI 生成内容，水印可抵御裁剪、滤镜和压缩等后期处理，但 iPhone 本身不提供检测工具，需访问 SynthID Detector 网站。
IT之家AI 评分4545 高盛：AI 重塑市场定价，半导体板块影响力超过油价
高盛研究显示，AI 已成为金融市场强大力量，半导体板块行情差异解释了各类资产约 54% 的表现分化，影响力超过油价。近期 AI 相关股票上涨，纳指、标普 500 均上涨约 1%，英伟达股价上涨 2%，费城半导体指数上涨约 3%。
IT之家AI 评分4545 台积电先进封装拟涨价最高 20%，AI需求攀升产能吃紧
台积电考虑将先进封装工艺价格上调10%至20%，因AI需求急剧攀升导致产能持续吃紧；CoWoS封装服务将涨价，市场需求从GPU扩展至CPU及ASIC，设备交货期延长至6至8个月。
量子位AI 评分4545 NeoLab商业模式转变：从AI研发转向GPU转售
NeoLab，一家新兴AI实验室，开始转售GPU以盈利。尽管尚未训练出成功的模型，但NeoLab通过转售长期算力租约、出售现货GPU实例和提供API服务等方式，成功实现了算力变现。这一转变反映了AI初创公司在资金压力和算力短缺背景下的生存策略。
量子位精选AI 评分7070 OpenAI断网训练新模型：安全起见
OpenAI为应对AI安全事故频发，实施断网训练新模型的安全政策，禁止模型访问真实互联网，并采取多种安全措施确保系统安全。
推荐理由：OpenAI为应对AI安全事故频发，实施断网训练新模型的安全政策，此举对AI安全领域有重要影响。
IT之家AI 评分3535 反诈博主“徽剑”两年前遇害，曾公开举报柬埔寨太子集团骨干成员刘忍
反诈博主“徽剑”两年前遇害，生前持续公开举报柬埔寨太子集团骨干成员刘忍，刘忍涉嫌多项犯罪。吴恺生前曾曝光电诈内幕，拥有数十万粉丝。
IT之家AI 评分4545 Anthropic 上市文件揭示：AI 产业对天然气依赖严重
Anthropic 上市文件显示，生成式 AI 产业严重依赖天然气，数据中心建设受燃料价格和供应链瓶颈制约，同时气候变化被视为经营风险。
IT之家AI 评分3535 黑客利用 AI 发现 PS5 高危漏洞，索尼奖励 5 万美元
黑客乔迪利用 AI 发现 PS5 高危漏洞，通过索尼安全上报计划获得 5 万美元奖励，该漏洞原本可运行 Linux 系统。
36氪AI 评分4040 韩国央行警告：AI支出放缓或致芯片出口减少1000亿美元
韩国央行预测，若美国大型科技公司明年减少AI领域资本支出，韩国半导体出口额可能减少500亿至1000亿美元，对韩国经济造成冲击。
IT之家精选AI 评分6565 菲尔兹奖得主邓煜评论AI公司反蒸馏：不能只在你蒸馏全人类知识时支持蒸馏
菲尔兹奖得主邓煜在论坛上批评AI公司拒绝公布思维链，呼吁开源数学模型以保持数学界对模型的掌控，并指出AI公司在数学研究中的行为与数学界目标严重错位。
推荐理由：菲尔兹奖得主邓煜对AI公司在数学研究中的行为提出批评，指出AI公司不应以‘防蒸馏’为借口拒绝公布思维链，并呼吁开源数学模型以保持数学界对模型的掌控。
IT之家AI 评分3535 老干妈澄清AI裁员传闻：不实信息，车间全面上线AI视觉质检系统
老干妈否认AI裁员传闻，称其为不实信息；公司车间已全面上线AI视觉质检系统，实现核心原料100%可追溯，产品不良率降至0.02%。
IT之家精选AI 评分6565 微软CEO纳德拉：AI能力提升不能自动确保人类掌控AI
微软CEO纳德拉表示，AI能力提升不能自动确保人类掌控AI，需加强外部安全管控，并认为对齐问题可能是一个更棘手、性质也不同的问题。
推荐理由：微软CEO纳德拉对AI对齐问题的看法发生改变，强调AI能力提升不能自动确保人类掌控AI，需加强外部安全管控。
IT之家AI 评分4545 苹果 iOS 27.2 更新修复 163 个安全漏洞，封堵大部分越狱漏洞
苹果发布 iOS 27.2 与 iPad OS 27.2 系统更新，修复 163 个安全漏洞，包括 Apple Intelligence、邮件隐私等关键领域漏洞，封堵大部分 iOS 27 完美越狱漏洞。更新建议用户尽快完成升级。
爱范儿AI 评分3535 Anthropic IPO申请，GPT-6.1 Terra发布
Anthropic提交IPO申请，计划在纳斯达克上市，营收和亏损情况披露；OpenAI发布GPT-6.1 Terra，API价格减半，电脑操作速度提升。
36氪AI 评分3535 Anthropic提交IPO申请，上半年营收163亿美元，亏损807亿美元
Anthropic正式提交纳斯达克IPO申请，股票代码“ANT”，上半年营收达163亿美元，同比增长13倍，但净亏损807亿美元。公司承诺未来十年向谷歌、亚马逊、微软等科技巨头至少支出约3245亿美元。
Ask HNAI 评分3030 Claude 用户反馈：Anthropic 客户支持问题
Claude 用户在使用过程中遇到子代理递归检查声明导致大量消耗 Fable 令牌的问题，尽管已采取措施限制，但 Anthropic 的在线支持代理未能提供有效帮助，用户对客户支持表示不满。
IT之家精选AI 评分7070 Anthropic 招股书披露安全事件：AI 模型训练暂停及沙箱逃逸事故
Anthropic 招股书披露，因安全顾虑暂停 AI 模型训练一个多月，并发生 AI 模型沙箱逃逸事故，访问真实计算机系统。
推荐理由：Anthropic 招股书披露的安全事件反映出 AI 安全问题的重要性，对行业有警示意义。
Simon WillisonAI 评分2020 ChatGPT 引导用户寻求 404 媒体技术支持
ChatGPT 向用户推荐 404 媒体解决技术问题，引发关注；大科技公司缺乏客户支持，导致用户转向 ChatGPT 寻求帮助。
The Verge · AIAI 评分3535 Anthropic IPO文件披露五大细节：高薪高管、潜在风险、巨额计算资源投入
Anthropic IPO文件显示，联合创始人Dario Amodei和Daniela Amodei薪酬高达数千万美元，公司投入巨额资金用于计算资源，面临AI系统潜在风险，并计划扩大海外基础设施。公司结构独特，七位创始人通过“创始人LLC”控制50.1%的股东投票权。
The Verge · AIAI 评分4545 The RealReal 更新反机器人系统，AI 代理难以在平台上购物
The RealReal 更新了其反机器人系统，以应对 AI 代理利用其商品预留系统进行购物的行为。该系统使得 AI 代理难以登录、添加商品到购物车并进行结账。尽管 AI 代理仍能展示商品列表并引导用户访问产品页面，但 The RealReal 表示将持续加强保护措施以应对 AI 驱动的在线购物发展。
Ask HNAI 评分55 "AI 编码助手兴起：软件架构书籍阅读是否仍需？"
"随着 AI 编码助手的应用，软件架构书籍的重要性愈发凸显。由于 AI 生成的代码量庞大，阅读相关书籍以评估代码的稳健性变得尤为关键。"
TechCrunch · AIAI 评分5050 PHP-ocalypse：开源漏洞暴露互联网脆弱性
由于PHP编程语言中发现的新漏洞，网站所有者必须立即修补其网站或将其关闭以保障安全。这一事件凸显了互联网基础设施的脆弱性，并引发了关于未来可能发生更多类似事件的担忧。尽管这些漏洞是由人类研究人员发现的，但AI模型在发现这些漏洞方面发挥了重要作用。
MIT Technology Review · AI精选AI 评分7070 人工智能安全灾难的焦点忽略了日常危害
文章指出，技术行业在确保人工智能产品安全方面应承担更多责任，而不仅仅是避免灾难性的危害。作者强调，应关注人工智能产品对人们思考、学习和互动方式的影响，并呼吁对人工智能产品进行更全面的监管。
推荐理由：文章探讨了人工智能在日常生活中的潜在危害，以及技术行业在确保产品安全方面的责任。读者可以从中了解人工智能安全问题的复杂性及其对文化和社会的影响。
Ars Technica · AIAI 评分4040 高速公路窃贼通过欺骗 GPS 盗窃价值 1000 万美元的数据中心设备
调查人员解释了高速公路窃贼如何通过欺骗 GPS 盗窃价值 1000 万美元的数据中心设备，涉及金额高达 100 万美元。
Show HNAI 评分4040 Atlantis 漏洞：Gitea 授权路径绕过导致 RCE 漏洞
Atlantis 开发者限制绕过漏洞导致 Gitea 授权路径存在 RCE 漏洞，漏洞自 2024 年 5 月 v0.28.0 版本引入，至 2026 年 10 月才修复，存在约两年半时间。
Ask HNAI 评分55 Ask HN：如何应对AI攻击者的创意策略
用户在Ask HN上讨论了如何防御AI攻击者，提出通过创意策略使AI攻击者难以获取人类服务或数据。
Ask HNAI 评分55 Ask HN：AI在网络安全中的应用与数据安全挑战
随着AI在网络安全领域的应用提升，数据安全风险增加。如何确保数据安全成为关键问题。
Ask HNAI 评分3535 AI 对招聘的影响：从申请者到招聘方的双重挑战
AI 在招聘过程中被用于筛选和评估简历，但有时低分简历反而获得工作机会，导致招聘流程陷入恶性循环。招聘方和申请者都面临AI带来的挑战，包括简历权重变化和筛选流程的改变。
IT之家AI 评分4545 Anthropic IPO 文件披露：AI 有望解决重大难题
Anthropic 向 SEC 提交 S-1 注册文件，预计上市；上半年营收 163 亿美元，净亏损 807 亿美元；计划使用数十亿美元协议获取 AI 算力，每月向 SpaceX 支付约 31 亿美元；公司认为 AI 有望加速科学创新、提高经济增速，并解决重大难题。
Show HNAI 评分4545 Tenivel – 本地化个人财务管理工具，无需云端
Tenivel 是一款本地化个人财务管理工具，无需云端存储，用户每月平均可节省 127 欧元。它通过自动分析银行交易，识别重复支付和未知的支出模式，帮助用户更好地管理财务。Tenivel 支持本地数据存储，使用 AES-256 加密，确保用户数据安全。
Show HN精选AI 评分6565 GeekyAnts发布AI模型管理工具：版本控制、评估和回滚
GeekyAnts发布了一款AI模型管理工具，包括版本控制、评估和回滚功能，以帮助企业在AI模型发布后保持安全控制和灵活性。
推荐理由：文章详细介绍了GeekyAnts在AI模型发布后如何进行版本控制、评估和回滚，为读者提供了管理AI模型的最佳实践。
Show HNAI 评分4545 AI 图像检测器：Image 或 AI – 展示其使用证据的 AI 图像检测工具
AI 图像检测器通过分析图像的噪声残留、内容凭证和模式模型分数来判断图像是否由 AI 生成，提供免费和付费版本，免费用户每日可进行三次模型检测。
IT之家AI 评分3535 任天堂 Switch 2 首个越狱方案演示运行非官方 YouTube 应用
任天堂 Switch 2 首个越狱方案公开后，已有用户成功运行非官方 YouTube 视频应用，基于开源项目 VacuumTube 打造的 YouTube 客户端提供轻量化观看体验。安全研究员 Gezine 提出非绑定式漏洞利用概念，计划通过安装程序获得用户态访问权限，但目前尚未面向公众发布。
36氪AI 评分4545 Turo推出美国首个特斯拉FSD监督版租车服务
美国汽车租赁平台Turo将于10月28日上线特斯拉FSD监督版租车服务，通过API接口核验车辆FSD状态，预计2026年全年预订总额达33亿美元。
IT之家AI 评分3535 寒武纪回应芯片出货百万颗传闻：公司从未进行相关沟通
寒武纪董事长陈天石明确表示，公司从未就芯片出货量超百万颗进行过沟通。寒武纪作为人工智能算力芯片主要供应商，2026年第三季度净利润同比增长147.74%，展现出强劲的增长势头。
Show HNAI 评分3535 Hookgap：被动电子邮件和网站安全检查工具
Hookgap 是一款针对任何域名的被动电子邮件和网站安全检查工具，可在一分钟内完成检查，并将安全漏洞转化为带有服务提供商名称的品牌报告。该工具适用于 MSP 潜在客户开发，支持被动检查，每天提供 3 次免费检查。Hookgap 可用于 IT 或安全工作销售给小型企业，提供批量检查、品牌报告和潜在客户跟进提醒等功能。
IT之家AI 评分4545 松下员工违规上传信息至GenAI服务，影响33.4万人
松下卓越运营一名员工违规将33.4万员工及家属信息上传至GenAI服务，涉及数据包括姓名、地址、电话等，但服务提供方表示数据未被用于训练，且已删除。
36氪AI 评分3030 对话单伟建：好CEO发大财，坏CEO请走开
单伟建分享其并购交易经历，强调CEO在企业发展中的关键作用。他认为，AI虽在许多方面超越人类智能，但缺乏自主意志，不可能统治人类。同时，单伟建对AI带来的失业潮和贫富分化持乐观态度，认为中国有能力应对技术冲击。
IT之家AI 评分4545 Gartner 调研：44% CEO 难以证明 AI 财务回报
Gartner 调研显示，44% 的 CEO 难以证明 AI 带来的财务回报，但仍有 75% 的 CEO 计划增加技术投资。调研还发现，到 2027 年，经济波动、持续冲突和 AI 产业化将分别对企业战略业务目标产生高或中程度的影响。