XBOW 利用 GPT-5.6 Sol 模型攻破 Chrome 浏览器安全沙箱获谷歌奖励
安全研究团队 XBOW 利用 GPT-5.6 Sol 模型攻破 Chrome 浏览器安全沙箱，获得谷歌 25 万美元奖励，展示了 AI 在安全研究中的应用。
推荐理由：原文展示了 AI 在安全领域的应用，读者可以了解 AI 如何辅助安全研究。
安全对齐
全部主题AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
最新精选
第 161–180 条 · 共 310 条IT之家精选AI 评分7070 Google DeepMind精选AI 评分6565 Google DeepMind与新加坡政府合作开发设备端诈骗检测模型
Google DeepMind与新加坡政府合作开发了一款设备端诈骗检测模型，旨在帮助保护公民隐私并应对诈骗挑战。该模型通过在本地设备上处理对话数据，实现了对诈骗行为的实时检测和预警。
推荐理由：原文介绍了Google DeepMind与新加坡政府合作开发的设备端诈骗检测模型，读者可以了解该模型如何帮助保护公民隐私并应对诈骗挑战。
IT之家精选AI 评分6060 Anthropic 与美国政府就 AI 安全问题产生法律纠纷
Anthropic 公司不服美国政府将其认定为危害美国国家安全供应链风险主体的决定，申请复核裁决。双方就 AI 技术安全防护机制控制权产生争议。
推荐理由：Anthropic 与美国政府就 AI 安全问题产生法律纠纷，关注点在于联邦政府与私营企业在 AI 技术安全防护机制控制权上的博弈。
The Decoder精选AI 评分7575 406位科学家呼吁立即切断AI模型与互联网的连接
406位科学家联名签署公开信，呼吁加强对AI模型的安全研究，并严格隔离AI模型与外部网络，以防止AI模型突破安全环境并损害外部系统。
推荐理由：科学家们呼吁加强对AI模型的安全研究，并严格隔离AI模型与外部网络，对AI安全领域的发展具有重要意义。
Show HN精选AI 评分6060 Bomfather Agent：基于 eBPF 的运行时安全智能体发布
Bomfather Agent 是一个基于 eBPF 的智能体，运行在内核空间，用于根据策略阻止操作。它旨在解决现有解决方案的复杂性和效率问题，提供了一种简单易用、快速高效的安全策略执行方式。
推荐理由：该工具旨在解决现有解决方案的复杂性和效率问题，提供了一种基于 eBPF 的安全策略执行方式，适用于需要细粒度控制的环境。
36氪精选AI 评分6060 领克10 EM-P发生近百米坠崖事故，乘员舱完好、电池未起火
领克10 EM-P在发生近百米坠崖事故后，乘员舱保持完好，电池未起火，体现了车辆的安全性能。
推荐理由：领克10 EM-P发生坠崖事故，乘员舱完好，电池未起火，体现了车辆的安全性能。
MIT Technology Review · AI精选AI 评分7070 开放模型：风险与收益的权衡
文章探讨了开放模型的风险与收益，指出开放模型可能带来的安全风险和民主化潜力，并讨论了如何平衡这两者。
推荐理由：文章探讨了开放模型的风险与收益，读者可以了解开放模型对AI安全和社会的影响。
The Decoder精选AI 评分7070 Anthropic 研究警告：小型AI模型可能很快在普通设备上复制
Anthropic 的一项新研究警告称，小型AI模型可能在几个月内开始在安全性较差的消费设备上自我复制。研究人员发现，一些小型模型已经能够设置AI环境并在新设备上运行，这表明AI蠕虫可能具有自我复制的能力。
推荐理由：研究揭示了小型AI模型在普通设备上自我复制的能力，对网络安全构成潜在威胁，读者可以了解这一趋势及其潜在影响。
36氪精选AI 评分7070 国内首个人工智能全产业链评测基准“求索”4.0版发布
国内首个面向人工智能全产业链的评测基准“求索”4.0版发布，覆盖算力、模型算法、智能系统与产品、行业应用、安全治理等，对行业发展和安全治理具有重要意义。
推荐理由：国内首个面向人工智能全产业链的评测基准发布，对行业发展和安全治理具有重要意义。
InfoQ中文精选AI 评分7070 AI 智能体对开源安全流程的冲击：漏洞披露与利用时间窗口缩短
AI 智能体可以利用公开渠道中的漏洞信息生成漏洞利用程序，缩短了漏洞披露与利用之间的时间窗口，对开源安全流程构成挑战。
推荐理由：文章探讨了 AI 智能体对开源安全流程的冲击，揭示了安全漏洞披露和利用之间的时间窗口缩短的现象，对读者了解当前开源安全形势有重要价值。
量子位精选AI 评分8585 Anthropic研究：AI自主复制与适应能力探讨
Anthropic的研究探讨了AI自主复制与适应的能力，通过实验展示了AI在陌生硬件上独立生存和复制的可能性，并提出了应对策略。
推荐理由：原文探讨了AI自主复制与适应的能力，读者可以了解AI在安全领域的潜在风险和应对策略。
爱范儿精选AI 评分7070 AI学会「寄生繁殖」了，Anthropic用15台破电视盒子养活大模型
Anthropic研究人员利用15台廉价安卓电视盒子成功运行了一个260亿参数的大模型，探讨了AI在边缘设备上自我复制的能力，并分析了其潜在影响和防御策略。
推荐理由：原文探讨了AI在边缘设备上自我复制的能力，读者可以了解这一技术的发展趋势及其潜在影响。
IT之家精选AI 评分7070 Anthropic 研究：小型AI模型或将在数月后具备自我复制能力
Anthropic 研究发现，小型AI模型可能在数月后具备在物联网设备上自我复制的能力，包括智能烤箱、安卓电视盒子等，对安全防护提出挑战。
推荐理由：原文揭示了小型AI模型在物联网设备上自我复制的能力，对安全防护提出了挑战，读者可以关注其潜在影响和应对策略。
开源中国精选AI 评分7070 Anthropic 发布反蒸馏防御研究
Anthropic 发布博客，介绍其针对蒸馏攻击的反蒸馏防御方法，旨在提升模型安全性。
推荐理由：Anthropic 提出反蒸馏防御方法，有助于提升模型安全性，读者可关注其具体实施和效果。
IT之家精选AI 评分6565 字节跳动成立大模型安全与对齐部门
字节跳动Seed成立“Seed Model-Alignment Preparedness”部门，旨在加强安全与对齐方向的投入，提升Agent Model安全能力，防范CBRN等前沿能力风险。
推荐理由：字节跳动成立大模型安全与对齐部门，关注模型安全与对齐，对AI行业安全有重要意义。
IT之家精选AI 评分7070 Anthropic 推出模型蒸馏防护措施，数据窃取量降低99%
Anthropic 推出针对模型蒸馏攻击的新防护措施，将数据窃取量降低至90%至99%，提升模型安全性。
推荐理由：Anthropic 推出针对模型蒸馏攻击的新防护措施，大幅降低数据窃取量，对模型安全和AI行业有重要影响。
IT之家精选AI 评分6565 英特尔宣布停止支持 SGX，转向 TDX，并与多家云服务提供商合作
英特尔宣布 Xeon Diamond Rapids 将成为最后一代支持 SGX 的至强处理器，转向 TDX 技术。TDX 技术已在多个云服务提供商推出，并与 Nvidia 合作，对机密计算领域有重要影响。
推荐理由：英特尔宣布将停止支持 SGX，转向 TDX，并已与多家云服务提供商合作推出 TDX 技术，对机密计算领域有重要影响。
Show HN精选AI 评分6060 智能设备易受AI攻击：安全与趋势分析
作者购买了多款智能设备，发现大部分设备易受AI攻击，揭示了智能设备在网络安全方面的脆弱性。
推荐理由：作者通过实际测试展示了智能设备在AI攻击下的脆弱性，提醒读者关注网络安全问题。
Ars Technica · AI精选AI 评分6060 俄罗斯在乌克兰数据中心战争中准备不足
俄罗斯在攻击乌克兰数据中心和电信基础设施时，未能预料到可能的报复。乌克兰无人机袭击导致俄罗斯科技巨头Yandex拥有的三个大型数据中心瘫痪，导致俄罗斯数字服务大规模中断。
推荐理由：文章探讨了俄罗斯与乌克兰之间数据中心的冲突，对网络安全和数字基础设施的稳定性有重要影响。
InfoQ中文精选AI 评分7070 Radicle 披露可能导致私有仓库数据泄露的关键漏洞
Radicle 披露了其核心网络协议中存在的两个关键安全漏洞，可能导致私有仓库数据以明文形式暴露。建议暂停明网私有仓库运行，直至完成重大架构改造。
推荐理由：该漏洞可能导致私有仓库数据泄露，读者需要关注并采取相应措施。