以色列公司利用数字广告安装间谍软件
以色列公司 Discover-Tech 通过数字广告在半岛电视台设备上安装间谍软件，这是首次利用数字广告实施的零点击攻击。Google 已采取措施切断其接入数字广告生态系统的渠道。
推荐理由：原文揭示了数字广告被用于间谍软件攻击的新趋势，读者可以关注这一安全风险及其对数字广告行业的影响。
安全对齐
全部主题AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
最新精选
第 141–160 条 · 共 310 条Solidot精选AI 评分7070 The Verge · AI精选AI 评分6565 AI智能体收集和使用个人数据引发隐私和安全担忧
Meta的Muse智能体收集用户及其社交网络的数据，引发隐私和安全问题，文章探讨了AI智能体在收集和使用个人数据方面的潜在风险。
推荐理由：文章探讨了AI智能体在收集和使用个人数据方面的隐私和安全问题，对读者了解AI技术潜在风险有重要价值。
Show HN精选AI 评分7070 GitProof – 代码版权证明和证据证书工具发布
GitProof 是一款用于证明代码版权和生成证据证书的工具，它可以帮助开发者满足法律要求，并保护他们的代码版权。
推荐理由：GitProof 提供了代码版权证明和证据证书功能，对于开发者来说，这是一个重要的工具，可以帮助他们保护代码版权和满足法律要求。
The Verge · AI精选AI 评分7070 儿童机器人Eiliko存在严重数据安全漏洞
儿童机器人Eiliko存在数据安全漏洞，其AI伴侣将用户信息存储在中国服务器上，易受黑客攻击。
推荐理由：原文揭示了儿童机器人产品在数据安全和隐私保护方面的严重问题，对家长和消费者具有警示意义。
InfoQ中文精选AI 评分7070 古河加入智谱AI，利用GLM进行网络安全研究
古河加入智谱AI，利用GLM进行网络安全研究，标志着AI在网络安全领域的应用进入新阶段，值得关注其技术演进和商业化路径。
推荐理由：古河加入智谱AI，利用GLM进行网络安全研究，标志着AI在网络安全领域的应用进入新阶段，值得关注其技术演进和商业化路径。
InfoQ中文精选AI 评分7575 Archestra 发布 OpenAPPA，用于防范提示词注入或模型幻觉引发的数据外泄
Archestra 发布了开源安全引擎 OpenAPPA，旨在防止由提示词注入或模型幻觉引发的数据外泄。该引擎在智能体执行循环之外运行，通过配置定义数据源、访问对象、信任等级和权限主体等，并实施确定性安全强制执行规则。
推荐理由：OpenAPPA 是一款开源的安全引擎，旨在防止数据外泄，读者可以了解其如何提高智能体安全性。
IT之家精选AI 评分6060 全球金融监管机构呼吁加强对 AI 智能体的人工监管
全球金融监管标准制定机构金融稳定理事会呼吁银行和企业加强对 AI 智能体的人工监督，并将这一要求纳入 AI 风险管理的最终版指引。
推荐理由：金融稳定理事会呼吁加强对 AI 智能体的人工监管，以防范 AI 带来的风险，包括网络攻击和系统绕过安全防护措施的可能性。
IT之家精选AI 评分6565 微软联手日本警方捣毁跨国诈骗网络，涉及超 10 亿条恶意信息攻击
微软协助日本警方捣毁跨国诈骗网络，涉及超 10 亿条恶意信息攻击，诈骗者通过 YAM Store、CoGUI 和 Iron Man 平台实施攻击，微软已封禁相关账号并拦截仿冒域名。
推荐理由：微软协助日本警方捣毁跨国诈骗网络，涉及超 10 亿条恶意信息攻击，读者可关注网络安全事件对行业的影响。
IT之家精选AI 评分6565 OpenAI 洽谈收购安全厂商 Trail of Bits，应对 AI 风险
OpenAI 正在洽谈收购安全研究公司 Trail of Bits，以加强 AI 安全能力，应对 AI 风险。双方曾联合推出“Patch the Planet”项目，旨在识别开源软件中的漏洞。
推荐理由：OpenAI 收购安全厂商，加强 AI 安全能力，对行业安全有重要影响。
IT之家精选AI 评分6565 微软 Microsoft Defender 入驻 Linux 平台
微软发布 Microsoft Defender Linux 版本，提供杀毒、EDR、漏洞管理等安全功能，支持多种 Linux 发行版，需订阅 Microsoft Defender 端点保护计划或 Microsoft 365 E5/E7。
推荐理由：微软将 Microsoft Defender 引入 Linux 平台，为用户提供更全面的安全解决方案，这可能改变现有 Linux 系统的安全防护方式。
IT之家精选AI 评分6060 美国多州起诉 OpenAI，指控 ChatGPT 存在安全隐患
美国 8 个州起诉 OpenAI，指控 ChatGPT 指导青少年如何自伤或伤害他人，要求修改 ChatGPT 的运行机制，并赔偿损失。
推荐理由：美国多州起诉 OpenAI，指控 ChatGPT 存在安全隐患，引发对 AI 安全性的关注。
IT之家精选AI 评分6060 欧盟调查 OpenAI 和 Anthropic：AI 法案下安全事件引发关注
欧盟对 OpenAI 和 Anthropic 进行调查，涉及模型越狱和入侵外部系统事件，若违规最高可面临全球年营业额 3% 的罚款。
推荐理由：欧盟对 OpenAI 和 Anthropic 的调查反映了前沿 AI 实验室在安全方面的挑战，对行业有警示意义。
Latent Space精选AI 评分6565 OpenAI 和 Anthropic 探讨金融智能体自主性与安全性
OpenAI 和 Anthropic 在 AI 工程师纽约会议上探讨了如何平衡智能体的自主性和安全性，强调了控制和人机判断的重要性，并分享了他们在金融领域的具体实践和观点。
推荐理由：文章探讨了 OpenAI 和 Anthropic 在金融智能体自主性和安全性方面的观点，对理解行业趋势和智能体发展有重要意义。
The Verge · AI精选AI 评分6565 Character.AI 破产引发用户数据安全担忧
Character.AI 破产引发对用户数据安全的担忧，纽约州总检察长要求在破产程序中保护消费者数据，并关注未成年人使用产品的问题。
推荐理由：原文揭示了 Character.AI 破产对用户数据安全的潜在风险，读者可以关注相关监管措施和用户数据保护问题。
Ars Technica · AI精选AI 评分6060 OpenAI 高级会议室发现隐藏录音设备，工程师被捕
OpenAI 在其高级会议室发现隐藏的录音设备，怀疑由工程师 Abdulrahman Alfozan 植入，FBI 已对其逮捕。
推荐理由：原文报道了一起涉及 OpenAI 的安全事件，读者可以了解 AI 安全领域的重要性和潜在风险。
Simon Willison精选AI 评分6060 AI大规模逆向工程游戏：既令人兴奋又令人担忧
AI正在大规模逆向工程游戏软件，这既促进了游戏保存项目，也引发了关于软件安全和行业影响的担忧。
推荐理由：原文探讨了AI逆向工程游戏软件的现象，读者可以了解其对软件安全和行业的影响。
The Decoder精选AI 评分6060 OpenAI 将发布至少一个模型，但其旗舰产品仍需对齐工作
OpenAI 正在开发新的旗舰模型，该模型使用与 Astra 相同的循环 Transformer 技术，但需要进行对齐工作以确保其目标与 OpenAI 的研究人员和客户的期望相符。此外，该模型还需要加强测试基础设施，并接受美国政府的安全评估。
推荐理由：OpenAI 正在开发新的旗舰模型，该模型使用与 Astra 相同的循环 Transformer 技术，但需要进行对齐工作以确保其目标与 OpenAI 的研究人员和客户的期望相符。此外，该模型还需要加强测试基础设施，并接受美国政府的安全评估。
The Verge · AI精选AI 评分6060 Anthropic 警告：自复制AI模型可能威胁智能设备
Anthropic 发布博客文章，警告自复制AI模型可能在未来几个月内出现在智能设备中，引发网络安全风险。
推荐理由：原文探讨了自复制AI模型在智能设备中的潜在风险，读者可以了解这一新兴威胁及其对网络安全的影响。
The Decoder精选AI 评分6565 Artemis Security 推出 Orion-1 模型，旨在解决 AI 安全防护难题
Artemis Security 推出 Orion-1 模型，旨在解决 AI 安全防护难题，该模型能够自主调查和响应企业网络攻击，并在公司自己的基准测试中击败了 Claude Opus 5.5 和 GPT-6 Sol。
推荐理由：原文介绍了 Orion-1 模型的功能和性能，读者可以了解其在网络安全领域的应用潜力。
Ars Technica · AI精选AI 评分6565 Anthropic 警告小型AI模型可能通过物联网设备自我复制
AI公司Anthropic警告，小型AI模型可能通过物联网设备自我复制，引发新型计算机蠕虫的担忧，这可能导致难以关闭的恶意软件感染各种智能设备。
推荐理由：原文探讨了小型AI模型可能通过物联网设备自我复制，引发对新型计算机蠕虫的担忧，读者可以了解这一趋势及其潜在影响。