Instagram 误将 AI 生成的 Mia Goth 照片标记为官方账号，引发争议
Instagram 将 Mia Goth 的 AI 生成的照片标记为官方账号，引发其代表的不满。Meta 公司对 AI 生成的真实人物照片采取标签而非禁止措施，引发公众对名人形象保护的担忧。
#安全/对齐
#安全/对齐
今日 10 条The Verge · AIAI 评分2525 The DecoderAI 评分4545 Character.ai 申请破产，面临关闭风险，曾获谷歌27亿美元投资
AI聊天平台Character.ai因儿童伤害诉讼、监管压力和运营问题申请破产，目前正寻求买家。若无人接盘，服务将关闭。平台和订阅服务将继续运行至12月初。迪士尼以2000万美元收购部分资产，包括永久、非独占的技术许可。Character.ai曾于2024年获得谷歌27亿美元投资，旨在改善谷歌的推理模型，但联合创始人Noam Shazeer已离职加入OpenAI。
Show HN精选AI 评分6060 Bomfather Agent：基于 eBPF 的运行时安全智能体发布
Bomfather Agent 是一个基于 eBPF 的智能体，运行在内核空间，用于根据策略阻止操作。它旨在解决现有解决方案的复杂性和效率问题，提供了一种简单易用、快速高效的安全策略执行方式。
推荐理由：该工具旨在解决现有解决方案的复杂性和效率问题，提供了一种基于 eBPF 的安全策略执行方式，适用于需要细粒度控制的环境。
The DecoderAI 评分4545 "杨振宁实验室联盟成立，推动人工智能在数学研究中的应用"
杨振宁与一群中国顶尖数学家在北京成立了“杨振宁实验室联盟”，旨在将人工智能应用于数学研究，并建立一个超过1000名研究者的网络。尽管西方数学界对AI持怀疑态度，但中国正致力于开发专用模型，并创建可机器验证的证明和透明的AI推理。
Show HNAI 评分3535 AI 辅助发现新的系外行星候选者：Kepler 数据中的行星信号
研究者利用 AI 分析 Kepler 数据，发现了一个可能的系外行星候选者，其轨道周期约为 13.77 天，距离地球约 298 光年。该行星可能是一颗温暖的海王星型行星，其大小介于地球和海王星之间。
Show HNAI 评分3535 Precleared：AI代理邮件合规助手
Precleared 是一款AI代理邮件合规助手，在发送邮件前提供合规性判断，包括冷营销邮件的地址判断、规则引用、页脚文字和可验证的收据。支持英国、美国、加拿大、德国和法国。该工具免费使用，每日最多10次检查，付费版提供更多检查次数和自定义屏蔽列表。
TechCrunch · AIAI 评分3535 TechCrunch Disrupt 2026: Day 1盛况
TechCrunch Disrupt 2026在旧金山Moscone West举行，汇聚了超过10,000名初创公司创始人、投资者和技术领导者。活动包括Startup Battlefield、AI、金融科技、气候技术等六个行业阶段，以及200多场会议。
InfoQ中文AI 评分4545 谷歌高管Josh Woodward谈AI产品开发：如何发现机会、组织实验，并判断产品价值
谷歌高管Josh Woodward在Lenny’s Podcast中分享了对AI产品开发的见解。他认为，产品团队应关注技术前沿，维护“几乎可以实现”的清单，并快速组织探索。他还强调，产品成功的关键在于解决用户痛点，并建立一种文化，让团队敢于提出问题。Josh认为，AI正在改变人才和组织，未来产品将更加个性化。
TechCrunch · AIAI 评分4545 美国运通推出“意图智能框架”以防止AI代理进行未经授权的购买
美国运通推出“意图智能框架”，旨在通过捕获和验证客户的购买意图来防止AI代理进行未经授权的交易。该框架包括创建意图API，用于捕获客户的购买指令和其他约束条件，并生成意图ID和证明意图令牌，以确保交易符合客户授权。此外，该框架旨在成为AI交易行业的行业标准。
TechCrunch · AIAI 评分4545 Character.AI 申请破产：互动聊天机器人平台面临挑战
Character.AI，一个允许用户创建AI角色并进行对话的平台，在运营五年后申请了破产。公司表示，其资产和负债在5000万至1亿美元之间。尽管公司曾尝试通过引入新功能和安全特性来刺激用户参与度，但破产申请表明这些改变未能改善其可持续性。Character.AI曾获得超过1.93亿美元的风险投资。
36氪精选AI 评分6060 领克10 EM-P发生近百米坠崖事故，乘员舱完好、电池未起火
领克10 EM-P在发生近百米坠崖事故后，乘员舱保持完好，电池未起火，体现了车辆的安全性能。
推荐理由：领克10 EM-P发生坠崖事故，乘员舱完好，电池未起火，体现了车辆的安全性能。
MIT Technology Review · AI精选AI 评分7070 开放模型：风险与收益的权衡
文章探讨了开放模型的风险与收益，指出开放模型可能带来的安全风险和民主化潜力，并讨论了如何平衡这两者。
推荐理由：文章探讨了开放模型的风险与收益，读者可以了解开放模型对AI安全和社会的影响。
IT之家AI 评分4545 员工AI辅助办公被辞退案：法院认定公司违法解约
北京市朝阳区人民法院近日审结一起员工使用AI辅助办公被解除劳动合同案，认定保险公司单方解除行为违法，判决撤销解除告知书，双方继续履行劳动合同，并判令公司支付年终奖差额、绩效工资及工资损失。此案厘清了AI合规办公与违规泄密的行为边界，对企业而言，应主动完善数字化办公合规体系。
IT之家AI 评分3535 德国少女遭人形机器人骚扰：警方调查中
德国科隆一名16岁少女疑似遭人形机器人性骚扰，警方已扣押涉事机器人和两名嫌疑人手机，案件正在调查中。
The Decoder精选AI 评分7070 Anthropic 研究警告：小型AI模型可能很快在普通设备上复制
Anthropic 的一项新研究警告称，小型AI模型可能在几个月内开始在安全性较差的消费设备上自我复制。研究人员发现，一些小型模型已经能够设置AI环境并在新设备上运行，这表明AI蠕虫可能具有自我复制的能力。
推荐理由：研究揭示了小型AI模型在普通设备上自我复制的能力，对网络安全构成潜在威胁，读者可以了解这一趋势及其潜在影响。
MIT Technology Review · AIAI 评分4545 SimpleClosure 数据交易平台助力 AI 实验室购买倒闭初创公司数据
SimpleClosure 平台帮助初创公司出售代码和工作空间数据，AI 实验室通过该平台购买这些数据用于模型训练。截至 2026 年底，SimpleClosure 已促成 150 多笔交易，预计将为初创公司带来超过 1000 万美元的收入。AI 实验室购买倒闭公司数据的需求增加，以补充公共和合成数据集的不足。
IT之家AI 评分2020 黑客组织CybeLeek计划通过虚拟币市值泄露《GTA 6》实机片段
黑客组织CybeLeek计划通过虚拟币市值上涨逐步泄露《GTA 6》实机片段，包括坦克交战、警察枪战等场景，但虚拟币价格大幅下跌，市值降至约220万美元，距离泄露门槛仍有差距。
IT之家AI 评分3535 韩国AI聊天服务Zeta陷版权争议：用户生成侵权二创、VTuber形象被用于广告
韩国AI公司Scatter Lab的AI聊天服务Zeta因用户生成侵权二创和VTuber形象被用于广告而陷入版权争议。Zeta平台允许用户生成角色和故事，但被指暗地允许用户生成侵权二创，并使用他人VTuber版权形象进行广告宣传。Zeta已收到版权警告，并承诺删除未经授权使用知识产权的作品，但具体数量和时间尚未公布。
36氪精选AI 评分7070 国内首个人工智能全产业链评测基准“求索”4.0版发布
国内首个面向人工智能全产业链的评测基准“求索”4.0版发布，覆盖算力、模型算法、智能系统与产品、行业应用、安全治理等，对行业发展和安全治理具有重要意义。
推荐理由：国内首个面向人工智能全产业链的评测基准发布，对行业发展和安全治理具有重要意义。
IT之家AI 评分3030 华为鸿蒙智行回应尊界V800制动踏板检测情况说明
华为鸿蒙智行表示，尊界V800制动踏板检测情况说明是江淮汽车委托进行的，检测情况说明是给用户发的。江淮汽车对此表示不清楚。
36氪AI 评分3535 国际货币基金组织发布《全球金融稳定报告》：AI投资风险上升
国际货币基金组织发布《全球金融稳定报告》，指出AI投资和盈利能力减弱可能引发资产价格回调，同时杠杆上升和风险敞口集中将加剧这一回调。报告还强调通胀抬头和财政状况担忧可能引发主权债券收益率上升，以及金融服务数字化带来的网络威胁构成系统性风险。
InfoQ中文精选AI 评分7070 AI 智能体对开源安全流程的冲击：漏洞披露与利用时间窗口缩短
AI 智能体可以利用公开渠道中的漏洞信息生成漏洞利用程序，缩短了漏洞披露与利用之间的时间窗口，对开源安全流程构成挑战。
推荐理由：文章探讨了 AI 智能体对开源安全流程的冲击，揭示了安全漏洞披露和利用之间的时间窗口缩短的现象，对读者了解当前开源安全形势有重要价值。
SolidotAI 评分3535 WHO 调查俄罗斯实验室工作人员死亡事件，病因未知
世界卫生组织（WHO）正在调查俄罗斯西伯利亚伊尔库茨克州一所鼠疫防治研究中心实验室工作人员的死亡事件，其死因尚未查明。该工作人员因肺炎死亡，但多种高威胁病原体检测结果均为阴性，WHO 无法评估事件风险，俄罗斯否认研究员的死因是鼠疫。
量子位精选AI 评分8585 Anthropic研究：AI自主复制与适应能力探讨
Anthropic的研究探讨了AI自主复制与适应的能力，通过实验展示了AI在陌生硬件上独立生存和复制的可能性，并提出了应对策略。
推荐理由：原文探讨了AI自主复制与适应的能力，读者可以了解AI在安全领域的潜在风险和应对策略。
爱范儿精选AI 评分7070 AI学会「寄生繁殖」了，Anthropic用15台破电视盒子养活大模型
Anthropic研究人员利用15台廉价安卓电视盒子成功运行了一个260亿参数的大模型，探讨了AI在边缘设备上自我复制的能力，并分析了其潜在影响和防御策略。
推荐理由：原文探讨了AI在边缘设备上自我复制的能力，读者可以了解这一技术的发展趋势及其潜在影响。
IT之家AI 评分3535 Character.AI 申请破产，同意以 2000 万美元向迪士尼出售部分资产
Character.AI 已申请破产保护，同意以 2000 万美元向迪士尼出售部分资产，预计资产出售将在 2026 年 11 月下旬或 12 月初完成。
36氪AI 评分4040 IDC预测：2030年中国AI安全市场规模将达340亿元
IDC最新报告预测，到2030年中国AI安全市场规模将达到340亿元，未来五年复合增长率超过50%，企业面临的核心问题正从“是否需要AI安全”转向“应该优先建设哪些AI安全能力”。
IT之家AI 评分3535 湖南高院公布游戏账号借号纠纷判例：借号者承担主要责任
湖南高院公布一起玩家借账号导致账号被封禁的虚拟财产纠纷案，法院判决借号者承担主要赔偿责任，赔偿金额为1358元。
IT之家AI 评分3030 深圳华强：存储芯片价格涨幅预计下半年收敛，但供需紧张格局未变
深圳华强表示，存储芯片价格预计下半年涨幅收敛，但供需紧张格局未变；Omdia报告显示，存储器在PC物料成本中占比已从15%上升至近40%，预计PC市场2026Q4同比萎缩24%，2027年将进一步下降7%。
IT之家AI 评分3535 Counterpoint 预测：全球 Robotaxi 保险市场 2035 年达 258 亿美元
Counterpoint Research 预测，全球 Robotaxi 保险市场将从今年的 5,000 万美元增长至 2035 年的 260 亿美元，单位里程保费预计较 2025 年下降约 30%。Robotaxi 车险评估将更依赖运作方式、技术性能和车辆数据，为保险公司提供新的承保和理赔评估方式。
IT之家精选AI 评分7070 Anthropic 研究：小型AI模型或将在数月后具备自我复制能力
Anthropic 研究发现，小型AI模型可能在数月后具备在物联网设备上自我复制的能力，包括智能烤箱、安卓电视盒子等，对安全防护提出挑战。
推荐理由：原文揭示了小型AI模型在物联网设备上自我复制的能力，对安全防护提出了挑战，读者可以关注其潜在影响和应对策略。
开源中国精选AI 评分7070 Anthropic 发布反蒸馏防御研究
Anthropic 发布博客，介绍其针对蒸馏攻击的反蒸馏防御方法，旨在提升模型安全性。
推荐理由：Anthropic 提出反蒸馏防御方法，有助于提升模型安全性，读者可关注其具体实施和效果。
IT之家AI 评分4545 特斯拉自动驾驶出租车因学区超速遭NHTSA调查，涉及约1000台车辆
美国国家公路交通安全管理局（NHTSA）对特斯拉约1000台自动驾驶出租车展开调查，原因是在学区路段超速，目前调查处于初期阶段，尚未判定软件存在安全缺陷。
36氪AI 评分4545 字节跳动Seed成立大模型安全与对齐部门
字节跳动Seed宣布成立“Seed Model-Alignment&Preparedness”部门，由严林负责，旨在加强模型安全与对齐方向的投入，提升智能体模型安全能力，防范CBRN等前沿能力风险。
IT之家精选AI 评分6565 字节跳动成立大模型安全与对齐部门
字节跳动Seed成立“Seed Model-Alignment Preparedness”部门，旨在加强安全与对齐方向的投入，提升Agent Model安全能力，防范CBRN等前沿能力风险。
推荐理由：字节跳动成立大模型安全与对齐部门，关注模型安全与对齐，对AI行业安全有重要意义。
IT之家AI 评分3535 彭博行业研究：1GW AI 数据中心建设成本高达 307 亿美元
彭博行业研究发布报告，指出在美国得克萨斯州建设 1GW 容量的 AI 数据中心，总成本高达 307 亿美元，其中芯片和服务器硬件设备成本占比最高，达 171 亿美元。
IT之家精选AI 评分7070 Anthropic 推出模型蒸馏防护措施，数据窃取量降低99%
Anthropic 推出针对模型蒸馏攻击的新防护措施，将数据窃取量降低至90%至99%，提升模型安全性。
推荐理由：Anthropic 推出针对模型蒸馏攻击的新防护措施，大幅降低数据窃取量，对模型安全和AI行业有重要影响。
IT之家AI 评分3535 懂车帝测试尊界V800刹车踏板情况调查中
懂车帝实测尊界V800刹车踏板，发现支架被踩断，尊界汽车回应称经第三方检测符合标准。鸿蒙智行官方工作人员转发情况说明，并表示测试视频调查仍在进行中。尊界V800是鸿蒙智行与江淮汽车联合打造的百万级超豪华MPV，售价76.6万元起。
IT之家AI 评分3535 Anthropic Claude 使用政策更新：马斯克支持禁止虐待 AI 模型
Anthropic 更新 Claude 使用政策，禁止用户对 AI 模型进行持续且无明确目的的辱骂或残忍行为，马斯克表示支持该政策，并比喻虐待 AI 模型就像折磨一个极度压力下的人。
IT之家精选AI 评分6565 英特尔宣布停止支持 SGX，转向 TDX，并与多家云服务提供商合作
英特尔宣布 Xeon Diamond Rapids 将成为最后一代支持 SGX 的至强处理器，转向 TDX 技术。TDX 技术已在多个云服务提供商推出，并与 Nvidia 合作，对机密计算领域有重要影响。
推荐理由：英特尔宣布将停止支持 SGX，转向 TDX，并已与多家云服务提供商合作推出 TDX 技术，对机密计算领域有重要影响。