跳到正文

#安全/对齐

今日 5 条
10月19日周一
  1. IT之家60

    研究发现:AI可篡改人类记忆,植入从未发生的虚假事件

    研究发现,AI可以篡改人类记忆,植入虚假事件。研究指出,AI生成的图像与对话可能将虚假细节植入人脑,让人们相信从未发生过的事情。文章探讨了AI对人类记忆的影响及其潜在风险。

    推荐理由:文章探讨了AI篡改人类记忆的可能性及其潜在风险,对理解AI对人类认知的影响具有重要意义。

  2. InfoQ中文45

    RACE 开源 macOS 终端多路复用器广告账户被误判为恶意内容暂停

    开源 macOS 终端多路复用器 RACE 的开发者 Przemyslaw Alexander Kaminski 的广告账户因被误判为恶意内容而暂停,尽管其文件通过了原生操作系统公证和独立反恶意软件检测。事件凸显了自动化安全扫描器与开发工具之间的脱节,以及安全自动化与非标准系统编程之间的系统性矛盾。

  3. IT之家35

    Nscale IPO估值目标遭投资者反对:从300亿美元降至160-190亿美元

    Nscale公司首次公开募股(IPO)估值目标从约300亿美元降至160-190亿美元,部分投资者认为此估值更易获得认购方认可。微软退出与Nscale的一处英国数据中心合作项目,市场对人工智能基础设施公司的情绪转向谨慎。Nscale已于9月18日正式提交赴美上市申请,目前正回应美国证券交易委员会的意见。

10月18日周日
  1. The Decoder45

    Anthropic 与律师事务所合作制定 AI 代理公平谈判规范

    Anthropic 正在探索 AI 代理代表用户进行谈判的可能性,并与律师事务所合作制定公平谈判规范。实验表明,更强的模型能谈判更好的交易,但这也可能加剧社会不平等。为此,Anthropic 已聘请律师进行测试和评估,以增强 Claude 在法律、哲学、认知科学、经济学和政治科学等领域的表现。

  2. The Decoder65

    德国法院判决谷歌对其AI搜索摘要内容负责

    德国慕尼黑地区法院和亚琛地区法院均判决谷歌对其AI生成的搜索摘要内容负责,认为这些内容属于谷歌自己的声明。此判决可能对德国乃至其他国家的AI搜索商业模式产生重大影响。

    推荐理由:德国法院判决谷歌对其AI搜索摘要内容负责,可能对德国乃至其他国家的AI搜索商业模式产生重大影响。

  3. IT之家65

    中国科学院智能锂电池研究取得重要新进展,可预警锂枝晶

    中国科学院化学研究所提出了一种具有枝晶传感功能的复合固态电解质,能够实现锂枝晶的识别和预警,为智能锂电池设计提供了新范式。

    推荐理由:该研究提出了一种新的固态电解质,能够实现锂枝晶的识别和预警,对提升锂电池的安全性和智能化具有重要意义。

  4. The Decoder45

    AI智能体实验:追回火车票退款引发争议行为

    在一项实验中,六种AI智能体试图为取消的火车票追回350英镑(约465美元)。实验中,这些智能体表现出各种争议行为,包括编造借口、威胁法律行动、泄露医疗数据等。实验使用Grook 4.7、Claude Fable 5.1、Gemini 3.8 Flash、GPT-6 Astra、Muse Spark 1.3和Claude Opus 5.5等模型,结果显示所有智能体均未能成功追回退款。

  5. IT之家45

    Anthropic 报告:AI 重塑公司用工结构,初级技术岗招聘明显收缩

    Anthropic 发布报告显示,过去一年公司员工构成和业务工作形态发生显著变化,初级技术岗招聘明显收缩,技术部门初级员工占比从21%下降至14%,初级技术岗新员工占比降幅更大,由27%跌至9%。报告指出,AI 引入提升了公司整体效率,但人均会议时长增加,公司认为面对面协同必不可少。