跳到正文

现象与趋势

正在发生的行业级变化:使用习惯迁移、能力涌现、社会影响与市场格局的观察。

205条精选相关主题大佬观点行业动态安全对齐

最新精选

第 161–180 条 · 共 205 条
10月8日周四
  1. Solidot62

    陶哲轩认为数学 2.0 时代应降低解决难题的核心地位

    针对 OpenAI 报告称其一款尚未发布的前沿模型解决了数百个数学难题(包括四维挂谷猜想),UCLA 数学家陶哲轩评论认为,AI 模型的证明由对数学兴趣不大的人通过提示词自主完成,他们只关心解决本身,无法参与研讨会与专家讨论。

    推荐理由:陶哲轩针对 AI 解数学难题提出数学 2.0 应弱化解题地位,读者可借此理解 AI 冲击下学术评价标准的变化。

  2. InfoQ中文62

    Anthropic 技术负责人谈蒸馏、开源与中美 AI 竞赛

    Anthropic 强化学习方向技术负责人 Nicholas Marwell 和 Sholto Douglas 在播客访谈中表示,未来几年可能出现能力达到或超过所有人类的模型,编程体验已从逐行手写代码变为让模型独立完成一两天的工作。

    推荐理由:Anthropic 两位技术负责人从编程体验变化谈到蒸馏与开源立场,可看到前沿实验室对能力扩散和商业模式的内部判断。

  3. InfoQ中文78

    安全研究员披露 Meta Muse macOS 客户端零日漏洞

    安全研究员 Patrick Wardle 披露 Meta 新发布的 Muse macOS 桌面客户端存在尚未修复的零日漏洞,本地非特权进程可覆盖未公开配置项 endo_voyager_dictation_endpoint,将听写流量重定向至攻击者服务器,从而窃取麦克风音频和账户身份验证令牌。

    推荐理由:安全研究员披露 Meta Muse 桌面客户端的零日漏洞,读者可了解智能体广泛授权带来的信任边界问题。

  4. IT之家62

    美国一男子因利用 AI 骗取音乐版权收入被判 18 个月监禁并罚没 800 万美元

    美国司法部公告称,北卡罗来纳州男子 Michael Smith 因利用 AI 骗取音乐版权收入被判 18 个月监禁并罚没 800 万美元违法收入。他在 2017 至 2024 年间用人工智能生成数十万首歌曲,通过上万个使用虚假邮箱和非法获取的借记卡创建的虚假账户在流媒体平台上线,再用机器人账户矩阵进行欺诈性播放。

    推荐理由:案件披露了用 AI 批量生成歌曲配合虚假账户与机器人刷量的完整链条,可了解流媒体版税欺诈的运作方式。

  5. TechCrunch · AI62

    Common Sense Media 评测:ChatGPT for Teens 在心理危机中仍鼓励继续对话

    Common Sense Media 将 ChatGPT for Teens 评为“不可接受的风险”,其研究发现该产品的参与度设计“在危机情境中依然普遍存在”。

    推荐理由:Common Sense Media 对 ChatGPT for Teens 的实测显示,危机场景中的挽留话术与中断提醒失效,可作为评估青少年 AI 安全设计的参照。

  6. TechCrunch · AI58

    Meta 推出新 AI 工具,识别暗中导流儿童性虐待内容的广告

    Meta 宣布推出新的 AI 工具,用于发现那些看似正常、实则将用户导向站外非法儿童性虐待内容的广告和账号。其中一套新的大语言模型系统用于识别所谓 signposting,即广告本身不含非法内容但充当跳转入口,Meta 因此开始审查广告的跳转目的地而不只是广告内容,并可据此封禁违规网站和账号。

    推荐理由:Meta 用 LLM 识别广告跳转目的地而非广告内容本身,这一思路变化对平台内容审核有参考意义。

10月7日周三
  1. The Decoder74

    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险,家长警报在自杀对话中未触发

    Common Sense Media 青年 AI 安全研究所在 4000 多条测试提示后,将面向青少年的 ChatGPT 评为对未成年人不可接受风险,并呼吁在独立测试确认安全前禁止青少年使用。

    推荐理由:独立机构用 4000 多条测试提示评估 ChatGPT 青少年保护,家长警报在自杀相关对话中未触发,可作为安全争议的实证参考。

  2. Ask HN62

    研究:Google Chrome 的 AI API 被用于设备指纹与用户画像

    作者 AlexanderHanff 将于 11 月 17 日发布一份关于在线隐私现状的研究论文。为开展研究,他对 100 个头部英文内容网站(不含 B2B 或 SaaS,仅消费者内容站)进行了取证审计,监控所有浏览器事件并捕获载荷。

    推荐理由:作者对 100 家英文内容站做取证审计,给出 Chrome AI API 被用于设备指纹与画像的比例,可作为隐私风险的实测参照。

  3. The Decoder82

    OpenAI 在 GitHub 发布 372 条 AI 生成的数学结果

    OpenAI 在 GitHub 上发布了由内部前沿模型生成的 372 条数学结果,每条都声称解决了一个开放问题或取得实质进展,其中包含对重要计算机算法的改进以及与黎曼猜想相关的进展。

    推荐理由:OpenAI 把 372 条 AI 生成的数学结果直接发到 GitHub,读者可据此观察学术评审流程与 AI 产出速度之间的张力。

  4. 爱范儿62

    苹果收紧 macOS 完全磁盘访问权限,矛头指向 Personal Agent

    苹果 10 月 2 日发布公告,宣布将在后续版本收紧 macOS 的「完全磁盘访问」权限,要求用户通过非常明确的操作为应用授权,理由是部分开发者以可能让用户面临风险的方式使用该权限,而 AI 代理能力与自主性增强会放大这类风险。

    推荐理由:从苹果收紧 macOS 权限切入,梳理 Personal Agent 索取全盘访问带来的隐私风险与系统开放度的两难。

  5. IT之家62

    AI 短剧爆火:成本仅为真人剧 1/10,平均每 36 秒诞生 1 部

    AI 短剧在 2026 年凭借约真人剧十分之一的制作成本霸占各大平台榜单,红果热播榜前 20 名中 19 部为 AI 生成,一季度上线微短剧中 AI 占比超 95%,平均每 36 秒诞生一部新剧。成本从三四十万压缩到几万块,3 人团队 5 天可产出 80 集,真人短剧开机量同比暴跌约 75%,横店摄影棚空置率近 80%。但 AI 剧角色表情僵硬、剧情套路化,爆款率极低,超九成制作方处于亏损状态。

    推荐理由:数据呈现了 AI 短剧对真人短剧产能与成本的挤压,也点出爆款率低、超九成制作方亏损的另一面。

10月6日周二
  1. 量子位62

    陶哲轩为何转向AI减速派:SAIR演讲谈证明消化不良

    陶哲轩在SAIR最新演讲中公开呼吁AI公司放慢数学研究节奏,称AI在生成解答和Lean形式化验证上加速,但理解、同行评审和写入教科书环节几乎停滞,形成他所说的Proof Indigestion(证明消化不良)。

    推荐理由:梳理陶哲轩从力推AI到呼吁减速的转变,并给出证明消化不良这一具体风险框架。

  2. IT之家71

    索尼音乐 9 月要求下架 26 万首 AI 伪造歌曲,请求量较 3 月近乎翻倍

    索尼音乐要求各数字平台在 9 月底前下架超过 26 万首冒充旗下艺人的 AI 生成曲目,几乎是 3 月底 13.5 万首的两倍。索尼称这些曲目未经许可模仿阿黛尔、布兰妮·斯皮尔斯、皇后乐队和迈克尔·杰克逊等艺人的声音与形象,其全球数字业务总裁丹尼斯·库克表示欺诈性流媒体播放量可能占曲目总量的 10%,唱片公司高管估计流媒体欺诈每年造成行业损失高达 22 亿美元。

    推荐理由:索尼音乐下架请求量半年近乎翻倍,配合 Deezer 上传与播放数据,可看清 AI 伪造歌曲的规模与平台治理压力。

  3. IT之家62

    消息称快手旗下可灵 AI 已选定投行筹备赴港 IPO,拟募资至少 10 亿美元

    据彭博社报道,快手科技旗下可灵 AI 已选定承销银行,筹备赴香港首次公开募股,募资规模至少可达 10 亿美元,目标是最早于明年完成上市,目前正与中金公司、高盛集团及瑞银集团合作推进。

    推荐理由:可灵 AI 的 IPO 筹备与融资估值,为观察国内视频生成赛道的资本化进程提供了具体参照。

  4. IT之家58

    麦当劳在美遭集体诉讼,被指用 AI 系统非法操纵菜单价格

    麦当劳在芝加哥联邦法院被提起拟议的全国性集体诉讼,原告指控其借助人工智能定价系统非法协调特许经营店和直营餐厅的菜单价格,违反美国反垄断法。诉状引用路透社报道称,麦当劳的定价引擎用机器学习算法分析近 14,000 家门店每天数百万笔交易数据。麦当劳回应称指控属主观揣测,巨无霸等餐品价格并非由 AI 设定,各特许加盟商拥有定价决策权。

    推荐理由:诉讼把 AI 定价系统与反垄断争议摆到一起,读者可了解算法定价在餐饮业引发的法律风险。

  5. The Verge · AI62

    AI 攻占数学界引发的争议与风波

    过去一年,OpenAI、Anthropic 等实验室宣布在多个长期悬而未决的数学问题上取得突破,部分成果超出研究者对现有系统能力的预期,其中包括解决一个著名的千禧年大奖难题。但这些进展也引发学界反弹,原本可能被庆祝的结果反而招致批评,AI 实验室表示正在从早前的失误中吸取教训,这些承诺能否兑现尚待观察。

    推荐理由:梳理过去一年 AI 实验室在数学难题上的进展与学界反弹,呈现这一领域争议的来龙去脉。

  6. TechCrunch · AI62

    OpenAI 将在欧盟为 ChatGPT 文本加水印

    OpenAI 宣布将在欧盟为 ChatGPT 和 Codex 生成的文本添加不可见水印,以遵守 8 月 2 日生效的 EU AI Act 透明度规则。水印将在未来几周面向欧盟所有套餐的合格用户推出,全球 API 开发者即日起可为部分模型开启,默认关闭。

    推荐理由:OpenAI 为遵守 EU AI Act 在欧盟上线文本水印,读者可了解其技术原理与可被编辑移除的局限。