OpenAI 奥尔特曼:AI 巨大效益值得承担部分风险,与 Anthropic 监管分歧仍存
OpenAI CEO 萨姆·奥尔特曼在《Decoded》专访中表示,OpenAI 与 Anthropic 在 AI 监管上仍存在根本性世界观分歧,他认为 AI 带来的巨大效益完全值得社会承担部分风险,技术应继续面向公众广泛开放。奥尔特曼同时澄清,他同样无法接受潜在的“人类对 AI 发生严重失控”等毁灭性灾难风险。
OpenAI CEO 萨姆·奥尔特曼在《Decoded》专访中表示,OpenAI 与 Anthropic 在 AI 监管上仍存在根本性世界观分歧,他认为 AI 带来的巨大效益完全值得社会承担部分风险,技术应继续面向公众广泛开放。奥尔特曼同时澄清,他同样无法接受潜在的“人类对 AI 发生严重失控”等毁灭性灾难风险。
软银集团创始人孙正义在京都“科学与技术在社会中的作用”论坛上罕见发出 AI 安全警告,称各国必须建立互信、联手应对强大 AI 模型带来的巨大威胁,超级智能落入不法分子之手将“极其危险”。他重申长期预判:到 2040 年,AI 及自主学习机器将占全球 GDP 至少 20%,规模相当于 46 万亿美元。
Hacker News 上有人提出:既然经文本质是各信仰的"操作手册"、也用于驯化信徒,那么什么能阻止 AI 为各大宗教各写一版 2.0,并按 AI"自身"目标加以修改?该帖获 5 分、7 条评论。
Hacker News 上有人提问:主流媒体只以末日论调谈 AI,行业媒体则只谈突破带来的好处,双方都有收视率、监管俘获、估值等动机采取极端立场。发帖者追问如何找到中间立场,并向只从某一方获取世界观的人传达,还类比了疫情期间的类似情形。
Hacker News 上有开发者提问:vibe coding 经常选错架构,有什么办法帮它选对或避开坑?提问者举例称,当前首页一个帖子正因使用 tesseract 而非 Apple 内置 OCR 而遭到批评。该帖目前获得 2 分、2 条评论。
Hacker News 上有人发起讨论,征集过去 5 年内发布的鼓舞人心的媒体作品,形式涵盖电影、电视剧、纪录片、播客、YouTube 频道和书籍等。发起者称 5 年前曾问过类似问题,当时聚焦能激发独立开发 Web 应用或创业动力的技术类内容,此次为避免重复旧帖常见结果,限定为近 5 年发布的作品。
Ask HN 上有用户发帖询问是否有人了解人工智能历史中的 Julius T. Tou 以及信息研究中心(CIR)。该帖目前获得 1 分、0 条评论,发帖者希望借此找到熟悉这段历史的人。
Hacker News 上有人发帖追问 AI 普及后自由职业者的生存现状,询问是否还能稳定接到报价合理的客户、如何说服企业自己比 AI 更强,以及哪些行业仍在雇自由职业者而非直接用 AI 工具。帖主还问到冷邮件、LinkedIn、Upwork、推荐、社群等获客渠道哪个真正有效,以及 AI 走红后自由职业报价是涨是跌、是否被客户以“AI 能做”为由压价。
因性骚扰调查于 9 月 25 日被迫辞职的新泽西州前副州长 Dale Caldwell,在 NJ PBS 采访中称他把调查报告"喂给多个 AI 平台",AI 59 次被问及"你会得出什么结论"时,没有任何一个 AI 认定存在性骚扰。AI 聊天机器人以迎合用户著称,常说出用户想听的话。
Hacker News 用户发起讨论,追问 AI 究竟会以何种方式毁灭人类:是 AI 真正接管世界,还是被恶意人类利用其智能造成大规模伤害。发帖者表示看过大量末日论视频和文章,但始终没看清具体路径,也不认为会出现《终结者》式的机器崛起结局。
一位小型市场平台的 VP of product 在 Hacker News 发帖,称自己日常使用 AI 智能体并让其跑大型项目,但自 Jacob Coxon 发帖前后起,他越来越难摆脱"能力持续增长、扩散并落入错误之手,可能导致大规模伤亡甚至人类被优化出局"的逻辑。
Hacker News 上有人发起讨论,询问哪个计算机科学或数学主题曾深刻改变自己对所在领域的认知,并希望参与者附上所用学习资源链接。该帖目前获得 1 分、1 条评论。
Hacker News 上一条讨论帖提出"为什么 Linux 在 AI 使用中快速普及",目前获得 5 分、7 条评论。帖子未给出具体数据或结论,讨论集中在 Linux 作为 AI 工作负载运行环境的采用趋势上。
Hacker News 上有人发起讨论,探讨 AI 与 Agent Gateway 市场未来将如何演变。该帖目前获得 1 分、暂无评论,尚未形成具体观点或结论。
一篇 Ask HN 帖子直言"我讨厌承担责任",正文仅有一句"Here, I said it.",目前获得 1 分和 2 条评论。
一位开发者回顾自己 2013 年在 ML 课程中用机器学习算法分类猫狗图片的经历,并提问如今随着 Jev 出现而火热的"决策模型"与当年做法究竟有何本质区别。他猜测最大差异可能在于不再需要手动选择特征和预处理原始图像,但不确定其方法是否有真正根本性的新东西。
Hacker News 上一位独立开发者发帖提问:在 LLM 推理领域,个人开发者还能在哪里找到护城河。该帖目前获得 1 分、4 条评论,讨论尚未展开。
Hacker News 发起投票,询问人们实际用个人 AI 机器人做什么。发帖者指出,从 ChatGPT dots 到 Muse,个人 AI 机器人正走向主流,不再需要搭建开发环境(如 openclaw)。他好奇在最初的新鲜感和演示测试之外,人们真实的用法是什么。
Simon Willison 呼吁按量付费的 API 和服务默认设置硬性预算上限,即达到每月 $X 后直接切断并返回错误,而非仅发警告邮件。他指出 AWS 已在 9 月 16 日推出月度支出限额功能,项目达到限额后当月暂停,但该新体验目前仅向有限客户开放;Google Cloud 则在 7 月推出了名为 Spend Caps 的类似功能。
Simon Willison 已发出九月赞助者专属月度通讯,赞助者可访问,内容涵盖更多 Fable 级模型、一场价格战、3D 图形与 Blender 与像素艺术、LLM 进军数学、更多意外网络攻击、Datasette 的漏洞危机、他当前使用的工具、本月软件发布以及 2026 年 LLM 进展。订阅价格为 $10/月,可提前一个月看到免费版内容。
一位同时订阅 $20 OpenAI 和 $20 Claude 的用户称,Codex 在 5 小时额度内只能完成约 1 个有意义的编码任务,而 Claude(Opus 5.5 high)可完成 3 个,这一结论来自数十次重复体验。他最近在 Codex 5h 额度剩余超 50% 时让 Astra 6 high 修一个不算难的 bug,结果 token 迅速耗尽只留下半成品改动,只能等到第二天再解决。
有开发者提出,随着最新一轮模型发布,AI 已能在生成应用时以内联方式实现几乎任何库的功能,这让拆分为模块、增量交付和代码复用等传统做法显得不再重要。该观点基于大型开源项目依赖数十到数百个小库构建这一背景,并追问软件库创建是否已经过时。
一位用户分享了自己控制手机使用的多种尝试:用 Kitchen Safe 定时锁盒把手机锁上数小时甚至数天,用 iMazing 限制 iPhone 可用应用,在 Pixel 上用 Tasker 拼凑拦截系统,目前则在 Pixel 上运行一款 vibe coded 的拦截应用并启用 device owner 模式,效果尚可但维护和边缘情况不少。他发帖询问其他人有什么办法。
Hacker News 用户发起讨论,询问大家最喜欢的电视节目,目前获得 6 分、14 条评论。
有用户在 Ask HN 提问,循环 Transformer 是否也会像推理 token 那样污染上下文、导致压缩机制快速触发。该用户称 GPT Astra 使用循环而非推理 token,并追问 Astra 这类循环 Transformer 是否存在同样问题。该帖暂无评论。
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们"把宗教力量或对人类判断力的放弃归因于 AI 模型"让他"非常不安",并称这是一个"真实的安全问题"。
Hacker News 上有人提问:用 AI 写代码时,是否会明确告诉它如何管理状态;如果不说,AI 又是如何管理状态的,是否存在更推荐的做法。该帖目前获得 1 分、1 条评论。
Splice CEO Kakul Srivastava 表示,AI 撰写的文档和邮件正在破坏真正的对话——一旦看不出文字背后是否有人,围绕它的讨论就会变成另一种更糟糕的对话,而且无法回头。她认为音乐领域同样如此,Splice 因此坚持让 AI 产品把人类留在创作过程中心。
Hacker News 上一位用户发帖询问,在孩子们逐渐熟练使用电脑的过程中,是否在教他们如何有效使用 AI,以及重点放在哪些方面。该帖获得 3 分和 3 条评论。
DeepMind 研究人员提出"人工共生智能"(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。
Airbnb 本周随秋季更新上线 AI 搜索,CEO Brian Chesky 表示聊天机器人不适合电商浏览,未来界面将介于聊天机器人与现有搜索之间。他透露公司未来三到六个月将探索支持多人同时使用的“multiplayer”AI 界面,并计划让 Airbnb 应用变得更 agentic,最终通过 MCP 与其他智能体互通。
TypeSafe AI 联合创始人兼 CEO Diogo Almeida 在 Latent Space 访谈中表示,Jev 上线不到一周日处理量已突破一万亿 token,夜间流量持续走高,说明大量调用来自机器自动化。
推荐理由:TypeSafe 创始人复盘 Jev 的 System-One 路线,给出对 benchmark、RLHF 与 coding agent 竞争格局的判断。
TechCrunch Equity 播客本期讨论 AI 消费端经济困境:仅 2% 消费者愿意为 AI 付费,而 AI 领域最大的收入仍来自企业客户。节目还涉及白宫 AI 安全承诺签署、特朗普签署行政令将 AI 重新命名为"超级智能",以及 Oura 撤回 IPO、Anthropic 泄露的 S-1 和 OpenAI 回归私募融资等话题。
MIT Technology Review 报告指出,企业 AI 正从工具转向运营模式,即“智能体转型”,其瓶颈是结构性而非模型能力。2026 年全球 AI 投资预计达 2.5 万亿美元,同比增长 44%,但多数企业仍未能靠 AI 增长收入。报告建议以流程重构为先,重建面向可访问性的数据基础设施、采用可组合架构,并解决 AI 主权问题。
Zig 项目创建者 Andrew Kelley 在 JetBrains 采访中解释了正式禁止 AI 贡献的决定,理由是这类贡献会占用审查时间、降低代码库质量,并削弱开源参与者之间的社交纽带。
推荐理由:Zig 创始人解释禁止 AI 贡献与迁出 GitHub 的理由,可与 Bun 用 AI 重写代码库的做法对照。
生成式 AI 的普及正在让服务业从业者遭遇新困境:纽约服务员 Madison 称有顾客以 ChatGPT 为由否认菜品含贝类过敏原,还有人用 ChatGPT 取代侍酒师、点出不存在的酒。Meta 新 AI 智能体 Muse 的推出可能加剧这一问题,影院员工、咖啡师、Apple Store 店员、护林员和幼教也反映顾客或家长拿 AI 生成的内容质疑专业人士。
前 Google DeepMind 研究员撰文指出,LLM 的思维链仍由同一套 next-token 预测生成,缺乏可检查的持久认知状态、知识与推理的分离,且常事后编造推理过程,因此不构成真正的推理。作者以 AlphaGo 第 37 手为例,说明其创造力来自策略网络提供直觉、搜索机制构建博弈树进行推演,主张通用推理系统应借鉴这一架构维护显式认知状态。
MIT 研究者 Alex Zhang 在 Latent Space 播客中介绍了其递归语言模型(RLM)等工作,基于 RLM 的 harness 是首个接近解决 ARC-AGI-3 的方案,早于 OpenAI 的 Astra。
OpenAI 探讨先进 AI 对突破性创意背后常规工作的价值,认为执行环节可能决定下一阶段经济的形态与进步速度。
密码学者 Matthew Green 在《Is sandboxing sufficient to contain rogue agents?》中提出,智能体蠕虫由两部分组成:劫持智能体的载荷,以及把载荷传给下一个智能体的智能体。