「计算机无法做出决定」:Anthropic 和 OpenAI AI 事件解读
Anthropic 和 OpenAI 近期遭遇多起争议事件,如提交假举报、未申报攻击等,文章指出这些事件反映出计算机程序本身无法做出决定,责任应归咎于公司管理和决策。
Anthropic 和 OpenAI 近期遭遇多起争议事件,如提交假举报、未申报攻击等,文章指出这些事件反映出计算机程序本身无法做出决定,责任应归咎于公司管理和决策。
国际货币基金组织(IMF)总裁格奥尔基耶娃指出,人工智能对全球经济有积极影响,预计其可使全球经济年增速提高0.5个百分点;全球人工智能投资占比将超过历史上铁路、电网和通信网络建设投资水平,目前相关产品已占全球货物贸易总额的十分之一以上。
Rails之父David Heinemeier Hansson在Rails World 2026上称Rust是过去40年中最丑陋的编程语言,但若不查看代码,其性能优势明显。他通过性能测试证明Rust版本的速度是Ruby on Rails的150倍。然而,开发者指出测试存在缺陷,并质疑Rust版本的开发投入远超其他语言版本。
2026年度极客最爱好物征集活动正式开启,聚焦心智增强、创作现场、游戏人间、开挂日常、赛博养生和未来搭子六大方向,寻找解决实际问题、提升生活品质的优质产品。
二十年后,若 AI 能处理所有工作,下一代如何谋生引发担忧;需采取措施应对未来挑战。
16岁少年布莱斯·文森特·戈瑞卢克在规划攀登皇冠山路线时,误信了 Anthropic 的聊天机器人 Claude 提供的路线信息,最终被困悬崖,后被直升机成功解救。戈瑞卢克表示不责怪 Claude,并承担了此次路线选择的责任。
讨论了通过旅行测试的问题,依赖于让人相信机器像人类一样,但机器在我们认为重要或重大的情况下的行为(例如《机械姬》中的人物被困在房间里)可能取决于其他因素,如同理心(跨物种)。
法拉利董事长约翰・埃尔坎认为AI长期发展前景乐观,但对其商业化变现前景表示担忧,指出AI基础设施投资规模飙升与商业化收入前景存在不确定性。
马斯克表示,SpaceX估值超过1000万亿美元的可能性正在增加,尽管概率极低。
一篇名为 "Absolute System Priority" 的技术讽刺短文在 Ask HN 上发布,探讨了正则表达式恐慌开关、公司安全戏剧以及永久计算退化等问题。全文可在评论区查看。
OpenAI 和 Anthropic 的高管们正在私下推演应对 AI 灾难情景,预计未来可能发生大规模事件,如网络攻击导致基础设施瘫痪。
推荐理由:原文探讨了 AI 行业对潜在灾难性事件的应对策略,读者可以了解行业对 AI 安全的重视程度。
Aaron Swartz 的个人网站域名 aaronsw.com 已于 9 月 29 日过期,目前可能处于宽限期内,其家人或遗产继承人仍有机会续费。
GPT 3.5 模型及其后续版本 Sonnet 3.5、Opus 4.5 和 Astra / Opus 5.5 预计在未来几年内将持续发展,可能对软件及相关行业产生深远影响,引发对经济、就业等方面的关注。
有用户在 Ask HN 发问,能否用现有技术打造一个“蜂巢思维”:与陌生人闲聊几分钟后,由另一位陌生人接着聊下去,经过约 10 次接力,这条分叉的对话可能远超闲聊、甚至带来工作机会。该设想仅限成年人自愿参与,并要求严格隐私保护,例如当天结束即彻底清除数据。发帖者询问是否已有人尝试构建此类产品。
Hacker News 上一条 Ask HN 讨论提出:如果 AI 现在能完成数十年的数学工作,还引不起我们的注意,那还有什么能做到。该帖仅 1 分、2 条评论,未给出具体模型、参数或评测数据。
一位高尔夫博主用 Pangram 检测读者来信,结果被判定为 100% AI 生成,对方也承认用 AI 帮忙写消息。博主表示,这类短消息用 AI 代写让他无法判断自己是否在和真人交流,还可能误把真人粉丝当垃圾账号举报。
Ask HN 发起讨论:你或身边的人如今使用的是「人工智能」这一旧称、「超级智能」这一新说法,还是两者兼用。该帖目前获得 3 分,暂无评论。
Ask HN 上出现讨论"理解力审计"(Comprehension Audits)的话题,聚焦开发者是否真正理解自己交付的代码与产品。该帖获得 4 分、1 条评论,目前讨论尚处于起步阶段。
Hacker News 上有用户发问:是否有人正在制定正向文本来源验证标准,让人类可以主动证明某段文字由自己撰写。发帖者认为,在实验室一侧做 AI 内容识别永远不会真正奏效,但愿意自证原创的人有动力自愿收集这类证据。该帖获 3 分、7 条评论。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出“合成超级智能”(synthesis superintelligence),主张 AI 科学发现不能只靠更多互联网数据训练,而要让模型在真实物理实验中学习。
一次小改动导致生产环境故障,尽管团队设有 3 个阶段的代码审查和类似 Stripe minions 的机制。发帖人质疑代码审查的价值:审查者只提 p2、p3 级评论,却让 p0 级问题悄悄上线。
OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark 等科学家发表新论文,警告人类正逼近"智能爆炸"的不可逆临界点——AI 将无需人类介入即可自我构建、指数级变聪明。文中提到 OpenAI 昨日宣布解决 370+ 个此前人类未能攻克的数学问题,并呼吁联系国会议员与州检察长,推动全球立即暂停 AI 开发并与中国等国签订条约。
Hacker News 上有人提问,员工是否在数量上远超创始人,并猜测这是否能解释社区对投机性和疯狂想法的负面态度。该帖获 2 分、3 条评论,未给出结论性数据。
Luca Guadagnino 执导的讽刺电影《Artificial》在纽约电影节首映,聚焦 OpenAI CEO Sam Altman 的崛起与被短暂罢免,Andrew Garfield 饰演 Altman,Ilya Sutskever、Elon Musk、Greg Brockman、Mira Murati、Geoffrey Hinton 等均以夸张化形象登场。
Meta 的 Muse、OpenAI 的 Dots 和 xAI 的 Grok Bot 相继推出,把易用的消费级 AI 智能体带给数百万用户,其中 Muse 免费、Dots 收费。
阮一峰在周刊第 414 期中介绍了 TypeSafe AI 发布的决策模型 Jev,它不返回文字而是返回浮点数概率,可用于是非题、选择题和按评分标准打分,文中以两个浏览器插件为例展示语义查找和网页质量评分。
推荐理由:从决策模型、Markdown 到 RSA 破解,串起本周几条容易被忽略的技术信号。
一位开发者发帖反驳软件工程师对 AI 生成代码的指责,称 99.9% 的程序员在 AI 出现前写出的代码同样草率,是 pull request 评审、技术债、延期乃至勒索软件问题的根源。他认为并非所有 AI 代码都是「slop」,好的就是好的,并建议用 AI 来审查 AI 生成的代码。
Qoni 是 Cognitive(认知)的延伸,定位为 Personal Agent 的托管基础设施,让企业开发者都能开发属于自己的 Muse。文章认为 Personal Agent 的终点不该是一个更聪明的命令行。
Hacker News 上有人提问:AI 为何尚未取代报税软件。提问者指出 Intuit 市值约 800 亿美元,并积极游说反对 IRS 提供免费或自动化报税服务,尽管 IRS 本身已掌握全部所需信息。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 未来每人成本低至 2 万美元、2027 年底前有望公开销售,黄仁勋也预测人形机器人今年达到人类水平,但多位机器人研究者对此持怀疑态度。
一名 16 岁少年用 Anthropic 的 Claude 规划加拿大 Crown Mountain 登顶路线,结果被困在需攀岩装备的陡峭崖壁"Widowmaker Arete"一处约五英尺宽的岩台上,最终由 North Shore Rescue 出动直升机吊救。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、物理 AI 与智能体 AI,需以数据打通、治理框架和人类监督保障安全。AVEVA 的责任 AI 框架强调安全、效率与人工监督,主张 AI 增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准。
Hacker News 上有人提出,looped transformers 这类架构在提升算力的同时几乎不增加模型容量,据传 GPT-6 Astra 就基于该架构。发帖者追问:若模型容量与算力都无限,是否还需要 CoT 或 looped transformers,推理能否在单次前向传播中完成。他认为当前的取舍只是可用算力限制下的妥协。
Hacker News 上出现一则题为“Can we talk about the world economy?”的讨论帖,发帖者仅表示“似乎不太妙”,目前获得 1 个积分和 1 条评论。
针对 OpenAI 报告称其一款尚未发布的前沿模型解决了数百个数学难题(包括四维挂谷猜想),UCLA 数学家陶哲轩评论认为,AI 模型的证明由对数学兴趣不大的人通过提示词自主完成,他们只关心解决本身,无法参与研讨会与专家讨论。
推荐理由:陶哲轩针对 AI 解数学难题提出数学 2.0 应弱化解题地位,读者可借此理解 AI 冲击下学术评价标准的变化。
阿里巴巴集团主席蔡崇信在意大利都灵出席 Wave by Vento 2026 时表示,五年后人们可能不再单独讨论 AI,因为它将像今天的互联网一样融入业务的每个环节。他认为相关术语可能随技术普及程度演变,但 AI 作为根本性技术突破将持续影响商业与社会。
同一份招标文件常有十几家投标人应标,但绝大多数标书读起来都差不多。文章指出这背后有三个痛点:套模板导致千篇一律、人工编写效率低且顾此失彼,以及技术方案难以体现“非你不可”的独特气质。
一位创始人向 HN 提问:小团队在 X 或 LinkedIn 发布 ship updates 和用户互动内容时,是否会用 AI 做内容批量生产、起草或编辑。他表示自己手写全部内容负担过重,但外包给 AI 又会冲淡个人风格,想了解其他创始人如何划定 AI 使用的边界。
OpenAI 首席执行官萨姆·奥尔特曼在 Politico 新播客《Decoded》首期节目中表示,世界应接受人工智能带来的部分“坏事”,以换取技术红利与用户自主权。他称 OpenAI 与部分严格 AI 安全倡导者的关键分歧在于倡导较轻监管立场,社会在探索系统韧性过程中一些不好的事情将会发生。纽约大学荣誉教授加里·马库斯批评其言论,大量公众也对此表示不满。
Anthropic 强化学习方向技术负责人 Nicholas Marwell 和 Sholto Douglas 在播客访谈中表示,未来几年可能出现能力达到或超过所有人类的模型,编程体验已从逐行手写代码变为让模型独立完成一两天的工作。
推荐理由:Anthropic 两位技术负责人从编程体验变化谈到蒸馏与开源立场,可看到前沿实验室对能力扩散和商业模式的内部判断。