Ask HN· olirex99·· 25 天前AI 评分18
Ask HN:我们是否在用模型容量换取算力?
Ask HN: Are we trading model capacity for compute?
AI 导读
Hacker News 上有人提出,looped transformers 这类架构在提升算力的同时几乎不增加模型容量,据传 GPT-6 Astra 就基于该架构。发帖者追问:若模型容量与算力都无限,是否还需要 CoT 或 looped transformers,推理能否在单次前向传播中完成。他认为当前的取舍只是可用算力限制下的妥协。
来源:Ask HN · news.ycombinator.com