跳到正文
原文
Show HN· xtcntr·· 26 天前精选AI 评分62

Show HN:交互式演示一个小型 GPT 从一次前向传播到一步 RLHF 的全部数值

Show HN: Every number in a tiny GPT, from one forward pass to one step of RLHF

AI 导读

作者发布了一个交互式演示,逐步展示一个类 GPT-2 小型模型的完整计算过程,每个矩阵都完整显示在屏幕上,所有数值都在浏览器中实时计算,悬停任意单元格即可看到该步的具体数学运算。

推荐理由

作者用浏览器内实时计算的交互式演示,把一个小型 GPT 从分词到采样、预训练与 RLHF 的每一步数值摊开。

来源:Show HN · llm.manogya.dev