Show HN· crash-universe·· 28 天前精选AI 评分58
Rei:跑在 Game Boy Color 上的 374K 参数语言模型 v1.0 发布
Show HN: Rei: ~370k params LM living inside a Game Boy Color
AI 导读
作者发布 v1.0,把 374K 参数的语言模型用汇编跑在 Game Boy Color 上,并新增第二张卡带 Rei,一个会问名字并记住的对话角色。故事模型和 token 未变,编码器改为精确实现并快 150 倍,首个 token 从 6.8 秒降到 1.8 秒,速度 0.46 秒/token。
推荐理由
作者把 374K 参数模型塞进 Game Boy Color 并给出逐项实测数据,可看端侧推理的极限工程取舍。
来源:Show HN · github.com