跳到正文
原文
Show HN· Feyd·· 17 天前精选AI 评分75

Capy-flash:125B MoE 模型在两块 16 GB 消费级 GPU 上的实现

Show HN: Capy-flash – a 125B MoE model on two 16 GB consumer GPUs

AI 导读

Capy-flash 是一个在两块 16 GB 消费级 GPU 上运行的 125B MoE 模型,提供了与 OpenAI 和 Anthropic 兼容的 API,并支持多步骤编码任务。

推荐理由

原文提供了模型在消费级 GPU 上的性能数据,读者可以了解其在实际应用中的表现。

来源:Show HN · github.com