跳到正文
原文
Show HN· woctordho·· 23 天前AI 评分45

Qwen3.8-Flash-Next 在 40GiB VRAM 中训练:LoRA over GGUF 的实践

Show HN: LoRA over GGUF – Train Qwen3.8-Flash-Next in 40G VRAM

AI 导读

用户成功在 40GiB VRAM 中训练了 Qwen3.8-Flash-Next 模型,采用 LoRA over GGUF 方法,并针对 Strix Halo GPU 进行了优化。训练过程中使用了多种技术,包括 PEFT、Tuned GEMM、MMQ 和 chunked cross entropy loss,以及针对 Qwen3.5、DeepSeek 和 Qwen4-Exp 的特定优化。

来源:Show HN · github.com