跳到正文
原文
Show HN· jakcwi·· 9 天前AI 评分35

Triton GPU内核加速稀疏前馈网络训练,提升36%训练吞吐量

Show HN: Sparse kernel delivering 36% higher training throughput

AI 导读

开发者在Triton中创建自定义GPU内核,用于加速稀疏前馈网络训练,相较于密集模型,训练吞吐量提升36%;内核已在NVIDIA RTX PRO 6000 GPU上测试,需支持BF16硬件;稀疏模型训练后是否可匹配密集模型质量仍待验证。

来源:Show HN · huggingface.co