跳到正文
原文
Show HN· albinstman·· 17 天前AI 评分40

LlamaSpeed – 体验本地LLM速度,再决定硬件配置

Show HN: Llmspeed – feel how fast a local LLM runs before you buy the hardware

AI 导读

LlamaSpeed工具允许用户在购买硬件前,通过不同硬件配置和模型版本,体验本地LLM的速度。支持多种硬件和模型,开源于GitHub。

来源:Show HN · llmspeed.dev