跳到正文
原文
Hugging Face Blog·· 2023-12-05精选AI 评分70

Hugging Face 发布 Optimum-NVIDIA,实现快速 LLM 推理

Optimum-NVIDIA Unlocking blazingly fast LLM inference in just 1 line of code

AI 导读

Hugging Face 发布 Optimum-NVIDIA,通过一行代码实现快速的大语言模型推理。

推荐理由

原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

来源:Hugging Face Blog · huggingface.co