跳到正文
原文
Hugging Face Blog·· 2023-05-24精选AI 评分70

bitsandbytes 发布 4 位量化大语言模型和 QLoRA 功能

Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA

AI 导读

bitsandbytes 发布了支持 4 位量化的大语言模型和 QLoRA 功能,旨在降低大语言模型的使用门槛。

推荐理由

原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。

来源:Hugging Face Blog · huggingface.co