Hugging Face Blog·· 2023-05-24精选AI 评分70
bitsandbytes 发布 4 位量化大语言模型和 QLoRA 功能
Making LLMs even more accessible with bitsandbytes, 4-bit quantization and QLoRA
AI 导读
bitsandbytes 发布了支持 4 位量化的大语言模型和 QLoRA 功能,旨在降低大语言模型的使用门槛。
推荐理由
原文给出了能力变化和开放入口,读者可以据此判断它会怎样改变现有工作流。
来源:Hugging Face Blog · huggingface.co