如何在Linux系统中下载Hugging Face模型及镜像加速
在Linux系统中下载Hugging Face模型,可以通过以下方法实现。
使用官方命令行工具
步骤:
-
安装依赖库
Bashpip install -U huggingface_hub -
配置国内镜像加速 为避免连接超时问题,需设置镜像源(如hf-mirror.com):
Bashecho 'export HF_ENDPOINT="https://hf-mirror.com"' >> ~/.bashrc# 写入环境变量source ~/.bashrc# 立即生效若仅需在当前会话中临时使用镜像源,直接运行
export命令即可:Bashexport HF_ENDPOINT=https://hf-mirror.com此方式无需重启服务器,但变量会在终端关闭或服务器重启后失效
验证配置是否生效
运行以下命令检查变量是否已加载:
Bashecho $HF_ENDPOINT若输出
https://hf-mirror.com,则配置成功启用
hf-transfer加速模块(官方推荐)-
- 安装加速模块
Bash
pip install -U hf-transfer - 设置环境变量
Bash
export HF_HUB_ENABLE_HF_TRANSFER=1# Linux/MacOS
$env:HF_HUB_ENABLE_HF_TRANSFER=1# Windows PowerShell
- 安装加速模块
- 下载不稳定中途失败解决:
-
清理缓存后重试
Bashrm -rf ~/.cache/huggingface/hub/*# 删除缓存目录(谨慎操作)适用场景:怀疑缓存文件损坏或冲突时使用
优化
hf_transfer使用-
更新工具版本
Bashpip install -U hf-transfer huggingface_hub- 新版可能修复了部分稳定性问题 。
-
限制并发线程
Bashhuggingface-cli download --num-workers 2 模型ID# --num-workers参数减少并发数- 高并发可能导致某些网络环境不稳定
-
-
下载模型
Bashhuggingface-cli download --resume-download {模型ID} --local-dir {目标目录}-
-
- 示例:下载RoBERTa模型
Bash
huggingface-cli download --resume-download FacebookAI/roberta-base --local-dir ./roberta-base
- 示例:下载RoBERTa模型
-
-
- 仅下载单个文件
如果只需要下载特定文件(如 diffusion_pytorch_model.safetensors):
Bash
huggingface-cli download --resume-download alimama-creative/FLUX.1-Turbo-Alpha --include "diffusion_pytorch_model.safetensors" --local-dir ./loras- 关键参数:
--include:指定文件名或通配符(如*.safetensors)--local-dir:指定本地存储路径(若目录不存在会自动创建)。