如何在Linux系统中下载Hugging Face模型及镜像加速
在Linux系统中下载Hugging Face模型,可以通过以下方法实现。
使用官方命令行工具
步骤:
-
安装依赖库
Bashpip install -U huggingface_hub
-
配置国内镜像加速 为避免连接超时问题,需设置镜像源(如hf-mirror.com):
Bashecho 'export HF_ENDPOINT="https://hf-mirror.com"' >> ~/.bashrc
# 写入环境变量
source ~/.bashrc
# 立即生效
若仅需在当前会话中临时使用镜像源,直接运行
export
命令即可:Bashexport HF_ENDPOINT=https://hf-mirror.com
此方式无需重启服务器,但变量会在终端关闭或服务器重启后失效
验证配置是否生效
运行以下命令检查变量是否已加载:
Bashecho $HF_ENDPOINT
若输出
https://hf-mirror.com
,则配置成功启用
hf-transfer
加速模块(官方推荐)-
- 安装加速模块
Bash
pip install -U hf-transfer
- 设置环境变量
Bash
export HF_HUB_ENABLE_HF_TRANSFER=1
# Linux/MacOS
$env:HF_HUB_ENABLE_HF_TRANSFER=1
# Windows PowerShell
- 安装加速模块
- 下载不稳定中途失败解决:
-
清理缓存后重试
Bashrm -rf ~/.cache/huggingface/hub/*
# 删除缓存目录(谨慎操作)
适用场景:怀疑缓存文件损坏或冲突时使用
优化
hf_transfer
使用-
更新工具版本
Bashpip install -U hf-transfer huggingface_hub
- 新版可能修复了部分稳定性问题 。
-
限制并发线程
Bashhuggingface-cli download --num-workers 2 模型ID
# --num-workers参数减少并发数
- 高并发可能导致某些网络环境不稳定
-
-
下载模型
Bashhuggingface-cli download --resume-download {模型ID} --local-dir {目标目录}
-
-
- 示例:下载RoBERTa模型
Bash
huggingface-cli download --resume-download FacebookAI/roberta-base --local-dir ./roberta-base
- 示例:下载RoBERTa模型
-
-
- 仅下载单个文件
如果只需要下载特定文件(如 diffusion_pytorch_model.safetensors
):
Bash
huggingface-cli download --resume-download alimama-creative/FLUX.1-Turbo-Alpha --include "diffusion_pytorch_model.safetensors" --local-dir ./loras
- 关键参数:
--include
:指定文件名或通配符(如*.safetensors
)--local-dir
:指定本地存储路径(若目录不存在会自动创建)。
阅读剩余
版权声明:
作者:bihaiy
链接:https://d001.cn/xxjs/linux/1063.html
文章版权归作者所有,未经允许请勿转载。
THE END