数据和模型的保存和下载
1. 百度网盘
bypy 安装:pip install bypy
登录:bypy info
,运行后命令行会返回一个网址,打开网址登录,得到授权码,返回命令行输入此授权码即可。接下来就可以使用bypy访问百度网盘 “我的应用数据/bypy” 文件夹了。
退出登陆
rm -r ~/.bypy
查看文件列表、下载文件、下载文件夹、上传文件
bypy list
bypy downfile baidu_image1.tar
bypy downdir /aaa /your_path/aaa
bypy syncup xxx
# 或者
bypy upload xxx
2. 谷歌云盘 & 链接
如果url就是数据本身,直接用 wget 下载到当前路径。安装:sudo apt install wget
,使用:
wget -c https://ai2-public-datasets.s3-us-west-2.amazonaws.com/charades/Charades_v1_480.zip
如果链接是谷歌云盘,且无法直接wget下载,使用 gdown
安装:pip install gdown
,使用如下,替换里面的id为你要下载的url里的
gdown https://drive.google.com/uc?id=1RZefU1XqODCt2NH68P0V_DMAOiQjRlSn
3. HuggingFace
安装:pip install -U "huggingface_hub[cli]"
。通过 huggingface-cli 下载hf中的数据:
huggingface-cli download <repository/repository_name> --local-dir <your_path/repository_name> --local-dir-use-symlinks False --resume-download --repo-type dataset
可以下载数据、模型、space。支持单独下载某个文件或者某个文件夹,有的文件需要huggingface-cli login
登录后才能下载。更多用法见官方文档