电子商务网站建设软件开发课设甜品店网站建设

如何删除hugging face dowloaded的llm model？

在现在需要使用llm进行research的情况下，经常会出现，由于下载模型太多，导致内存问题，然后需要删除某些不用的模型的情况，那么如何找到hugging face的模型保存位置呢？

很简单，由于大多数人的hugging face都是自动托管的，因此 他的模型会被自动保存在cache里，我们可以找到对应的cache文件， 然后进行删除即可：

默认位置：

~/.cache/huggingface/hub

cd进去之后，可以查看所有保存的models：

你也可以查看某一个文件占用了多少内存空间：
du -sh + folder name 即可

然后删除不需要的地方即可：

rm -rf ~/.cache/huggingface/hub/models--meta-llama--Meta-Llama-3-8B-Instruct

如何查找一个，进程？根据他的名字：

ps aux | grep name of it