Ollama、LM Studio 和 Hugging Face 在 Mac 上把模型存在哪里
本地 AI 模型是开发者 Mac 上最大的一类文件,而且每个应用都在自己的位置各存一份。
一句话:Ollama 把模型存在 ~/.ollama/models,LM Studio 存在 ~/.lmstudio/models(或在其设置中选定的文件夹),Hugging Face 存在 ~/.cache/huggingface/hub。删除 Ollama 模型请用 ollama rm,千万不要直接删它的文件。
各个应用把模型存在哪里?
- Ollama:
~/.ollama/models,分为blobs(权重文件,以其 SHA-256 命名)和manifests。设置OLLAMA_MODELS环境变量可以把它挪到别处。 - LM Studio:
~/.lmstudio/models,每个发布者、每个模型各一个文件夹。如果你在 LM Studio 里另选了模型文件夹(可能在外置硬盘上),模型就在那里,而较早下载的模型可能还留在默认文件夹中。 - Hugging Face:
~/.cache/huggingface/hub,每个模型一个models--publisher--name文件夹。Python 库、MLX 和很多应用都会下载到这里。HF_HOME可以改变它的位置。数据集则存放在~/.cache/huggingface/datasets。 - 其他:Whisper 在
~/.cache/whisper,PyTorch Hub 在~/.cache/torch。
本地模型要占多大空间?
大致等于参数量乘以每个权重的字节数。一个 7B 到 8B 参数的模型做 4 位量化后约 4 到 5 GB;70B 模型 4 位量化约 40 GB。同一个模型用 8 位大约大一倍,未量化的 16 位权重大约是四倍。多试几个模型,很快就到 100 GB 了。
怎么查看和删除 Ollama 模型?
ollama list
ollama rm llama3.2:3b
ollama list 会列出每个模型及其大小;ollama rm 删除其中一个。不要手动删除 blobs 里的文件:模型之间共享层,少了一个 blob,其他模型也会跟着坏掉。
怎么删除 LM Studio 和 Hugging Face 的模型?
在 LM Studio 中打开 My Models,在那里删除模型;或者在 LM Studio 关闭时把模型文件夹移到废纸篓。对于 Hugging Face,官方命令行工具可以列出缓存,让你挑选要删除的内容:
pip install -U "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache
较新版本的库把同一个工具叫作 hf。把 models--… 文件夹移到废纸篓也可以。
同一个模型会被存两份吗?
经常会。在 Ollama 里 pull 了一个模型,又在 LM Studio 里再下载一次,或者通过 Python 脚本下载过一次,同样的权重就会留在两三个地方。大小完全相同的文件是第一个线索;SHA-256 校验和一致(shasum -a 256 <file>)就能证实。Ollama 的 blob 文件名本身就是这个校验和。
删除本地模型安全吗?
安全,只要还能重新下载:除了设置为使用它的应用之外,Mac 上没有别的东西依赖它。代价只是重新下载的时间。你自己微调、合并或转换过的模型要保留:这些没法再下载回来。