Ollama, LM Studio ve Hugging Face modelleri Mac'te nerede saklanır
Yerel yapay zekâ modelleri, bir geliştiricinin Mac'indeki en büyük dosyaların başında gelir ve her uygulama kendi kopyasını kendi yerinde tutar.
Kısacası: Ollama modelleri ~/.ollama/models, LM Studio ~/.lmstudio/models (ya da ayarlarında seçilen klasör), Hugging Face ise ~/.cache/huggingface/hub içinde tutar. Ollama modellerini asla dosyalarını silerek değil, ollama rm ile kaldırın.
Her uygulama modellerini nerede tutuyor?
- Ollama:
~/.ollama/models;blobs(SHA-256 değerleriyle adlandırılmış ağırlıklar) vemanifestsolarak ikiye ayrılır.OLLAMA_MODELSortam değişkeniyle başka bir yere taşınabilir. - LM Studio:
~/.lmstudio/models; her yayıncı ve model için bir klasör. LM Studio'da başka bir modeller klasörü seçtiyseniz (belki harici bir diskte) modeller oradadır, eski indirmeler ise hâlâ varsayılan klasörde duruyor olabilir. - Hugging Face:
~/.cache/huggingface/hub; her model için birmodels--publisher--nameklasörü. Python kütüphaneleri, MLX ve birçok uygulama buraya indirir.HF_HOMEile başka bir yere taşınabilir. Veri setleri~/.cache/huggingface/datasetsklasörüne gider. - Diğerleri: Whisper
~/.cache/whisper, PyTorch Hub~/.cache/torchiçinde.
Yerel yapay zekâ modelleri ne kadar yer kaplar?
Kabaca parametre sayısı çarpı ağırlık başına bayt kadar. 4 bit kuantize edilmiş 7-8 milyar parametreli bir model yaklaşık 4-5 GB, 4 bit'teki 70B bir model yaklaşık 40 GB tutar. Aynı model 8 bit'te yaklaşık iki kat, kuantize edilmemiş 16 bit ağırlıklarla yaklaşık dört kat büyüktür. Birkaç deneme kısa sürede 100 GB'ı bulur.
Ollama modelleri nasıl listelenir ve silinir?
ollama list
ollama rm llama3.2:3b
ollama list her modeli boyutuyla gösterir, ollama rm birini siler. blobs içindeki dosyaları elle silmeyin: Modeller katmanları paylaşır ve eksik bir blob diğer modelleri de bozar.
LM Studio ve Hugging Face modelleri nasıl silinir?
LM Studio'da My Models'ı açıp modeli oradan silin ya da LM Studio kapalıyken klasörünü Çöp Sepeti'ne taşıyın. Hugging Face için resmi komut satırı aracı önbelleği listeler ve neyi sileceğinizi seçmenizi sağlar:
pip install -U "huggingface_hub[cli]"
huggingface-cli scan-cache
huggingface-cli delete-cache
Kütüphanenin yeni sürümlerinde aynı aracın adı hf. Bir models--… klasörünü Çöp Sepeti'ne taşımak da işe yarar.
Aynı model diskte iki kez yer kaplıyor olabilir mi?
Çoğu zaman evet. Bir modeli Ollama'da çekip LM Studio'da yeniden indirmek ya da bir kez de bir Python betiğiyle indirmek, aynı ağırlıkları iki üç ayrı yerde bırakır. Boyutu birebir aynı olan dosyalar ilk ipucudur; SHA-256 sağlama toplamlarının eşleşmesi (shasum -a 256 <file>) bunu kanıtlar. Ollama'nın blob adları zaten bu sağlama toplamıdır.
Yerel bir yapay zekâ modelini silmek güvenli mi?
Evet, yeniden indirebildiğiniz sürece: Onu kullanacak şekilde ayarlanmış uygulamalar dışında Mac'teki hiçbir şey ona bağlı değildir. Bedeli yalnızca indirme süresidir. Kendiniz ince ayar yaptığınız, birleştirdiğiniz ya da dönüştürdüğünüz modelleri saklayın: Onlar yeniden indirilemez.