1. Docker’ı Kurma
İlk adım olarak, Docker'ı bilgisayarınıza kurmanız gerekmektedir. Docker'ı kurmak için aşağıdaki adımları izleyebilirsiniz:- Windows: Docker Desktop for Windows sayfasına gidin ve uygun sürümü indirin. İndirilen dosyayı çalıştırarak yükleme işlemini tamamlayın.
- MacOS: Docker Desktop for Mac sayfasına gidin ve uygun sürümü indirin. İndirilen dosyayı açarak Docker'ı yükleyin.
- Linux: Docker’ı yüklemek için terminalde aşağıdaki komutları çalıştırabilirsiniz:
Docker’ı yükledikten sonra, kullanıcı grubunuza eklemek için:Bash:sudo apt-get update sudo apt-get install docker.io sudo systemctl start docker sudo systemctl enable docker
Bash:sudo usermod -aG docker $USER
2. Docker ile Ollama İmajını Çekme
Ollama için bir Docker imajı bulmanız veya oluşturmanız gerekecek. Eğer resmi bir imaj mevcutsa, Docker Hub’dan çekebilirsiniz. Örneğin, Ollama'nın Docker Hub üzerindeki imajını çekmek için:
Bash:
docker pull ollama/ollama:latestEğer resmi bir imaj yoksa, özel bir Dockerfile oluşturmanız gerekecek.
3. Dockerfile Oluşturma (Varsa)
Ollama için bir Dockerfile oluşturmanız gerekiyorsa, aşağıdaki gibi bir Dockerfile yazabilirsiniz. Bu dosya, Ollama’nın gereksinimlerini ve çalışma ortamını tanımlar.Örnek bir Dockerfile:
Bash:
# Temel imaj olarak bir Python imajı kullanabilirsiniz
FROM python:3.9-slim
# Çalışma dizinini oluşturun
WORKDIR /app
# Gereksinim dosyasını kopyalayın
COPY requirements.txt .
# Gereksinimleri yükleyin
RUN pip install --no-cache-dir -r requirements.txt
# Ollama dosyalarını kopyalayın
COPY . .
# Konteyneri çalıştıracak komutu tanımlayın
CMD ["python", "ollama.py"]requirements.txt dosyasının içerisine Ollama’nın Python kütüphanelerini ekleyin.
4. Docker İmajını Oluşturma
Dockerfile’ı kullanarak Docker imajını oluşturmak için aşağıdaki komutu kullanabilirsiniz:
Bash:
docker build -t ollama-local .5. Docker Konteynerini Çalıştırma
Oluşturduğunuz Docker imajını kullanarak bir konteyner başlatabilirsiniz. Bu komut, konteyneri çalıştırır ve lokal makinenizde Ollama'yı çalıştırır:
Bash:
docker run -d --name ollama-container -p 5000:5000 ollama-localBurada -d parametresi konteyneri arka planda çalıştırır ve -p 5000:5000 parametresi konteynerin 5000 numaralı portunu yerel makinadaki 5000 numaralı porta yönlendirir.
6. Ollama’nın Çalışıp Çalışmadığını Kontrol Etme
Konteynerin doğru bir şekilde çalışıp çalışmadığını kontrol etmek için:
Bash:
docker psEğer konteyner çalışıyorsa, tarayıcınızda http://localhost:5000 adresine giderek Ollama uygulamanızı görüntüleyebilirsiniz.
7. Sorun Giderme
Eğer bir sorunla karşılaşırsanız, Docker konteynerinin loglarına bakarak hata mesajlarını inceleyebilirsiniz:
Bash:
docker logs ollama-containerSorun gidermek için loglardan gelen bilgileri kullanabilirsiniz.
Olloma Model linkler: https://ollama.com/library
Benim en beğendiğim model: https://ollama.com/library/llama3
