Kendi Yapay Zeka Asistanını Nasıl Kurarsın? n8n + Ollama ile Yerel AI Otomasyonu

Neden Kendi AI Asistanını Kurmak İsteyesin?

ChatGPT veya Claude gibi bulut tabanlı AI asistanları güçlü, ama her zaman ideal değiller: veri gizliliği hassas olan işler (şirket iç dokümanları, kişisel notlar), sürekli API maliyeti ödemek istememe, veya internet bağlantısı olmadan çalışabilme ihtiyacı gibi durumlarda kendi sunucunda, kendi verinle çalışan bir AI asistanı kurmak mantıklı hale geliyor. Bu yazıda, daha önce yazdığım Ollama tanıtımının üzerine, gerçek bir otomasyon katmanı ekleyerek "kullanılabilir bir asistan" kurmayı ele alıyorum.

Mimarinin Parçaları

Üç temel bileşen var:

Ollama: Açık kaynak LLM'leri (Llama, Mistral, Qwen gibi) kendi donanımında çalıştırmanı sağlayan araç — model dosyasını indirir, yerel bir API sunucusu olarak çalışır.
n8n: Ollama'nın sunduğu API'yi, gerçek bir iş akışına (workflow) bağlayan orkestrasyon katmanı — "bir mesaj geldiğinde Ollama'ya sor, cevabı işle, sonucu gönder" gibi mantığı kod yazmadan kurmanı sağlıyor.
Tetikleyici (trigger): Asistanının nasıl çağrılacağı — bir Telegram botu, bir web formu, bir e-posta kutusu, veya zamanlanmış bir görev olabilir.

Adım 1: Ollama'yı Kur ve Bir Model İndir

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.1:8b
ollama serve

Bu üç komut, Ollama'yı kurup 8 milyar parametreli bir Llama modelini indiriyor ve yerel API sunucusunu (varsayılan olarak localhost:11434) başlatıyor. Donanımına göre daha küçük (örneğin llama3.1:3b) veya daha büyük modeller tercih edilebilir — GPU'suz bir sunucuda çalıştırıyorsan küçük modellerle başlamak makul.

Adım 2: n8n'de Ollama Node'unu Bağla

n8n'in yerleşik Ollama entegrasyonu var — bir "Ollama Chat Model" node'u ekleyip, host adresini (http://localhost:11434 veya Ollama'nın çalıştığı sunucunun adresi) ve kullanmak istediğin modeli belirtmen yeterli. Bu node, workflow içinde bir "LLM'e sor, cevabı al" adımı olarak kullanılabiliyor.

Adım 3: Gerçek Bir Kullanım Senaryosu Kurma

Örnek: Telegram üzerinden çalışan bir kişisel asistan.

Trigger: Telegram Trigger node'u — botuna bir mesaj geldiğinde workflow tetiklenir
İşleme: Gelen mesajı, Ollama Chat Model node'una gönder (istersen bir sistem promptu ekleyerek asistanın "kişiliğini" belirle — örneğin "Sen kısa, öz cevaplar veren bir teknik asistansın")
Ek bağlam (opsiyonel): Eğer asistanın kendi notlarını/dokümanlarını bilmesini istiyorsan, bir vector database node'u ekleyip RAG mantığıyla ilgili bilgiyi bulup prompt'a ekleyebilirsin (bkz. daha önceki RAG yazım)
Cevap gönderme: Ollama'dan gelen cevabı, Telegram Send Message node'u ile kullanıcıya geri gönder

Bu kurulum tamamlandığında, telefonundan Telegram üzerinden mesaj attığında, mesajın hiçbir zaman senin sunucundan dışarı çıkmadığı (hiçbir bulut AI servisine gitmediği) tamamen yerel bir asistanla konuşuyor olursun.

Gerçekçi Beklentiler: Yerel Model vs Bulut Model

Dürüst olmak gerekirse, yerel çalıştırılan açık kaynak modeller (özellikle küçük/orta boyutlu olanlar), GPT-4 veya Claude gibi en gelişmiş bulut modellerinin genel akıl yürütme kalitesine henüz tam olarak ulaşamıyor. Ama şu senaryolarda yerel model gayet yeterli ve hatta tercih edilir olabiliyor:

Basit sınıflandırma/özetleme görevleri
Belirli, dar kapsamlı bir bilgi tabanı üzerinde çalışan RAG sistemleri
Gizlilik gereksinimi, kalite farkından daha öncelikli olan durumlar
Sürekli, yüksek hacimli kullanım (API maliyeti yerine tek seferlik donanım/elektrik maliyeti)

Genişletme Fikirleri

Bu temel kurulumun üzerine ekleyebileceğin bazı katmanlar:

Zamanlanmış görevler: Her sabah saat 8'de, önceki günün notlarını özetleyip sana e-posta gönderen bir workflow
Çoklu kaynak entegrasyonu: E-posta, takvim, dosya sistemi gibi birden fazla kaynaktan veri toplayıp asistana bağlam olarak sunma
Araç kullanımı (tool use): n8n'in HTTP Request node'larını, asistanının "araç" olarak çağırabileceği fonksiyonlara dönüştürerek basit bir agent mimarisi kurma (bkz. AI Agent'lar yazım)

Özet

Ollama ile yerel bir LLM çalıştırmak, n8n ile de bunu gerçek, kullanılabilir bir otomasyona dönüştürmek, "kendi AI asistanını kurma" hedefini artık teknik olarak oldukça erişilebilir kılıyor. Bulut modellerinin ham zeka seviyesine her zaman ulaşamasa da, gizlilik, maliyet kontrolü ve tam özelleştirme isteyen kullanım senaryolarında bu kombinasyon gerçek bir değer sunuyor.