Yerel Yapay Zeka Nasıl Kurulur? Kapalı Devre Yapay Zeka Kimler İçin Gerekli?

  • Ana Sayfa
  • Blog
  • Yerel Yapay Zeka Nasıl Kurulur? Kapalı Devre Yapay Zeka Kimler İçin Gerekli?

Yerel Yapay Zeka Nasıl Kurulur? Kapalı Devre Yapay Zeka Kimler İçin Gerekli?

Kısa cevap: Yerel yapay zeka, açık ağırlıklı bir dil modelinin şirketin kendi sunucusunda ya da yalnızca şirkete ayrılmış bir ortamda çalıştırılmasıdır; istemler ve belgeler dış bir yapay zeka hizmetine gönderilmez. Gizli veriyle çalışan, sözleşme veya mevzuat nedeniyle veriyi dışarı çıkaramayan şirketler için anlamlıdır. Diğer şirketler için kurumsal bulut planları çoğu zaman yeterlidir.

"Kapalı devre yapay zeka", "şirket içi yapay zeka" ve "on-premise yapay zeka" aynı fikri anlatır: Model sizin kontrolünüzdeki bir makinede çalışır, veri o makineden çıkmaz. Bu yaklaşım son iki yılda çok daha erişilebilir hale geldi, çünkü güçlü modellerin ağırlıkları artık indirilebiliyor.

Yerel Yapay Zeka Nedir?

ChatGPT veya Gemini'yi kullandığınızda yazdıklarınız sağlayıcının sunucularına gider. Yerel kurulumda ise ağırlıkları açıkça yayımlanmış bir model kendi donanımınıza yüklenir. Örneğin OpenAI 5 Ağustos 2025'te gpt-oss adlı iki açık ağırlıklı modeli Apache 2.0 lisansıyla yayımladı. Şirkete göre büyük model (gpt-oss-120b) tek bir 80 GB GPU'da, küçük model (gpt-oss-20b) 16 GB bellekle çalışabiliyor. Aynı duyuruda bu modelleri çalıştırmak için Ollama, llama.cpp, LM Studio ve vLLM gibi araçlar da anılıyor.

Dikkat edilmesi gereken bir nokta var: OpenAI bu modellerin ağırlıklı olarak İngilizce veriyle eğitildiğini belirtiyor. Türkçe belgelerle çalışacaksanız seçtiğiniz modeli kendi örneklerinizle test etmeden karar vermeyin.

Kapalı Devre Yapay Zeka Kimler İçin Gerekli?

  • Hassas veriyle çalışanlar: Sağlık, finans ve hukuk gibi alanlar. KVKK'nın 2026 dokümanı da bu tür bilgilerde daha temkinli olunmasını istiyor.
  • Sözleşmeyle bağlı olanlar: Müşterisiyle gizlilik sözleşmesi olan, veriyi üçüncü taraf hizmetlere gönderemeyen firmalar.
  • Ticari sırrı koruyanlar: Kaynak kod, ürün tasarımı veya formül gibi bilgilerle çalışan üretim ve yazılım şirketleri.
  • İnternetsiz ortam isteyenler: Bazı tesis ve sistemlerin dış ağa bağlanmasına izin verilmez.

Bu koşullardan hiçbiri yoksa, kurumsal bulut planları genellikle daha hızlı ve daha yetenekli bir başlangıçtır. Örneğin OpenAI kurumsal gizlilik sayfasında ChatGPT Business, Enterprise ve API verilerinin varsayılan olarak model eğitiminde kullanılmadığını belirtiyor.

Yerel Yapay Zeka mı, Kurumsal Bulut Planı mı?

Konu Yerel kurulum Kurumsal bulut planı
Verinin yeri Sizin sunucunuz veya size ayrılmış ortam Sağlayıcının sunucuları
Başlangıç Donanım, kurulum ve test gerekir Hesap açılıp hemen kullanılabilir
Model yeteneği Seçilen açık modelle sınırlı Sağlayıcının en güncel modelleri
Bakım ve güvenlik Sizin veya hizmet aldığınız firmanın sorumluluğunda Büyük kısmı sağlayıcıda
Maliyet yapısı Donanım ve işletme gideri Kullanıcı başına abonelik veya kullanım ücreti

Yerel Yapay Zeka Nasıl Kurulur? Adım Adım

  1. Senaryoyu seçin: "Sözleşmelerden madde bulma" veya "teknik dokümandan cevap verme" gibi tek ve net bir iş.
  2. Veriyi sınıflandırın: Hangi belgeler sisteme girecek, kimler hangisini görebilecek?
  3. Modeli test edin: İki üç açık modeli kendi Türkçe örneklerinizle deneyin, cevap kalitesini karşılaştırın.
  4. Donanımı belirleyin: Model boyutu ve aynı anda kaç kişinin kullanacağı GPU ve bellek ihtiyacını belirler.
  5. Çalıştırma katmanını kurun: Ollama veya vLLM gibi bir araçla modeli şirket ağında erişilebilir hale getirin.
  6. Belgeleri bağlayın: Modelin şirket belgelerinden kaynak göstererek cevap vermesi için bir arama katmanı kurun.
  7. Yetki ve kayıt ekleyin: Kullanıcı girişi, rol bazlı erişim ve kullanım kayıtları olmadan sistemi açmayın.
  8. Pilotla ölçün: Küçük bir ekiple birkaç hafta deneyin, sonra yaygınlaştırın.

Kapalı Devre Olması Otomatik Olarak Güvenli Olduğu Anlamına Gelir mi?

Hayır. Veri dışarı çıkmasa da şirket içinde yanlış kişinin yanlış belgeye erişmesi mümkündür. KVKK'nın 12. maddesi veri sorumlusundan hukuka aykırı erişimi önleyecek teknik ve idari tedbirleri almasını istiyor. Kurulumu bir firmaya yaptırıyorsanız, bu tedbirlerde o firmayla birlikte müştereken sorumlu olursunuz. Bu yüzden erişim yetkileri, kayıt tutma ve güncelleme planı kurulumun parçası olmalıdır.

Kurulum Öncesi Kontrol Listesi

  • Verinin dışarı çıkamaması için somut bir neden (mevzuat, sözleşme, ticari sır) var mı?
  • Tek bir pilot senaryo ve başarı ölçütü belirlendi mi?
  • Model Türkçe örneklerinizle test edildi mi?
  • Sunucunun bakımını ve güncellemesini kim yapacak?
  • Rol bazlı erişim ve kullanım kaydı planlandı mı?

Yerel modellerin tarayıcıya nasıl girdiğini Opera WebAI yazımızda, şirketleri bekleyen riskleri ise yapay zekâ veri güvenliği rehberinde anlattık. Yerel ve bulut seçeneklerini veri sınıflandırmasıyla birlikte nasıl değerlendirdiğimizi Yapay Zeka Veri Güvenliği sayfamızda bulabilirsiniz.

Kaynaklar

Son kontrol: 3 Kasım 2026. Bu yazı genel bilgilendirme amaçlıdır, hukuki görüş yerine geçmez.

Projenizi konuşalım

Web sitesi, SEO/GEO, yapay zekâ ve yazılım ihtiyacınızı yazın; 24 saat içinde ücretsiz teklif ve yol haritası gönderelim.

Teklif Al WhatsApp Ara