Şirket İçi Yapay Zekâ Asistanı Kurulumu: Kendi Belgelerinizle

Şirket içi yapay zekâ asistanı, çalışanların kurum belgelerine soru sorabildiği ve yanıtların kurum ağındaki bir modelden geldiği sohbet sistemidir. Buna “lokal ChatGPT” veya “kurumsal LLM” diyenler de var. Teknik olarak dört parçadan oluşur: yerel çalışan bir dil modeli, belgeleri arayıp modele getiren RAG katmanı, rol bazlı yetki ve sohbet arayüzü.

Bu yapıya “on-premise” ya da “private LLM” da deniyor; ortak nokta, işlemenin kurumun kontrolündeki sunucuda yapılması. Burada asıl ayrım modelin adında değil, verinin nereye gidip nereden geldiğinde. Modeli sunucuya kurup belge okumayı dış bir servise bırakırsanız, “yerel” sözü yalnızca yarım doğru olur.

Kişisel bir bilgisayarda model çalıştırmak ile şirket asistanı kurmak aynı iş değildir. İkincisinde kullanıcı hesabı, belge erişimi, sohbet kaydı, yedek ve güncelleme de tasarlanır.

Karar, belgenin türüne ve nerede işlenebileceğine bağlıdır; her iş için tek doğru cevap yoktur. Herkese açık metinlerle çalışan bir ekip için bulut servis yeterli olabilir. Müvekkil, hasta veya müşteri belgesi işleyen bir kurum için işlemenin yeri baştan karar konusudur.

Karar tek bir ölçüte inmez. Önce belgelerinizi üç gruba ayırın: herkese açık olanlar, yalnız kurum içinde kullanılanlar ve kişisel ya da özel nitelikli veri taşıyanlar. Üçüncü grup için işlemenin yerini hukuk danışmanınızla birlikte kararlaştırın. Hassas evrak işlerini yerelde, geri kalanını bulutta tutmak da meşru bir düzendir.

KVKK’nın yurt dışına aktarım sayfasına göre aktarım için yeterlilik kararı, uygun güvenceler veya arızi hâl koşullarından biri aranır. Aynı sayfada, Kurul’un şu an hiçbir ülke için yeterlilik kararı vermediği yazıyor. Bu çerçeve 7499 sayılı Kanun’la değişen md. 9’a dayanıyor ve 1 Haziran 2024’te yürürlüğe girdi.

KVKK, 5 Mart 2026’da “İş Yerlerinde Üretken Yapay Zekâ Araçlarının Kullanımı” başlıklı bir yayın çıkardı. Yayın, herkesin erişebildiği üçüncü taraf araçları kapsıyor ve kurum politikası olmadan kullanımın izlenmesini zorlaştırdığına dikkat çekiyor. Çalışanlarınız zaten bulut araçlar kullanıyorsa, kurumun onayladığı ve kayıt tutan bir iç alternatif bu yüzden anlamlı.

Asistan, her soru için önce yetkinize uygun belge bölümlerini bulur, sonra bunları soruyla birlikte yerel modele verir. Belgeler modele öğretilmez; modelin ağırlıkları değişmez. Belge, yalnızca o yanıt için bağlam olarak okunur.

Bir sorunun yolculuğu altı adımdan oluşur. Son adımı insan yapar; çünkü yanıtın doğruluğunu sistem değil, çalışan doğrular.

Bu akışın bir kısmını hazır araçlar sağlar. Open WebUI’nin dokümanı, kendisini çevrimdışı çalışacak biçimde tasarlanmış, çok kullanıcılı bir platform olarak tanıtıyor. Rol, grup ve kaynak başına izinleri yönetebildiğini de yazıyor. AnythingLLM’de ise “Query” modu yalnızca yüklenen belgelere dayanıyor ve ilgili bilgi bulamazsa bunu söylüyor. Çok kullanıcılı modda, varsayılan kullanıcılar yalnızca atandıkları çalışma alanlarıyla sohbet edebiliyor; bu mod Docker sürümünde var.

Bu iki aracın özelliklerini resmî dokümanlardan aktarıyoruz; kendi testlerimizde ölçmedik. Okuduğumuz sayfalarda belge düzeyinde yetki ayrıntısı anlatılmıyor. Sağlayıcıya bunu somut bir senaryoyla sormak gerekir; sorular aşağıdaki listede var.

Belge dizinini de asıl dosyalar kadar hassas saymak gerekir. Belgelerin aranabilir kopyası, sohbet geçmişi ve yedekler, orijinal dosyalardaki bilgiyi taşır. Bir kullanıcı hesabı kapatıldığında ya da belge silindiğinde bunun arama dizinine ve yedeklere etkisini de baştan planlamalısınız.

Yerel model, kurgusal belgelerle yaptığımız iki testte belge işlerinin çoğunu doğru yaptı; ama her testte somut hatalar da gördük. İki test aynı modelle, aynı kartta ve aynı düzenle yapıldı ama bağlam penceresi ve düşünme sınırı farklıydı. Bu yüzden sonuçlar yan yana duruyor, birleştirilmiyor.

Tablodaki sonuçlar düşünme kapalıyken, üç tekrarın toplamıdır; son satır açık modu gösterir. Hukuk testinde “bulunamadı” demesi gereken üç soruda model doğru cevap verdi. Sağlık testinde eski protokol sürümünden cevap vermedi. Her iki testte de beş taranmış evraktaki 30 alanın tamamını doğru okudu; bu evraklardan biri bilerek bulanık hazırlanmıştı. Kendi taramalarınızın kalitesi farklı olabilir; bu yüzden pilotta kendi evraklarınızla ayrıca denemelisiniz.

Düşünme modunun açık olması iki testte de sorun çıkardı. Hukuk testinde 18 denemenin 7’si, ortak 16.384 token sınırına ulaşıp cevap yazamadan bitti. Sağlık testinde 18 çağrının 7’sini, düşünme metni aynı kontrol cümlelerini tekrar ettiği için durdurduk. Kapalı modda iki testte de bütün çağrılar cevapla bitti. Çalışanın soru sorduğu bir asistanda cevapsız kalan çağrı kötü bir deneyimdir; bu ayarı pilotta kendi belgelerinizle sınamalısınız.

İki testten çıkan pratik sonuç şu: model belgeden bilgi çıkarma ve sınıflandırmada güçlü görünüyordu, ama her çıktının insan kontrolü gerektiğini gördük. Yanlış alarm ve açıkta kalan tek veri öğesi, kontrolün neden kurulumun parçası olması gerektiğini gösteriyor.

Kurum içinde en çok belgeye dayalı, taslak üreten ve sonucu bir çalışanın kontrol ettiği işler yapılabilir. Hangi kullanımın size uyduğunu varsayım değil, kendi belgelerinizle yapılan pilot gösterir. Aşağıdaki örnekler hizmet sayfalarımızdaki senaryolardan geliyor. Her kartta karar yetkisi çalışanda kalıyor.

Kurulum, veri sınırlarının belirlenmesiyle başlar ve beş aşamadan oluşur. Modeli sunucuya indirmek bu işin küçük kısmıdır; belge okuma, arama, yetki, kayıt ve dış bağlantılar da aynı sınırın içinde kalmalıdır.

Pilotun kabul ölçütlerini baştan yazın: kaç soruluk bir sınav seti kullanılacak, hangi yanıt doğru sayılacak, kaynak bağlantısı hangi belgeyi göstermeli ve yetkisiz bir hesap hangi sorulara yanıt alamamalı. Ölçütü olmayan bir pilot, sonunda yalnızca izlenim bırakır.

Hangi işte yapay zekâ kullanacağınız henüz belli değilse, önce yapay zekâ danışmanlığı sayfamıza bakabilirsiniz.

Tek kullanıcılı bir deneme için kendiniz kurabilirsiniz; hassas veri ve çok kullanıcı söz konusuysa kurulumu yetki, kayıt ve bakım planıyla birlikte ele almak gerekir. Aradaki fark, kurulumun zorluğundan çok sorumluluğun büyüklüğünden gelir. Birden fazla müşterinin, hastanın ya da müvekkilin belgesi aynı sistemde olduğunda, yetki hatası başka birinin belgesini yanıta karıştırabilir.

Kurulumu kendiniz yapacaksanız modeli ağın tamamına ya da internete açık bırakmayın ve kimlik doğrulamayı baştan koyun. Hizmet almayı düşünüyorsanız lokal yapay zekâ kurulum hizmeti sayfasında kapsam ve aşamalar anlatılıyor. Hangi sağlayıcıyla çalışırsanız çalışın, şu on soruyu sorun:

• Sistemin dışarıya kurduğu bağlantılar nasıl tespit ediliyor ve kapatılıyor?
• Yetki yalnız dosya listesine mi, yoksa arama sonuçlarına ve modele giden bağlama da mı uygulanıyor?
• Yetkisiz erişim pilotta, yetkisi olmayan bir hesapla test ediliyor mu?
• Sohbet kaydı ve belge dizini nerede tutuluyor, yedek nerede?
• Güncelleme nasıl yapılıyor, öncesinde test ve geri dönüş yolu var mı?
• Uzaktan erişim gerekiyorsa sınırları, yetkileri ve taşıyacağı veri nedir?
• Pilotun kabul ölçütleri neler ve kim belirliyor?
• Teslimde hangi belgeler yazılı olarak veriliyor?
• Kullanılan modelin lisans koşulları ticari kullanıma izin veriyor mu?
• Kurulumdan sonra bakımı kim yapacak?

Yerel kurulum verinin nerede işlendiğini kontrol etmenizi sağlar; yanlış yanıtı, yetki hatasını veya mevzuat yükümlülüklerini kendiliğinden kaldırmaz. Hüküm kodları üç düzeyi gösterir: çözer, koşula bağlı, çözmez.

Koşula bağlı ve çözülmeyen maddeleri pilotun kabul ölçütlerine dönüştürün. Yukarıdaki on soru da bu maddelerin sağlayıcıyla nasıl ele alınacağını konuşmanız için bir başlangıç listesidir.

1. [1]Kişisel Verileri Koruma Kurumu: Yurt dışına aktarımkvkk.gov.tr↗
2. [2]Kişisel Verileri Koruma Kurumu: Kanun değişiklikleri karşılaştırmalı metnikvkk.gov.tr↗
3. [3]Kişisel Verileri Koruma Kurumu: İş yerlerinde üretken yapay zekâ araçlarının kullanımıkvkk.gov.tr↗
4. [4]Türkiye Barolar Birliği: Avukatlıkta yapay zekâ kullanımına ilişkin tavsiye rehberibarobirlik.org.tr↗
5. [5]Sağlık Bakanlığı: 2019/12 sayılı Bilgi ve İletişim Güvenliği Tedbirleri Genelgesisba.saglik.gov.tr↗
6. [6]Open WebUI dokümanı: Özelliklerdocs.openwebui.com↗
7. [7]AnythingLLM dokümanı: Sohbet modlarıdocs.anythingllm.com↗
8. [8]AnythingLLM dokümanı: Güvenlik ve erişimdocs.anythingllm.com↗