Şirketlerde Yapay Zeka Kullanımı: İlk Proje ve Verimlilik Rehberi

Bugün şirketlerde "yapay zeka" denildiğinde çoğunlukla büyük dil modelleri (LLM) kastediliyor: metni anlayan, özetleyen, sınıflandıran, taslak yazan ve soru yanıtlayan modeller. Bunların yanında satış tahmini, stok optimizasyonu veya anomali tespiti gibi işlerde kullanılan klasik makine öğrenmesi modelleri de hâlâ çok değerli. İkisi farklı sorunları çözer; ilk projede hangisine ihtiyaç duyduğunuzu ayırt etmek zaman kazandırır.

Kurumsal kullanımı bireysel kullanımdan ayıran şey modelin kendisi değil, etrafındaki katmanlardır. Bir çalışanın genel amaçlı bir sohbet aracına metin yapıştırması bireysel kullanımdır. Kurumsal yapay zeka çözümleri ise şirket verisine yetkiye bağlı erişir, kişisel veriyi maskeler, yanıtın hangi belgeye dayandığını gösterir, kayıt tutar ve gerektiğinde ERP, CRM veya yardım masası gibi sistemlerle API entegrasyonu üzerinden konuşur.

Aşağıdaki şema bu katmanları gösteriyor. Dikkat edin: model zincirin yalnızca bir halkası. Projelerin büyük kısmında emeğin çoğu veri hazırlığına, yetkilendirmeye, entegrasyona ve ölçüme gider. Bu yüzden "en iyi model hangisi?" sorusu, "hangi süreci, hangi veriyle, nasıl ölçerek iyileştireceğiz?" sorusundan sonra gelmelidir.

İşletmeler için yapay zeka en çok, tekrar eden ve metin ağırlıklı işlerde fark yaratır: okumak, aramak, özetlemek, sınıflandırmak, ilk taslağı yazmak. Karar yükü yüksek, hatası pahalı ve kuralları belirsiz işlerde ise yapay zeka karar verici değil, karar destek aracı olarak konumlanmalıdır.

Aşağıdaki liste departman bazında sık görülen başlangıç noktalarını topluyor. Her biri "bir çalışanın bugün elle yaptığı ve dakikalarla ölçülebilen" bir işe karşılık geliyor; bu da hem önceliklendirmeyi hem de verimlilik hesabını kolaylaştırıyor.

İyi bir ilk proje iki soruya aynı anda "evet" der: Değerli mi? ve Yapılabilir mi? Değer; kazanılan zaman, azalan hata, hızlanan müşteri yanıtı veya artan satış olarak ifade edilir. Uygulanabilirlik ise üç şeye bağlıdır: verinin ne kadar hazır olduğu, bir hata olduğunda ortaya çıkacak riskin büyüklüğü ve mevcut sistemlere bağlanmanın ne kadar kolay olduğu.

Aşağıdaki matris bu iki ekseni birleştirir. Hazır senaryolar örnek başlangıç puanlarıyla gelir; kendi şirketinize göre kaydırıcıları değiştirin veya kendi senaryonuzu ekleyin. Uygulanabilirlik puanı; veri hazırlığı, risk (ters çevrilerek) ve entegrasyon kolaylığının ortalamasıdır. Öncelik sırası ise iş değerine biraz daha fazla ağırlık verir.

Yapay zeka ile verimlilik hesabının en dürüst birimi saattir. Para karşılığı şirketten şirkete, pozisyondan pozisyona değişir; ama "bu iş haftada kaç saatimizi alıyor ve bunun ne kadarı azalır?" sorusu herkes için aynıdır. Aşağıdaki hesaplayıcı bu soruyu kendi rakamlarınızla yanıtlar.

Tasarruf oranını gerçekçi girin. Yapay zeka bir işi çoğu zaman tamamen ortadan kaldırmaz; ilk taslağı hızlandırır ama kontrol ve düzeltme süresi ekler. Örneğin 20 dakikalık bir özetleme işi 7 dakikaya iniyorsa oran yaklaşık %65'tir, %100 değil. Emin değilseniz düşük bir oranla başlayın, pilotta gerçek ölçümle güncelleyin.

Kurumsal yapay zeka projelerinde dört temel yaklaşım var ve bunlar birbirinin rakibi değil, çoğu zaman üst üste binen katmanlardır. Prompt tabanlı kullanım, modele iyi yazılmış talimat ve örnek vererek sonuç almaktır. RAG (Retrieval-Augmented Generation), modele soruyla ilgili şirket belgelerini bulup bağlam olarak vermektir. Fine-tuning, modeli kendi örneklerinizle ek eğitime sokarak davranışını değiştirmektir. Ajan (tool-use) ise modelin API çağırarak başka sistemlerde işlem yapabilmesidir.

Genel kural basit: En sade yaklaşımla başlayın, yalnızca ölçüm gerektirdiğinde bir üst basamağa çıkın. Güncel ve şirkete özel bilgi gerekiyorsa RAG; başka sistemlerde işlem yapılması gerekiyorsa ajan; belirli bir biçim veya üslup prompt ve örneklerle tutarlı sağlanamıyorsa fine-tuning devreye girer. Aşağıdaki tablo ve karar akışı bu seçimi somutlaştırır.

RAG (Retrieval-Augmented Generation, getirme destekli üretim), bir dil modelinin yanıt üretmeden önce sizin belgelerinizde arama yapmasıdır. Model yalnızca eğitildiği genel bilgiye güvenmez; soruyla en ilgili paragrafları bulur, bunları bağlam olarak okur ve yanıtını bu kaynaklara dayandırır. İyi bir kurumsal chatbot veya doküman asistanının arkasında çoğunlukla bu mimari vardır.

Süreç iki aşamadan oluşur. Hazırlık (indeksleme) aşamasında belgeler anlamlı parçalara bölünür, her parça bir embedding modeliyle sayısal vektöre çevrilir ve bir vektör veritabanında saklanır. Sorgu anında kullanıcının sorusu da vektöre çevrilir, anlamca en yakın parçalar bulunur ve dil modeline "yalnızca bu kaynaklara dayanarak yanıtla" talimatıyla birlikte verilir.

1. 1.BelgelerPDF, Word, wiki, yardım makaleleri; sahibi ve güncelliği belli kaynaklar.
2. 2.ParçalamaBaşlık yapısını koruyan, bağlamı bölmeyen parçalar (chunk).
3. 3.EmbeddingHer parça anlamını temsil eden bir vektöre dönüşür.
4. 4.Vektör aramaSoruya anlamca en yakın parçalar, kullanıcının yetkisi süzülerek bulunur.
5. 5.Dil modeliBulunan parçalar ve talimatla yanıt taslağı üretilir.
6. 6.Kaynaklı yanıtYanıt, dayandığı belge ve bölümle birlikte gösterilir.

RAG'in kalitesini çoğu zaman model değil, getirme adımı belirler. Yanlış parça getirilirse en güçlü model bile yanlış veya eksik yanıt verir. Bu yüzden parçalama stratejisi, anahtar kelime ve anlamsal aramanın birlikte kullanıldığı hibrit arama ve sonuçları yeniden sıralama (reranking) gibi ayarlar, model seçiminden daha fazla fark yaratabilir.

Kurumsal ortamda ikinci kritik konu yetkidir. İnsan kaynakları klasöründeki bir belgeyi göremeyen çalışan, asistan üzerinden de o belgenin içeriğine ulaşamamalıdır. Yetki süzmesi arama anında, belge düzeyinde uygulanmalıdır. Vektör veritabanı ve modelin nerede çalışacağı da KVKK ve performans açısından önemlidir; veriyi yurt içinde tutmak isteyen şirketler için bulut sunucu altyapısı üzerinde çalışan bir mimari seçenek olabilir. W3'ün kendi geliştirdiği kurumsal yapay zeka platformunu Tuğra AI proje sayfasında inceleyebilirsiniz.

Yapay zeka projesi nasıl başlatılır sorusunun en sağlıklı yanıtı: küçük, ölçülü ve süresi belli bir pilotla. Pilotun amacı bir demo göstermek değil, önceden tanımlanmış bir başarı ölçütüne ulaşılıp ulaşılmadığını görmektir. Aşağıdaki plan tek bir senaryo için örnek bir takvimdir; kapsam ve entegrasyon ihtiyacına göre 4 ile 8 hafta arasında kısalabilir veya uzayabilir.

1. Hafta 1Keşif ve senaryo seçimiSeçilen senaryo, süreç sahibi, bugünkü süre ve hata oranının ölçümü (başlangıç çizgisi).
2. Hafta 2Veri ve KVKK değerlendirmesiVeri envanteri, maskeleme kuralları, sağlayıcı ve barındırma kararı.
3. Hafta 2–3Altın soru setiDoğru yanıtı uzmanlarca belirlenmiş örnek sorular ve beklenen çıktılar.
4. Hafta 3–4PrototipPrompt veya RAG ile çalışan ilk sürüm; ilk değerlendirme skoru.
5. Hafta 5–6Entegrasyon ve kontrollü pilotGerçek kullanıcılarla sınırlı kullanım; geri bildirim ve loglama.
6. Hafta 6–7Ölçüm ve iyileştirmeBaşlangıç çizgisiyle karşılaştırma, hata analizi, prompt/getirme ayarları.
7. Hafta 8Karar toplantısıÖlçekle, değiştir veya durdur kararı ve bir sonraki adımın bütçesi.

YAPAY ZEKA PİLOT PROJE KARTI
────────────────────────────────────────
Senaryo adı        : ...
Süreç sahibi       : ... (ad, departman)
Kullanıcı grubu    : ... (kaç kişi, hangi rol)
Bugünkü durum      : görev başına ... dk, haftada ... kez, hata oranı %...
Hedef              : görev süresi ... dk'ya insin / hata oranı %...'e düşsün
Yaklaşım           : [ ] Prompt  [ ] RAG  [ ] Fine-tuning  [ ] Ajan
Veri kaynakları    : ... (sistem, klasör, sahibi, güncellenme sıklığı)
Kişisel veri       : [ ] Yok  [ ] Var → maskeleme kuralı: ...
Barındırma         : [ ] Yurt içi  [ ] Yurt dışı → aktarım dayanağı: ...
İnsan onayı        : Hangi çıktılar onaysız kullanılamaz? ...
Değerlendirme seti : ... soru/örnek, sahibi: ...
Başarı ölçütü      : doğruluk ≥ %..., kaynak sadakati ≥ %..., memnuniyet ≥ ...
Süre               : ... hafta (başlangıç: ../../....)
Karar tarihi       : ../../....  → Ölçekle / Değiştir / Durdur

Yapay zeka KVKK açısından yeni bir istisna getirmez; kişisel veri işlendiği anda 6698 sayılı Kanun'un tüm yükümlülükleri geçerlidir. Farkı, verinin çok daha kolay ve fark edilmeden işlenebilmesidir: bir çalışanın müşteri şikâyetini olduğu gibi bir sohbet aracına yapıştırması, kişisel verinin üçüncü bir tarafa ve çoğu zaman yurt dışına aktarılması anlamına gelebilir.

Yurt dışına aktarım kuralları 2024 yılında yapılan kanun değişikliğiyle yeniden düzenlendi. Güncel çerçevede aktarım öncelikle yeterlilik kararına, bu yoksa standart sözleşme veya bağlayıcı şirket kuralları gibi uygun güvencelere, bunlar da yoksa sınırlı ve arızi durumlara dayanabiliyor; standart sözleşme kullanıldığında Kurum'a bildirim yükümlülüğü de bulunuyor. Ayrıntılar ve şirketinizin durumu için mutlaka bir hukuk danışmanından görüş alın; aşağıdaki liste hukuki görüş yerine geçmez, teknik hazırlığı kontrol etmenize yardımcı olur.

Güvenlik tarafında yapay zeka uygulamaları, klasik web uygulamalarından farklı saldırı yüzeyleri getirir: kullanıcı veya belge içine gizlenmiş talimatlarla modelin yönlendirilmesi (prompt injection), bağlamdaki gizli verinin yanıt içinde sızdırılması ya da ajanın yetkisinden fazla işlem yapması. Canlıya almadan önce bu senaryoların test edilmesi için sızma testi süreci ve raporlama rehberimize göz atabilirsiniz.

Bu kontrol listesi genel bilgilendirme amaçlıdır ve hukuki danışmanlık niteliği taşımaz. Mevzuat ve Kurul kararları değişebilir; uygulama öncesi hukuk danışmanınızın görüşünü alın.

Halüsinasyon, modelin kulağa ikna edici gelen ama gerçekte yanlış veya kaynağı olmayan bilgi üretmesidir. Tamamen sıfırlanamaz; ama ölçülebilir, azaltılabilir ve kullanıcıya doğru biçimde yönetilebilir. Bunun yolu, canlıya almadan önce ve her önemli değişiklikten sonra çalıştırılan bir değerlendirme (eval) düzenidir.

Değerlendirmenin temeli altın soru setidir: süreci bilen uzmanların hazırladığı, doğru yanıtı ve dayanması gereken kaynağı belli sorular. Başlangıç için birkaç düzine gerçekçi soru bile çok şey gösterir; zamanla kullanıcı loglarındaki zor sorularla genişletilir. Prompt, model veya parçalama ayarı değiştiğinde aynı set yeniden çalıştırılır ve skorlar karşılaştırılır.

Yapay zeka projelerinin önemli bir kısmı demo aşamasında parlayıp canlı kullanıma hiç geçemiyor. Nedenler çoğunlukla teknik değil, organizasyoneldir. Aşağıdaki başlıkları pilot planınıza risk maddesi olarak ekleyin; her biri için bir sahip ve önlem belirleyin.

Bu risklerin çoğu teknoloji seçiminden önce, doğru soruları soran bir keşif çalışmasıyla azaltılabilir. Bir çözüm ortağıyla çalışacaksanız yazılım firması seçerken dikkat edilmesi gerekenler rehberindeki kriterler yapay zeka projeleri için de geçerlidir. Asistanın ERP veya e-ticaret verisine erişmesi gerekiyorsa, entegrasyonun nasıl kurgulandığını Logo ERP entegrasyonu rehberimizde ayrıntılı anlattık.