Sesli Yapay Zekada Demo Kolay, Sistem Zor: Bir Çağrı Merkezi Asistanını Neler Çökertir?

Kusursuz görünen demo, sonra gerçek trafik

Bir sesli yapay zeka demosu şöyle gider: sessiz bir oda, net bir mikrofon, önceden bilinen birkaç soru. Asistan kusursuz cevap verir, doğal bir tonla konuşur, hiç duraksamaz. İzleyen herkes etkilenir — haklı olarak. Ortada gerçekten etkileyici bir teknoloji vardır.

Ve bu demoyu çıkarmak artık hiç zor değil. Hazır bir konuşma-metin servisi, hazır bir dil modeli, hazır bir metin-konuşma servisi; üçünü birbirine bağlarsınız ve birkaç günde konuşan bir prototip elde edersiniz. Son dönemde "vibe coding" denen yaklaşım — yani derinlemesine anlamadan, modele yaptırarak parçaları üst üste bağlamak — bu prototipi çıkarmayı daha da hızlandırdı. Bugün piyasada bu şekilde üretilmiş, demoda göz kamaştıran çok sayıda sesli asistan var.

Sorun şu: demo ile gerçek bir sistem, aynı şeyin iki hâli değil. Demoda saniyeler içinde alkış toplayan bir asistan, bir kurumun günlük binlerce çağrısını karşılamaya, aylarca kesintisiz ayakta kalmaya ve gerçek vatandaş sorularına dayanmaya başladığında bambaşka davranır. İşte kurumsal yapay zeka projelerinde en çok gözden kaçan ve en pahalıya patlayan yer tam burasıdır: demoyla üretim (production) arasındaki uçurum.

Bu yazı, bir sesli yapay zeka çağrı merkezi asistanını sahada gerçekten neyin çökerttiğini, bunun kök nedenini ve bir sistemi satın almadan önce sorulması gereken soruları ele alıyor.

Sahada bir asistanı neler çökertir

Demoda hiç görünmeyen, ama üretimde er ya da geç ortaya çıkan sorunlar genelde şu başlıklarda toplanır:

Halüsinasyon. Model, bilmediği bir soruya emin bir tonla yanlış ya da uydurma bir cevap verir. Bir ürün önerisinde bu can sıkıcıdır; bir vatandaşa yanlış randevu tarihi, yanlış borç tutarı ya da hiç var olmayan bir prosedür söylenmesi ciddi bir güven ve itibar sorunudur.
Yük altında dağılma. Tek bir çağrıyı kusursuz karşılayan sistem, aynı anda yüzlerce çağrı geldiğinde tamamen değişir: yanıt süreleri uzar, hatalar çoğalır, bazı çağrılar hiç karşılık alamaz.
Bağlam kaybı. Görüşme uzadıkça asistan başta söyleneni unutur, aynı soruyu tekrar sorar, verilmiş bir bilgiyi yeniden ister. Karşı tarafta "beni gerçekten dinlemiyor" hissi oluşur.
Yanlış yönlendirme. Niyet doğru anlaşılmadığında çağrı yanlış birime gider; kullanıcı sorununu çözmek yerine baştan anlatmak zorunda kalır.
Gecikmenin birikip "robotluğa" dönüşmesi. Tek başına küçük olan gecikmeler (ses işleme, model yanıtı, ağ mesafesi) art arda eklenince konuşma akıcılığını kaybeder; doğal bir sohbetten çok eski usül bir tuşlamalı menüye benzemeye başlar.

Bu senaryoların ortak yanı şu: hiçbiri demo ortamında görünmez, çünkü demo kısa, kontrollü ve tek kullanıcılıdır. Gerçek dünyada ise bunlar kaçınılmaz olarak ortaya çıkar. Ve çıktığında, artık bir demo videosu değil, kurumun itibarı ve vatandaşın güveni masadadır.

Kök neden: demo mühendisliği ile sistem mühendisliği

Bütün bu tablo aslında tek bir gerçeği gösterir: hazır servisleri üst üste bağlamak bir demo için yeterlidir, üretim için değildir. "Vibe coding" ile ortaya çıkan sistemlerin çoğu bu ayrımın ilk tarafında kalır — çalışan bir prototip vardır, ama arkasında onu ayakta tutacak mühendislik yoktur. Gerçek bir sistem şunları ister:

İzolasyon. Bir kurumun verisi ve trafiği, diğerlerinden mantıksal ve fiziksel olarak ayrılmalıdır. Ortak bir havuzda çalışan bir yapı, bir kurumun sorununu bir diğerine taşır.
Hata yönetimi. Zincirdeki bileşenlerden biri (konuşma tanıma, dil modeli, seslendirme, telefon altyapısı) hata verdiğinde sistemin tamamen çökmesi değil, güvenli bir şekilde geri düşmesi gerekir.
Güvenlik. Kimlik doğrulama, erişim kontrolü ve denetim kayıtları demoda hiç gerekmez; kurumsal kullanımda ise pazarlık konusu bile değildir.
Maliyet öngörülebilirliği. Demo bir kereliktir. Üretimde her çağrının bir maliyeti vardır ve bu maliyetin baştan hesaplanabilir olması gerekir.
Gerçek zamanlı orkestrasyon. Bileşenler sırayla bekleyen kutular gibi değil; birbiriyle senkronize çalışan, hatayı ve gecikmeyi asgariye indiren tek bir hat olarak tasarlanmalıdır.
Kurumun kendi verisine entegrasyon. Asistanın CRM'le, randevu sistemiyle ya da vatandaş kayıtlarıyla güvenli ve tutarlı biçimde konuşabilmesi gerekir — bu katman bir demo senaryosunda genelde hiç test edilmez.

Bir demoyu bir günde ayağa kaldırmak mümkün. Onu yıllarca, artan yükle, değişen mevzuatla ve büyüyen kurumsal beklentiyle ayakta tutmak ise bambaşka bir mühendislik disiplinidir. Aradaki fark, satın alma anında görünmez; ilk gerçek yoğunlukta görünür.

KVKK ve veri egemenliği: felaketin sessiz katmanı

Yukarıdaki senaryolar görünür felaketlerdir — vatandaş yanlış bilgi alır, çağrı düşer, sorun anında fark edilir. Ama bir tanesi çoğu zaman hiç fark edilmeden yaşanır: veri nerede işleniyor?

Hazır servisleri birbirine bağlayarak kurulan sistemlerin birçoğunda, konuşulan her ses kaydı ve çıkarılan her transkript aslında üçüncü taraf servislere gönderilir. Özellikle yurt dışı merkezli barındırılan hazır servisler kullanıldığında, vatandaşın sesi ve bu sesten çıkarılan kişisel veriler fiilen ülke sınırları dışına çıkar. Bu, arayüzde hiçbir şekilde görünmeyen, ama hukuki ve stratejik açıdan en kritik risklerden biridir.

Bunu bir "ceza korkusu" olarak değil, sistemin ne kadar ciddiye alındığının göstergesi olarak okumak daha doğru. Veri egemenliğini baştan bir tasarım kriteri yapan mimari ile bunu hiç düşünmemiş bir mimari arasındaki fark, demoda görünmez; üretimde, özellikle kamu kurumları ve büyük kurumsal yapılar için belirleyicidir. Bu konuyu kamu kurumlarında yapay zeka ve KVKK uyumu üzerine yazımızda daha detaylı ele alıyoruz.

Satın almadan önce sorulması gereken sorular

Bir kurum, önüne gelen çözümün etkileyici bir demo mu yoksa gerçek bir sistem mi olduğunu anlamak istiyorsa, şu soruları sormalı:

Bu sistem gerçek yük altında test edildi mi? Kaç eşzamanlı çağrı, ne kadar süre boyunca?
Ses verisi ve transkriptler nerede işleniyor ve saklanıyor? Yurt içinde mi, yurt dışında mı, kimin sunucusunda?
Halüsinasyon nasıl sınırlanıyor? Model bilmediği bir soruda uyduruyor mu, yoksa güvenli biçimde "bilmiyorum, sizi yönlendiriyorum" mu diyor?
Bir bileşen hata verdiğinde ne oluyor? Sistem tamamen mi çöküyor, yoksa güvenli bir geri düşüş mekanizması mı devreye giriyor?
Bir yıl sonra çağrı hacmi iki katına çıktığında bu sistem hâlâ ayakta kalır mı? Yoksa bugünkü hâliyle sadece küçük bir pilot için mi tasarlandı?

Bu sorulara net ve somut cevap alamıyorsanız, karşınızdaki muhtemelen etkileyici bir demodur — henüz bir sistem değil.

Belzeka'da işi demo gibi değil, sistem gibi kurduk

Belzeka'yı tasarlarken çıkış noktamız etkileyici bir demo değil, bir kurumun yıllarca güvenle dayanabileceği bir altyapıydı. Kurumun kendi altyapısında ya da kendi belirlediği izole bir ortamda çalışan mimari, düşük gecikmeli gerçek zamanlı orkestrasyon hattı ve baştan tasarım kriteri yaptığımız KVKK uyumlu veri egemenliği ilkesi — bu yaklaşımın somut karşılıkları. Bir sesli yapay zeka asistanının değeri, demoda ne kadar etkileyici göründüğünde değil, bir yıl sonra hâlâ güvenilir biçimde çalışıp çalışmadığında ortaya çıkar.

Kurumunuz için doğru soruların doğru cevaplarını almak isterseniz, bir görüşme planlayabiliriz.

Sıkça Sorulan Sorular

Demo'da kusursuz çalışan bir sistem neden sahada çöker?

Çünkü demolar kısa, kontrollü ve tek kullanıcılı senaryolardır. Gerçek yük, gerçek kullanıcı çeşitliliği ve uzun süreli kesintisiz çalışma, demoda hiç test edilmeyen koşullardır.

"Vibe coding" ile kurulmuş bir sesli asistan neden riskli?

Parçaları derinlemesine anlamadan birbirine bağlamak bir demo için yeterlidir, ama izolasyon, hata yönetimi, güvenlik ve gerçek zamanlı orkestrasyon gibi üretim gereksinimlerini karşılamaz. Bu eksiklikler düşük yükte görünmez, gerçek trafik altında ortaya çıkar.

Yurt dışında barındırılan hazır servisler KVKK açısından risk mi?

Ses verisi ve transkriptler yurt dışında işlendiğinde bu veriler fiilen ülke sınırları dışına çıkar. Bu durum, özellikle kamu kurumları ve hassas veri işleyen kurumlar için ek bir hukuki ve stratejik risk oluşturur.

Bir sesli yapay zeka sistemini satın almadan önce ne sormalıyım?

Yük altında test edilip edilmediğini, verinin nerede işlendiğini, halüsinasyonun nasıl sınırlandığını, hata durumunda ne olduğunu ve bir yıl sonra ölçeklenip ölçeklenemeyeceğini sormalısınız.