Yapay zekâ ne zaman batırır? İnsana devredilmesi gereken 6 kritik süreç

Yapay zekâ asistanı satan herkes, kaç mesajı yanıtlayabildiğini anlatır. Çok az kişi, hangi mesajı hiç yanıtlamaması gerektiğini anlatır. Oysa bir asistanın değeri, iyi gittiği çoğunlukta değil, kötü gidebileceği az sayıdaki anı nasıl yönettiğinde ölçülür.

Bu yazı korkutmak için değil, tersine, yapay zekâya bırakabileceğiniz işi güvenle genişletebilmeniz için yazıldı. Önce sınırı çizeceğiz, sonra o sınırın nasıl uygulanacağını anlatacağız.

Bu risk kuramsal değil

Şubat 2024'te Kanada'nın British Columbia eyaletindeki Sivil Çözüm Kurulu, Air Canada'nın web sitesindeki sohbet asistanının bir yolcuya verdiği yanlış bilgiden havayolunu sorumlu tuttu. Asistan, yas indirimi için iade başvurusunun uçuştan sonra da yapılabileceğini söylemişti; şirketin kendi sayfası bunun tersini yazıyordu. Havayolu, asistanın ayrı bir tüzel kişi gibi kendi sözünden sorumlu olduğunu savundu. Kurul bu savunmayı kabul etmedi: asistan, şirketin web sitesinin bir parçasıdır.

Nisan 2025'te bir yazılım şirketinin (Cursor) destek asistanı, bir kullanıcıya abonelik başına tek cihaz kuralı olduğunu yazdı. Böyle bir kural yoktu; asistan uydurmuştu. Kullanıcılar bunu resmî bir açıklama sandı, bir kısmı aboneliğini iptal ettiğini herkese duyurdu ve şirket özür dilemek zorunda kaldı.

İki olayın ortak noktası şu: asistan kötü niyetli değildi, kendinden emindi. Yapay zekâ bilmediğini bilmediğinde, uydurduğu bilgiyi doğru bilgiyle aynı ses tonuyla söyler. Bu yüzden asıl soru “asistan hata yapar mı” değildir (yapar). Asıl soru, hata yaptığında bedelini kimin ödeyeceği ve hatanın ne kadar ileri gidebileceğidir.

İnsana bırakılması gereken altı kritik süreç

Şikâyet, öfke ve kriz anı. Müşteri sinirliyse ilk ihtiyacı bilgi değil, dinlendiğini hissetmektir; hazır bir özür cümlesi öfkeyi büyütür. Ton değiştiği anda (büyük harfler, art arda ünlemler, “rezalet” gibi sözcükler) konuşma bir insana geçmeli. Toplu bir aksaklık yaşadığınızda (teslimat gecikti, sistem çöktü) gelen mesajların hepsi şikâyettir; o gün otomatik yanıt değil, sizin tek ve açık bir duyurunuz gerekir.
İade, tazminat ve istisna kararları. Para ödemeyi ya da kuraldan sapmayı gerektiren her karar bir insanındır. Asistan politikayı anlatabilir; istisnayı tanıyamaz, veremez.
Katalogda olmayan fiyat, indirim ya da teslim tarihi. “Size özel şu fiyata yaparız” cümlesi, Air Canada örneğindeki gibi bağlayıcı bir söz sayılabilir. Asistan yalnız kaynağı olan bilgiyi söylemeli.
Hukuki, sağlık ya da mali sonuç doğuran sorular. “Bu sizi karşılar mı”, “hakkım var mı”, “yasal mı” türü sorulara verilen yanıt, müşterinin bir karar almasına yol açar. Genel bilgi verilebilir; sonuca bağlanan kararı bir yetkili vermeli.
Kimlik, ödeme ve hassas kişisel veri. Müşteri kimlik numarasını, kart bilgisini ya da sağlık bilgisini sohbete yazmaya başladığında konuşma durmalı ve müşteri güvenli bir kanala yönlendirilmeli.
Anlaşılamayan döngü ve “insanla konuşmak istiyorum” talebi. Aynı soruyu iki kez farklı biçimde sorup yanıt alamayan müşteri üçüncü kez sormaz, gider. İnsan istediği anda devir tartışmasız olmalı.

Otomatik karar ve itiraz hakkı

Türkiye'de KVKK madde 11, kişiye, kendisiyle ilgili verilerin yalnızca otomatik sistemlerle analiz edilmesi sonucunda aleyhine bir sonucun ortaya çıkmasına itiraz etme hakkı tanır. Bu bir hukuki görüş değildir ve kendi durumunuz için bir hukukçuya danışmalısınız; ama pratik sonucu basittir: müşterinin aleyhine sonuç doğuran bir karar (başvuruyu reddetmek, bir talebi geri çevirmek) yalnız asistanın çıktısına dayanmamalı, bir insan onaylamalı.

Devir eşiği nasıl kurulur?

Eşik bir his değil, yazılı bir kuraldır. Kural ne kadar açıksa asistan o kadar az batırır ve siz o kadar rahat uyursunuz. Kendi işletmenize göre uyarlayabileceğiniz beş tetikleyici:

Sözcük ve ton tetikleyicileri: “şikâyet”, “iade”, “avukat”, “dolandırıcı”, “rezalet” gibi sözcükler ve öfke belirtileri. Kendi sektörünüzün sözcüklerini ekleyin.
Konu tetikleyicileri: iade, tazminat, sözleşme, garanti, indirim ve kimlik ya da kart bilgisi geçen her konuşma.
Döngü sayacı: asistan aynı konuda iki kez anlamadığını belirttiyse üçüncü denemeyi yapmaz, devreder.
Değer eşiği: sipariş ya da teklif belirli bir tutarı aşıyorsa son adımı bir insan atar. Tutarı siz belirlersiniz.
Açık talep: “yetkiliyle konuşmak istiyorum” ya da benzeri bir cümle, karşı soru sorulmadan devir demektir.

Devrin kendisi de iyi yapılmalı

Devir, müşterinin her şeyi baştan anlatmak zorunda kalması demek olmamalı. Konuşma özetiyle devreden bir sistemde ekip sıfırdan başlamaz, müşteri bekletilmiş olmaz.

Devralacak kimse yoksa (gece, hafta sonu, bayram), müşteriye bunu dürüstçe söyleyin ve somut bir saat verin: “Yarın 09:00'dan sonra bir yetkili size yazacak.” “En kısa sürede döneceğiz” bilgi vermez; saat vermek beklentiyi yönetir.

“Bilmiyorum” demek, uydurmaktan iyidir

Asistanın en değerli yeteneği her şeyi bilmesi değil, bilmediğini söylemesidir. Aşağıdaki gibi cümleler satış kaybettirmez; kaybettiren, uydurulmuş bir fiyattır.

“Bu konuda elimde kesin bilgi yok. Yanlış yönlendirmemek için sizi bir yetkiliye aktarıyorum; yarın 09:00'dan sonra size dönülecek.”
“Bunu doğru anladığımdan emin değilim: fiyatı mı yoksa teslim süresini mi soruyorsunuz?”
“Bu fiyat bilgisini şu an doğrulayamıyorum. Teklifi bir yetkilinin vermesi gerekiyor; iletişim bilginizi alabilir miyim?”

Bunun bir ön koşulu var: asistanın yanıtlarını yalnız sizin verdiğiniz kaynaktan (katalog, fiyat listesi, politika metni) üretmesi ve kaynakta yoksa “bilmiyorum” demesi. Bu kural pazarlık konusu olmamalı.

Yayına almadan önce: zor soru testi

Asistanı müşteriye açmadan önce, kendi başınıza yirmi “zor” mesaj yazın ve her yanıtı okuyun. Amaç asistanın ne kadar akıllı olduğunu görmek değil, nerede uydurduğunu ve nerede devretmediğini bulmak.

Öfkeli bir şikâyet, büyük harflerle ve küfürsüz.
Katalogda hiç olmayan bir ürünün fiyatı.
“Arkadaşıma şu indirimi yapmışsınız, bana da yapın” türü bir pazarlık.
Bir iade talebi, hem politikaya uyan hem uymayan biçimde.
Kimlik numarasını sohbete yazan bir müşteri.
Aynı soruyu üç kez, üç farklı biçimde soran bir müşteri.
Doğrudan “bir insanla konuşmak istiyorum”.

Testi yayından sonra da bırakmayın: ilk ay her hafta rastgele yirmi gerçek konuşmayı okuyun. Gerçek müşteriler, sizin aklınıza gelmeyen biçimlerde batırtır.

Özet

Asistanın değeri, kötü gidebileceği anları nasıl yönettiğinde ölçülür.
Şirket, asistanının söylediği her şeyden sorumludur; ayrı bir tüzel kişi gibi savunulamaz.
Şikâyet, para kararı, katalog dışı söz, hassas sonuç, hassas veri ve döngü: bu altı süreç insana aittir.
Devir eşiğini yazılı kural olarak kurun, devri özetle yapın, devralacak kimse yoksa saat verin.
“Bilmiyorum” diyebilen asistan, güven kazandırır; yayından önce zor soru testini yapın.