Chatbot geliştirmek sanıldığı kadar basit değil: gerçek bir deneyimden öğrendiklerim

💡 Özet (TL;DR):

• Süreç: VaniBot, Vanity Hospital'da uluslararası hasta adaylarıyla ön görüşme iletişimini ve düzenli bilgi toplamayı destekliyor, gerektiğinde konuşmayı ilgili ekibe devrediyor.
• Mühendislik Kararı: İlk değerlendirmemizde, yönetilen OpenAI servisi konuşma kalitesi, güvenilirlik ve operasyon yükü açısından denediğimiz açık kaynak seçeneklerden ihtiyaçlarımıza daha uygundu.
• Sonuç: Bu uygulamada bot, tıbbi değerlendirmeyi veya yüksek etkili kararları üstlenmeden tekrarlayan iletişim işlerini azalttı.

Vanity Cosmetic Surgery Hospital'da uluslararası hasta adaylarıyla ilk iletişim çoğunlukla dijital kanallarda kuruluyor. Farklı ülkelerden ve saat dilimlerinden gün boyunca başvuru alıyoruz.

Bizim akışımızda geciken yanıtlar, bazı konuşmaların bir daha başlamaması anlamına geliyordu. Yanıt süresi yalnızca bir mesajlaşma metriği değil, operasyon sorunu haline gelmişti. VaniBot'u bu gecikmeyi azaltmak ve uygun başvuruların beklemesini önlemek için geliştirmeye başladık.

Proje kısa sürede sohbet ekranının ötesine geçti. Kurum içi süreçleri, sorumlulukları, entegrasyonları ve hasta ilişkileri ekibinin teknolojiyle çalışma biçimini etkileyen bir sisteme dönüştü.

Sistemi yaklaşık bir yıldır canlıda çalıştırıyoruz. Kendi içimizde VaniBot diyoruz. Fakat kapsamı, perakende sitelerindeki soru-cevap botlarından farklı. Uluslararası hasta başvuruları, ameliyat gibi ciddi bir karara ilişkin kişisel ve tıbbi bağlam içerebiliyor.

Buradaki sınır net: VaniBot ön görüşme iletişimini ve bilgi toplama sürecini destekliyor. Son tıbbi değerlendirmeyi veya tedavi kararını vermiyor. Uzmanlık gerektiren noktada konuşmanın sahibi hasta ilişkileri ekibi ve yetkili sağlık çalışanları oluyor.

Bu yazıda VaniBot'un veri mimarisini anlatmıyorum. Sağlık alanında yönetilen bir model servisi kullanan her ekibin hangi verinin modele ulaştığını, bu veriye kimlerin erişebildiğini, ne kadar süreyle saklandığını ve hangi gizlilik yükümlülüklerinin geçerli olduğunu ayrıca değerlendirmesi gerekir. OpenAI'ın güncel API veri kontrolleri belgesi, saklama ve sıfır veri saklama uygunluğunun kullanılan API uç noktasına, özelliğe ve yapılandırmaya göre değiştiğini gösteriyor.

Bu yazıdaki dersler daha geniş sisteme odaklanıyor: sahiplik, kanallar, entegrasyonlar, model seçimi ve otomasyonun konuşmayı insana devretmesi gereken nokta.

Bu Süreçte Neler Öğrendik?

1. Kurup Bırakılacak Bir Proje Değil

Chatbot işi “bir kere yapıldı, bitti” türünden değil. Yanıt süreleri, konuşmanın insana aktarılması, akışta yaşanan sorunlar ve gerçek konuşmalar düzenli olarak incelenmeli. Takip ve iyileştirme yayından sonra da sürmeli.

Bu yalnızca teknoloji ekibinin değil, botun işini desteklediği veya değiştirdiği herkesin ortak sorumluluğu.

2. Bizim Ekipte İnsanların Yerini Almadı

VaniBot nedeniyle ekibimizde kimse işini kaybetmedi. Bu uygulamada bot, tekrarlayan iletişim işlerini azaltarak bağlam ve değerlendirme gerektiren işler için alan açtı.

Zamanla ekip sistemi ortak bir dijital asistan gibi kullanmaya başladı. Günlük işlerin VaniBot çevresinde yeniden şekillenmesi, sistemin operasyona yerleştiğinin en açık göstergesi oldu.

3. Bu İşin Bedeli Yalnızca Para Değil

En yaygın yanılgı şu: “Ayda 3-5-10 neyse bir para veririm, bir firmadan hizmet alırım, çözülür.”

Gerçekten işe yarayan bir yapı için gerekenler:

• Ciddi bir konsantrasyon,
• İlgili her ekipten katkı,
• Güçlü bir IT altyapısı,
• Düzenli bakım ve sahiplenme.
• Dışarıdan hizmet alacaksanız bile hedefi anlayan uzun vadeli bir iş ortağı

Aksi halde, teknik servis alınsa bile bakım ve süreç sahipliği boşta kalabilir.

4. Çoklu Kanal Entegrasyonu En Zor Kısım

Botu web sitesine eklemek bizim için daha kolay kısımdı. Aynı akışı WhatsApp ve Instagram gibi kanallarda güvenilir biçimde çalıştırmak çok daha karmaşık hale geldi.

5. Hazır API Altyapısı Büyük Avantaj

CRM ve diğer operasyonel sistemler için hâlihazırda kullandığımız kurum içi API servisleri vardı. Bu sayede bot projesinde entegrasyon katmanını sıfırdan kurmak zorunda kalmadık.

Bu altyapı süreci sadeleştirdi ve botun mantığına ve konuşma tasarımına odaklanmamıza imkân sağladı.

6. Model Kararımız: Açık Kaynak mı, Yönetilen Servis mi?

Açık kaynak bir modeli kendimiz çalıştırma seçeneği ile yönetilen bir servis arasında değerlendirme yaptık. Ben de bazı küçük testler yürüttüm. O dönemde erişebildiğimiz modeller, altyapı ve proje ihtiyaçları içinde yönetilen OpenAI servisi daha uygun sonuç verdi.

• Yönetilen model, yaptığımız testlerde konuşma tutarlılığı, bağlamı koruma ve ihtiyaç duyduğumuz iletişim biçiminde daha iyi sonuç verdi.
• Modeli kendimiz çalıştırmak GPU kapasitesi, performans, çalışma süresi, ölçekleme ve kayıt altyapısını da ekibin sorumluluğuna taşıyacaktı.
• Yaklaşık bir yıllık kullanımımızda servis, bir veya iki küresel kesinti dışında operasyonel olarak güvenilir çalıştı.

Bu, açık kaynak ve yönetilen modeller için evrensel bir sıralama değil. Daha dar bir görevde veya veri ve altyapı üzerinde daha fazla kontrol gerektiğinde açık kaynak bir model daha doğru seçim olabilir. Bizim için operasyonel güvenilirlik, model kalitesi kadar önemliydi.

Otomasyon Nerede Bitmeli, İnsan Ne Zaman Devralmalı?

Bazı bot akışlarını sınırlı bir başvuru grubunda, ön görüşme sürecinin baskı veya kafa karışıklığı yaratmadan ilerleyip ilerlemediğini görmek için test ettik.

Amaç, bir botun kişiyi tıbbi bir karara ikna etmesi değildi. Sistem rutin bilgiyi ne zaman vereceğini, sonraki gerekli bilgiyi ne zaman isteyeceğini ve ne zaman bir insana çekilmesi gerektiğini anlamalıydı. Bu denemeler için dönüşüm veya klinik sonuç verisi yayımlamadık. Bu nedenle onları ticari etki kanıtı değil, operasyonel deney olarak değerlendiriyorum.

Sonuç

VaniBot deneyiminde, sohbet arayüzünün tek başına bir çözüm olmadığını gördük:

• Tekrarlayan iletişim yükü azaldı; bağlam ve değerlendirme gerektiren işler ekipte kaldı.
• Sistem ancak teknoloji ekibi, hasta ilişkileri ekibi ve ilgili operasyon sahipleri birlikte izleyip iyileştirdiğinde çalışabilir.
• CRM ve kurum içi API'ler gibi mevcut altyapı, bu iş akışını kurmayı kolaylaştırdı. Otomasyon rutin adımları ilerletebilir; tıbbi değerlendirme ve yüksek etkili kararların sorumluluğu ise açıkça tanımlanmış insanlarda kalmalı.

Bu projede yalnızca bir sohbet arayüzü geliştirmedik. Ekibin izlediği, iyileştirdiği ve günlük işinin bir parçası olarak kullandığı operasyonel bir sistem kurduk.