İlgili yazı
Kuruma Özel Yapay Zekâ İçin Fine-Tuning Şart mı?
Bilgi, açık kural ve öğrenilecek örüntü ayrımını bu yazıda örneklerle anlattım. Fine-tuning kararını hangi koşullarda değerlendirmek gerektiğini daha ayrıntılı ele aldım.
Yapay zekâ sistemleri
Bir yapay zekâ sistemi tasarlarken, değiştirmek istediğiniz işi, sistemin kullanacağı bilgiyi ve kendi başına yapabileceği işlemleri birlikte düşünmeniz gerekir. Model seçimi bu kararlarla anlam kazanır.
Bu rehber, bir AI projesini değerlendirirken veya geliştirme ekibiyle kapsam belirlerken sorulması gereken soruları bir araya getiriyor.
Gelişen bir rehber Bu rehber gelişmeye devam ediyor. Konuyla ilgili mevcut yazılarımı burada bir araya getirdim. Yeni yazılar yayımladıkça rehberi de genişletmeye ve güncellemeye devam edeceğim.
Rehberi baştan inceleyinBir sistemin kapsamını belirlemek için hangi iş adımını değiştirmek istediğinizi söyleyebilmeniz gerekir. Bu karar, gerekli bilgiyi, sistemin yetkisini ve başarıyı nasıl ölçeceğinizi de belirler.
Örneğin destek ekibinin bilgi aramak için harcadığı süreyi azaltmakla, müşterinin sorununu ilk görüşmede çözmek farklı hedeflerdir. Aynı model iki işte de düzgün cevaplar üretebilir; fakat başarıyı aynı ölçütle değerlendiremezsiniz.
Önce bugün ne olduğunu ve neyin değişmesini beklediğinizi yazın. Ardından modelin cevabını bu işin yalnızca bir parçası olarak düşünün: gerekli kayda ulaşamayan veya işi doğru kişiye devredemeyen bir sistem, iyi bir cevap yazsa da beklenen sonucu sağlayamayabilir. Modeli, bu ihtiyacı ne kadar karşılayabildiğine göre seçebilirsiniz.
İlgili yazı
İlgili yazı
Bir modelin cevap üretmesiyle bir sistemin işi tamamlaması arasındaki farkı bu yazıda daha geniş ele aldım. Projeye hangi kararlardan başlayacağınızı netleştirmek için okuyabilirsiniz.
Yeni sekmede açılır
Varsayımsal bir müşteri destek örneği
Bir destek ekibinin iade taleplerine daha hızlı cevap vermek istediğini düşünün. Müşteri her durumda bekliyor olabilir; fakat beklemenin nedeni değiştiğinde çözüm de değişir.
İlk kapsam, talebi anlayıp sipariş bilgileriyle birlikte temsilciye bir cevap taslağı hazırlamak olabilir. İadeyi başlatmak bu kapsamın dışında kalabilir. Böylece ilk sürümün hangi işi yapacağı ve nerede duracağı açık olur.
İlgili yazı
Bu ayrımı ayrı bir yazıda ele aldım
Bu yazıda Vanity, REDAR ve banka entegrasyonu örnekleri üzerinden hangi işin kurallarla, hangisinin entegrasyonla, hangisinin dil modeliyle çözüldüğünü inceledim. Kendi sürecinizde AI’a nerede ihtiyaç olduğunu değerlendirirken bu örneklerden yararlanabilirsiniz.
Yeni sekmede açılır
İade talebine cevap hazırlamak için yalnızca müşterinin mesajı yetmez. İade koşulları, siparişin güncel durumu ve müşteriye özel bir anlaşma aynı cevabı etkileyebilir. Her bilginin kaynağını ve ne kadar güncel olması gerektiğini ayrı ayrı belirleyin.
İade politikasını açıklamakla belirli bir siparişin iade koşullarını karşılayıp karşılamadığını değerlendirmek aynı bilgiye dayanmaz. İlkinde politika metni yeterli olabilir. İkincisinde teslimat tarihi, ürün ve müşteriye özel koşullar da gerekebilir. Belgenin doğru olması, bu kayıtların mevcut ve güncel olduğu anlamına gelmez.
Bu yüzden veri hazırlığını belirli bir karar üzerinden değerlendirin: hangi bilgi eksik, eksikliği hangi cevabı veya işlemi bozuyor, güncel hâlinden kim sorumlu? Bazı işlerde kaynağı düzeltmek, bazılarında ilk sürümün kapsamını daraltmak daha uygun olabilir.
İlgili yazı
İlgili yazı
Verinin yeterliliğinin verilecek karara nasıl bağlı olduğunu ayrı bir yazıda inceledim. Hangi eksikleri önce gidermeniz gerektiğini düşünürken bu örneklerden yararlanabilirsiniz.
Yeni sekmede açılır
Aynı varsayımsal iade talebi, üç bilgi ihtiyacı
RAG, model cevap vermeden önce ilgili kaynakları arayıp gerekli bölümleri cevabın bağlamına ekleyen yaklaşımdır. Büyük bir belge kümesinde doğru bölümü bulmak için anlamlı olabilir; güncel sipariş kaydını okumakla aynı ihtiyacı çözmez.
Gerekli bilgi yoksa veya güncelliği doğrulanamıyorsa, eksik bilgiyi istemek ya da işi temsilciye devretmek de tasarımın parçasıdır. Sistemin bu durumda nasıl ilerleyeceğini baştan belirleyin.
İlgili yazı
Bilgiye erişim seçeneklerini bu yazıda karşılaştırdım
Bakım kılavuzu, güncel sipariş ve müşteri sözleşmesi örnekleri üzerinden doğrudan belge kullanımı, sistem sorgusu ve RAG arasındaki farkı inceledim. Hangi durumda arama gerektiğini ve erişim izinlerinin nerede uygulanacağını yazıda daha ayrıntılı bulabilirsiniz.
Yeni sekmede açılır
Güncel iade politikasını modele göstermek, modeli yeniden eğitmek değildir; politika değiştiğinde kaynağı güncellersiniz. Model doğru bilgiye ve açık talimatlara rağmen aynı sınıflandırma ya da bilgi çıkarma hatasını tekrarlıyorsa, o dar görev için örneklerle uyarlama değerlendirilebilir. Önce hatanın bilgi eksikliğinden mi, modelin davranışından mı kaynaklandığını ayırmak gerekir.
İlgili yazı
Bilgi, açık kural ve öğrenilecek örüntü ayrımını bu yazıda örneklerle anlattım. Fine-tuning kararını hangi koşullarda değerlendirmek gerektiğini daha ayrıntılı ele aldım.
Sistem doğru bir cevap yazabilir, doğru aracı çağırabilir ve yine de müşterinin işini tamamlayamayabilir. İade örneğinde dört ayrı sorunun cevabını arayın. Her biri farklı bir kayıtta görünür.
Pilot başlamadan önce hangi sonucu, hangi hata türlerini ve hangi süre içinde izleyeceğinizi yazın. Örnekler yalnız kolay taleplerden oluşmasın; eksik bilgi, istisna ve başarısız işlem durumlarını da kapsasın. Bir gösterge iyileştiğinde ekip, dönem veya gelen işlerin dağılımı gibi başka değişiklikleri de inceleyin.
Kontrolün kapsamı, sistemin etkisine göre büyüsün. Temsilciye taslak hazırlayan bir yardımcıyla para hareketi yapan bir sistem aynı kanıtı gerektirmez. Sonradan modele, bilgi kaynağına veya iş akışına yaptığınız değişiklikleri de bu örneklerle yeniden sınayın.
İlgili yazı
İyi cevap ile iş sonucu arasındaki farkı bu yazıda ele aldım
Camiler.org deneyimimden başlayarak model çıktısını, çalışma kaydını, tamamlanan işi ve işletme etkisini ayırıyorum. Pilotunuzda neyi başarı sayacağınızı ve bunu hangi kanıtla göstereceğinizi belirlerken yararlanabilirsiniz.
Yeni sekmede açılır
İş, bilgi, yetki ve başarı ölçütleri netleştiğinde model seçeneklerini aynı görev üzerinde karşılaştırabilirsiniz. Mesajı anlayıp cevap hazırlamak için tek genel amaçlı model yeterli olabilir. Bilgi arama, iş kuralları ve ödeme işlemleri yine sistemin diğer parçalarında kalır.
İkinci modele belirli bir iş verin: örneğin sık gelen talepleri sınıflandırmak. Gerçek örneklerde kaliteyi, hızı veya maliyeti iyileştiriyor mu? Dar bir işte uzman model yararlı olabilir; fakat ek entegrasyonun, testlerin ve bakımın da karşılığı olmalı.
Fiyat karşılaştırmasını model çağrısında bitirmeyin. Model, kontrol, hata düzeltme ve işletim maliyetlerini birlikte düşünün; bunları kullanılabilir sonuç sayısıyla ilişkilendirin. Kesintiye karşı eklediğiniz bir modelin de aynı işi kabul edilebilir kalitede yaptığını önceden sınayın.
İlgili yazı
Tek modelin sınırını bu yazıda inceliyorum
Genel amaçlı modelle başlamanın hangi işlerde makul olduğunu ve uzman modelin yerini nasıl hak edebileceğini ele aldım. İkinci modelin faydasını, beraberinde getirdiği işletim yüküyle birlikte değerlendirebilirsiniz.
Yeni sekmede açılır
İkinci modelin gerekli olması, her istek için model seçen bir tahmin sistemi kurmanız gerektiği anlamına gelmez. Belge türü, açık bir iş kuralı veya veri politikası seçimi zaten belirliyorsa önce bu sınırları uygulayın. Aşağıdaki yollar farklı sorunları çözer.
Tahmine dayalı bir router deneyecekseniz aynı istekleri tek modelle ve basit kurallarla da çalıştırın. Yalnız çağrı fiyatını değil, yanlış yönlendirmeleri, toplam gecikmeyi ve kullanılabilir sonuç başına maliyeti karşılaştırın. Ek karar katmanı ancak bu karşılaştırmada anlamlı bir fark yaratıyorsa yerini hak eder.
İlgili yazı
Yönlendirme seçeneklerini ayrı bir yazıda karşılaştırdım
Sabit kural, tahmine dayalı seçim, kademeli geçiş ve yedek yolun farklarını örneklerle açıyorum. Bir router eklemeden önce hangi karşılaştırmaları yapmanız gerektiğini daha ayrıntılı inceleyebilirsiniz.
Yeni sekmede açılır
Aynı model bir şirkette iade politikasını açıklayabilir; başka bir şirkette siparişi bulup müşteriye özel koşulları kontrol ederek onaya hazır bir işlem önerisi üretebilir. Farkı, modele verilen talimatla birlikte bağlandığı kaynaklar, uygulanan kurallar ve tanınan yetkiler oluşturur.
Güncel sipariş kaydını sipariş sisteminde, açık iade kurallarını yazılımda, erişim ve işlem yetkilerini ilgili kontrollerde tutun. Model bu parçaları kullanabilir; onların sorumluluğunu üstlenmez. Şirkete özgü bir örüntüyü öğrenmesi gerekiyorsa bunu ayrıca, gerçek örneklerle değerlendirin.
Model değiştiğinde aynı kaynakları, işlem sınırlarını ve değerlendirme örneklerini kullanarak sonucu yeniden sınayabilmelisiniz. Kaynağı kimin güncellediği, istisnaya kimin karar verdiği ve başarısız işlemi kimin takip ettiği de tasarımın parçasıdır. Böylece sistemi işletme bilgisi tek bir prompt içinde kaybolmaz.
İlgili yazı
Bu parçaların nasıl bir araya geldiğini son yazıda ele aldım
Bir satın alma örneği üzerinden bilgi, kural, araç, yetki ve ölçümün nerede durması gerektiğini inceliyorum. Şirketinize özgü ihtiyacın hangisini modelin öğrenmesi, hangisini çevresindeki sistemin sağlaması gerektiğini ayırabilirsiniz.
Yeni sekmede açılır
Rehberin sonunda bir model listesi yerine, geliştirme ekibiyle tartışabileceğiniz bir kapsamınız olsun. Aşağıdaki örnek, kullandığımız varsayımsal iade sürecinin yalnızca taslak hazırlayan ilk sürümünü tarif ediyor; bir sonuç veya performans vaadi değil.
Kendi notunuzda cevabı açık olmayan bir madde varsa ilgili bölüme dönün. İlk pilotun kapsamını bu belirsizliği azaltacak kadar dar tutabilirsiniz. Yeni yazılar ve uygulamalardan çıkan sorularla bu rehberi geliştirmeye devam edeceğim.
Rehber bölümleriOkuma listesi
Bu rehberde yer alan bütün yazılar, yanıt aradığınız kararlara göre aşağıda bir arada. Sırayla okumak zorunda değilsiniz; projenizde öncelik taşıyan sorudan başlayabilirsiniz.
Yeni sekmede açılır
Projeye hangi modelle başlayacağınızı mı tartışıyorsunuz?
Bu sürecin gerçekten yapay zekâya ihtiyacı var mı?
Bu karar için gereken bilgi ve kanıt bugün yeterli mi?
Bilgiyi vermek yeterli mi, modelin yeni bir örüntü öğrenmesi mi gerekiyor?
Adımlar önceden belli mi, yoksa sistem koşullara göre yol mu seçmeli?
Sistemin ihtiyaç duyduğu bilgi nerede ve ne kadar sık değişiyor?
Sistem yalnızca öneri mi hazırlayacak, yoksa gerçek bir işlem de yapacak mı?
İyi bir yanıtı mı, tamamlanan işi mi, yoksa iş sonucunu mu ölçüyorsunuz?
İkinci bir model hangi somut farkı yaratacak?
Açık yönlendirme kuralları yetiyor mu, yoksa bir yönlendiriciye (router) gerçekten ihtiyaç var mı?
Şirkete özgü değer modelden mi, yoksa sistemin bütününden mi geliyor?
Bu rehber kararın bir bölümünü açıyor. Aşağıdaki iki konu, aynı kararın bağlı olduğu başka bir kısmını incelemenize yardımcı olabilir.
Sistem hangi kararlarda kendi başına hareket edebilir?
Yetki, insan müdahalesi ve hesap verebilirliğin tasarıma nasıl girdiğini inceleyin.
Sistemin kullandığı bilgi kararın bağlamını koruyor mu?
Bilgi kaynağı, istisnalar ve bakım sorumluluğunu birlikte değerlendirin.
AI, yazılım, operasyon ve işletme kararları üzerine diğer yazılar da bu rehberlerin dışında yer alıyor.
Tüm yazıları inceleyin