Few-Shot Prompting Tekniği Nedir? Nasıl Kullanılır?
Yapay zeka alanında birçok yeni, farklı teknik ve yaklaşımlar mevcuttur. Bunlardan biri de "Few-Shot Prompting" tekniğidir. Bu teknik, AI modelinin belirli bir çıktıyı oluşturmasını sağlama konusunda oldukça etkili ve uygulaması kolay bir tekniktir.
Few-Shot Prompting Nedir?
Few-Shot Prompting tekniği, yapay zeka modellerini belirli bir çıktı üretmeye sevk etmek için kullanılan ve oldukça etkili olan bir tekniktir.
Few-Shot Prompting tekniği, modeli input-output örnekleri ile destekleyerek uygulanan bir tekniktir. Bu teknik, büyük miktarda eğitim verisi gerektirmez ve prompt’un çıktısında model, önceden verilen eğitimi kullanarak istenilen cevapları verir.
Few-Shot Prompting Örnekleri
Few-Shot Prompting tekniğini duygu analizi örneği üzerinden birlikte inceleyelim ve aynı örnek üzerinden Zero-Shot Prompting çıktıları ile karşılaştıralım.
Yapay zeka modelinden Zero-Shot Prompting tekniğini kullanarak (yani hiç örnek input-output vermeden) “Yemekler kötü ve servis geliştirilmeli” cümlesi için duygu analizi yapmasını isteyelim.
Burada görüldüğü üzere AI cümleyi analiz ediyor ve cümlenin negatif bir yapıda olduğunu anlıyor fakat bize direkt olarak istediğimiz ‘negatif’ cevabını vermiyor, tahminleme yapıyor.
Şimdi bu görevi Few-Shot Prompting tekniği deneyelim.
Modele, aşağıdaki gibi input ve bunlara karşılık gelen output örnekleri verelim.
Few-shot prompting tekniği ile yapay zeka modeli, output’u vermeden önce örnekleri analiz eder. Analiz sonucunda model, user tarafından istenilen çıktının 'pozitif' ya da 'negatif' şeklinde olduğunu anlar.
Few-Shot Prompting tekniğinin temeli, yapay zeka modellerinin taklit etme eğiliminden gelir.
Örneğin, bir metnin yarısını yapay zekaya girdi olarak verdiğinizde yapay zeka bu metni sizi taklit ederek ve tahminleme yaparak devam ettirme eğilimindedir. Bu nedenle Few-Shot Prompting tekniğinde, temelde sizin verdiğiniz girdi-çıktı örneklerini taklit eder.
Few-Shot Prompting Limitleri
Few-Shot Prompting tekniği oldukça etkili sonuçlar verebilmesine rağmen, uzmanlık gerektiren durumlarda ya da kompleks problemlerde tam olarak başarılı olmayabilir.
Örneğin, yapay zekanın modelinin ileri düzey matematiksel problemleri çözmesi gerektiğini düşünelim ve Few-Shot Prompting tekniğini kullanalım.
Örnekte görüldüğü gibi, kompleks ve karmaşık problemde modelin hatalı bir sonuç verdiğini görüyoruz. Cevabın 884,375,535 olması gerekiyor.
Not: Bu gibi karmaşık ve komplike problemde kesinlikle GPT-4 modelinin kullanılmasını öneriyorum.
Few-Shot Prompting İçin İpuçları
Few-shot prompt’larını geliştirmek için göz önünde bulundurmanız gereken ipuçları:
Örnek Output Uygunluğu
Örneklerde sağlanan output’ların (duygu analizi için 'pozitif' ve 'negatif' gibi) istekleriniz için uygun olduğundan emin olmak, verilen cevabın doğruluk oranını artıracaktır.
Örneğin, matematik problemleri çözme konusunda eğittiğiniz modelinizde, verilen 5 örnekteki çıktılar sayısal ve 1 tanesi 'çözülemedi' şeklinde belirlenirse, bu durum modelin doğru çıktıları verebilmesini zorlaştırabilir.
Örnek Tutarlılığı
Örneklerinizde tutarlı bir format yapısı oluşturun. Farklı formatlarda örnek vermek modelin cevaplarında direkt olarak istenilen sonucu vermesini zorlaştıracaktır.
Örneğin, matematiksel problemleri çözmek için oluşturduğunuz Few-Shot prompt’unuzda;
- İlk örnekte girdi olarak ‘2 plus 2’, çıktı olarak ‘4’ verdiğinizi,
- İkinci örnekte ise girdi olarak ‘3 plus 2’, çıktı olarak ‘Bu soru, bir toplama işlemdir ve cevabı 5’ verdiğiniz varsayalım.
Bir sonraki soruda, ilk örnekte olduğu gibi direkt olarak cevabı almak istediğinizde, model ikinci sorunun çıktı örneğini taklit etmeye çalışabilir.
Görev Tanımlaması
Prompt’unuzda örnekler vermeden önce, modelden ne istediğinizi açıkça belirtmeniz etkili sonuçlar almanızı kolaylaştıracaktır.
Örneğin, matematiksel problemleri çözmek için oluşturacağınız Few-Shot prompt’unuzda; modele “Sen zorlu problemleri çözebilen bir matematik profesörün” görevini vermek, modelin verilen örnekleri anlama ve istediğiniz çıktıyı alma noktasında etkinliğini artıracaktır.
Örnek Çeşitliliği
Modelin vereceği çıktıyı daha iyi genelleme yaparak verebilmesi için örnekleri bağlamında koparmadan artırmanız etkili olacaktır.
Örneğin, matematiksel problemleri çözmek için oluşturduğunuz Few-Shot prompt’unuzda; örnek olarak toplam işlemi, çıkarma işlemi, karekök alma gibi farklı ama aynı bağlamda örnekler vermek, karmaşık sorularda daha doğru çıktılar almanızı sağlayabilir.
Not: Few-Shot Prompting tekniğinde örnek sayısını ilgili sorun için çok fazla artırmak bazen sorunu daha karmaşık hale getirebiliyor. Bu nedenle, örnek sayılarınızı normal bir seviyede tutmanızı tavsiye ediyorum.
Aksi halde, 50 örnekli bir Few-Shot Prompting’de, model sizin çıktılarınızı taklit etmekten ziyade özgün bir çıktı oluşturma eğilimine gidebilir ve halüsinasyon yapma ihtimali artar.
Özetle, Few-Shot Prompting AI modellerinden istediğimiz çıktıları alma konusunda en etkili yöntemlerden biri. Few-Shot prompt’larınızı iyi bir strateji çerçevesinden oluşturarak, yapay zekadan aldığımız çıktıları en üst düzeye çıkarabiliriz.