İstem kalıpları

Önce ölçüt, sonra istem

İstem yazarken en sık yapılan hata, birkaç örnekte dene, beğen, yayına al döngüsüdür. Bunun yerine sırayı tersine çevir:

1. Bu istemin başarısını neyle ölçeceğini yaz (bir örnek seti ve bir başarı kuralı).
2. İlk istemi yaz ve ölç.
3. Bir şeyi değiştir, yeniden ölç. Tek seferde tek değişiklik.

Bu kursun geri kalanı bu “neyle ölçeceğim” sorusunun cevabı. Bu derste değiştireceğin şeylerin listesini kuruyoruz.

Beş kalıp

Kalıp	Ne zaman	Dikkat
Örnek göster (few-shot)	Biçim ya da ton tarif etmekten zorsa	Örnekler çeşitli olsun; model örneklerin yüzeyini de kopyalar
Adım adım düşündür	Çok adımlı akıl yürütme, hesap, karar	Uzun çıktı daha pahalı ve yavaş; gerekmeyen işte kullanma
İşi böl	Tek istem çok şey yapıyorsa	Her adım ayrı ölçülebilir hâle gelir
Yapılandırılmış çıktı	Çıktıyı bir program okuyacaksa	Her zaman şemayla doğrula
Sistem komutu	Rol, kurallar, sınırlar	Kısa ve somut tut; çelişen kurallar en sık hata kaynağı

Örnek göstermek

Tarif etmek yerine göster. Bir şikâyet e-postasını sınıflandıran istem:

Müşteri mesajını şu kategorilerden birine ayır: iade, kargo, ödeme, diğer.
Yalnızca kategori adını yaz.

Mesaj: "Ürün kırık geldi, paramı geri istiyorum."
Kategori: iade

Mesaj: "Kartımdan iki kez çekim yapılmış."
Kategori: ödeme

Mesaj: "{mesaj}"
Kategori:

İki örnek, bir paragraf açıklamadan daha çok şey anlatır. Ama örnekleri gerçek verinden ve zor olanlardan seç; kolay örnekler modele bir şey öğretmez.

İşi bölmek

“Bu sözleşmeyi oku, riskleri bul, her riske önem ver ve yönetici özeti yaz” tek bir istemde dört iş. Bunu dörde böl:

maddeler = cikar(sozlesme)            # 1. maddeleri ayır
riskler = [risk_bul(m) for m in maddeler]   # 2. her maddeye ayrı bak
puanli = onem_ver(riskler)            # 3. sırala
ozet = ozetle(puanli)                 # 4. yaz

Artık hangi adımın bozulduğunu görebilirsin. Bir sonraki derste göreceğin hata analizi, bölünmüş sistemlerde çok daha kolay.

İstemler koddur

İstemi kodun içine gömülü bir metin gibi değil, kod gibi yönet: ayrı dosyada tut, sürüm kontrolüne koy, her değişiklikte değerlendirme setini çalıştır. “Hangi istem sürümü hangi skoru aldı?” sorusunun cevabı her zaman elinde olmalı.

Kendini dene

Quiz · Kendini dene0/2

1. 1. Modelin çıktısı doğru ama biçimi her seferinde farklı. İlk denenecek kalıp?

   AAdım adım düşündürmekBÖrnek göstermek ve yapılandırılmış çıktıCDaha büyük model

2. 2. Tek bir istem dört farklı iş yapıyor ve bazen bozuluyor. En iyi ilk adım?

   Aİstemi uzatmakBİşi adımlara bölüp her adımı ayrı ölçmekCSıcaklığı düşürmek