Tek cümlelik cevap
Bir büyük dil modeli (İngilizcesiyle Large Language Model, kısaca LLM), kendisine verilen metnin devamında hangi parçanın gelmesinin en olası olduğunu hesaplayan bir programdır. Sohbet robotunun sana yazdığı her cevap, bu tahminin art arda yüzlerce kez tekrarlanmasıyla parça parça oluşur. Cevapların ekrana kelime kelime akmasının sebebi de budur.
Bu basit fikir, akla gelebilecek her konuda yazı yazabilen, kod üretebilen ve soru cevaplayabilen sistemlere nasıl dönüşüyor? Aşağıda bunu adım adım, matematik bilmeden anlayabileceğin şekilde anlatıyoruz. Örnekler BLUE AI üzerinden verilse de anlatılanlar ChatGPT, Gemini veya Claude gibi diğer sohbet yapay zekâları için de geçerlidir.
Token: Modelin harfleri
Dil modelleri metni bizim gibi harf harf ya da kelime kelime okumaz. Metin önce token denen parçalara bölünür. Bir token bazen tam bir kelime, bazen bir kelimenin parçası, bazen de tek bir noktalama işaretidir. Model her token'ı bir sayıya çevirir ve bütün hesaplarını bu sayılar üzerinden yapar.
Türkçe eklemeli bir dil olduğu için tek bir kelime birkaç token'a bölünebilir. Aşağıdaki bölünme konuyu anlatmak için hazırlanmış temsilî bir örnektir. Gerçek modeller ekleri dil bilgisine göre değil, eğitim verisinde ne sıklıkla birlikte geçtiklerine göre böler.
Bunun pratik bir sonucu var: Aynı anlamı taşıyan bir Türkçe metin, İngilizce karşılığına göre genellikle daha fazla token tutar. Modellerin bir seferde işleyebildiği metin miktarı token cinsinden sınırlı olduğundan, çok uzun Türkçe belgelerde bu sınıra daha çabuk ulaşılır.
Sıradaki kelimeyi tahmin etmek
Model, metni okuduktan sonra sözlüğündeki her token için bir puan hesaplar. Bu puanlar olasılığa çevrilir ve sıradaki parça bu olasılıklara göre seçilir. Seçilen parça metne eklenir ve aynı işlem baştan yapılır. Aşağıdaki küçük deneyde bu adımı kendin yapabilirsin.
Model gibi düşün: Sıradaki kelimeyi seç.
Bir cümle başlangıcı seç, sıcaklığı ayarla ve "Kelime seç" düğmesine bas. Olasılıklar anlatım için örnek olarak belirlendi; gerçek bir model on binlerce token arasından seçim yapar.
Deneyde fark edeceğin gibi, model her zaman en olası kelimeyi seçmez. Olasılığı düşük kelimeler de ara sıra seçilir. Bu sayede aynı soruya her seferinde birebir aynı cevap gelmez ve yazılar daha doğal görünür.
Sıcaklık ayarı: Tutarlılık mı, yaratıcılık mı?
Deneydeki sıcaklık (temperature) ayarı, olasılıkların ne kadar "keskin" olacağını belirler. Sıcaklık düşükken en olası kelime neredeyse her seferinde seçilir. Cevaplar tutarlı ve tahmin edilebilir olur ama tekrara düşebilir. Sıcaklık yükseldikçe olasılıklar birbirine yaklaşır, daha az beklenen kelimeler de seçilmeye başlar. Bu, şiir ya da slogan gibi yaratıcı işlerde faydalıdır ama çok yükseldiğinde metin tutarlılığını kaybeder.
Sohbet uygulamaları bu değeri genellikle kullanıcıya göstermeden, dengeli bir seviyede tutar. Bilgi isteyen sorular için düşük, yaratıcı yazılar için biraz daha yüksek değerler tercih edilir.
Model nasıl eğitilir?
Bir dil modeli üç ana aşamadan geçerek sohbet edebilir hale gelir:
- Ön eğitim: Model; kitaplar, ansiklopediler, web sayfaları ve kod gibi çok büyük miktarda metin üzerinde sıradaki token'ı tahmin etmeye çalışır. Her yanlış tahminde iç ayarları çok küçük miktarda düzeltilir. Bu süreç milyarlarca örnek boyunca tekrarlandığında model dil bilgisini, kelimeler arasındaki ilişkileri ve dünya hakkında pek çok bilgiyi istatistiksel olarak öğrenmiş olur.
- Talimat eğitimi (ince ayar): Ön eğitimden çıkan model metin tamamlamada iyidir ama soru cevaplamayı bilmez. Bu aşamada insanların hazırladığı soru-cevap örnekleriyle eğitilir ve bir asistan gibi davranmayı öğrenir.
- Geri bildirimle iyileştirme: Modelin ürettiği farklı cevaplar insanlar tarafından karşılaştırılır. Model daha faydalı, daha doğru ve daha güvenli bulunan cevaplara yönelecek şekilde ayarlanır. Bu yöntemin bilinen adı RLHF'dir (insan geri bildirimiyle pekiştirmeli öğrenme).
Bu sürecin önemli bir sonucu var: Model, eğitim verisinin toplandığı tarihten sonrasını bilmez. Buna bilgi kesim tarihi denir. Güncel bir bilgiye ihtiyaç duyulduğunda (bugünkü hava durumu gibi) sistemin dışarıdan veri çeken araçlar kullanması gerekir. BLUE AI'nin hava durumunu anlık bir servisten alması buna bir örnektir.
"4B", "8B": Parametre ne demek?
Model adlarında gördüğün "4B" ya da "70B" gibi ifadeler parametre sayısını gösterir. B, milyar (billion) demektir. Parametreler, eğitim sırasında ayarlanan ve modelin bilgisini oluşturan sayılardır. Genel olarak parametre sayısı arttıkça model daha karmaşık ilişkileri yakalayabilir. Ancak daha fazla bellek ister ve daha yavaş çalışır.
BLUE AI'nin web sürümü, kendi sunucumuzda çalışan açık ağırlıklı Qwen3 modelini kullanır. Günlük sohbetlerde hızlı bir model cevap verir. "Derin mod" açıldığında ise daha büyük ve daha yavaş ama daha dikkatli bir model devreye girer. Bu, hız ile kalite arasındaki dengenin pratikteki bir örneğidir.
Bağlam penceresi: Modelin kısa süreli hafızası
Model, cevabını üretirken sohbetin tamamını değil, belirli bir uzunluğa kadar olan kısmını "görebilir". Bu sınıra bağlam penceresi (context window) denir ve token cinsinden ölçülür. Sohbet bu sınırı aşacak kadar uzadığında en eski mesajlar dikkate alınmayabilir. Uzun bir konuşmanın başında söylediğin bir ayrıntının sonradan "unutulması" çoğunlukla bundandır.
Pratik öneri: Uzun sohbetlerde önemli bilgileri kısaca tekrar et ya da konu değiştiğinde yeni bir sohbet aç. Böylece model, gereksiz eski mesajlarla meşgul olmadan yeni konuna odaklanır.
Model neden yanılır? Halüsinasyon
Dil modeli "doğru olanı" değil, "olası olanı" üretir. Çoğu zaman olası olan ile doğru olan örtüşür. Ama model bir konuda yeterli bilgiye sahip değilse, kulağa makul gelen ama gerçekte yanlış bir cevabı aynı özgüvenle yazabilir. Buna halüsinasyon denir. Var olmayan kitaplar, yanlış tarihler, uydurma alıntılar ve hatalı hesaplamalar en sık görülen örneklerdir.
Kural: Önemli kararlarda (sağlık, hukuk, para, ödev kaynakları) yapay zekânın verdiği bilgiyi güvenilir bir kaynaktan doğrula. Kaynak istediğinde, verilen kaynağın gerçekten var olduğunu da kontrol et.
Özetle
- Dil modeli, metnin devamını parça parça tahmin ederek cevap üretir.
- Metin, token denen parçalara bölünür. Türkçe metinler genellikle daha fazla token tutar.
- Sıcaklık ayarı, cevabın tutarlılık ile yaratıcılık arasındaki dengesini belirler.
- Modelin bilgisi eğitim verisinin tarihiyle sınırlıdır. Güncel bilgi için araçlara ihtiyaç duyar.
- Bağlam penceresi sınırlıdır. Çok uzun sohbetlerde eski ayrıntılar gözden kaçabilir.
- Model kendinden emin bir dille yanılabilir. Önemli bilgileri doğrula.
Bu kavramların daha fazlası için yapay zekâ sözlüğüne göz atabilir, öğrendiklerini 12 soruluk testle ölçebilirsin.