Ekrandaki Cevap Nasıl Oluşuyor?

Akşam yemeğinde ne pişireceğinizi bir sohbet aracına sordunuz diyelim. Birkaç saniye içinde malzeme listesi, adım adım tarif ve sonuna bir de “Afiyet olsun!” geldi. Cümleler düzgün, ton sıcak, hiçbir yerde duraksama yok. Aynı aracı bir hafta sonra bir ilacın dozu, bir kira sözleşmesi ya da çocuğunuzun ödevi için kullandığınızda da ekranda aynı akıcılıkla yazılmış bir cevap belirir. Asıl soru da burada başlıyor: Bu kadar rahat konuşan bir makine bunları nereden biliyor? Cevap, “biliyor” kelimesini biraz sarsıyor. Model metni tek seferde düşünüp yazmıyor; küçük parçalar halinde, her seferinde sıradaki parçanın ne olabileceğini tahmin ederek kuruyor ve tahmin etmeyi de akıl almaz miktarda metin okuyarak öğrendi. Bir tarif için tahminle bilmek arasındaki bu ayrımın pek önemi yok. Bir ilaç dozu için var.

Sıradaki Kelime

Küçük bir oyunla başlayalım. “Evden çıkarken yanıma bir…” cümlesini tamamlamanız istense aklınıza şemsiyeden kitaba, ceketten su şişesine kadar pek çok şey gelebilir. Önüne “Gök gürlüyordu.” cümlesini koyduğumuz anda şemsiye öne geçer; “Plaja gidiyorduk.” dediğimizde ise sıra havluya gelir. Boşluğun hemen önündeki kelimeler hiç değişmedi, ama tahminimiz değişti, çünkü asıl belirleyici olan daha önce söylenmiş olandı.

Dil modelleri de tam olarak bunu yapıyor. Google’ın geliştiriciler için hazırladığı makine öğrenmesi dersi dil modelini böyle anlatır: Model, metnin devamı olabilecek adayların her biri için bir olasılık hesaplar ve bu hesapta o ana kadar yazılmış metnin tamamı, yani bağlam, belirleyici rol oynar.¹ Yalnız bir ayrıntı var: Modeller metni bizim gibi kelime kelime değil, token denen parçalarla işler. Bir token bazen bütün bir kelime, bazen kelimenin bir hecesi, bazen de tek bir karakter olabilir; aynı derse göre İngilizcede bir token ortalama dört karakter tutuyor ve bu oran dilden dile değişiyor.¹

Bir sohbette sizin sorunuz da önceki mesajlar da bağlamın parçasıdır. Ama modelin geriye dönüp bakabildiği metnin bir sınırı vardır; Anthropic’in geliştirici belgeleri bu alana “bağlam penceresi” diyor ve onu modelin çalışma belleğine benzetiyor.² Ekranda okuduğunuz cevap, o pencerenin sonuna parça parça eklenen metinden başka bir şey değil.

Aynı Soruya İki Ayrı Cevap

Adaylar sıralandı; şimdi birinin seçilmesi gerekiyor. Google’ın dersi bunun için iki yol sayar: Ya her adımda en olası parça alınır ya da olasılığı belli bir eşiğin üstündeki adaylar arasından biri, her birinin olasılığı oranında şansla, rastgele çekilir.¹

Bu çekilişi bir torba bilyeyle canlandırabiliriz. Torbada yedi kırmızı, iki mavi ve bir yeşil bilye olsun; kırmızı “şemsiye”, mavi “yağmurluk”, yeşil de “kitap” olsun. Elinizi torbaya her soktuğunuzda büyük ihtimalle kırmızı gelir, arada bir mavi de gelir. Mavi gelmesi demek, cümlenin başka bir yöne dönmesidir; bundan sonraki bütün seçimler artık o yeni cümleye göre yapılır.

Yazılımcılar bu çekilişin ne kadar cüretkar olacağını sıcaklık (temperature) denen bir ayarla belirler. Google’ın Gemini belgelerine göre sıcaklık sıfırken her adımda en olası parça seçilir ve cevaplar büyük ölçüde aynı kalır; değer yükseldikçe seçimdeki rastgelelik artar, yani torbadaki mavi ve yeşil bilyeler daha sık çıkmaya başlar ve sonuçlar çeşitlenir.³ Sohbet uygulamalarının hangi ayarla çalıştığını çoğu zaman bilmeyiz, ama sonucunu hepimiz yaşadık: Aynı soruyu iki kez sorunca iki farklı metin gelir. Bir şiir ya da slogan isterken bu çeşitlilik tam aradığımız şeydir. Bir bilgi sorarken ise başka bir anlama gelir; iki cevap birbiriyle çelişiyorsa en az biri yanlıştır.

Olasılıklar Nereden Geliyor?

Buraya kadar modelin olasılıkları hesapladığını söyledim ama bu olasılıkların nereden geldiğini açıklamadım. Bir dil modelinin içinde parametre denen milyarlarca sayı vardır ve olasılıklar bu sayılardan hesaplanır; Örneğin Meta’nın Llama 2 ailesindeki modeller 7 ile 70 milyar arasında parametre taşır.⁴ Eğitimin başında bu sayılar henüz hiçbir şey ifade etmez: Allen Yapay Zeka Enstitüsü’nün açık modeli OLMo 2’de her parametre eğitime sıfıra yakın, rastgele çekilmiş bir sayıyla başlar ve bu yüzden modelin ilk tahminleri de anlamsızdır.⁵

Eğitim sırasında modele metin parça parça verilir ve model her seferinde sıradakini tahmin etmeye çalışır.⁶ Bu düzeneğin güzel tarafı, doğru cevabın zaten metnin içinde durmasıdır; model şemsiyeye düşük bir olasılık verdiyse, metinde şemsiye yazdığı için yanılgının ne kadar olduğu ölçülebilir. Gerisi, bir otel odasında duşu ayarlamaya benzer. Su çok sıcak gelince musluğu biraz soğuğa çevirirsiniz, bu kez soğuk gelince biraz geri alırsınız ve birkaç denemede doğru noktayı bulursunuz. Google’ın dersinin dört adımda anlattığı mantık da bu: Hatayı hesapla, hatayı azaltacak yönü bul, ayarları o yönde biraz kaydır ve başa dön.⁷ Bir dil modelinde bu döngü trilyonlarca token üzerinde döner; Hugging Face’in herkese açık FineWeb veri seti, web’den derlenip süzülmüş 15 trilyon token’lık metin içeriyor.⁸

Bu aşamanın sonunda elde kalan şey, bir metni sürdürmekte çok iyi olan bir modeldir. Soru soran birine yardım eden bir asistan olması içinse ikinci bir aşama gerekir.⁴ Meta’nın Llama 2 için anlattığı süreçte model önce insanların yazdığı on binlerce örnek soru ve cevapla eğitildi. Ardından insanlara aynı soruya verilmiş iki cevap gösterildi, hangisini daha iyi buldukları soruldu ve Meta bu türden bir milyonu aşkın karşılaştırmayla modeli tercih edilen cevaplara doğru ayarladı.⁴

Düzgün Cümle, Yanlış Bilgi

Model iki aşamadan geçti: Önce metnin olası devamını tahmin etmeyi öğrendi, sonra insanların beğendiği cevaplara doğru ayarlandı. İki aşamada da doğruluk işin içinde, ama ikisi de onu garanti etmiyor. Birinci aşamada ölçüt, bir kelimenin doğru olması değil, o bağlamda sık görülmesi; internette çok tekrarlanan bir yanlış da sık görülür. İkinci aşamada ölçüt, insanların hangi cevabı beğendiği. İnsanlar genellikle doğru cevabı beğenir, ama her cevabı tek tek doğrulayamazlar ve bazen kendilerine hak veren cevabı seçerler. Olası olan ve beğenilen, her zaman doğru olanla aynı yere çıkmaz.

Bu boşluğu ölçmeye çalışan bir çalışma var. 2021’de yayımlanan TruthfulQA, insanların sık düştüğü yanlış inanışları yoklayan sorular hazırladı; o dönemin en iyi modeli soruların yüzde 58’inde doğru cevap verirken insanlar yüzde 94’ünde doğru cevap verdi ve yazarlara göre modeller bu yanlışları taklit ettikleri insan metinlerinden öğreniyordu.⁹ İkinci aşama için de benzer bir uyarı geldi: Anthropic’teki araştırmacılar, hem insanların hem de onların tercihlerini taklit eden modellerin, ikna edici biçimde yazılmış ve kullanıcıya hak veren cevapları azımsanmayacak sıklıkta doğru cevaplara tercih ettiğini gösterdi.¹⁰

Bunun gerçek hayattaki karşılığı Şubat 2023’te herkesin gözü önünde yaşandı. Google yeni sohbet aracı Bard’ı tanıtırken örnek bir cevap paylaştı; CNN’in haberine göre cevaptaki maddelerden biri, Güneş Sistemi dışındaki bir gezegenin ilk fotoğraflarını James Webb Uzay Teleskobu’nun çektiğini söylüyordu.¹¹ Oysa NASA’nın kayıtlarına göre ilk ötegezegen görüntüsü 2004’te Avrupa Güney Gözlemevi’nin Çok Büyük Teleskobu ile alınmıştı.¹² Cümle kusursuzdu, bilgi yanlıştı ve hata duyulduktan sonra Alphabet hisseleri bir günde yüzde 7,7 değer kaybetti.¹¹ Bu tür hatalara halüsinasyon deniyor.

Bir sınır daha var. Eğitim bittiğinde parametreler sabitlenir ve model kullanıldıkça kendiliğinden yeni bir şey öğrenmez; GPT-4’ün teknik raporu, modelin eğitim verisinin büyük kısmının Eylül 2021’de kesildiğini ve modelin kendi deneyiminden öğrenmediğini yazar.⁶ Sohbette verdiğiniz bir bilgi ya da internette yapılan bir aramanın sonucu bağlama eklenebilir ve model cevap verirken onu kullanabilir, ama bu, parametrelerini değiştirmez.

Cevabı Nasıl Okumalı?

Bütün bunlardan çıkan en işe yarar alışkanlık, bir cevabı dil ve bilgi olarak ikiye ayırıp okumak. Dil tarafında bu araçlar gerçekten güçlüdür; bir metni toparlamak, kısaltmak ya da tonunu yumuşatmak gibi işlerde çoğu zaman iyi sonuç verirler. Bilgi tarafında ise her somut ayrıntı ayrı bir doğrulama ister: Bir olayın tarihini onu belgeleyen güvenilir bir kaynaktan, bir kuralı kurumun kendi sayfasından kontrol edin; yakın tarihli bir konu soruyorsanız aracın internette arama yapıp yapmadığına bakın. Bu kontroller yanlış bir çıkarımı ya da eksik bir bağlamı kendiliğinden yakalamaz, ama uydurulmuş bir tarihi ya da yanlış bir kuralı çoğu zaman hemen ortaya çıkarır. Bir de size hemen hak veren cevaplara karşı biraz tetikte olun; az önce gördüğümüz gibi, beğenilmek bu makinelerin eğitiminin bir parçası.

Daha Fazlası

Bu kadar hesabın bir de fiziksel bedeli var: Bir Görsel Kaç Soruya Bedel? Yapay Zekanın Elektrik ve Su Hesabı Diğer konular için ana sayfadaki haritaya bakabilirsiniz.

Google for Developers, Introduction to Large Language Models, Machine Learning Crash Course, Ocak 2026. ↩ ↩² ↩³
Anthropic, Glossary, Claude geliştirici belgeleri, erişim Ekim 2026. ↩
Google Cloud, Experiment with parameter values, Gemini belgeleri, Ekim 2026. ↩
Touvron ve diğerleri, Llama 2: Open Foundation and Fine-Tuned Chat Models, Meta, Temmuz 2023. ↩ ↩² ↩³
OLMo Team, 2 OLMo 2 Furious, Allen Institute for AI, ön baskı, 2025. ↩
OpenAI, GPT-4 Technical Report, 2023. ↩ ↩²
Google for Developers, Linear regression: Gradient descent, Machine Learning Crash Course, Şubat 2026. ↩
Penedo ve diğerleri, The FineWeb Datasets: Decanting the Web for the Finest Text Data at Scale, Hugging Face, 2024. ↩
Lin, Hilton ve Evans, TruthfulQA: Measuring How Models Mimic Human Falsehoods, ACL, 2022. ↩
Sharma ve diğerleri, Towards Understanding Sycophancy in Language Models, Anthropic, ön baskı, 2023. ↩
Catherine Thorbecke, Google shares lose $100 billion after company’s AI chatbot makes an error during demo, CNN (ABC17 News’teki kopyası), 8 Şubat 2023. ↩ ↩²
NASA, 2M1207 b: First image of an exoplanet, 26 Nisan 2010. ↩

Erkan Aksoy erkan.aksoy@gmail.com LinkedIn