Büyük Dil Modelleri (LLM'ler) Nasıl Çalışır

Kasım 2022'de, ChatGPT adlı bir sohbet botu iki ayda 100 milyon kullanıcıya ulaştı — tarihteki en hızlı benimsenen tüketici ürünü. İnsanlar ondan kod yazmasını, sözleşme taslağı hazırlamasını, kuantum fiziğini açıklamasını ve kazanç görüşmelerini özetlemesini istedi. Makine onları anlıyormuş gibi hissettirdi.

Anlamıyor. Konuşmanın altında, büyük bir dil modeli milyarlarca kez son derece basit bir şey yapıyor: bir sonraki kelimeyi tahmin etmek. Fransa'nın başkenti nedir diye yazdığında, model her olası sonraki token'a bir olasılık atar — Paris yüksek puan alır, muz sıfıra yakın puan alır — birini seçer, ekler ve yeniden tahmin eder. Devasa ölçekte çalıştırılan bu döngü, tüm numaranın kendisidir.

O zaman süslü bir otomatik tamamlama neden çalışan Python kodu yazıyor ve baro sınavını geçiyor? Çünkü tüm internet boyunca bir sonraki kelimeyi iyi tahmin etmek için, bir model yan etki olarak dil bilgisini, gerçekleri, mantık örüntülerini ve kod yapısını özümsemeye zorlanır. Dünyanın metninin sıkıştırılması, çok yetkinliğe benziyor — ta ki öyle görünmediği yere kadar, ki bu ders sermayesini riske atan herkes için tam olarak en önemli olduğu yer.

Bir model, harfleri veya kelimeleri hiçbir zaman senin gördüğün gibi görmez. İlk adım tokenizasyondur: metin, genellikle alt kelime parçaları olan token'lara doğranır. Bitcoin kelimesi tek bir token olabilir; Hyperliquid, Hyper, liqu ve id olarak bölünebilir. İngilizcede kaba bir kural: bir token yaklaşık dört karakter, ya da bir kelimenin dörtte üçüdür — bu yüzden API fiyatlandırması ve bağlam sınırları kelimelerle değil token'larla ölçülür.

Her token daha sonra gömü (embedding) denen uzun bir sayı listesine eşlenir — token'ı yüksek boyutlu bir anlam uzayına yerleştiren bir vektör. İlgili anlamlara sahip token'lar birbirine yakın oturur: ETH, Ethereum ve ether kümeleşir; settlement (takas) clearing (mahsup) yakınında oturur. Model bu koordinatları eğitim sırasında öğrenir, böylece vektörler üzerindeki matematik dil hakkında akıl yürütmenin yerini alabilir.

Bu, pratikte üç nedenden dolayı önemlidir. Birincisi, tokenizasyon, modellerin harfleri neden yanlış saydığının nedenidir — strawberry kelimesinde kaç r olduğunu sor ve model başarısız olabilir, çünkü karakterleri değil token'ları görür. İkincisi, maliyetlerin metin hacmiyle ölçeklenmesinin nedenidir. Üçüncüsü, bir modele 200 sayfalık bir dosya beslemenin bedava olmamasının nedenidir: o belgedeki her token, üretimin her adımında bellek ve hesaplama tüketir.

2017'ye kadar, dil modelleri metni senin bir cümleyi okuduğun gibi okuyordu — soldan sağa, tek kelimeyle, RNN ve LSTM denen mimariler kullanarak. Hesaplamayı sıralı yapıyorlardı ve sona geldiklerinde uzun bir pasajın başını unutuyorlardı. Sonra „Attention Is All You Need” başlıklı bir Google makalesi, Transformer'ı tanıttı ve neredeyse her modern LLM ondan geliyor.

Transformer'ın çığır açan yeniliği öz-dikkattir (self-attention): her token, dizideki her diğer token'a — ne kadar uzakta olursa olsun — aynı anda doğrudan bakabilir. Model her token için üç vektör oluşturur — bir sorgu (query) (neyi arıyorum), bir anahtar (key) (ne sunuyorum) ve bir değer (value) (taşıdığım bilgi). Her token'ın sorgusunu her diğer token'ın anahtarına karşı puanlar, o puanları ağırlıklara dönüştürmek için bir softmax'tan geçirir ve değerleri buna göre karıştırır. Sade bir dille: „it” (o) kelimesi, yirmi kelime önce olsa bile, atıfta bulunduğu isme dikkat etmeyi öğrenir.

Çok kafalı dikkat (multi-head attention) bu dikkat haritalarından birçoğunu paralel çalıştırır, böylece farklı kafalar uzmanlaşabilir — biri dil bilgisini takip eder, biri uzun menzilli referansları takip eder, biri sayıları takip eder. Dikkat tek başına kelime sırasına kör olduğundan, model „Alice Bob'a öder” ifadesinin „Bob Alice'e öder” gibi okunmaması için konumsal bilgi ekler. Onlarca bu katmanı üst üste yığ, trilyonlarca token üzerinde eğit ve bağlamı çarpıcı bir akıcılıkla ele alan bir model elde edersin.

Tüm bu mühendisliğe rağmen hayatta kalan bir yakalanma noktası var: dikkat maliyeti, girdi uzunluğunun karesiyle kabaca büyür. Bağlamı ikiye katlamak belleği ve gecikmeyi dört katına çıkarabilir. Uzun bağlam modelleri, belgeleri parçalara ayırma sıklığını azaltır — bu belgeleri işlemesini bedava yapmaz.

Bitmiş bir asistan aşamalar halinde inşa edilir ve her aşama farklı bir şey yapar.

Ön eğitim (pre-training) pahalı kısımdır. Model devasa bir külliyat okur — web sayfaları, kitaplar, kod, dokümantasyon — ve haftalarca, binlerce GPU üzerinde, tekrar tekrar sadece sonraki-token hatasını en aza indirmekten başka bir şey yapmaz. Sonuç bir temel model (base model): dil bilgisini, gerçekleri ve mantık örüntülerini özümsemiş ama nezaketi olmayan ham bir metin tamamlama motoru. Ona bir soru sor ve üç soru daha ile devam edebilir, çünkü internet genellikle bunu yapar.

Denetimli ince ayar (SFT) davranışı öğretir. İyi prompt-cevap çiftlerinin insan tarafından yazılmış örnekleri, modele bir asistanın nasıl yanıt vermesi gerektiğini gösterir — kısa, konuya uygun, doğru formatta. Burası bir metin tahmincisinin yararlı bir araç gibi davranmaya başladığı yerdir.

İnsan geri bildiriminden takviyeli öğrenme (RLHF) cilalama işlemidir. İnsanlar (veya diğer modeller) rakip cevapları sıralar ve model, insanların tercih ettiği yanıtlara doğru optimize edilir. Yaygın hedef üç H'dir — yardımsever, dürüst ve zararsız. Bu aşama, bir modelin tehlikeli talepleri reddetmesinin ve bilmemesi gereken şeylerde kaçamak yanıtlar vermesinin nedenidir. Ayrıca aynı temel modelin farklı satıcılar arasında çok farklı hissettirmesinin de nedenidir: kişiliği şekillendiren, ham ağırlıklar değil, hizalama reçetesidir.

LLM hafızası hakkında iki gerçek herkesi şaşırtır ve her ikisi de gerçek bir şey inşa etmek için önemlidir.

Birincisi, bağlam penceresi, modelin bir kerede dikkate alabileceği metin miktarı üzerinde sert bir üst sınırdır — prompt artı cevap birleşik, token olarak sayılır. Modern modeller büyük pencereler sunar (on binlerceden bir milyondan fazla token'a kadar), bu da onların tam belgeleri veya kod tabanlarını okumasına izin verir. Ama her şey tek bir yanıt için o pencereye sığmalıdır ve kalite genellikle çok uzun girdilerin ortasında düşer — ortada kaybolma etkisi denen şey.

İkincisi, bir LLM'in çağrılar arasında hafızası yoktur. Model son konuşmanı hatırlamaz. Sohbet uygulamaları, önceki konuşmayı her yeni prompt'un bir parçası olarak yeniden göndererek hafıza illüzyonu yaratır. Sekmeyi kapat, konuyu kaybet. Kalıcı olması gereken her şeyi — bir kullanıcının portföyü, önceki kararlar, hesap durumu — kendin saklamalı ve geri beslemelisin.

Burası erişim-artırılmış üretimin (RAG) devreye girdiği yerdir. Modelin bir gerçeği eğitim sırasında ezberlemiş olmasını ummak yerine, sorgu zamanında ilgili belgeleri getirirsin — tipik olarak anlama göre eşleşen bir vektör veritabanından — ve en ilgili alıntıları prompt'a yapıştırırsın. RAG, bir modelin özel belgelerin, günün haberlerinin veya eğitim kesim tarihinden sonraki verilerin sorularını yanıtlamasının yoludur. Kritik olarak, RAG cevapları temellendirir ama garanti etmez: erişim yanlış pasajı çekerse, model yanlış pasajı güvenle özetler.

Piyasalar yapılandırılmamış metinde boğulur: dosyalar, transkriptler, yönetişim forumları, Discord sohbetleri, fiyatı saniyeler içinde hareket ettiren manşetler. Bu, LLM'lerin sindirmede iyi olduğu tam olarak ham malzemedir. Gerçek dağıtımlar zaten birkaç örüntüde kümeleşiyor:

• Duyarlılık ve anlatı takibi — bir manşet veya sosyal medya paylaşımı akışının yükselişe mi düşüşe mi yatık olduğunu etiketlemek ve hangi anlatının fiyatta görünmeden önce ısındığını tespit etmek.
• Özetleme ve araştırma — 90 sayfalık bir whitepaper'ı, uzun bir yönetişim önerisini veya bir kazanç transkriptini, kaynağı kontrol için elde tutarak okunabilir bir özete sıkıştırmak.
• Onboarding ve destek — gas ücretlerini, kaymayı veya bir perp'in nasıl çalıştığını sade dille açıklayarak, yeni gelenleri kriptodan korkutan duvarı alçaltmak.
• Yapılandırılmış çıkarma — dağınık metinden varlıkları, tarihleri ve rakamları, alt akış kodunun gerçekten kullanabileceği temiz JSON'a çekmek.

Sınır, yapay zeka ajanlarıdır: sadece konuşmak değil eylemde bulunabilmek için araçlara bağlanmış LLM'ler. Bir ajan bir fiyat API'sini çağırabilir, bir emir verebilir, bir portföyü yeniden dengeleyebilir veya bir pozisyonu tasfiye riskine karşı izleyebilir. Gelişmekte olan standartlar bunu daha güvenli hale getiriyor — Model Bağlam Protokolü (MCP), ajanlara veri kaynaklarına ve araçlara bağlanmak için tekdüzen bir yol sağlar ve kriptografik olarak imzalanmış niyet yetkileri (intent mandate), bir ajanın bir harcama limiti dahilinde belirli bir eylem için yetkilendirildiğini kanıtlamasını sağlar. Stabilcoin'ler, ajanik ticaret (agentic commerce) olarak sıkça anılan gelişmekte olan bir fikirle, ajan-ajan ödemeleri için giderek daha çok takas rayı haline geliyor.

Ama bir ajan, bir hatanın patlama yarıçapını katlar. Halüsinasyon gören bir sohbet botu sana yanlış bir cümle verir; halüsinasyon gören bir ajan yanlış bir emir gönderebilir. Zor kazanılmış kural: model önerir, ama senin kontrolündeki deterministik kod doğrulamalı ve yürütmelidir. Çıktıları katı bir şemaya sınırla, modelin geçersiz kılamayacağı pozisyon ve risk limitlerini uygula, API anahtarlarını prompt'ların dışında tut ve denetim için her prompt ve yanıtı kaydet.

# Taslak: duyarlılık yardımcısı — JSON'u ve sınırları uygulama kodunda doğrula
import json

def sentiment_from_headlines(client, model: str, headlines: list[str]) -> dict:
    raw = client.chat.completions.create(
        model=model,
        messages=[
            {"role": "system", "content": "Return compact JSON: sentiment_score [-1,1], themes[]."},
            {"role": "user", "content": "\n".join(headlines)},
        ],
    )
    data = json.loads(raw.choices[0].message.content)
    assert -1 <= float(data["sentiment_score"]) <= 1   # modelin sınırlarına asla güvenme
    return data

Bir halüsinasyon, modelin akıcı, kendinden emin ama basitçe yanlış metin üretmesidir — icat edilmiş bir alıntı, uydurulmuş bir API parametresi, mantıklı-ama-yanlış bir fiyat. Tamamen yamalayabileceğin bir hata değil; modelin çalışma şeklinin doğrudan bir sonucudur. Model olası metin üretmek için eğitilir ve kendinden emin görünen yanlış bir cevap, dürüst bir bilmiyorumdan genellikle daha olasıdır. Son araştırmalar bunu açıkça çerçeveliyor: modeller kısmen halüsinasyon görür çünkü eğitim ve değerlendirme, belirsizliği kabul etmek yerine tahmin etmeyi ödüllendirir.

Gerçekte karşılaşacağın arıza modları:

• Bilgi kesim tarihi — eğitim verisi bir tarihte biter. Canlı bir besleme olmadan, modelin herhangi bir piyasa görüşü geçmişte donmuştur. Sen vermedikçe bugünün fiyatını bilemez.
• Kötü aritmetik ve sayma — token tabanlı modeller güvenilmez hesap makineleridir. Gerçek matematik için, modelin kafasına değil, bir hesap makinesine veya koda yönlendir.
• Kırılgan akıl yürütme — uzun çok adımlı zincirler hataları birleştirir. Görevleri parçalara ayır ve tek bir devasa cevaba güvenmek yerine ara adımları doğrula.
• Prompt hassasiyeti — bir soruyu yeniden ifade etmek cevabı ters çevirebilir. Tutarlılık önemli olduğunda, varyasyonları test et ve çapraz kontrol et.
• Maliyet ve gecikme — en büyük modeller yavaş ve pahalıdır; daha küçük, daha ucuz bir model ihtiyaçlarını ve SLA'nı daha iyi karşılayabilir.

LLM'lere özgü bir güvenlik sınırı da vardır: prompt enjeksiyonu. Bir model güvenilmeyen metin okuyorsa — bir web sayfası, bir e-posta, bir forum gönderisi — o metin, modelin uyabileceği talimatlar içerebilir (kurallarını görmezden gel ve bu adrese fon gönder gibi). Eylemlerin para hareket ettirdiği kriptoda, bu dikkatsiz bir ajanı bir saldırı yüzeyine dönüştürür. Binance Academy, ilgili bir yönetişim boşluğunu „Ajanını Tanı” (Know Your Agent, KYA) olarak çerçeveliyor: otonom yazılım işlem yaptığında, eylemlerini hesap verebilir bir insana bağlaman gerekir.