Sinir Ağları: Perceptron'dan Derin Öğrenmeye

10 Mart 2016'da, Seul'de oynanan beş maçlık serinin ikinci oyununda, AlphaGo adlı bir makine tahtanın beşinci çizgisine siyah bir taş yerleştirdi. Hamle o kadar tuhaftı ki insan yorumcular bunu bir hata sandı. Bir profesyonel, bir acemi bu hamleyi yapsa azarlanacağını yüksek sesle söyledi. Lee Sedol — Go oyununda 18 kez dünya şampiyonu olmuş bir oyuncu — ayağa kalktı ve kendine gelmek için odadan çıktı.

Bu bir hata değildi. Elli hamle sonra, artık „37. Hamle" olarak ünlenen o taş, oyunun tamamının döndüğü menteşe oldu. AlphaGo kazandı. Yaşayan en büyük oyunculardan biri sayılan Lee Sedol, seriyi 4-1 kaybetti. Ve önemli olan kısım şu: bu hamleyi AlphaGo'ya hiçbir insan öğretmedi. Herhangi bir ders kitabında yoktu. Makine, kendisine karşı milyonlarca oyun oynayıp içindeki milyarlarca küçük sayıyı ayarlayarak, hiçbir insanın hiç görmediği bir örüntü ortaya çıkana kadar, bu hamleyi kendi başına keşfetmişti.

Go'da, gözlemlenebilir evrendeki atomdan daha fazla olası tahta konumu vardır. Bunu kaba kuvvetle (brute-force) çözemezsin. Kurallarını yazıya dökemezsin. Onu insanüstü bir seviyede oynamanın tek yolu öğrenmektir — ve bu öğrenmeyi yapan şey bir sinir ağıydı: yeterli veri ve yeterli ayarlama verildiğinde, hiçbir insanın tam olarak ifade edemeyeceği bir yapıyı bulabilen, basit matematiksel birimlerden oluşan bir yığın.

Aynı makine — aynı ağırlıklı toplamlar, aynı eğitim döngüsü, aynı gradyan dürtmeleri — konuştuğun dil modelini, sahte kart işlemlerini işaretleyen sistemi ve kantitatif fonların artık finansal piyasalara yönelttiği modelleri güçlendiren şeydir. Bu ders, o kutunun içinde gerçekte ne olup bittiğiyle ilgili.

Basit bir spam filtresinden GPT'ye ve AlphaGo'ya kadar her sinir ağı, tek bir fikirden gelir: 1958'de Frank Rosenblatt tarafından icat edilen perceptron. Biyolojik bir nörondan gevşek bir şekilde ilham alan matematiksel bir modeldir. Gerçek bir nöron, dendritleri üzerinden elektrik sinyalleri alır, bunları hücre gövdesinde biriktirir ve yalnızca birleşik girdi bir eşiği geçerse aksonundan bir sinyal gönderir. Perceptron da aynı şeyi yapar, sadece voltaj yerine sayılarla.

Bir perceptron bir x girdi vektörü alır, her girdiyi öğrenilmiş bir ağırlık (w) ile çarpar, çarpımları toplar, eşiği kaydıran bir bias (b) terimi ekler ve sonucu bir aktivasyon fonksiyonundan geçirir. Sonuç barı aşarsa nöron „ateşler"; aksi halde sessiz kalır. Bütün bu işlem tek bir derli ifadedir: çıktı = f(w·x + b).

Ağırlıkları ses düğmesi gibi düşün. Her girdi belli bir yükseklikte gelir ve ağırlık, bu girdinin bu belirli nöron için ne kadar önemli olduğuna karar verir. Sahte bir işlemi tespit etmeyi öğrenen bir nöron, „hesap geçmişine göre işlem büyüklüğü" ağırlığını yükseltip „günün saati" ağırlığını düşürebilir. Öğrenme, özünde, bu düğmeleri doğru ayarlara çevirmekten daha gösterişli bir şey değildir.

Tek bir perceptronun sert bir sınırı vardır: verileri sadece düz bir çizgiyle (veya daha yüksek boyutlarda düz bir hiper düzlemle) ayırabilir. „Bu nokta çizginin üstünde mi altında mı?" sorusuna cevap verebilir ama „bu nokta kavisli bölgenin içinde mi?" sorusuna veremez. Tarihsel örnek, tek bir perceptronun kanıtlanabilir şekilde öğrenemediği bir örüntü olan XOR problemidir — 1970'lerde AI finansmanının donmasına yıllarca yardımcı olan bir sınırlama. Geriye dönüp bakınca kaçış saçma derecede basittir: çok sayıda perceptronu katmanlar halinde istifle ve aralarına doğrusal olmayan bir aktivasyon yerleştir. Bunu yaptığında, ortaya çıkan ağ uzayı bükebilir, katlayabilir ve keyfi olarak karmaşık şekillere ayırabilir.

Bir nöron bir düğmedir. Yararlı bir ağ, bilgiyi bir kova zinciri gibi ileriye taşıyan katmanlar halinde organize edilmiş binlerce nörondur.

• Girdi katmanı — ham özelliklerinin girdiği yer: bir görüntünün pikselleri, bir cümlenin kelimeleri, veya bir işlem modeli için fiyat, hacim, oynaklık ve emir defteri dengesizliği gibi şeyler.
• Gizli katmanlar — gerçek işin yapıldığı, aradaki katmanlar. Her katman öncekinin çıktılarını alır ve onları yeni, daha soyut özelliklere yeniden birleştirir.
• Çıktı katmanı — son cevap: bir olasılık, bir fiyat tahmini, bir sınıf etiketi.

Derin öğrenmedeki „derin" kelimesi basitçe çok sayıda gizli katman anlamına gelir. Ve derinlik sana belirli bir şey satın alır: bir özellik hiyerarşisi. Bir görüntü ağında ilk katman kenarları tespit eder, sonraki katman kenarları şekillere birleştirir, bir sonraki katman şekilleri nesnelere birleştirir. Kimse „kenar dedektörü" veya „göz dedektörü" diye programlamadı — bu kavramlar eğitim yoluyla ortaya çıkar. Ağ kendi ara kelime dağarcığını icat eder.

Burada güzel bir teorik sonuç var, evrensel yaklaşım teoremi: yeterli sayıda nöron verildiğinde, tek bir gizli katmana sahip bir ağ bile herhangi bir sürekli fonksiyonu keyfi doğrulukta yaklaşık olarak temsil edebilir. Başka bir deyişle, doğru ağ ilke olarak verindeki var olan herhangi bir örüntüyü temsil edebilir. Tuzak — ve büyük bir tuzak — „ilke olarak" ifadesinin ağır bir iş yapmasıdır. Teorem, böyle bir ağın var olduğunu garanti eder; onu bulabileceğini, onu tespit etmek için yeterli veriye sahip olup olmadığını, ya da kovaladığın örüntünün gerçek olup olmadığını hiç söylemez. Finans gibi düşük sinyalli alanlarda, „temsil edilebilir" ile „öğrenilebilir" arasındaki bu boşluk, tam olarak çoğu modelin öldüğü yerdir.

İnsanları şaşırtan bir gerçek şu: aktivasyon fonksiyonları olmadan derinlik değersizdir. Her katman düz bir ağırlıklı toplam olsaydı, on katmanı istiflemek matematiksel olarak tek bir katmanla aynı olurdu — doğrusal işlemler zinciri tek bir doğrusal işleme çöker. Süslü bir düz çizgi inşa etmek için bir servet hesaplama gücü harcamış olurdun. Aktivasyon fonksiyonları, katmanlar arasına yerleştirilen ve ağın bükülmesine izin veren doğrusal olmayan kıvrımdır, ve bükülme onu güçlü kılan şeydir.

Her uygulayıcının bilmesi gereken aktivasyonlar:

• Sigmoid — σ(x) = 1/(1+e⁻ˣ). Herhangi bir girdiyi (0, 1) aralığına sıkıştırır, ki bu doğal olarak bir olasılık gibi okunur. İkili bir çıktı için harika, ama gizli katmanların içinde kötü bir seçim: büyük pozitif veya negatif girdiler için eğri düzleşir, gradyanı sıfıra yaklaşır ve öğrenme durur — kaybolan gradyan problemi.
• Tanh — (−1, 1) aralığında çıktı verir ve sıfır merkezlidir, ki bu optimizasyona yardımcı olur. Uçlarda hâlâ doygunlaşır, ama sigmoid'den daha az sertçe.
• ReLU — f(x) = max(0, x). Gizli katmanlar için modern varsayılan. Gülünç derecede basit, hesaplaması ucuz ve tüm pozitif girdiler için sağlıklı bir gradyan tutar. Kusuru „ölen ReLU"dur: her zaman sıfır çıkaracak şekilde itilen bir nöron kalıcı olarak etkisiz hale gelebilir.
• Leaky ReLU — f(x) = max(0.01x, x). Negatifler için küçük bir gradyan sızıntısına izin verir, ki bu nöronların ölmesini engeller.
• GELU — BERT ve GPT gibi transformer'ların içinde standart olan, ReLU'nun düzgün, olasılıksal bir kuzeni.

Şimdiye kadar ağırlıklarla dolu bir ağımız var. Ama doğru ağırlık değerleri nereden geliyor? Kimse onları elle yazmıyor — milyonlarca var. Özünde matematiğin defter tutmayı yaptığı, organize deneme ve hatadan oluşan bir geri bildirim döngüsüyle bulunuyorlar.

Birinci adım ileri geçiş: bir örnek besle, katmanlar boyunca akmasına izin ver ve bir tahmin oku. İkinci adım, bu tahminin ne kadar yanlış olduğunu bir kayıp fonksiyonu kullanarak ölçmek. Bir sayı (bir fiyat) tahmin etmek için Ortalama Kare Hata, tahmin ve gerçek arasındaki karesi alınmış farkı ortalar. Sınıflandırma için çapraz entropi, tahmin edilen olasılıkların doğru cevaptan ne kadar uzakta olduğunu ölçer. Yüksek bir kayıp „çok yanlış" anlamına gelir; eğitimin tüm hedefi bu sayıyı düşürmektir.

Üçüncü adım zekice olan kısım: geri yayılım (backpropagation). Kalkülüsün zincir kuralını kullanarak algoritma, kayıptan başlayıp her katman boyunca geriye çalışır ve her tek ağırlık için bir gradyan hesaplar — „bu tek ağırlığı biraz yukarı dürtsem, hata yukarı mı aşağı mı gider, ve ne kadar?" sorusunun cevabı. Bu, AI kışını eritmiş numaradır. 1980'lerde popülerleşen backprop, milyonlarca ağırlık arasında tahmin etmek yerine sorumluluğu etkin bir şekilde dağıtmayı mümkün kıldı.

Dördüncü adım gradyan inişi: her ağırlığı, w = w − α × ∂L/∂w kuralını kullanarak, kaybı azaltan yönde küçük bir adım dürt. Sisli bir yamaçta durup vadi tabanına ulaşmaya çalıştığını düşün; dibi göremezsin ama ayaklarının altında hangi tarafın aşağı olduğunu hissedebilirsin, o yönde bir adım atarsın ve tekrar edersin. Öğrenme oranı α senin adım uzunluğundur ve muhtemelen tüm sistemdeki en önemli kadranıdır. Çok büyükse vadiyi aşarsın ve sonsuza kadar sıçrayıp durursun; çok küçükse sonsuza kadar sürünürsün veya yolun bir yerinde bir çukura sıkışırsın.

Hemen karşılaşacağın iki iyileştirme var. Mini-partiler: her tek örnekten sonra güncellemek (gürültülü) veya sadece tüm veri kümesinden sonra (yavaş) yerine, küçük bir parti — tipik olarak 32 ile 256 örnek arasında — sonra güncellersin, ki bu kararlı, GPU-dostu ve pratikte tatlı noktadır. Ve Adam: her ağırlığa kendi uyarlanabilir adımını veren ve gürültülü gradyanları düzeltmek için momentum ekleyen daha akıllı bir optimize edici. Adam, hemen hemen her projede başlamak için akıllıca bir varsayılandır — yine de finansta, düşük sinyal-gürültü oranıyla, öğrenme oranını, ağırlık sönümünü ve durma noktasını elle ayarlaman gerekecek.

İşte diğer her şeyden daha fazla finansal modeli mahveden başarısızlık modu. Bir sinir ağı öyle esnek bir fonksiyon-eşleştiricisidir ki, fırsat verildiğinde, eğitim verini olduğu gibi ezberler — tüm rastgele gürültüyü, tek seferlik şansları ve bir daha asla tekrarlanmayacak tesadüfleri de dahil. Gördüğü veri üzerinde muhteşem puan alır ve yeni bir şeyle karşılaştığı anda çöker. Bu aşırı uyum (overfitting)'dur, ve gerçek sinyalin zayıf, gürültünün sağır edici olduğu piyasalarda bu istisna değil, varsayılan sonuçtur. Buna karşı savaşan araçlara düzenlileştirme (regularization) denir.

Dropout en popüler olanıdır. Her eğitim adımında, her nöronun geçici olarak kapatılma olasılığı p vardır (genellikle 0,2–0,5). Rastgele takım arkadaşları sürekli kaybolurken çalışmaya zorlanan ağ, bilgisini birkaç kırılgan nörona bahis oynamak yerine birçok nöron arasında yaymayı öğrenir — tek bir modelin içine gömülü bir topluluk (ensemble) etkisi. Tahmin zamanında tüm nöronlar uygun şekilde ölçeklenerek geri açılır.

L1 ve L2 cezaları kayba büyük ağırlıklar üzerine bir vergi ekler. L2 (ağırlık sönümü), herhangi bir tek ağırlığın çok büyümesini caydırır, etkiyi eşit olarak yayar. L1 daha sivridir: kullanışsız ağırlıkları tamamen tam olarak sıfıra sürerek otomatik özellik seçimi yapar. Yüz özelliğinin çoğunun gürültü olduğu bir finansal veri kümesinde, L1 gerçekten sinyal taşıyan bir avuç dolusu özelliği sessizce bulabilir.

Toplu normalizasyon (batch normalization), her katmanın çıktılarını kararlı bir ortalama ve varyansa yeniden ölçekler, ki bu eğitimi dengeler ve daha yüksek öğrenme oranları kullanmana izin verir. Erken durdurma (early stopping) ise en basit ve en güvenilir koruyucudur: elde tutulan bir doğrulama kümesindeki hatayı izle, ve eğitim hatası düşmeye devam ederken bu hata yükselmeye başladığı anda dur — o kesişim noktası, ağın örüntüleri öğrenmekten gürültüyü ezberlemeye geçtiği kesin andır.

Düz ileri beslemeli ağlar her girdiyi yapısız bir sayı torbası olarak ele alır. Ama gerçek verilerin çoğunun yapısı vardır — bir görüntünün uzamsal düzeni, bir fiyat serisinin zamansal sırası vardır — ve iki özel mimari bu yapıyı doğrudan kullanır.

Evrişimli Sinir Ağları (CNN'ler) görüntüler için inşa edilmiştir. Her pikseli her nörona bağlamak yerine, bir CNN girdi üzerinde küçük filtreler kaydırır, yerel örüntüler avlar — burada bir kenar, orada bir doku — ve aynı filtreyi her yerde yeniden kullanır. İlk katmanlar kenarları yakalar; daha derin katmanlar bunları şekillere ve nesnelere birleştirir. Finansta araştırmacılar CNN'leri şunlara yönlendirdi:

• Mum grafik görüntüleri — grafik okumayı görsel bir örüntü tanıma görevi olarak yeniden çerçeveleme.
• Emir defteri ısı haritaları — piyasa derinliği anlık görüntülerinde arz/talep dengesizliklerini tespit etme.
• Ham fiyat dizileri üzerinde 1D evrişimler — bir görüntü CNN'inin uzamsal motifleri öğrendiği gibi kısa zamansal motifleri öğrenme.

Tekrarlayan Sinir Ağları (RNN'ler) diziler için inşa edilmiştir. Her adımdan bir sonrakine taşınan bir gizli durum — sürekli bir bellek — taşırken bir seferde bir zaman adımını işlerler. Teoride bu, onları zaman serileri için ideal kılar. Pratikte, sıradan RNN'ler uzun diziler boyunca kaybolan gradyan problemiyle sakat kalır: çok önceki adımlardan gelen sinyal geri yolda sıfıra doğru küçülür, bu yüzden ağ uzak geçmişi basitçe unutur.

Uzun Kısa Süreli Bellek (LSTM) ağları bunu, her adımda bellekten neyi sileceğine, neyi yazacağına ve neyi okuyacağına karar veren küçük bir öğrenilebilir kapı setiyle — unut, girdi ve çıktı — düzeltir. Bu kapılama, bir LSTM'nin yüzlerce adım boyunca ilgili bilgiyi tutmasına izin verir, ki bu yüzden dünün bir olayının hâlâ bugünün fiyatını hareket ettirdiği finansal zaman serilerini modellemek için bir iş atı haline gelmiştir.

import torch.nn as nn

class PricePredictor(nn.Module):
    def __init__(self, input_dim, hidden_dim, num_layers):
        super().__init__()
        self.lstm = nn.LSTM(input_dim, hidden_dim,
                            num_layers, batch_first=True,
                            dropout=0.2)
        self.fc = nn.Linear(hidden_dim, 1)

    def forward(self, x):
        out, _ = self.lstm(x)
        return self.fc(out[:, -1, :])

GaiaEx gibi bir platformda, WebSocket akışları sürekli fiyat ve emir defteri verisi yayınladığında, bir LSTM bu diziyi doğal olarak işleyebilir. Bununla birlikte, alan büyük ölçüde ilerlemiştir: modern dil modellerinin arkasındaki mimari olan transformer'lar, tüm zaman adımlarına bir seferde bakmak için „dikkat (attention)" kullanarak, onları teker teker geçmek yerine, artık birçok dizi görevinde LSTM'lerle eşleşiyor veya onları geçiyor.

Sinir ağları muhteşem örüntü bulucularıdır. Ama dürüst eğitim, nerede kırıldıklarını söylemek anlamına gelir — ve işlemde, maliyetli şekillerde kırılırlar.

• Hiç örüntü olmadığında bile örüntü bulurlar. Derin bir ağa gürültü ver, onu güvenle eşleştirecektir. Piyasalar büyük ölçüde gürültüdür, bu yüzden bir örüntünün geçen yılın verisinde sadece var olmadığını, gerçek ve kalıcı olduğunu göstermek sana kalır.
• Kara kutudurlar. Bir model doğru olabilir ve hâlâ sana neden olduğunu söyleyemez. Aniden para kaybettiğinde, sık sık temiz bir açıklama ve belirgin bir çözüm yoktur. Riske maruz kalan sermaye için „neden bunu yaptığını bilmiyorum" ciddi bir sorumluluktur.
• Açlar ve kırılgandırlar. Derin öğrenme milyonlarca temiz örnekle parlar. Finansal geçmiş kısa, durağan olmayan ve gürültülüdür — modelini eğiten rejim basitçe var olmayı bırakabilir, buna dağılım kayması denen bir sorun.
• Basit modelleri bedavaya yenmezler. Finansta yaygın olan tablo halindeki, özellik tabanlı verilerde, XGBoost gibi gradyan artırmalı ağaçlar sık sık sinir ağlarını geride bırakır, hem daha hızlı eğitilir hem de yorumlanması daha kolaydır. Karmaşıklık bir maliyettir, bir değer değil.
• Saldırıya açık olabilirler. Bir girdiye yapılan küçük, kasıtlı bozulmalar bir ağın çıktısını çevirebilir — bir düşmanca örnek (adversarial example) — ki bu, bir düşmanın modelinin gördüğü şeyi şekillendirebileceği her yerde önem taşır.

Sinir ağlarını eğitmek aritmetik açısından ağırdır — büyük ölçüde matris çarpımları — ve üzerinde çalıştığın donanım, yineleme hızını „bir gecede"den „bir kahve süresinde"ye değiştirir.

GPU'lar standarttır. Binlerce çekirdekleri hepsi aynı işlemi farklı veriler üzerinde aynı anda çalıştırır, ki bu tam olarak sinir ağı matematiğinin şeklidir. CPU'da 8 saat sürünen bir model, modern bir GPU'da 15 dakikada bitebilir. NVIDIA hakim: tüketici kartları (RTX sınıfı bir GPU) öğrenmek için yeterlidir, veri merkezi kartları (A100, H100) ve bulut örnekleri üretim ölçekli eğitimi ele alır. Google'ın tensor matematiği için özel çipleri olan TPU'lar, Google Cloud üzerinden çok büyük modellerde parlar, ama GPU'lar daha geniş yazılım desteği sayesinde çoğu uygulayıcı için pratik varsayılan olmayı sürdürür.

Başlamak için bir şey satın almana gerek yok. Google Colab, öğrenmek ve prototip yapmak için bol bol yeterli ücretsiz GPU süresi veriyor; modellerin büyüdükçe bulut GPU'larını talep üzerine kirala; kendi donanımını sadece günlük eğitim yaptığında ve bulut faturası bunu haklı çıkardığında satın al.

Buradan mantıklı bir öğrenme yolu:

• Birkaç mühendislik özelliği üzerinde düz bir ileri beslemeli ağla başla — hızlı eğitilir, kolay hata ayıklanır ve dürüst bir referanstır.
• Ham fiyat dizileri üzerinde 1D bir CNN dene ve o referansla kafa kafaya karşılaştır.
• GaiaEx'in API'sinden mum grafik verisi dizilerini tüketen bir LSTM inşa et.
• Dikkat (attention) ve transformer'ları çalış — diziler için giderek seçilen mimari.
• Her şeyden önce, derin modelini her zaman XGBoost gibi gradyan artırma referansına karşı test et. Sinir ağı tablo halindeki finansal verinde örneklem dışı basit modeli yenemiyorsa, basit modeli gönder ve devam et.

37. Hamleyi bulan aynı döngü — tahmin et, hatayı ölç, ağırlıkları dürt, tekrarla — bu listedeki her sistemin içinde çalışan döngüdür. O döngüyü anla, derin öğrenmeyi anlarsın; geri kalanı onun üzerine mimari ve mühendisliktir.