PyTorch کی بنیادیں: ماڈلز بنانا اور ٹرین کرنا

PyTorch ڈیفالٹ طور پر eager ایگزیکیوشن استعمال کرتا ہے: tensors Python آپریشنز سے گزرتے ہیں اور آپ عام ڈیٹا کی طرح پرنٹ، سلائس، اور ڈیبگ کر سکتے ہیں۔ یہ مالیات میں اہم ہے، جہاں آدھا کام فیچرز کے گندے پینلز کو ری شیپ کرنا اور یہ تصدیق کرنا ہے کہ کوئی look-ahead اس tensor میں نہیں گھسا جسے آپ ماڈل کو کھلاتے ہیں۔

اسے پرانے "ایک static گراف بنائیں، پھر ایک سیشن چلائیں" ورک فلو کے مقابلے میں رکھیں۔ محققین اب بھی ماڈلز کو ڈیپلائمنٹ کے لیے ایکسپورٹ کرتے ہیں، مگر روزانہ کے کام کو فوریت سے فائدہ ہوتا ہے: ایک لیئر بدلیں، ایک سیل دوبارہ چلائیں، ایکٹیویشنز کا معائنہ کریں۔

ایک tensor ایک بہت جہتی array ہے؛ requires_grad=True ان پتوں کو نشان زد کرتا ہے جن کے لیے آپ derivatives چاہتے ہیں۔ Autograd ایک بیک ورڈ گراف بنانے کے لیے آپریشنز ریکارڈ کرتا ہے تاکہ loss.backward() پیرامیٹرز پر .grad کو بھرے۔

import torch
x = torch.randn(32, 10, requires_grad=True)
w = torch.randn(10, 1, requires_grad=True)
y = (x @ w).mean()
y.backward()
print(w.grad.shape)

Tensors کو cuda یا mps پر رکھیں جب دستیاب ہو؛ ڈیوائس پلیسمنٹ کو مستقل رکھیں تاکہ آپ حادثاتی طور پر ہر قدم چھوٹی tensors کو آگے پیچھے نہ حرکت دیں۔

nn.Module کو سب کلاس کریں، __init__ میں لیئرز متعین کریں، اور انہیں forward میں جوڑیں۔ رجسٹریشن یقینی بناتی ہے کہ پیرامیٹرز آپٹیمائزرز کے لیے model.parameters() میں ظاہر ہوں۔

import torch.nn as nn

class MLP(nn.Module):
    def __init__(self, n):
        super().__init__()
        self.net = nn.Sequential(
            nn.Linear(n, 64), nn.ReLU(), nn.Linear(64, 1)
        )
    def forward(self, x):
        return self.net(x)

سیکوینس ماڈلز کے لیے، nn.LSTM اور nn.TransformerEncoder لیئرز عام ہیں؛ ٹیبولر الفا کے لیے، MLPs اور gradient boosting ابھی بھی مقابلہ کرتے ہیں — validation ضبط سے چنیں، رجحان سے نہیں۔

تربیت جانتے بوجھتے تکراری ہے: forward، loss، zero grad، backward، step۔ اضافی چیزیں اہم ہیں: model.train() بمقابلہ model.eval() dropout اور batch norm کو ٹوگل کرتے ہیں؛ torch.no_grad() میموری بچانے کے لیے validation کو لپیٹتا ہے۔

فیچرز اور لیبلز کو مادی بنانے کے لیے Dataset کو سب کلاس کریں؛ batching کے لیے DataLoader سے لپیٹیں۔ تاریخی ترتیب والے ڈیٹا کے لیے، عام طور پر validation پر shuffle=False رکھیں اور اکثر تربیت پر بھی اگر آپ متصل ونڈوز کاٹتے ہیں — ورنہ آپ معلومات کو وقت پر پھیلا دیتے ہیں۔

اگر آپ GaiaEx یا اسی طرح کی فیڈز سے ٹِک ڈیٹا پر تربیت کرتے ہیں، بارز کو ایک واحد گھڑی کے ساتھ ہم آہنگ کریں، missing prints کو واضح طور پر ہینڈل کریں، اور اپنے فیچر کوڈ کو ماڈل چیک پوائنٹ کے ساتھ ورژن کریں۔

کم-تاخیر انفرنس کے لیے، ٹیمیں اکثر ماڈل کو trace یا script کرتی ہیں، پھر اسے ایک C++ رن ٹائم یا سائیڈ کار سروس میں چلاتی ہیں۔ تربیتی ماحول (لائبریری ورژنز) کو اسی سے پن کریں جو آپ نے ایکسپورٹ کے لیے استعمال کیا۔

PyTorch Lightning اور اسی طرح کے فریم ورکس multi-GPU تربیت اور لاگنگ کے لیے boilerplate کم کرتے ہیں؛ وہ محتاط فیچر ڈیزائن کی جگہ نہیں لیتے۔ ٹریڈنگ میں برتری عام طور پر ڈیٹا نظافت اور رجیم آگہی سے آتی ہے، تھوڑے شاندار آپٹیمائزر سے نہیں۔