GaiaExGaiaEx
كيف تعمل نماذج اللغة الكبيرة (LLM)
مطوّرالذكاء الاصطناعي والتعلم الآلي13 min read

كيف تعمل نماذج اللغة الكبيرة (LLM)

الـ Transformer، والانتباه، والبنية الكامنة خلف ChatGPT

مشاركة المنشورات

الآلة التي تخمّن فقط الكلمة التالية

في نوفمبر 2022، وصل روبوت محادثة يُسمّى ChatGPT إلى 100 مليون مستخدم في شهرين — أسرع منتج استهلاكي يُتبنّى في التاريخ. طلب الناس منه كتابة شيفرة، وصياغة عقود، وشرح فيزياء الكم، وتلخيص مكالمات الأرباح. بدا الأمر كأن الآلة تفهم ما يقولون.

هي لا تفهم. تحت المحادثة، يقوم نموذج اللغة الكبير بشيء بسيط بشكل مبالغ فيه، مليارات المرات: تخمين الكلمة التالية. اكتب «عاصمة فرنسا هي» ويُحدِّد النموذج احتمالية لكل رمز (token) محتمل تالٍ — تحصل «باريس» على نسبة عالية، و«موزة» على نسبة قريبة من الصفر — يختار واحدًا، يُضيفه، ويُخمِّن من جديد. تلك الحلقة، إذا شُغِّلت على نطاق ضخم، هي كل الحيلة.

فلماذا يكتب مُكمِّل تلقائي متمجِّد شيفرة Python عاملة ويمرّ امتحان المحاماة؟ لأن التنبؤ بالكلمة التالية بشكل جيد عبر الإنترنت بأكمله يفرض على النموذج استيعاب القواعد، والحقائق، وأنماط التفكير المنطقي، وبنية الشيفرة كأثر جانبي. ضغط نصوص العالم يبدو مطابقًا للكفاءة — حتى لا يكون، وهذا بالضبط حيث يهم هذا الدرس أكثر لأي شخص يُعرِّض رأس مال للخطر.

الرؤية الجوهرية: نموذج اللغة الكبير لا يملك قاعدة بيانات للحقائق ولا مفهومًا للصحيح والخاطئ. يملك نموذجًا إحصائيًا لـأي الكلمات تتبع أيّها عادة. لهذا يمكن أن يكون رائعًا وخاطئًا بثقة في نفس الجملة — ولهذا يجب عليك التحقق من كل رقم يُعطيك إياه عن سوق ما.
Autoregressive loop (schematic) Prompt tokens x₁ … xₜ Transformer next-token distribution Sample / argmax token t+1 Append token; repeat until stop rule Hallucinations still possible: verify facts outside the model
الاستدلال في نموذج اللغة الكبير تكراري: كل رمز جديد يُشرَط على كل ما سبقه.

الرموز (Tokens) والتضمينات (Embeddings)، ولماذا يرى النموذج أرقامًا

لا يرى النموذج أبدًا الحروف أو الكلمات كما تراها أنت. الخطوة الأولى هي الترميز (tokenization): يُقطَّع النص إلى رموز (tokens)، وهي عادة أجزاء من كلمات (subword). قد تكون كلمة «Bitcoin» رمزًا واحدًا؛ وقد تنقسم «Hyperliquid» إلى «Hyper» و«liqu» و«id». قاعدة تقريبية في الإنجليزية هي أن الرمز الواحد نحو أربعة أحرف، أو ثلاثة أرباع كلمة — لهذا يُقاس تسعير API وحدود السياق بالرموز، لا الكلمات.

يُخرَّط كل رمز بعد ذلك إلى قائمة طويلة من الأرقام تُسمّى تضمين (embedding) — متجه يضع الرمز في «فضاء معنى» عالي الأبعاد. تجلس الرموز ذات المعاني المرتبطة قريبة من بعضها: «ETH» و«Ethereum» و«ether» تتجمّع معًا؛ و«settlement» تجلس قريبة من «clearing». يتعلّم النموذج هذه الإحداثيات خلال التدريب حتى تستطيع الرياضيات على المتجهات أن تحلّ محل التفكير المنطقي حول اللغة.

هذا يهم عمليًا لثلاثة أسباب. أولاً، الترميز هو سبب سوء عدّ النماذج للحروف — اسأل كم حرف «r» في كلمة «strawberry» وقد يفشل النموذج، لأنه يرى رموزًا، لا حروفًا. ثانيًا، هذا سبب تصاعد التكاليف مع حجم النص. ثالثًا، هذا سبب أن تغذية النموذج بملف من 200 صفحة ليست مجانية — كل رمز في تلك الوثيقة يستهلك ذاكرة وحوسبة في كل خطوة من التوليد.

لماذا يهم هذا للمتداولين: يمكن لحدود الرموز أن تُشوِّه الرموز (tickers)، وعناوين العقود، والكسور العشرية. قد يقرأ النموذج «0.0005 BTC» كأجزاء منفصلة ويُعيد تجميعها بشكل خاطئ. عامِل أي رقم أو رمز أو عنوان يُولِّده نموذج اللغة الكبير كأمر غير مُتحقَّق منه حتى تُطابقه بالمصدر.

الـ Transformer والانتباه الذاتي

حتى 2017، كانت نماذج اللغة تقرأ النص كما تقرأ أنت جملة — من اليسار إلى اليمين، كلمة تلو الأخرى، باستخدام بُنى تُسمّى RNN وLSTM. كانت تُسلسِل الحوسبة وتنسى بداية مقطع طويل بحلول وصولها إلى النهاية. ثم قدّمت ورقة بحثية من Google بعنوان «Attention Is All You Need» بنية Transformer، وينحدر منها تقريبًا كل نموذج لغة كبير حديث.

اختراق Transformer هو الانتباه الذاتي (self-attention): كل رمز يستطيع النظر مباشرة إلى كل رمز آخر في التسلسل دفعة واحدة، بلا اعتبار للمسافة. لكل رمز يبني النموذج ثلاثة متجهات — استعلام (query) («عمّاذا أبحث؟»)، ومفتاح (key) («ماذا أُقدِّم؟»)، وقيمة (value) («المعلومة التي أحملها»). يُقيِّم استعلام كل رمز مقابل مفتاح كل رمز آخر، يُمرِّر تلك التقييمات عبر دالة سوفتماكس (softmax) لتحويلها إلى أوزان، ويمزج القيم وفقًا لذلك. بعبارة مبسَّطة: تتعلّم كلمة «he» أن تُوجِّه انتباهها إلى الاسم الذي تشير إليه، حتى لو كان عشرين كلمة إلى الخلف.

يُشغِّل الانتباه متعدد الرؤوس (multi-head attention) عدة خرائط انتباه بالتوازي، حتى تتخصّص «رؤوس» مختلفة — أحدها يتتبّع القواعد، وآخر يتتبّع الإشارات البعيدة، وثالث يتتبّع الأرقام. ولأن الانتباه بمفرده أعمى عن ترتيب الكلمات، يُضيف النموذج معلومات موضعية حتى لا تُقرأ «Alice تدفع لـBob» مثل «Bob يدفع لـAlice». كوِّم عشرات من هذه الطبقات، درِّب على تريليونات الرموز، وستحصل على نموذج يتعامل مع السياق بسلاسة مذهلة.

لماذا فاز هذا: يسمح الانتباه بمعالجة التسلسل كاملاً بالتوازي بدلاً من خطوة تلو الأخرى. ذلك التوازي هو السبب العملي في نجاح Transformer على معالجات GPU الحديثة حيث تعثّرت RNN — الحوسبة والبيانات الأكثر تشتريان قدرة أكبر بشكل موثوق.

يبقى محذور واحد ينجو من كل هذه الهندسة: تكلفة الانتباه تتصاعد تقريبًا مع مربع طول الإدخال. مضاعفة السياق يمكن أن تُربِّع الذاكرة وزمن الاستجابة. تُخفِّف نماذج السياق الطويل من عدد المرات التي تحتاج فيها إلى تقطيع الوثائق إلى أجزاء — لكنها لا تجعل معالجة تلك الوثائق مجانية.

التدريب المسبَق، والتخصيص الدقيق، والمواءمة

يُبنى المساعد النهائي على مراحل، وتفعل كل مرحلة شيئًا متميّزًا.

التدريب المسبَق (Pre-training) هو الجزء المكلف. يقرأ النموذج مجموعة نصوص هائلة — صفحات ويب، كتب، شيفرة، وثائق — ولا يفعل شيئًا سوى تقليل خطأ الرمز التالي، مرارًا وتكرارًا، لأسابيع عبر آلاف معالجات GPU. النتيجة نموذج أساسي (base model): محرك إكمال نص خام استوعب القواعد والحقائق وأنماط التفكير المنطقي لكنه بلا آداب. اسأله سؤالاً وقد يُكمل بثلاثة أسئلة أخرى، لأن هذا ما يفعله الإنترنت غالبًا.

التخصيص الدقيق الخاضع للإشراف (SFT) يُعلِّم السلوك. أمثلة مكتوبة بشريًا لأزواج استعلام-إجابة جيدة تُظهر للنموذج كيف يجب أن يستجيب المساعد — مختصرًا، مركّزًا، بالتنسيق الصحيح. هنا يبدأ متنبّئ النص بالتصرّف كأداة مفيدة.

التعلّم التعزيزي من ملاحظات البشر (RLHF) هو التلميع. يُصنِّف البشر (أو نماذج أخرى) الإجابات المتنافسة، ويُحسَّن النموذج نحو الاستجابات التي يفضّلها الناس. الهدف الشائع هو معيار «3H» — مفيد، صادق، وغير ضار (helpful, honest, harmless). هذه المرحلة هي سبب رفض النموذج للطلبات الخطِرة وتحوّطه بشأن أشياء لا ينبغي أن يزعم معرفتها. وهي أيضًا سبب أن النموذج الأساسي نفسه قد يبدو مختلفًا جدًا بين المزوِّدين المختلفين: طريقة المواءمة، لا الأوزان الخام، هي التي تُشكِّل الشخصية.

Typical training stack (simplified) Pre-train Web, code, books → next-token loss Base model weights SFT Demonstrations / instructions Instruction-tuned model Preference / RL Rankings, rewards, policy opt. Deployed assistant policy Evals + red-team + monitoring — not shown as a single loss term Vendor pipelines differ; the diagram is structural, not a literal recipe
تجلس مراحل المواءمة فوق التدريب المسبَق؛ تجلس الحوكمة والتقييمات خارج حلقة الخسارة الأساسية.

نوافذ السياق، والذاكرة، والاسترجاع

حقيقتان عن ذاكرة نموذج اللغة الكبير تُفاجئ تقريبًا كل شخص، وكلتاهما تهمّان في بناء أي شيء حقيقي.

أولاً، نافذة السياق (context window) سقف صارم لكمّية النص التي يستطيع النموذج اعتبارها دفعة واحدة — الاستعلام زائد الإجابة معًا، مُعدودَين بالرموز. تُقدِّم النماذج الحديثة نوافذ كبيرة (عشرات الآلاف إلى أكثر من مليون رمز)، ما يتيح لها قراءة وثائق أو قواعد شيفرة كاملة. لكن يجب أن يتلاءم كل شيء داخل تلك النافذة لاستجابة واحدة، وتتراجع الجودة غالبًا في وسط المدخلات الطويلة جدًا — ما يُسمّى تأثير «الضياع في الوسط».

ثانيًا، لا يملك نموذج اللغة الكبير ذاكرة بين الاستدعاءات. النموذج لا «يتذكّر» محادثتك الأخيرة. تُنشئ تطبيقات المحادثة وهم الذاكرة بإعادة إرسال المحادثة السابقة كجزء من كل استعلام جديد. أغلق التبويب، وتفقد الخيط. أي شيء يجب أن يستمر — محفظة مستخدم، قرارات سابقة، حالة حساب — يجب عليك تخزينه أنت وتغذيته مجددًا.

هنا يأتي التوليد المعزَّز بالاسترجاع (RAG). بدلاً من الأمل بأن يكون النموذج قد حفظ حقيقة خلال التدريب، تجلب وثائق ذات صلة وقت الاستعلام — عادة من قاعدة بيانات متجهية تُطابِق حسب المعنى — وتُلصق أكثر الفقرات صلة داخل الاستعلام. RAG هو كيف يُجيب النموذج على أسئلة حول وثائقك الخاصة، أو أخبار اليوم، أو بيانات لاحقة لتاريخ توقّف تدريبه. الأمر الحاسم: RAG يُؤسِّس الإجابات لكن لا يضمنها: إذا جلب الاسترجاع الفقرة الخاطئة، سيُلخِّص النموذج بثقة الفقرة الخاطئة.

النموذج العقلي: نموذج اللغة الكبير محلِّل عبقري بلا دفتر ملاحظات ومكتب ثابت الحجم. يستطيع التفكير بمهارة في أي شيء تضعه على المكتب الآن — لكنه ينسى لحظة انصرافك، ولا يستطيع رؤية أي شيء لم تُسلِّمه له.

نماذج اللغة الكبيرة ووكلاء الذكاء الاصطناعي في العملات الرقمية

تغرق الأسواق في نصوص غير مُنظَّمة: تقارير، ونصوص مكتوبة، ومنتديات حوكمة، ودردشة Discord، وعناوين تُحرِّك السعر في ثوانٍ. هذه بالضبط المادة الخام التي تتميّز بها نماذج اللغة الكبيرة في هضمها. تتجمّع الاستخدامات الحقيقية القائمة حاليًا في عدة أنماط:

  • تتبّع المشاعر والسرديات — تصنيف إن كان فيض العناوين أو المنشورات الاجتماعية يميل صعوديًا أو نزوليًا، والتقاط السردية التي تسخن قبل أن تظهر في السعر.
  • التلخيص والبحث — ضغط ورقة بيضاء من 90 صفحة، أو مقترح حوكمة طويل، أو نص مكالمة أرباح إلى موجز قابل للقراءة، مع إبقاء المصدر متاحًا للتحقق.
  • الانضمام والدعم — شرح رسوم الغاز، أو الانزلاق السعري، أو كيفية عمل عقد دائم بلغة سهلة، خفض الحاجز الذي يُخيف الوافدين الجدد عن دخول عالم العملات الرقمية.
  • الاستخراج المُنظَّم — سحب الكيانات، والتواريخ، والأرقام من نصوص فوضوية إلى JSON نظيف يمكن للشيفرة اللاحقة استخدامه فعليًا.

الحدّ الأقصى هو وكلاء الذكاء الاصطناعي: نماذج لغة كبيرة موصولة بأدوات فتستطيع التصرّف، لا الحديث فقط. يستطيع الوكيل استدعاء واجهة API للأسعار، ووضع أمر، وإعادة توازن محفظة، أو مراقبة مركز من مخاطر التصفية القسرية. تجعل معايير ناشئة هذا أكثر أمانًا — يُقدِّم بروتوكول سياق النموذج (MCP) للوكلاء طريقة موحّدة للاتصال بمصادر البيانات والأدوات، وتسمح تفويضات النية المُوقَّعة تشفيريًا للوكيل بأن يُبرهن أنه مُفوَّض لعملية محددة ضمن حد إنفاق. تُصبح العملات المستقرة بشكل متزايد قناة التسوية لمدفوعات الوكيل-إلى-الوكيل، فكرة ناشئة تُسمّى غالبًا «التجارة الوكيلية».

لكن الوكيل يُضاعِف نطاق أثر الخطأ. روبوت محادثة يهلوس يُعطيك جملة خاطئة؛ وكيل يهلوس يمكن أن يُقدِّم أمرًا خاطئًا. القاعدة المُكتسبة بمشقة: النموذج يقترح، بينما شيفرة حتمية تتحكم بها أنت يجب أن تتحقق وتُنفِّذ. قيِّد المخرجات بمخطط صارم، وفرِض حدود مركز ومخاطر لا يستطيع النموذج تجاوزها، وأبقِ مفاتيح API خارج المحادثات (prompts)، وسجِّل كل استعلام واستجابة للتدقيق.

# Sketch: sentiment helper — validate JSON and bounds in application code
import json

def sentiment_from_headlines(client, model: str, headlines: list[str]) -> dict:
    raw = client.chat.completions.create(
        model=model,
        messages=[
            {"role": "system", "content": "Return compact JSON: sentiment_score [-1,1], themes[]."},
            {"role": "user", "content": "\n".join(headlines)},
        ],
    )
    data = json.loads(raw.choices[0].message.content)
    assert -1 <= float(data["sentiment_score"]) <= 1   # never trust the model's bounds
    return data
Agent loop with a hard safety boundary LLM reasons proposes a tool call Your code validates schema · risk limits · auth Tool / exchange API price · order · balance Result returns to the model; loop continues The model never touches keys or bypasses risk checks A hallucinated step is caught at the validation gate, not at the exchange
في وكيل تداول، النموذج يقترح فقط. شيفرة حتمية تفرض التصريح وحدود المخاطر قبل وصول أي شيء إلى البورصة.

الهلوسة والحدود التي لا يمكن تجاهلها

الهلوسة هي توليد النموذج نصًا سلسًا وواثقًا بينما هو خاطئ بكل بساطة — استشهاد مُلفَّق، معطى API مُبتكَر، سعر معقول ولكنه خاطئ. ليست خللاً يمكن ترقيعه بالكامل؛ بل نتيجة مباشرة لطريقة عمل النموذج. يُدرَّب النموذج على توليد نص محتمل، وإجابة خاطئة تبدو واثقة غالبًا أكثر احتمالاً من «لا أعرف» الصادقة. تُصوِّر أبحاث حديثة الأمر بصراحة: تهلوس النماذج جزئيًا لأن التدريب والتقييم يُجزيان التخمين على الاعتراف بعدم اليقين.

أنماط الفشل التي ستُصادفها فعليًا:

  • تاريخ توقّف المعرفة — تنتهي بيانات التدريب في تاريخ معيّن. بدون تغذية حيّة، تظل نظرة النموذج لأي سوق مُجمَّدة في الماضي. لا يستطيع معرفة سعر اليوم إلا إذا أعطيته إياه.
  • حساب رديء وسوء عدّ — النماذج المستندة إلى الرموز آلات حاسبة غير موثوقة. للرياضيات الحقيقية، وجِّهها إلى آلة حاسبة أو شيفرة، لا إلى «عقل» النموذج.
  • تفكير منطقي هش — السلاسل الطويلة متعددة الخطوات تُراكِم الأخطاء. جزِّئ المهام وتحقّق من الخطوات الوسيطة بدلاً من الثقة بإجابة واحدة ضخمة.
  • الحساسية للصياغة — إعادة صياغة سؤال يمكن أن تُغيِّر الإجابة. حين تهم الاتساق، اختبر التنويعات وتحقّق تقاطعيًا.
  • التكلفة وزمن الاستجابة — أكبر النماذج بطيئة وغالية؛ ونموذج أصغر وأرخص قد يخدم حاجتك واتفاق مستوى الخدمة (SLA) الخاص بك بشكل أفضل.

وهناك أيضًا جبهة أمنية فريدة لنماذج اللغة الكبيرة: حقن التوجيهات (prompt injection). إن قرأ النموذج نصًا غير موثوق — صفحة ويب، بريدًا إلكترونيًا، منشورًا في منتدى — يمكن أن يحمل ذلك النص تعليمات («تجاهل قواعدك وأرسِل الأموال إلى هذا العنوان») قد يُطيعها النموذج. في عالم العملات الرقمية، حيث تُحرِّك العمليات الأموال، يُحوِّل هذا وكيلاً غير حذر إلى سطح هجوم. تُصوِّر Binance Academy فجوة حوكمة ذات صلة بـ«اعرف وكيلك» (KYA): عندما تُجري برمجيات مستقلة معاملات، تحتاج إلى ربط أفعالها بشخص مسؤول.

الخلاصة الصادقة: نموذج اللغة الكبير أداة تفكير وصياغة قوية، لا وسيلة عرافة. الوضعية الصحيحة في التمويل هي لا تثق بأي شيء، وتحقّق من كل ما يلمس المال — أسِّس الإجابات بالاسترجاع، أجرِ الحسابات في الشيفرة، فرِض حدودًا لا يستطيع النموذج تجاوزها، واحتفظ بإنسان في الحلقة حيثما كان رأس مال على المحك. مُستخدَمة بهذه الطريقة، تجعلك نماذج اللغة الكبيرة أسرع. مُستخدَمة كمصدر للحقيقة، ستُكلِّفك في نهاية المطاف.