سلسلة الألعاب — كن أنت النموذجمختبر ABL · أربع ألعاب تشرح النموذج اللغوي بيدك

قبل البداية توزيعات محضّرة للتعليم

أربع ألعاب قصيرة… وأنت النموذج اللغوي

كل ما يفعله النموذج اللغوي ستفعله هنا بيدك: تتنبأ، توزّع الانتباه، تضبط الحرارة، وتدير دورة الكتابة. نحو دقيقتين ونصف من اللعب، وكل لعبة يمكن تخطّيها.

١كن النموذج وخمّن ٢وزّع عملات الانتباه ٣اضبط الحرارة ٤أدر الدورة بيدك
١/٤

خمّن الكلمة التالية قبل أن ترى ترجيح النموذج — ثلاث جمل. تلميح: انقر الكلمة التي تتوقعها.

أرقام توضيحية محضّرة
التنبؤ بالكلمة التالية (next-token prediction). النموذج لا «يعرف» الجواب — يحسب توزيعاً احتمالياً على المرشحين ويرجّح، تماماً كما رجّحتَ أنت من ذاكرة ما قرأت. النسب هنا محضّرة للتعليم؛ النماذج الحقيقية تحسبها من مليارات الأوزان المضبوطة بالتدريب.
٢/٤

وزّع عملات الانتباه العشر على الكلمات حتى يتّضح معنى «عين» فوق ٦٥٪. تلميح: انقر كلمةً لتضع عليها عملة، وزر «−» لاستعادتها. «عين» نفسها لا تُنقر — هي التي تسأل.

حساب حقيقي: مزج التوزيعات بعملاتك
عملاتك:
الانتباه (attention). عملاتك هي «أوزان الانتباه»: كم تستمد الكلمة الغامضة من كل جارة لتعرف نفسها. المزج الذي رأيته حساب حقيقي — متوسط موزون بعملاتك فوق توزيع أدلة محضّر لكل كلمة — والنموذج الحقيقي يتعلم مواضع «العملات» بنفسه لكل كلمة في كل جملة.
٣/٤

حرّك الحرارة وولّد جملاً حتى تحصل على ثلاث جمل سليمة ومتنوعة متتالية. تلميح: اسحب المقبض ثم اضغط «ولّد جملة». جرّب الطرفين أولاً لترى التكرار والهذيان.

حساب حقيقي: softmax بالحرارة + سحب عشوائي فعلي
٠٫٨
الحرارة
٠ تكرارنطاق سليم؟٣ هذيان
شريط النطاقات تقريبي توضيحي — الحكم الحقيقي هو الجمل الناتجة
ثلاث جمل سليمة متنوعة متتالية = النطاق الحلو
الحرارة (temperature) في الاعتيان (sampling). قبل تحويل الدرجات إلى نسب (softmax) تُقسم على الحرارة: صفر يجعل الأرجح يفوز دائماً (تكرار)، وحرارة عالية تنعّم التوزيع حتى يُسحب النادر السخيف (هذيان). القسمة وsoftmax والسحب العشوائي هنا حقيقية كلها — فوق قائمة مرشحين محضّرة لكل موضع.
٤/٤

أنت السير الناقل: اسحب الكلمة الفائزة وألحقها بنهاية الجملة — سبع مرات — لتستمر الكتابة. تلميح: اسحب البطاقة البنفسجية إلى الفراغ المنقّط (أو انقرها نقرتين). إن أفلتَّها، تتوقف الكتابة.

الاختيار سحب عشوائي حقيقي من توزيع محضّر
التوليد الانحداري الذاتي (autoregressive generation). كل كلمة مختارة تُلحَق بالمدخل ويُعاد التنبؤ من جديد: توزيع ← اختيار ← إلحاق ← توزيع. هذه الدورة هي التي «تكتب» — كنتَ أنت محرّكها. توزيعات المرشحين هنا محضّرة بالتسلسل، والاختيار منها سحب عشوائي حقيقي.
+ + + =النموذج اللغوي

لعبتَه كلَّه بيدك.

تنبّأتَ بالكلمة التالية (١)، ووزّعتَ أوزان الانتباه بعملاتك (٢)، وضبطتَ حدّة الترجيح بالحرارة (٣)، ثم أدرتَ دورة الإلحاق التي تكتب الكلام كلمة كلمة (٤). النموذج الحقيقي يفعل هذا نفسه — بمليارات الأوزان وسرعة لا تُرى. انقر أي ركن لتعيد لعبته.

أزرق: احتمال / ترجيح كهرماني: عملات الانتباه (أوزان) فيروزي: سليم / نجاح بنفسجي: الكلمة الفائزة في الدورة أحمر خافت: هذيان