الحقيقة العارية

أوزان بدل عدّادات توضيح مبسّط

النماذج الكبيرة لا تحفظ جدول عدّ مثل نموذجنا؛ ملايين الملايين من المقادير (الأوزان) تتعدّل أثناء التدريب شيئا فشيئا حتى تعطي ترجيحات جيدة — كيدَي طبّاخ تضبطان الملح بالتذوق المتكرر، لا بجدول مكتوب.

سياق أطول بكثير

نموذجنا ينظر إلى آخر كلمتين فقط. النماذج الكبيرة ترى آلاف الكلمات دفعة واحدة، وتَزِن أهمية كل كلمة بعيدة للكلمة القادمة — وهذا ما يسمّونه الانتباه.

تعميم لا استرجاع

لأنها ضغطت الأنماط في أوزان، تستطيع إكمال تراكيب لم ترها حرفيا قط. نموذجنا يعجز عن ذلك بصدق — رأيتَه يقول «لم أرَ هذا قط». الفكرة واحدة: توقّع الكلمة التالية؛ الفرق الجوهري هو الحجم وطريقة خزن الخبرة.