جميع المداخل

المتجهات والفضاءات المتجهية

يحوّل الذكاء الاصطناعي كل شيء — الكلمات والصور والأصوات — إلى قائمة أرقام

التدرّج والانحدار التدريجي

يتلخّص التعلّم العميق كله في أمر واحد: خطوة صغيرة نحو الأسفل

عمليات المصفوفات والتحويلات الخطية

ضرب المصفوفات ليس سلسلة من عمليات الضرب والجمع، بل إعادة كتابة للفضاء بأكمله دفعة واحدة

الاحتمال والتوزيعات الاحتمالية

لا يقدّم النموذج «جوابًا»، بل درجة ثقة لكل جواب ممكن

مبرهنة بايز

آمن قليلًا، ثم انظر إلى الدليل، ثم عدّل قليلًا — هذا هو بايز

الإنتروبيا ونظرية المعلومات

كلما كانت الجملة أكثر مفاجأة حملت معلومات أكثر، ودالة الخسارة في نموذج اللغة تقيس هذه المفاجأة نفسها

التعلّم بالإشراف

تُعلِّم أزواجُ السؤال والجواب النموذجَ أن يجيب من تلقاء نفسه

التعلّم بدون إشراف

في غياب الأجوبة، ينبغي أن تنبع البنيةُ من البيانات نفسها — ويجب إعادة تعريف معنى «الجيد»

دوال الخسارة

تحدّد دالة الخسارة ما تعاقب عليه فعلًا — وتغييرها يعني تغيير مفهومك للصواب والخطأ

الإفراط في التعلّم والتنظيم

يحفظ النموذج بيانات التدريب حرفيًا ثم يفشل في أي بيانات جديدة

تقييم النموذج والتحقق المتقاطع

الدقة هي أسهل مقياس يخدعك — وإن أخطأت في التقييم سقط كل ما بعده

المقايضة بين التحيّز والتباين

يتفكّك كل خطأ تنبؤ إلى ثلاثة أجزاء: نموذج بسيط أكثر من اللازم، ونموذج متقلّب أكثر من اللازم، وعشوائية العالم نفسه

العصبون والبرسبترون

أصغر قطعة في الشبكة العصبية: جمع موزون، وإزاحة، ولفتة واحدة من اللاخطية

الانتشار العكسي

تحويل «حساب التدرّج» من مشقّة رياضية إلى استدعاء دالة واحد — اللحظة التي انطلق فيها التعلّم العميق

دوال التنشيط

لولاها، لكانت أعمق شبكة مجرّد تحويل خطي واحد

الشبكات العصبية الالتفافية

استبدال الاتصال الكامل بـ«النظر محليًا وإعادة استخدام المسطرة نفسها في كل مكان» — الفكرة التي جعلت التعرّف على الصور ممكنًا

الشبكات العصبية المتكررة

منح الشبكة «ذاكرة»: وحدة واحدة تُعاد استخدامها عبر الزمن لمعالجة تسلسلات بأي طول

التطبيع والوصلات المتبقية

جعل شبكة بمئات الطبقات قابلة للتدريب فعلًا: ممرّ مطابق واحد وإعادة قياس في كل طبقة

الترميز إلى رموز (Tokenization)

لا تقرأ النماذج الحروف بل الرموز، وطريقة التقسيم تحدّد القدرة والكلفة بصمت

التضمينات اللفظية

تحويل الكلمات إلى إحداثيات: تتجمّع المترادفات تلقائياً ويصبح المعنى قابلاً للجمع والطرح

آلية الانتباه

يستطيع كل موضع أن ينظر مباشرة إلى جميع المواضع الأخرى ويوزّع الانتباه حسب الصلة

معمارية Transformer

يستبدل النقل كلمةً بكلمة بغرفة يتحدث فيها الجميع معاً، فتصبح التبعيات البعيدة على مسافة خطوة واحدة

التدريب المسبق والضبط الدقيق

تعلّم اللغة أولاً من نصوص ضخمة بلا وسوم ثم التخصص ببيانات قليلة — أكثر النماذج كفاءةً في البيانات

هندسة الأوامر والمواءمة

جعل النموذج مفيداً وصادقاً وغير ضارّ أصعب من مجرد تكبيره

التمثيل الرقمي للصورة

الصورة بالنسبة للآلة ليست سوى شبكات من الأرقام متراكبة

عمليات الالتفاف

قالب صغير يمسح الصورة كاملة ليكشف الحواف والملامح والأشكال

تصنيف الصور

لا تخبره بأن «للقطط شوارب» — اعرض عليه قططًا كافية وسيستنتجها بنفسه

كشف الأجسام

من «ما الذي في الصورة» إلى «ماذا وأين وكم العدد»

التجزئة الدلالية

تلوين كل بكسل: ليس إطارًا حول الجسم، بل دفتر تلوين

الرؤية ذاتية الإشراف والتعلّم التقابلي متعدد الوسائط

بلا وسوم: يتعلّم الرؤية باستنتاج أي الصور متطابقة

عملية قرار ماركوف

نكتب «اتخاذ القرار خطوة بخطوة» بخمسة رموز، ومن هنا يبدأ كل التعلّم المعزّز

دوال القيمة وتعلّم Q

بدل تخمين ما ينبغي فعله، احسب أولاً قيمة كل خيار

تدرّجات السياسة

عدّل السياسة مباشرةً ليتكرّر وقوع الأفعال الجيدة أكثر

الاستكشاف والاستغلال

الخيار الأفضل الآن ليس بالضرورة الأفضل على المدى الطويل

التعلّم المعزّز العميق

دع شبكة عصبية تقرّر من البكسلات مباشرة، مع تثبيتها بأفكار قديمة

التعلّم المعزّز من التغذية الراجعة البشرية

عندما يتعذّر كتابة «الإجابة الجيدة» كصيغة، دع البشر يقومون بدور دالة المكافأة

نظرة عامة على النماذج التوليدية

تجيب النماذج التمييزية عن «ما هذا»، بينما تجيب النماذج التوليدية عن «كيف ينبغي أن يبدو»

المرمّزات الذاتية والمرمّزات الذاتية التباينية

اضغط المعلومات عبر عنق زجاجة ثم أعِد إنماءها

الشبكات التوليدية التنافسية

مزوّر في مواجهة خبير: كل منهما يدفع الآخر إلى حدوده

نماذج الانتشار

تعلّم ألف خطوة صغيرة لإزالة الضوضاء، فتستطيع بناء صورة من ضوضاء صافية

الانتشار في الفضاء الكامن والتحكم الشرطي

أجرِ الانتشار لا على البكسلات بل داخل فضاء دلالي مضغوط

التوليد متعدد الوسائط

نموذج واحد يتعلّم الكلام والرسم والحركة، بل ونمذجة العالم ثلاثي الأبعاد

البنية التحتية للتدريب والاستدلال

تحدد الذاكرة حجم النموذج القابل للتدريب، ويحدد الاتصال المدة التي يستغرقها — ونادرًا ما تكون الحوسبة الخام هي عنق الزجاجة

ضغط النماذج

تصغير النموذج وتسريعه وتخفيض تكلفته دون خسارة كبيرة في الدقة — لكن الجمع بين الثلاثة نادر

تحسين الاستدلال وتقديم الخدمة

يحدث التدريب مرة واحدة، أما الاستدلال فمليارات المرات يوميًا — وسرعة التوكن الأول والإنتاجية تتعارضان غالبًا

التوليد المعزّز بالاسترجاع

بدل حشو المعرفة داخل المعاملات، اتركها في الخارج وارجع إليها عند الحاجة — كامتحان بكتاب مفتوح

الوكلاء واستخدام الأدوات

أن لا يجيب النموذج فحسب، بل يبحث ويستدعي الواجهات ويشغّل الشيفرة، ثم يقرّر الخطوة التالية بناءً على النتيجة

السلامة والمواءمة وحقن الأوامر

لا يحسّن النموذج ما نريده فعلًا، بل مؤشرًا بديلًا كتبناه في دالة الخسارة — والفجوة بينهما هي مشكلة المواءمة كلها