نافذة السياق هي أقصى كمية نص، بالرموز، يمكن لنموذج لغوي كبير معالجتها دفعة واحدة. تعرفوا على آلية عملها وحدودها وأهميتها للظهور في نتائج البحث بالذكاء الاصطناعي.

نافذة السياق هي أقصى كمية نص، تُقاس بالرموز، يمكن لنموذج لغوي كبير أخذها بعين الاعتبار دفعة واحدة عند توليد رد. كل شيء يُحتسب ضمنها: تعليمات النظام، رسالة المستخدم، أي سجل محادثة، المستندات المسترجعة، والإجابة التي ينتجها النموذج. عند بلوغ الحد، يجب إسقاط المحتوى الأقدم أو تلخيصه.
يمكن اعتبارها الذاكرة العاملة للنموذج وليست تخزينًا طويل الأمد. أي شيء خارج النافذة يكون ببساطة غير مرئي للنموذج في ذلك الطلب، ولهذا فإن حجم نافذة السياق وطريقة إدارتها يحددان فعليًا ما يمكن لمساعد الذكاء الاصطناعي فعله.
تحدد نافذة السياق كمية المعلومات التي يمكن للنموذج الاحتفاظ بها في آن واحد. إنها ليست ذاكرة دائمة، بل مساحة العمل النشطة لطلب واحد. عندما تتجاوز المحادثة أو مجموعة المستندات حجم النافذة، يقوم النظام إما بحذف الأجزاء الأقدم أو ضغطها في ملخص، لأن الرموز الخام لم تعد تتسع.
لهذا السبب قد يبدو أن روبوت المحادثة ينسى بداية محادثة طويلة. الرسائل الأولى تكون قد خرجت من النافذة ما لم يتم الاحتفاظ بها صراحة. فهم هذا الحد يفسر الكثير من كيفية ولماذا تتصرف مساعدات الذكاء الاصطناعي على النحو الذي تتصرف به.
تُقاس نوافذ السياق بـالرموز، وليس بالكلمات أو الأحرف. يمكن أن يكون الرمز حرفًا، أو جزءًا من كلمة، أو كلمة كاملة، أو رمزًا قصيرًا، ينتجه محلل رموز يستخدم عادة ترميز أزواج البايتات (byte-pair encoding). كقاعدة تقريبية، يعادل الرمز الواحد حوالي أربعة أحرف أو ثلاثة أرباع كلمة تقريبًا باللغة الإنجليزية، رغم أن ذلك يختلف حسب اللغة ومحلل الرموز.
نظرًا لأن الفوترة والحدود تُحتسب بالرموز، فإن نفس الفكرة معبراً عنها بإيجاز تستهلك مساحة أقل من النافذة مقارنة بنسخة مطولة. بالنسبة للمستندات الطويلة والمحادثات الطويلة، تحدد كفاءة استخدام الرموز مباشرة مقدار ما يتسع ومقدار المساحة المتبقية لاستدلال النموذج وردّه.
تعالج نماذج المحولات (Transformer) جميع الرموز في النافذة دفعة واحدة باستخدام آلية الانتباه، حيث يمكن لكل رمز نظريًا الانتباه إلى كل رمز آخر. هذه الآلية قوية لكنها مكلفة: يتوسع الانتباه بمربع طول التسلسل، لذا فإن 10,000 رمز يعني نحو 100 مليون مقارنة، بينما 100,000 رمز يعني نحو 10 مليارات.
هناك قيدان إضافيان يحددان السقف العملي. تنمو ذاكرة التخزين المؤقت للمفاتيح والقيم (key-value cache) مع كل رمز يُولّد وتستهلك ذاكرة معالج الرسوميات (GPU)، كما يصبح عرض النطاق الترددي للذاكرة بين الذاكرة السريعة والبطيئة عنق زجاجة. مجتمعةً، تفسر هذه العوامل سبب محدودية نوافذ السياق وسبب ارتفاع تكلفة تشغيل النوافذ الأكبر. التصميم الأساسي مشروح في معمارية المحولات.
نمت أحجام النوافذ بسرعة. عرضت إصدارات GPT-4 المبكرة 8,192 رمزًا، بينما يصل GPT-4o إلى 128,000. وقد وفّرت نماذج Claude 200,000 رمز، وفي الإصدارات الأحدث حتى 1,000,000، كما تم توثيق Gemini 1.5 Pro بما يصل إلى 2,000,000 رمز. النماذج المفتوحة مثل Llama 3.1 تدعم عادة 128,000.
هذه الأرقام هي حدود قصوى مُعلنة، وليست ضمانًا للجودة عبر النطاق بأكمله. تسمح النافذة الأكبر باستيعاب المزيد، لكن كما يوضح القسم التالي، استيعاب المزيد لا يعني أن النموذج يستخدمه جيدًا بالكامل. تأتي الأرقام هنا من مصادر موردين ومحللين منشورة وليست تقديرات.
تتراجع النوافذ الأكبر بطريقة موثقة. يعني تأثير "الضياع في المنتصف" (lost-in-the-middle) أن النماذج تنتبه جيدًا لبداية ونهاية المدخل لكنها تفقد الدقة بالنسبة للمعلومات الموجودة في الوسط. تشير التحليلات إلى فقدان جودة قابل للقياس في النماذج ذات السياق الطويل بدءًا من حوالي 32,000 رمز، ويمكن لنموذج بسعة 200,000 رمز أن يُظهر تراجعًا قبل بلوغ حده بوقت طويل.
الخلاصة العملية، كما يصفها الممارسون، هي عدم الوثوق بورقة المواصفات وإجراء اختبار مرجعي (benchmark) لحالة الاستخدام الفعلية عند الطول المستهدف. تحافظ السياقات الصغيرة والمركزة على انتباه أكثر ثباتًا من السياقات الكبيرة جدًا المحشوة بنص هامشي الصلة. يمكن للرموز الإضافية أن تضيف ضجيجًا يقلل من جودة الاستدلال.
نظرًا لأن النوافذ الأكبر مكلفة وغير مثالية، نادرًا ما تعتمد أنظمة الإنتاج عليها وحدها. يقوم التوليد المعزز بالاسترجاع بجلب المقاطع الأكثر صلة فقط وحقنها، مما يبقي التعليمة صغيرة ومركزة. يعيد التخزين المؤقت الدلالي استخدام الإجابات على استفسارات مشابهة، وتفصل أنظمة ذاكرة الوكلاء بين المحادثة قصيرة المدى والمعرفة طويلة المدى.
هذا أيضًا سبب أهمية تقطيع المحتوى بالنسبة للناشرين. تقسيم المحتوى إلى أقسام نظيفة ومكتفية ذاتيًا يسهل على نظام الاسترجاع سحب المقطع الصحيح إلى نافذة محدودة، بدلًا من إجبار النموذج على تصفح صفحة كاملة.
بالنسبة لتحسين المحركات التوليدية، تمثل نافذة السياق المساحة التي يتنافس فيها المحتوى داخل إجابة الذكاء الاصطناعي. عندما يسترجع مساعد مثل ChatGPT أو Perplexity أو Gemini مصادر، يدخل عدد محدود فقط من الرموز إلى النافذة، لذا فإن المقاطع الموجزة والمنظمة جيدًا التي تجيب مباشرة على السؤال أكثر ترجيحًا لأن تُستخدم.
هذا يكافئ التقطيع الواضح، والكتابة التي تبدأ بالإجابة، والصلة الدقيقة، وهي نفس المبادئ الكامنة وراء المحتوى الجاهز لنماذج اللغة الكبيرة. المحتوى الذي يهدر الرموز في حشو غير مفيد أقل احتمالًا للنجاة من الاسترجاع والتوليف، بينما المحتوى الذي يقدم الإجابة بإيجاز يكسب مكانه في النافذة، ومعه، فرصة للاستشهاد به.
نافذة السياق هي ميزانية الرموز التي يستخدمها النموذج لقراءة تعليمة وكتابة رد، وتعمل كذاكرة عاملة وليست تخزينًا دائمًا. وهي محدودة بتكلفة الانتباه وذاكرة التخزين المؤقت وعرض النطاق الترددي، وحتى النوافذ الكبيرة تعاني من تأثير "الضياع في المنتصف"، لذا فإن استيعاب المزيد لا يعني استخدام المزيد.
بالنسبة للناشرين، الدرس المستفاد هو كتابة محتوى موجز ومقطع جيدًا يبدأ بالإجابة وينجو من الاسترجاع إلى نافذة محدودة، بدعم من تقنيات مثل التوليد المعزز بالاسترجاع وتقطيع المحتوى النظيف. المصادر المرجعية: Redis وBitfern.
هي أقصى كمية نص، تُقاس بالرموز، يمكن لنموذج معالجتها في طلب واحد. تشمل تعليمة النظام، مدخلات المستخدم، سجل المحادثة، أي مستندات مسترجعة، والرد المولّد. تعمل كذاكرة عاملة، لذا فإن أي شيء يتجاوز الحد يُحذف أو يُلخّص ويصبح غير مرئي للنموذج.
لا. تتيح النافذة الأكبر استيعاب نص أكثر، لكن الدقة غالبًا ما تتراجع بسبب تأثير "الضياع في المنتصف"، حيث تنتبه النماذج جيدًا للبداية والنهاية لكنها تفوت المنتصف. تُظهر العديد من النماذج ذات السياق الطويل فقدانًا قابلًا للقياس في الجودة عند حوالي 32,000 رمز، لذا فإن اختبار حالة الاستخدام الفعلية أهم من الحد الأقصى المُعلن.
عندما يجيب مساعد ذكاء اصطناعي على سؤال، يدخل إلى نافذة سياقه عدد محدود فقط من الرموز من المصادر المسترجعة. المقاطع الموجزة والمنظمة جيدًا التي تجيب مباشرة على الاستعلام أكثر ترجيحًا لأن تُسحب وتُقتبس. المحتوى المحشو بحشو غير مفيد يهدر ميزانية الرموز وأقل احتمالًا للنجاة من الاسترجاع والتوليف.