كيف يعمل ChatGPT: النموذج اللغوي، والتدريب المسبق، والملاحظات البشرية، والرموز، ونافذة السياق، والبحث في الويب، والحدود، وكيف يستشهد بك.

باختصار
ChatGPT مساعد مبني على نموذج لغوي كبير، أي شبكة عصبية من نوع transformer دُربت على كميات هائلة من النصوص لتتنبأ بالجزء التالي من الجملة. ثم ضُبط بالملاحظات البشرية ليتبع التعليمات ويجيب بطريقة مفيدة. عندما ترسل رسالة، يقسم النص إلى رموز (tokens)، ويقرؤه مع المحادثة داخل نافذة السياق، ويكتب الإجابة رمزا بعد رمز. وفي الأسئلة الحديثة أو الواقعية، يستطيع أيضا البحث في الويب والاستشهاد بالصفحات التي استخدمها.
هل تريد التعمق أكثر؟ اسأل
فهم كيف يعمل ChatGPT يفسر نقاط قوته وأخطاءه معا، ويوضح ما الذي يجعل موقعا مرشحا للاستشهاد به في إجاباته. أطلقت OpenAI ChatGPT في نوفمبر 2022، واسمه مأخوذ من GPT أي Generative Pre-trained Transformer.
يعمل ChatGPT على نموذج لغوي كبير (LLM). النموذج اللغوي الكبير نموذج إحصائي يضم مليارات المعاملات، تعلّم من النصوص العلاقات بين الكلمات والحقائق والأساليب. يحتفظ بأنماط تعلمها من تلك النصوص ويستخدمها لإنتاج تتمة معقولة لأي نص، ولا تُحفظ الصفحات نفسها كما هي.
بنيته هي transformer، التي قدمها باحثون في Google في ورقة Attention Is All You Need عام 2017. آليتها الأساسية، الانتباه (attention)، تتيح للنموذج أن يزن كل كلمة في المدخلات مقابل كل الكلمات الأخرى، فيفهم أن الضمير "هو" يعود إلى اسم ورد قبل ثلاثة أسطر.
يقرأ النموذج مجموعة نصوص ضخمة جدا (صفحات ويب عامة، وكتب، وشيفرات برمجية، وبيانات مرخصة) ويتعلم مهمة واحدة: التنبؤ بالرمز التالي. تكرار هذه المهمة البسيطة مليارات المرات يجبره على تعلم القواعد والحقائق وأنماط الاستدلال ولغات كثيرة. والنتيجة متنبئ نصوص قوي لا يتبع التعليمات جيدا بعد.
يكتب أشخاص أمثلة على إجابات جيدة لطلبات مختلفة، ويُدرَّب النموذج على محاكاتها. فيتعلم شكل المساعد المفيد: الإجابة عن السؤال، وتنظيم الرد، وطلب التوضيح عند الحاجة.
يقارن مقيّمون عدة إجابات عن الطلب نفسه ويرتبونها. يتعلم نموذج مكافأة هذه التفضيلات، ثم يُحسَّن النموذج اللغوي لإنتاج إجابات تنال تقييما عاليا. وصفت OpenAI هذه الطريقة، المسماة RLHF، في ورقتها البحثية عن InstructGPT. وهي ما يجعل ChatGPT مهذبا ومنظما وأكثر حذرا أمام الطلبات الضارة.
| الخطوة | ما يفعله ChatGPT | لماذا يهم ذلك |
|---|---|---|
| 1. التقسيم إلى رموز | يقسم نصك إلى رموز (كلمات أو أجزاء كلمات) | تُحسب الحدود والتكاليف بالرموز |
| 2. السياق | يضيف التعليمات والذاكرة والرسائل السابقة إلى نافذة السياق | لا يرى النموذج إلا ما يتسع في هذه النافذة |
| 3. قرار البحث | يقرر هل يحتاج السؤال إلى معلومات حديثة من الويب | يؤدي إلى الاستشهاد بصفحات خارجية |
| 4. الاسترجاع | يجري عمليات بحث، ويقرأ أكثر الصفحات صلة، ويستخرج مقاطع | هنا يتم اختيار المواقع |
| 5. التوليد | يتنبأ بالإجابة رمزا بعد رمز | كل كلمة تعتمد على كل ما سبقها |
| 6. الاستشهاد | يربط المصادر المستخدمة بكل جزء من الإجابة | يجلب زيارات ومصداقية للمواقع المستشهد بها |
| 7. فحوص الأمان | يطبق سياسات الاستخدام والمرشحات | تُرفض بعض الإجابات أو يعاد صياغتها |
الرمز قطعة من النص: في الإنجليزية يعادل الرمز في المتوسط نحو أربعة أحرف، أي ثلاثة أرباع كلمة، وفي العربية تحتاج الكلمة غالبا إلى رموز أكثر. نافذة السياق هي عدد الرموز التي يستطيع النموذج أخذها في الاعتبار دفعة واحدة، بما في ذلك المحادثة والمستندات وصفحات الويب التي يقرؤها. وعندما تطول المحادثة كثيرا، تخرج أقدم أجزائها من مجال الرؤية.
في كل خطوة، يحسب النموذج احتمالا لكل رمز ممكن ويختار واحدا منها، مع قدر مضبوط من العشوائية. لهذا قد يتلقى السؤال نفسه إجابات مختلفة قليلا، ولهذا يكتب ChatGPT بطلاقة حتى عندما يخطئ: فهو يستهدف تتمة محتملة، دون التحقق من الحقائق في مصدر.
لا يعرف النموذج إلا بيانات تدريبه حتى تاريخ معين. وللإجابة عن الأحداث الجارية أو الأسعار أو المنتجات، يستطيع ChatGPT إجراء بحث في الويب. أعلنت OpenAI هذه الميزة باسم ChatGPT search في أكتوبر 2024. يعيد المساعد صياغة سؤالك في استعلام واحد أو أكثر، ويجلب النتائج من مزودي بحث ومن زاحف OpenAI الخاص، ويقرأ الصفحات، ثم يكتب إجابة مع روابط إلى مصادرها.
تسمى هذه الطريقة التوليد المعزز بالاسترجاع (RAG): يولد النموذج نصا مستندا إلى وثائق استرجعها للتو. توثق OpenAI زواحفها على منصة المطورين: OAI-SearchBot للبحث، وGPTBot للتدريب، وChatGPT-User للصفحات التي تُفتح بطلب من المستخدم. وبحسب OpenAI، لا تظهر المواقع التي تحظر OAI-SearchBot في ملف robots.txt ضمن إجابات ChatGPT search.
فهم هذه الآلية يعطي قائمة تحقق واضحة لكل علامة تجارية تريد الظهور في إجابات ChatGPT:
يتنبأ ChatGPT بالنص مما تعلمه، وفي الأسئلة الحديثة من الصفحات القليلة التي يختار قراءتها: العلامات التي يستشهد بها هي تلك التي يسهل العثور على صفحاتها واستخراج محتواها وتؤكدها مصادر أخرى. لمتابعة حضورك في ChatGPT وGemini وClaude على المدى الطويل ونشر محتوى مصمم ليُستشهد به، يتتبع Sorank أسئلتك (prompts) ويكتب مقالات محسنة بنظام autopilot، مع تجربة مجانية لمدة 3 أيام.
ليس دائما. يجيب ChatGPT عن كثير من الأسئلة اعتمادا على ما تعلمه نموذجه أثناء التدريب. وعندما يحتاج السؤال إلى معلومة حديثة أو دقيقة، يستطيع إجراء بحث في الويب وقراءة بعض الصفحات وعرض المصادر المستخدمة كروابط في الإجابة.
يولد ChatGPT التتمة الأكثر احتمالا لنص ما، والمحتمل ليس صحيحا دائما. عندما تكون بيانات التدريب قليلة أو قديمة أو متناقضة، قد ينتج عبارات واثقة لكنها خاطئة تسمى الهلوسة. ويبقى التحقق من الحقائق المهمة في مصدر موثوق أمرا ضروريا.
لا. GPT هو اسم عائلة النماذج اللغوية التي تطورها OpenAI، أما ChatGPT فهو المنتج الحواري المبني عليها. يضيف ChatGPT ضبطا على التعليمات وقواعد أمان وذاكرة وأدوات مثل البحث في الويب وتحليل الملفات، وواجهة مصممة للحوار.
لقد جربوا SORANK قبلك
