שרשרת מחשבה (Chain of Thought) גורמת למודלים של AI לחשוב בשלבים מפורשים. גלו כיצד זה עובד, מדוע זה משפר דיוק, ומה המשמעות עבור GEO.

שרשרת מחשבה, המכונה לרוב CoT, היא שיטה המנחה מודל שפה גדול לעבוד על בעיה צעד אחר צעד במקום לקפוץ ישר לתשובה. במקום להפיק רק את היעד, המודל שם את המסלול: הוא מפרק שאלה מורכבת לשלבי חשיבה קטנים יותר ופותר אותם ברצף. שינוי פשוט זה מניב שיפורים גדולים במשימות הדורשות היגיון, מתמטיקה, או מספר קפיצות היסק.
חשיבה מסוג שרשרת מחשבה חשובה מכיוון שמודלים לשוניים נוטים למעוד כאשר הם נדרשים לענות על שאלות קשות בקפיצה אחת. באמצעות פיזור העבודה על פני שלבי ביניים, המודל מתמקד בחלק אחד מהבעיה בכל פעם, מה שמפחית שגיאות והופך את ההיגיון שלו לגלוי. הרעיון הפך לבסיסי באופן שבו עוזרי AI מודרניים חושבים ומסבירים את עצמם.
שרשרת מחשבה היא הנוהג לגרום למודל להציג את עבודתו: לציין את שלבי הביניים המובילים למסקנה במקום להציג רק את המסקנה עצמה. זה נותן למודל מפת דרכים לפעול לפיה, תוך פירוק שאילתה מורכבת לסדרה של שלבי חשיבה קטנים ורציפים לפני שהתשובה הסופית נוצרת.
הטכניקה הוצגה לראשונה על ידי חוקרים בגוגל במאמר משנת 2022, Chain of Thought Prompting Elicits Reasoning in Large Language Models. הם הראו שהנחיית מודל דרך שלבי חשיבה ביניים שיפרה משמעותית את הביצועים בפתרון בעיות מתמטיות, היגיון לוגי, ומענה על שאלות רב-שלביות. הרעיון הפך במהירות לרעיון מרכזי בהנדסת פרומפט.
במונחים הפשוטים ביותר, CoT משנה את צורת התשובה. פרומפט רגיל מבקש תוצאה ישירה, מה שלעתים קרובות נכשל בבעיות רב-שלביות. שרשרת מחשבה מבנה את התשובה כך שהמודל מפיק תחילה את ההיגיון, מקצה תשומת לב וחישוב לכל תת-שלב, ואז מגיע לתשובה לאחר שהיסודות הונחו.
ניקח לדוגמה שאלה כמו מהי בירת המדינה עם הכלכלה הגדולה ביותר. כאשר עונים בקפיצה אחת, מודל עלול להחליק. כאשר מפרקים לשלבים, קודם מזהים את המדינה, ואז נוקבים בשם בירתה, המסלול הופך אמין. פירוק זה הוא מה שמאפשר למודל להתמודד עם בעיות מסובכות מדי לפתרון במעבר יחיד, תכונה המחברת בין CoT להתנהגות הרחבה יותר של LLM במהלך הסקת AI.
ישנן שתי גרסאות עיקריות. שרשרת מחשבה מסוג Few-shot מספקת למודל כמה דוגמאות פתורות המדגימות את החשיבה שלב אחר שלב, כך שהוא מחקה את הדפוס הזה על הבעיה החדשה. הביצועים משתפרים באופן משמעותי כאשר דוגמאות כאלה נכללות בפרומפט.
שרשרת מחשבה מסוג Zero-shot אינה זקוקה לדוגמאות כלל. באופן ידוע, הוספה פשוטה של הביטוי בואו נחשוב צעד אחר צעד לפרומפט מפעילה את ההתנהגות הזו. מחקר מאוניברסיטת טוקיו וגוגל מצא שהטריק הזה הכפיל פי ארבעה את הדיוק במערך הנתונים המתמטי MultiArith, מ-18 אחוז ל-79 אחוז, תוצאה מרשימה עבור שינוי כה קטן. זוהי הצורה zero-shot שרוב המשתמשים מפעילים מבלי להבין זאת.
היתרון המרכזי הוא דיוק במשימות מורכבות. באמצעות פירוק בעיות לשלבים, פחות סביר שהמודל יטעה או יקפוץ למסקנות לא הגיוניות, מכיוון שכל שלב מטפל בפרוסה ניתנת לניהול של הבעיה במקום בהכל בבת אחת. עבור היגיון רב-שלבי, זה יכול להיות ההבדל בין תשובה נכונה לשגויה.
יתרון שני הוא ניתנות לפרשנות. כאשר ההיגיון גלוי, אדם יכול לעקוב אחר המקום שבו המודל טעה ולתקן את השלב הספציפי הזה, מה שהופך את הפלטים לקלים יותר לניפוי באגים ולאמון. שרשרת מחשבה גם מאפשרת להזריק היגיון של שכל ישר באמצעות הדוגמאות, וללמד את המודל גישה רצויה שהוא מאמץ לאחר מכן בבעיות קשורות.
שרשרת מחשבה אינה אוניברסלית. יעילותה תלויה במידה רבה בגודל המודל: מודלים גדולים יותר נהנים ממנה בבירור, בעוד שקטנים יותר לרוב מרוויחים מעט או אף מתפקדים גרוע יותר. היא גם מסייעת בעיקר במשימות עם מבנה רציף אמיתי, ומוסיפה מעט לחיפושים פשוטים או לשאלות ללא שרשרת היגיון ברורה.
ישנן גם עלויות מעשיות. הטכניקה מייצרת פלטים ארוכים יותר ומפורטים יותר, הצורכים יותר טוקנים וזמן. היא עדיין עלולה להתקשות בנושאי נישה שבהם למודל חסרים נתוני אימון, ובניית פרומפטים או דוגמאות יעילים דורשת מומחיות מסוימת. כמו כל כלי, היא משתלמת כאשר היא מותאמת לבעיה הנכונה ולא מיושמת בכל מקום.
שרשרת מחשבה התפתחה מטריק פרומפט ליכולת מובנית. מודלי חשיבה מודרניים מתוכננים לחשוב דרך שלבים באופן פנימי לפני שהם עונים, תוך חיקוי הגישה האנושית של פתרון בעיה במקום ניחוש. הם בפועל משלבים את שרשרת המחשבה במודל עצמו, מעוצבים באמצעות טכניקות אימון המתגמלות חשיבה איתנה.
שינוי זה מתחבר לרעיון של חישוב בזמן הרצה, שבו מודל מקדיש עיבוד נוסף ברגע התשובה כדי לחשוב בקפידה רבה יותר. ככל שמודל חושב יותר צעד אחר צעד לפני שהוא משיב, כך הוא נוטה להצליח יותר בבעיות קשות, וזו הסיבה שמערכות המתמקדות בחשיבה נשענות כה רבות על שרשרת מחשבה מתחת למכסה המנוע.
עבור אופטימיזציה למנועים גנרטיביים, שרשרת מחשבה מעצבת את האופן שבו עוזרים חוקרים ועונים על שאלות אודות המותג שלכם. כאשר מודל חושב דרך שאילתה מורכבת, מפרק אותה לשאלות משנה ואוסף ראיות עבור כל אחת מהן, הוא שואב מקורות העונים באופן ברור על שלבי הביניים הללו. תוכן המתייחס ישירות לשאלות משנה ספציפיות סביר יותר שיעלה על פני השטח ויצוטט לאורך הדרך.
זה מתגמל עומק ובהירות. עוזרים כמו ChatGPT, Perplexity, ו-Gemini החושבים צעד אחר צעד מעדיפים דפים הפותרים נקודה מדויקת על פני תוכן מעורפל ומתפרש. מבנה החומר שלכם כך שיענה על שאלות נפרדות, אותן שאלות ששרשרת חשיבה הייתה מייצרת, הופך אותו להתאמה טבעית לאופן שבו המודלים הללו חושבים, וזהו לב ליבה של האופטימיזציה לגילוי מונע-AI.
שרשרת מחשבה היא הטכניקה שבה מודל AI חושב בשלבים מפורשים ורציפים לפני שהוא עונה, שהוצגה על ידי גוגל ב-2022 וכיום מרכזית לאופן שבו מודלים לשוניים מתמודדים עם בעיות קשות. היא משפרת את הדיוק באופן דרמטי, משפרת ניתנות לפרשנות, ומגיעה בצורות zero-shot ו-few-shot, אם כי היא תלויה בגודל המודל ומוסיפה פירוט. ככל שמודלי חשיבה מפנימים אותה, חשיבה צעד אחר צעד הפכה לתכונה מגדירה של AI מודרני.
כדי להעמיק, חברו זאת עם הנדסת פרומפט ומודלי חשיבה, והשתמשו בכלי המחקר ותכנון התוכן של Sorank כדי לבנות תוכן סביב השאלות שמודלי AI חושבים דרכן. מקורות הפניה: DataCamp, Splunk, ו-Learn Prompting.
שרשרת מחשבה היא טכניקה המנחה מודל AI לפרק בעיה מורכבת לשלבי ביניים מפורשים ולפתור אותם ברצף לפני מתן תשובה סופית. באמצעות הצגת עבודתו במקום קפיצה למסקנה, המודל מטפל בחלק אחד מהבעיה בכל פעם, מה שמשפר משמעותית את הדיוק במשימות היגיון, מתמטיקה ורב-שלביות.
שרשרת מחשבה מסוג few-shot נותנת למודל כמה דוגמאות פתורות המדגימות חשיבה שלב אחר שלב, שאותה הוא מחקה לאחר מכן. שרשרת מחשבה מסוג zero-shot אינה מספקת דוגמאות כלל ובמקום זאת מנחה את המודל לחשוב בעצמו, לרוב פשוט על ידי הוספת ביטוי כמו בואו נחשוב צעד אחר צעד. מחקר מצא שהביטוי הפשוט הזה הכפיל פי ארבעה את הדיוק במערך נתונים מתמטי, מ-18 ל-79 אחוז.
לא. היא מסייעת בעיקר במודלים גדולים יותר ובמשימות עם חשיבה רב-שלבית אמיתית, בעוד שמודלים קטנים וחיפושים פשוטים מרוויחים מעט. היא גם מייצרת תשובות ארוכות ומפורטות יותר הצורכות יותר טוקנים, ועלולה להתקשות בנושאי נישה ללא נתוני אימון. שרשרת מחשבה שימושית ביותר כאשר היא מותאמת לבעיות מורכבות אמיתיות.