למדו כיצד להתקין את קובץ llms.txt באתר שלכם. מדריך לשיפור הדירוג של האתר שלכם במערכות AI.

עם עלייתם של מודלי שפה גדולים (LLMs) והתרבות מקרי השימוש ב-AI, צצים תקנים חדשים שנועדו להקל על הגישה למידע באתרי אינטרנט. ביניהם נמצא קובץ ה-llms.txt, מקבילה ראשונית-ל-AI בהשראת robots.txt ו-sitemap.xml, אך מתוכננת במיוחד כדי לעזור ל-LLMs (Large Language Models) ולכליהם (לדוגמה ChatGPT, Claude, Cursor, Windsurf, Replit Ghostwriter וכו') להבין ולהשתמש בתוכן שלכם טוב יותר.
במגה-מדריך זה, תגלו:
llms.txtllms.txt ולמה להשתמש בו?קובץ ה-llms.txt הוא קובץ טקסט כתוב ב-Markdown (אף שהוא שומר על סיומת .txt) הממוקם בשורש האתר, כמו robots.txt. מטרתו להנחות את הבינות המלאכותיות ישירות במהלך שלב ה-inference (כאשר משתמש או סוכן שיחה מחפש מידע ספציפי בזמן אמת) על ידי אספקת:
במילים אחרות, llms.txt הופך לזרז שמכוון את הבינות המלאכותיות אל התוכן החיוני ומונע מהן לנתח באופן גס, או כבד מדי, דפי HTML מסורתיים מלאים באלמנטים עיצוביים, אנימציות ופרסומות.
לפיכך, llms.txt מייעל את הדרך שבה בינות מלאכותיות מקבלות סקירה של אתר, ומאפשר שימוש טוב יותר במהלך שלב ה-inference (הצעות קוד, תשובות מומחה, תוספי ChatGPT וכו').
llms.txt, robots.txt ו-sitemap.xml?robots.txt: מורה לבוטים (GoogleBot, BingBot וכו') היכן הם רשאים או אינם רשאים לסרוק. הוא אינו מספק תוכן כלשהו, רק כללי גישה.sitemap.xml: מפרט את כל הדפים הניתנים לאינדוקס עבור מנועי חיפוש (URL, תאריך העדכון האחרון, עדיפויות). שימושי מאוד ל-SEO, אך הוא אינו מספק תיאור של תוכן או מציין צורה "ידידותית-ל-AI" של הדפים.llms.txt: קובץ Markdown שמכוון לבינות מלאכותיות כדי לתאר או להפנות לדפים המשמשים במהלך ה-inference. הוא יכול לכלול גם קטעים אסטרטגיים, קישורים חיצוניים יסודיים, ואף גרסאות .md של הדפים שלכם. זהו כלי opt-in שתוכנן לשרת סוכנים ישירות. הוא משלים, אך אינו מחליף, את robots.txt או sitemap.xml.קובץ ה-llms.txt נועד להיות פשוט וגמיש. הנה המבנה המוצע:
הערה: כתובות URL עשויות להסתיים ב-.md אם ברצונכם לספק את גרסת הטקסט/Markdown של הדפים שלכם ישירות.
בתיעוד של FastHTML, קיים llms.txt (קובץ הדגמה) שמפנה אל:
llms-full.txt עם התיעוד המלא שלה. זה מקל על השימוש בסביבות פיתוח או צ'אטבוטים (למשל Cursor) שטוענים קובץ זה ישירות.llms.txt ייעודי שיתאר את שירותיה.llms.txt ו-llms-full.txt כדי לאפשר טעינת התיעוד לתוך סוכן שיחה.אף ש-llms.txt אינו מכוון ישירות למנועי חיפוש מסורתיים, הוא משפר את ה-SEO בעקיפין:
llms.txt שלכם?: סקירה קצרה).##, מקטעים "אופציונליים" וכו'.כמה פרויקטי קוד פתוח ושירותי SaaS מציעים ליצור את ה-llms.txt שלכם באופן אוטומטי:
llms.txt.llms.txt.LLMs.txt Explorer): לטעינה או יצירה של llms.txt מתוך העורך.llms.txt עלול להטעות בינות מלאכותיות.llms.txt. אם LLMs מסתמכים על קובץ זה בעיוורון, הם עלולים "להזות" או להפיץ מידע שגוי./.well-known/llms.txt כדי להתיישר עם RFC 8615, בעוד אחרים מעדיפים להשתמש ב-example.com/llms.txt ישירות.llms.txt כדי לחזק את ה-SEO ל-AI שלכם?llms.txt אינו חובה, אך הוא צובר פופולריות בקרב סביבות פיתוח חכמות, תוספי AI וקהילות קוד פתוח. הוא מפשט את שילוב התוכן בפרויקטי AI בזמן אמת, מונע בזבוז טוקנים, ועוזר לתיעוד להיות מובן טוב יותר על ידי מודלי שפה.
קובץ ה-llms.txt מתבסס כאבן יסוד חדשה בארגז הכלים של ה-SEO וה-AI. בכך שהוא מספק תמצית היררכית של התוכן המרכזי שלכם, הוא מקל על חיפוש הקשרי על ידי סוכני שיחה ומבליט את התיעוד הטכני שלכם. ככל שצ'אטבוטים וסביבות פיתוח חכמות הופכים ל"שער החדש" אל המידע, אימוץ llms.txt יכול לעשות את ההבדל.
אל תחכו ליישם אותו! נצלו כבר היום את הסינרגיה בין ה-SEO המסורתי שלכם לבין שכבת ה-AI החדשה הזו כדי להעניק את החוויה הטובה ביותר האפשרית למשתמשים… בני אדם וגם בינות מלאכותיות.

לא, רוב הבינות המלאכותיות כבר יכולות "לגרד" את הרשת. עם זאת, llms.txt מייעל ומהימן יותר את ההקשר שמסופק בעת ההסקה (inference). הוא שימושי במיוחד לתמיכת לקוחות, השלמה אוטומטית של קוד, תיעוד טכני וכדומה.
לא, אלו שני דברים שונים. robots.txt משמש בעיקר לשליטה בגישת הסורקים. llms.txt מכוון לבינות מלאכותיות במהלך שלב חיפוש המידע (inference) ומציע פורמט תמציתי, תוך מינוף גרסאות Markdown של המשאבים שלכם.
llms.txt הוא תקן אופציונלי. אי-יצירת קובץ כזה שקולה לכך שלא מציעים את הגשר המועדף הזה לבינות מלאכותיות. ואם ברצונכם לחסום כל שימוש, עליכם להגדיר את robots.txt שלכם או ליישם אמצעים טכניים (חסימת user agents וכדומה). אך דבר אינו מבטיח שכל ה-LLM או הסורקים יכבדו הוראות אלו.