ChatGPT是如何工作的？从训练到联网搜索和引用来源

了解ChatGPT是如何工作的，既能解释它的长处和错误，也能说明什么样的网站更容易被它在回答中引用。OpenAI于2022年11月推出ChatGPT，名称来自GPT，即Generative Pre-trained Transformer（生成式预训练Transformer）。

ChatGPT背后是什么模型？

ChatGPT运行在大语言模型（LLM）之上。大语言模型是拥有数十亿参数的统计模型，它从文本中学会了词语、事实和风格之间的关系。它保存的是从这些文本中学到的规律，并用这些规律为任何文本生成合理的续写；网页本身并不会被原样保存。

它的架构是transformer，由Google研究人员在2017年的论文Attention Is All You Need中提出。其核心机制“注意力”让模型可以把输入中的每个词与其他所有词进行比较，因此它能理解句子里的“它”指的是三行之前的某个名词。

ChatGPT是如何训练的？

1. 预训练

模型阅读规模极大的文本语料（公开网页、书籍、代码、授权数据），只学习一项任务：预测下一个token。这个简单任务重复数十亿次后，模型被迫学会语法、事实、推理模式和多种语言。结果是一个强大的文本预测器，但它此时还不太会遵循指令。

2. 监督微调

人工为各种请求撰写优质回答的示例，再训练模型去模仿。模型由此学会一个有用助手的形式：回答问题、组织回答结构、必要时请求澄清。

3. 基于人类反馈的强化学习

评估人员比较同一请求的多个回答并进行排序。奖励模型学习这些偏好，然后语言模型被优化，以生成得分高的回答。OpenAI在关于InstructGPT的研究论文中介绍了这种被称为RLHF的方法。正是它让ChatGPT变得礼貌、有条理，并在面对有害请求时更加谨慎。

当您发送一条消息时会发生什么？

token与上下文窗口

token是一段文本片段：在英文中，一个token平均约为四个字符，相当于四分之三个单词；中文的换算方式不同，一个汉字常常对应一个或多个token。上下文窗口是模型一次能够考虑的token数量，包括对话、文档以及它读取的网页。当对话过长时，最早的部分就会移出视野。

逐词生成

在每一步，模型都会为每个可能的下一个token计算概率，并在受控的随机性下选出一个。这就是同一个问题可能得到略有不同的回答的原因，也是ChatGPT即使出错也能写得很流畅的原因：它追求的是一个可能的续写，而不会对照来源核实事实。

ChatGPT如何联网搜索并引用来源？

模型只知道截止日期之前的训练数据。为了回答有关时事、价格或产品的问题，ChatGPT可以进行联网搜索。OpenAI在2024年10月以ChatGPT search的名称发布了这一功能。助手会把您的问题改写成一个或多个查询，从搜索服务商和OpenAI自己的爬虫获取结果，阅读网页，然后写出附有来源链接的回答。

这种方法称为检索增强生成（RAG）：模型基于刚刚检索到的文档生成文本。OpenAI在其开发者平台上公布了自己的爬虫：OAI-SearchBot用于搜索，GPTBot用于训练，ChatGPT-User用于代表用户打开网页。据OpenAI说明，在robots.txt中屏蔽OAI-SearchBot的网站不会显示在ChatGPT search的回答中。

ChatGPT有哪些局限？

• 幻觉：由于它预测的是看似合理的文本，可能会自信地给出错误事实、编造的引语或并不存在的来源。
• 知识截止日期：不联网搜索时，它不知道训练数据之后发生的任何事情。
• 上下文限制：非常长的文档或对话会超出它一次能处理的范围。
• 对措辞敏感：稍有不同的提问可能得到不同的回答，或不同的推荐品牌列表。
• 来源选择：搜索时它只阅读少数网页，因此能否进入这些网页之列至关重要。

这对被ChatGPT引用意味着什么？

理解这一流程后，任何希望出现在ChatGPT回答中的品牌都能得到一份清晰的检查清单：

1. 允许爬虫访问：在robots.txt中允许OAI-SearchBot，并以无需繁重JavaScript即可读取的HTML提供内容。
2. 在传统搜索中获得排名：ChatGPT search从搜索结果出发，因此在相关查询中排名靠前的页面更有可能被阅读。
3. 写出易于提取的段落：每个标题下给出直接答案，使用简短独立的段落、定义、表格和有来源的数据。
4. 出现在它会阅读的地方：评价、对比文章、论坛、媒体和维基百科会影响模型对您品牌的描述，无论是在训练数据中还是在实时搜索中。
5. 保持一致：在网站和第三方资料中使用相同的名称、描述和事实，有助于模型把您的品牌识别为同一个实体。
6. 衡量：提出客户会问的问题，看看您是否被引用。免费的ChatGPT可见度检测工具一分钟内就能给出初步结果。

ChatGPT根据所学内容预测文本，遇到时效性问题时还会参考它选择阅读的少数网页：被它引用的品牌，其页面容易被找到、容易被提取，并得到其他来源的印证。如果想长期跟踪您在ChatGPT、Gemini和Claude中的表现，并发布便于被引用的内容，Sorank会跟踪您的提示词，并以autopilot 模式撰写优化文章，提供3天免费试用。