ChatGPT hoạt động như thế nào? Từ huấn luyện đến tìm kiếm web và trích dẫn

Bài trắc nghiệm nhanh

Làm sao để được ChatGPT và các trợ lý AI khác nhắc đến?

Câu hỏi 1 trên 425%

Bạn muốn biết hoặc thay đổi điều gì?

Chỉ muốn xem các trợ lý AI có nhắc đến doanh nghiệp của tôi khôngTheo dõi theo thời gian so với đối thủ cạnh tranhĐược nhắc đến thường xuyên hơn, bắt đầu ngay bây giờ

Hiểu ChatGPT hoạt động như thế nào giúp bạn lý giải được cả điểm mạnh lẫn lỗi của nó, và biết điều gì khiến một website có khả năng được trích dẫn trong câu trả lời. OpenAI ra mắt ChatGPT vào tháng 11 năm 2022; cái tên này đến từ GPT, viết tắt của Generative Pre-trained Transformer (bộ biến đổi tạo sinh được huấn luyện trước).

Mô hình đứng sau ChatGPT là gì?

ChatGPT chạy trên một mô hình ngôn ngữ lớn (LLM). LLM là một mô hình thống kê với hàng tỷ tham số, đã học được các mối quan hệ giữa từ ngữ, dữ kiện và phong cách từ văn bản. Nó giữ lại các mẫu học được từ những văn bản đó và dùng chúng để tạo ra các phần tiếp nối hợp lý cho bất kỳ đoạn văn nào; các trang cụ thể thì không được lưu nguyên vẹn.

Kiến trúc là transformer, do các nhà nghiên cứu của Google giới thiệu trong bài báo Attention Is All You Need năm 2017. Cơ chế cốt lõi của nó, gọi là cơ chế chú ý (attention), cho phép mô hình so sánh từng từ của đầu vào với mọi từ khác, nhờ vậy nó hiểu rằng “nó” trong một câu ám chỉ một danh từ xuất hiện ba dòng phía trước.

ChatGPT được huấn luyện như thế nào?

1. Huấn luyện trước

Mô hình đọc một kho văn bản rất lớn (trang web công khai, sách, mã nguồn, dữ liệu có giấy phép) và học một nhiệm vụ duy nhất: dự đoán token tiếp theo. Lặp lại hàng tỷ lần, nhiệm vụ đơn giản này buộc mô hình học ngữ pháp, dữ kiện, các mẫu suy luận và nhiều ngôn ngữ. Kết quả là một công cụ dự đoán văn bản mạnh mẽ, nhưng chưa làm theo chỉ dẫn tốt.

2. Tinh chỉnh có giám sát

Con người viết các ví dụ về câu trả lời tốt cho từng câu lệnh, và mô hình được huấn luyện để bắt chước chúng. Nó học được cách trình bày của một trợ lý hữu ích: trả lời đúng câu hỏi, sắp xếp câu trả lời rõ ràng, hỏi lại khi cần làm rõ.

3. Học tăng cường từ phản hồi của con người

Người đánh giá so sánh nhiều câu trả lời cho cùng một câu lệnh và xếp hạng chúng. Một mô hình phần thưởng học được những sở thích đó, rồi mô hình ngôn ngữ được tối ưu để đưa ra câu trả lời đạt điểm cao. OpenAI mô tả phương pháp này, gọi là RLHF, trong bài nghiên cứu InstructGPT của mình. Nhờ đó ChatGPT lịch sự, có cấu trúc và thận trọng hơn khi từ chối các yêu cầu có hại.

Điều gì xảy ra khi bạn gửi một tin nhắn?

Token và cửa sổ ngữ cảnh

Token là một đoạn văn bản: với tiếng Anh, một token trung bình khoảng bốn ký tự, tức khoảng ba phần tư của một từ. Cửa sổ ngữ cảnh là số token mà mô hình có thể xem xét cùng lúc, bao gồm cuộc trò chuyện của bạn và mọi tài liệu hay trang web mà nó đọc. Khi cuộc trò chuyện quá dài, những phần cũ nhất sẽ khuất khỏi tầm nhìn của mô hình.

Tạo sinh từng từ một

Ở mỗi bước, mô hình tính xác suất cho mọi token tiếp theo có thể và chọn một, với một mức ngẫu nhiên được kiểm soát. Đó là lý do cùng một câu hỏi có thể nhận được câu trả lời hơi khác nhau, và vì sao ChatGPT viết trôi chảy ngay cả khi sai: nó tối ưu cho phần tiếp nối có khả năng nhất, mà không kiểm tra dữ kiện với một nguồn nào.

ChatGPT tìm kiếm web và trích dẫn nguồn như thế nào?

Một mô hình chỉ biết những gì có trong dữ liệu huấn luyện, đến một mốc thời gian nhất định. Để trả lời về sự kiện mới, giá cả hay sản phẩm, ChatGPT có thể chạy tìm kiếm trên web. OpenAI công bố tính năng này với tên ChatGPT search vào tháng 10 năm 2024. Trợ lý viết lại câu hỏi của bạn thành một hoặc nhiều truy vấn, lấy kết quả từ các nhà cung cấp tìm kiếm và từ trình thu thập dữ liệu riêng của OpenAI, đọc các trang, rồi viết câu trả lời kèm liên kết đến nguồn.

Phương pháp này gọi là tạo sinh tăng cường truy xuất (RAG): mô hình tạo văn bản dựa trên những tài liệu vừa được truy xuất. OpenAI mô tả các trình thu thập dữ liệu của mình trên nền tảng dành cho nhà phát triển: OAI-SearchBot cho tìm kiếm, GPTBot cho huấn luyện, và ChatGPT-User cho các trang được mở theo yêu cầu của người dùng. OpenAI khẳng định rằng các website chặn OAI-SearchBot trong robots.txt sẽ không xuất hiện trong câu trả lời của ChatGPT search.

ChatGPT có những giới hạn nào?

• Ảo giác: mô hình có thể nêu dữ kiện sai, trích dẫn bịa đặt hoặc nguồn không tồn tại một cách rất tự tin, vì nó chỉ dự đoán văn bản hợp lý.
• Mốc kiến thức: nếu không tìm kiếm web, nó bỏ qua mọi thứ xảy ra sau dữ liệu huấn luyện.
• Giới hạn ngữ cảnh: tài liệu hoặc cuộc trò chuyện quá dài sẽ vượt quá những gì nó có thể xem xét cùng lúc.
• Nhạy cảm với cách diễn đạt: một câu lệnh hơi khác có thể cho ra câu trả lời khác, hoặc một danh sách thương hiệu được gợi ý khác.
• Lựa chọn nguồn: khi tìm kiếm, nó chỉ đọc một số ít trang, nên việc có mặt trong số đó rất quan trọng.

Điều này có ý nghĩa gì với việc được ChatGPT trích dẫn?

Hiểu quy trình trên cho bạn một danh sách kiểm tra rõ ràng cho bất kỳ thương hiệu nào muốn xuất hiện trong câu trả lời của ChatGPT:

1. Cho các trình thu thập dữ liệu vào: cho phép OAI-SearchBot trong robots.txt, và cung cấp nội dung dạng HTML hoạt động tốt mà không cần nhiều JavaScript.
2. Xếp hạng trong tìm kiếm truyền thống: ChatGPT search bắt đầu từ kết quả tìm kiếm, nên các trang xếp hạng tốt cho những truy vấn tương ứng có nhiều khả năng được đọc hơn.
3. Viết các đoạn văn dễ trích xuất: một câu trả lời trực tiếp ngay dưới mỗi tiêu đề, các đoạn ngắn tự đủ nghĩa, định nghĩa, bảng biểu và số liệu có nguồn.
4. Hiện diện ở nơi mô hình đọc: đánh giá, bài so sánh, diễn đàn, truyền thông và Wikipedia định hình điều mô hình nói về thương hiệu của bạn, cả trong dữ liệu huấn luyện lẫn khi tìm kiếm trực tiếp.
5. Giữ sự nhất quán: cùng một tên, mô tả và dữ kiện trên website và trên các hồ sơ bên thứ ba giúp mô hình nhận diện thương hiệu của bạn là một thực thể duy nhất.
6. Đo lường: hỏi các câu mà khách hàng của bạn hỏi và xem bạn có được trích dẫn hay không. Công cụ kiểm tra khả năng hiển thị trên ChatGPT miễn phí cho bạn câu trả lời đầu tiên trong một phút.

ChatGPT dự đoán văn bản từ những gì nó đã học và, với các câu hỏi mới, từ vài trang web mà nó chọn đọc: các thương hiệu được trích dẫn là những thương hiệu có trang dễ tìm, dễ trích xuất và được các nguồn khác xác nhận. Để theo dõi sự hiện diện của bạn trên ChatGPT, Gemini và Claude theo thời gian, và xuất bản nội dung được viết để được trích dẫn, Sorank theo dõi các prompt của bạn và tự viết các bài viết tối ưu trên autopilot, với bản dùng thử miễn phí 3 ngày.