Jak działa ChatGPT? Od trenowania po wyszukiwanie w sieci i cytowania

Krótko: ChatGPT to asystent zbudowany na dużym modelu językowym, sieci neuronowej typu transformer wytrenowanej na ogromnych ilościach tekstu, by przewidywać kolejny fragment zdania. Następnie został dostrojony z udziałem opinii ludzi, aby wykonywać polecenia i odpowiadać pomocnie. Gdy wysyłasz wiadomość, dzieli tekst na tokeny, czyta go razem z rozmową w swoim oknie kontekstu i pisze odpowiedź token po tokenie. Przy pytaniach o świeże lub faktograficzne sprawy może też przeszukać sieć i zacytować strony, z których skorzystał.

Wiedza o tym, jak działa ChatGPT, tłumaczy zarówno jego mocne strony, jak i błędy, oraz pokazuje, co sprawia, że strona internetowa może zostać zacytowana w jego odpowiedziach. OpenAI uruchomiło ChatGPT w listopadzie 2022 roku; nazwa pochodzi od GPT, czyli Generative Pre-trained Transformer.

Jaki model stoi za ChatGPT?

ChatGPT działa na dużym modelu językowym (LLM). LLM to model statystyczny z miliardami parametrów, który nauczył się z tekstu relacji między słowami, faktami i stylami. Przechowuje wzorce wyuczone z tych tekstów i używa ich do tworzenia wiarygodnych kontynuacji dowolnego tekstu; pojedyncze strony nie są przechowywane jako takie.

Architektura to transformer, przedstawiony przez badaczy Google w artykule Attention Is All You Need w 2017 roku. Jego kluczowy mechanizm, uwaga, pozwala modelowi ważyć każde słowo wejścia względem każdego innego, dzięki czemu rozumie, że „to” w zdaniu odnosi się do rzeczownika sprzed trzech linijek.

Jak trenowano ChatGPT?

1. Wstępne trenowanie

Model czyta bardzo duży korpus tekstu (publiczne strony internetowe, książki, kod, dane licencjonowane) i uczy się jednego zadania: przewidywać kolejny token. Powtarzane miliardy razy, to proste zadanie zmusza go do nauki gramatyki, faktów, wzorców rozumowania i wielu języków. Wynikiem jest potężny predyktor tekstu, który jeszcze nie wykonuje dobrze poleceń.

2. Nadzorowane dostrajanie

Ludzie piszą przykłady dobrych odpowiedzi na prompty, a model jest trenowany, by je naśladować. Uczy się formatu pomocnego asystenta: odpowiedzieć na pytanie, uporządkować odpowiedź, poprosić o doprecyzowanie, gdy trzeba.

3. Uczenie przez wzmacnianie na podstawie opinii ludzi

Recenzenci porównują kilka odpowiedzi na ten sam prompt i szeregują je. Model nagrody uczy się tych preferencji, a model językowy jest następnie optymalizowany tak, by tworzyć odpowiedzi o wysokiej ocenie. OpenAI opisało tę metodę, zwaną RLHF, w pracy badawczej o InstructGPT. To dzięki niej ChatGPT jest uprzejmy, uporządkowany i ostrożniejszy w odmawianiu szkodliwych próśb.

Co się dzieje, gdy wysyłasz wiadomość?

Tokeny i okno kontekstu

Token to fragment tekstu: w języku angielskim jeden token to średnio około czterech znaków, czyli trzy czwarte słowa. Okno kontekstu to liczba tokenów, które model może uwzględnić naraz, w tym Twoja rozmowa oraz wszelkie dokumenty czy strony internetowe, które czyta. Gdy rozmowa robi się zbyt długa, najstarsze części wypadają z pola widzenia.

Generowanie słowo po słowie

W każdym kroku model oblicza prawdopodobieństwo każdego możliwego kolejnego tokenu i wybiera jeden, z kontrolowaną dawką losowości. Dlatego to samo pytanie może dostać nieco inne odpowiedzi i dlatego ChatGPT pisze płynnie, nawet gdy się myli: optymalizuje wiarygodną kontynuację, nie sprawdzając faktów ze źródłem.

Jak ChatGPT przeszukuje sieć i cytuje źródła?

Model wie tylko to, co było w jego danych treningowych, do daty granicznej. Aby odpowiedzieć o ostatnich wydarzeniach, cenach czy produktach, ChatGPT może wykonać wyszukiwanie w sieci. OpenAI ogłosiło tę funkcję jako ChatGPT search w październiku 2024 roku. Asystent przepisuje Twoje pytanie na jedno lub kilka zapytań, pobiera wyniki od dostawców wyszukiwania i z własnego robota OpenAI, czyta strony i pisze odpowiedź z linkami do źródeł.

Ta metoda nazywa się generowaniem wspomaganym pobieraniem (RAG): model generuje tekst oparty na dokumentach, które właśnie pobrał. OpenAI dokumentuje swoje roboty na platformie dla deweloperów: OAI-SearchBot do wyszukiwania, GPTBot do trenowania i ChatGPT-User dla stron otwieranych w imieniu użytkownika. OpenAI podaje, że witryny blokujące OAI-SearchBot w robots.txt nie są pokazywane w odpowiedziach ChatGPT search.

Jakie są ograniczenia ChatGPT?

• Halucynacje: może z przekonaniem podawać fałszywe fakty, zmyślone cytaty lub nieistniejące źródła, ponieważ przewiduje wiarygodny tekst.
• Data graniczna wiedzy: bez wyszukiwania w sieci nie zna niczego, co nastąpiło po jego danych treningowych.
• Limity kontekstu: bardzo długie dokumenty lub rozmowy przekraczają to, co może uwzględnić naraz.
• Wrażliwość na sformułowanie: nieco inny prompt może dać inną odpowiedź albo inną listę polecanych marek.
• Wybór źródeł: gdy wyszukuje, czyta tylko garstkę stron, więc ważne jest, by być wśród nich.

Co to oznacza dla bycia cytowanym przez ChatGPT?

Zrozumienie tego procesu daje jasną listę kontrolną dla każdej marki, która chce pojawiać się w odpowiedziach ChatGPT:

1. Wpuść roboty: zezwól OAI-SearchBot w robots.txt i serwuj treść w HTML, która działa bez ciężkiego JavaScriptu.
2. Pozycjonuj się w klasycznym wyszukiwaniu: ChatGPT search zaczyna od wyników wyszukiwania, więc strony wysoko pozycjonowane na podstawowe zapytania są chętniej czytane.
3. Pisz fragmenty łatwe do wyodrębnienia: bezpośrednia odpowiedź pod każdym nagłówkiem, krótkie samodzielne akapity, definicje, tabele i liczby ze źródłami.
4. Bądź tam, gdzie czyta: opinie, artykuły porównawcze, fora, media i Wikipedia kształtują to, co model mówi o Twojej marce, zarówno w danych treningowych, jak i w wyszukiwaniu na żywo.
5. Zachowaj spójność: ta sama nazwa, opis i fakty w Twojej witrynie i profilach stron trzecich pomagają modelowi rozpoznać Twoją markę jako jedną jednostkę.
6. Mierz: zadawaj pytania, które zadają Twoi klienci, i sprawdzaj, czy jesteś cytowany. Darmowy sprawdzacz widoczności w ChatGPT daje pierwszą odpowiedź w minutę.

ChatGPT przewiduje tekst na podstawie tego, czego się nauczył, a przy świeżych pytaniach także na podstawie kilku stron internetowych, które wybiera do przeczytania: cytowane przez niego marki to te, których strony łatwo znaleźć, łatwo z nich wyodrębnić treść i które potwierdzają inne źródła. Aby śledzić swoją obecność w ChatGPT, Gemini i Claude w czasie oraz publikować treści stworzone do cytowania, Sorank śledzi Twoje prompty i pisze zoptymalizowane artykuły na autopilot, z 3-dniowym darmowym okresem próbnym.