Hoe werkt ChatGPT? Van training tot zoeken op het web en citaties

Kort samengevat: ChatGPT is een assistent die is gebouwd op een groot taalmodel, een neuraal netwerk van het type transformer dat is getraind op enorme hoeveelheden tekst om het volgende stuk van een zin te voorspellen. Daarna is het bijgeschaafd met menselijke feedback om instructies te volgen en behulpzaam te antwoorden. Wanneer je een bericht verstuurt, splitst het de tekst in tokens, leest het die met het gesprek in zijn contextvenster en schrijft het zijn antwoord token voor token. Bij recente of feitelijke vragen kan het ook op het web zoeken en de pagina's citeren die het heeft gebruikt.

Weten hoe ChatGPT werkt verklaart zowel de sterke punten als de fouten ervan en laat zien wat de kans vergroot dat een website in zijn antwoorden wordt geciteerd. OpenAI lanceerde ChatGPT in november 2022; de naam komt van GPT, Generative Pre-trained Transformer.

Wat is het model achter ChatGPT?

ChatGPT draait op een groot taalmodel (LLM). Een LLM is een statistisch model met miljarden parameters dat uit tekst de relaties tussen woorden, feiten en stijlen heeft geleerd. Het bevat patronen die uit die teksten zijn geleerd en gebruikt ze om aannemelijke vervolgen van elke tekst te maken; losse pagina's worden niet als zodanig bewaard.

De architectuur is de transformer, in 2017 geïntroduceerd door onderzoekers van Google in het artikel Attention Is All You Need. Het kernmechanisme, attention, laat het model elk woord van de invoer afwegen tegen elk ander woord, zodat het begrijpt dat "het" in een zin verwijst naar een zelfstandig naamwoord drie regels eerder.

Hoe is ChatGPT getraind?

1. Pre-training

Het model leest een zeer groot corpus aan tekst (openbare webpagina's, boeken, code, gelicentieerde data) en leert één taak: het volgende token voorspellen. Miljarden keren herhaald dwingt deze eenvoudige taak het model grammatica, feiten, redeneerpatronen en vele talen te leren. Het resultaat is een krachtige tekstvoorspeller die instructies nog niet goed opvolgt.

2. Gesuperviseerd bijschaven

Mensen schrijven voorbeelden van goede antwoorden op prompts en het model wordt getraind om ze na te bootsen. Zo leert het het format van een behulpzame assistent: de vraag beantwoorden, het antwoord structureren en om verduidelijking vragen wanneer dat nodig is.

3. Reinforcement learning met menselijke feedback

Beoordelaars vergelijken meerdere antwoorden op dezelfde prompt en rangschikken ze. Een beloningsmodel leert die voorkeuren en het taalmodel wordt daarna geoptimaliseerd om antwoorden te produceren die goed scoren. OpenAI beschreef deze methode, RLHF genoemd, in zijn onderzoeksartikel over InstructGPT. Het is wat ChatGPT beleefd en gestructureerd maakt en voorzichtiger bij het weigeren van schadelijke verzoeken.

Wat gebeurt er als je een bericht verstuurt?

Tokens en het contextvenster

Een token is een stukje tekst: in het Engels is één token gemiddeld ongeveer vier tekens, of driekwart woord. Het contextvenster is het aantal tokens dat het model tegelijk kan overzien, inclusief je gesprek en alle documenten of webpagina's die het leest. Wanneer een gesprek te lang wordt, vallen de oudste delen buiten beeld.

Woord voor woord genereren

Bij elke stap berekent het model een kans voor elk mogelijk volgend token en kiest er een, met een gecontroleerd deel willekeur. Daarom kan dezelfde vraag licht verschillende antwoorden krijgen en schrijft ChatGPT vloeiend, ook als het ongelijk heeft: het optimaliseert voor een waarschijnlijk vervolg, zonder feiten aan een bron te toetsen.

Hoe zoekt ChatGPT op het web en citeert het bronnen?

Een model weet alleen wat in zijn trainingsdata stond, tot een bepaalde einddatum. Om te antwoorden over recente gebeurtenissen, prijzen of producten kan ChatGPT een zoekopdracht op het web uitvoeren. OpenAI kondigde deze functie in oktober 2024 aan als ChatGPT search. De assistent herschrijft je vraag tot een of meer zoekopdrachten, haalt resultaten op bij zoekaanbieders en via de eigen crawler van OpenAI, leest de pagina's en schrijft een antwoord met links naar de bronnen.

Deze methode heet retrieval-augmented generation (RAG): het model genereert tekst die is gebaseerd op documenten die het net heeft opgehaald. OpenAI documenteert zijn crawlers op zijn ontwikkelaarsplatform: OAI-SearchBot voor zoeken, GPTBot voor training en ChatGPT-User voor pagina's die namens een gebruiker worden geopend. OpenAI stelt dat sites die OAI-SearchBot blokkeren in robots.txt niet worden getoond in de antwoorden van ChatGPT search.

Wat zijn de beperkingen van ChatGPT?

• Hallucinaties: het kan met overtuiging onjuiste feiten, verzonnen citaten of niet-bestaande bronnen noemen, omdat het aannemelijke tekst voorspelt.
• Kennisafkapdatum: zonder zoeken op het web negeert het alles na zijn trainingsdata.
• Contextlimieten: zeer lange documenten of gesprekken gaan voorbij wat het tegelijk kan overzien.
• Gevoeligheid voor formulering: een iets andere prompt kan een ander antwoord opleveren, of een andere lijst van aanbevolen merken.
• Bronselectie: wanneer het zoekt, leest het slechts een handvol pagina's, dus het is belangrijk daar bij te horen.

Wat betekent dit voor geciteerd worden door ChatGPT?

Inzicht in de pijplijn levert een duidelijke checklist op voor elk merk dat in de antwoorden van ChatGPT wil verschijnen:

1. Laat de crawlers binnen: sta OAI-SearchBot toe in robots.txt en lever content in HTML die zonder zwaar JavaScript werkt.
2. Rank in klassiek zoeken: ChatGPT search begint bij zoekresultaten, dus pagina's die goed ranken op de onderliggende zoekopdrachten worden eerder gelezen.
3. Schrijf passages die uit te halen zijn: een direct antwoord onder elke kop, korte zelfstandige alinea's, definities, tabellen en cijfers met bron.
4. Wees aanwezig waar het leest: reviews, vergelijkingsartikelen, fora, media en Wikipedia bepalen wat het model over je merk zegt, zowel in trainingsdata als in live zoeken.
5. Blijf consistent: dezelfde naam, beschrijving en feiten op je site en op profielen van derden helpen het model je merk als één entiteit te herkennen.
6. Meet: stel de vragen die je klanten stellen en kijk of je wordt geciteerd. De gratis check van zichtbaarheid in ChatGPT geeft binnen een minuut een eerste antwoord.

ChatGPT voorspelt tekst op basis van wat het heeft geleerd en, bij actuele vragen, van de paar webpagina's die het kiest te lezen: de merken die het citeert zijn die waarvan de pagina's makkelijk te vinden en makkelijk uit te halen zijn en door andere bronnen worden bevestigd. Om je aanwezigheid in ChatGPT, Gemini en Claude in de loop van de tijd te volgen en content te publiceren die is gemaakt om geciteerd te worden, volgt Sorank je prompts en schrijft het geoptimaliseerde artikelen op autopilot, met een gratis proefperiode van 3 dagen.