Cum funcționează ChatGPT? De la antrenare la căutarea pe web și citări

Test rapid

Cum ar trebui să fii menționat de ChatGPT și de alți asistenți IA?

Întrebarea 1 din 425%

Ce vrei să afli sau să schimbi?

Doar să văd dacă asistenții IA vorbesc despre afacerea meaSă urmăresc evoluția în timp, în comparație cu concurenții meiSă fiu menționat mai des, începând de acum

Să înțelegi cum funcționează ChatGPT explică atât punctele sale forte, cât și erorile, și îți arată ce face ca un site să fie probabil citat în răspunsurile lui. OpenAI a lansat ChatGPT în noiembrie 2022; numele vine de la GPT, Generative Pre-trained Transformer.

Ce model stă în spatele ChatGPT?

ChatGPT rulează pe un model mare de limbaj (LLM). Un LLM este un model statistic cu miliarde de parametri, care a învățat din text relațiile dintre cuvinte, fapte și stiluri. Păstrează tiparele învățate din acele texte și le folosește ca să producă continuări plauzibile ale oricărui text; paginile individuale nu sunt păstrate ca atare.

Arhitectura este transformer-ul, introdus de cercetătorii Google în lucrarea Attention Is All You Need în 2017. Mecanismul său cheie, atenția, îi permite modelului să cântărească fiecare cuvânt al intrării în raport cu toate celelalte, astfel încât înțelege că „it” dintr-o propoziție se referă la un substantiv de cu trei rânduri mai sus.

Cum a fost antrenat ChatGPT?

1. Pre-antrenarea

Modelul citește un corpus foarte mare de text (pagini web publice, cărți, cod, date licențiate) și învață o singură sarcină: să prezică următorul token. Repetată de miliarde de ori, această sarcină simplă îl obligă să învețe gramatica, faptele, tiparele de raționament și multe limbi. Rezultatul este un predictor de text puternic, care încă nu urmează bine instrucțiunile.

2. Reglajul fin supervizat

Oamenii scriu exemple de răspunsuri bune la prompturi, iar modelul este antrenat să le imite. Învață formatul unui asistent util: răspunde la întrebare, structurează răspunsul și cere clarificări când este nevoie.

3. Învățare prin întărire din feedback uman

Evaluatorii compară mai multe răspunsuri la același prompt și le clasează. Un model de recompensă învață aceste preferințe, iar modelul de limbaj este apoi optimizat să producă răspunsuri care obțin punctaje bune. OpenAI a descris această metodă, numită RLHF, în lucrarea sa de cercetare InstructGPT. Tot ea face ca ChatGPT să fie politicos, structurat și mai atent când refuză cererile periculoase.

Ce se întâmplă când trimiți un mesaj?

Token-urile și fereastra de context

Un token este o bucată de text: în engleză, un token are în medie circa patru caractere, sau trei sferturi dintr-un cuvânt. Fereastra de context este numărul de token-uri pe care modelul le poate lua în considerare simultan, inclusiv conversația ta și documentele sau paginile web pe care le citește. Când o conversație devine prea lungă, cele mai vechi părți ies din vizibilitate.

Generarea cuvânt cu cuvânt

La fiecare pas, modelul calculează o probabilitate pentru fiecare token posibil următor și îl alege pe unul, cu o doză controlată de aleatoriu. De aceea aceeași întrebare poate primi răspunsuri ușor diferite și de ce ChatGPT scrie fluent chiar când greșește: optimizează o continuare probabilă, fără să verifice faptele într-o sursă.

Cum caută ChatGPT pe web și cum citează surse?

Un model știe doar ce a fost în datele de antrenare, până la o dată-limită. Ca să răspundă despre evenimente, prețuri sau produse recente, ChatGPT poate rula o căutare pe web. OpenAI a anunțat această funcție ca ChatGPT search în octombrie 2024. Asistentul îți reformulează întrebarea într-una sau mai multe interogări, recuperează rezultate de la furnizori de căutare și de la propriul crawler al OpenAI, citește paginile și scrie un răspuns cu linkuri către sursele sale.

Această metodă se numește generare augmentată prin recuperare (RAG): modelul generează text ancorat în documente pe care tocmai le-a recuperat. OpenAI își documentează crawlerele pe platforma sa pentru dezvoltatori: OAI-SearchBot pentru căutare, GPTBot pentru antrenare și ChatGPT-User pentru paginile deschise în numele unui utilizator. OpenAI afirmă că site-urile care blochează OAI-SearchBot în robots.txt nu apar în răspunsurile din ChatGPT search.

Care sunt limitele ChatGPT?

• Halucinații: poate afirma cu încredere fapte false, citate inventate sau surse inexistente, pentru că prezice text plauzibil.
• Limita cunoștințelor: fără căutare pe web, ignoră tot ce a apărut după datele de antrenare.
• Limitele contextului: documentele sau conversațiile foarte lungi depășesc ce poate lua în considerare simultan.
• Sensibilitatea la formulare: un prompt ușor diferit poate produce un alt răspuns sau o altă listă de branduri recomandate.
• Selecția surselor: când caută, citește doar câteva pagini, deci contează să fii printre ele.

Ce înseamnă asta pentru a fi citat de ChatGPT?

Înțelegerea fluxului oferă o listă clară de verificare pentru orice brand care vrea să apară în răspunsurile din ChatGPT:

1. Lasă crawlerele să intre: permite OAI-SearchBot în robots.txt și servește conținutul în HTML, care funcționează fără JavaScript greu.
2. Clasează-te în căutarea clasică: ChatGPT search pornește de la rezultatele căutării, deci paginile bine clasate pe interogările de bază au mai multe șanse să fie citite.
3. Scrie pasaje care pot fi extrase: un răspuns direct sub fiecare titlu, paragrafe scurte care se susțin singure, definiții, tabele și cifre cu surse.
4. Fii prezent acolo unde citește: recenziile, articolele comparative, forumurile, presa și Wikipedia modelează ce spune modelul despre brandul tău, atât în datele de antrenare, cât și în căutarea în timp real.
5. Rămâi consecvent: același nume, aceeași descriere și aceleași fapte pe site și pe profilurile externe îl ajută pe model să recunoască brandul tău ca pe o singură entitate.
6. Măsoară: pune întrebările pe care le pun clienții tăi și vezi dacă ești citat. Instrumentul gratuit verificator al vizibilității în ChatGPT oferă un prim răspuns în mai puțin de un minut.

ChatGPT prezice text din ce a învățat și, pentru întrebările proaspete, din câteva pagini web pe care alege să le citească: brandurile pe care le citează sunt cele ale căror pagini sunt ușor de găsit, ușor de extras și confirmate de alte surse. Ca să urmărești în timp prezența ta în ChatGPT, Gemini și Claude și să publici conținut construit ca să fie citat, Sorank urmărește prompturile tale și scrie articole optimizate pe autopilot, cu o perioadă de probă gratuită de 3 zile.