A gondolkodó modellek válasz előtt lépésről lépésre gondolkodnak, teszt-idejű számítási kapacitást használva. Tudd meg, hogyan működnek, és miért fontosak a GEO és az SEO szempontjából.

Ezen az oldalon
Összefoglaló
A gondolkodó modellek olyan nyelvi modellek, amelyeket arra tanítottak, hogy válasz előtt lépésről lépésre gondolkodjanak. A következtetés során többletszámítást használnak, hogy a problémát hosszú gondolatláncra bontsák, több megközelítést járjanak végig, és önmagukat javítsák. Ettől jóval erősebbek az összetett feladatokon, mint a azonnal válaszoló szokásos modellek.
Szeretnél többet megtudni? Kérdezd meg
A gondolkodó modellek olyan nagy nyelvi modellek, amelyek azt tanulják meg, hogyan válaszoljanak, nem csak azt, mit válaszoljanak. Ahelyett, hogy a prompt elolvasása után azonnal választ adnának, először belső gondolatláncot generálnak: hosszú sorozatát a köztes lépéseknek, amelyekben felbontják a problémát, megpróbálnak megoldásokat, visszalépnek, és ellenőrzik magukat, mielőtt végleges választ adnának. Ez a szemléletváltás kevés sebességet áldoz fel a nagy pontosságnövekedésért olyan nehéz feladatoknál, mint a matematika, a programozás vagy a többlépéses logika.
A marketingeseknek azért fontos ez, mert a gondolkodó modellek ma már a fő AI-asszisztensek mélykutatási és többlépéses válaszai mögött állnak. Ha egy modell átgondol egy kérdést, gyakran sok részkeresést futtat, és gondosan mérlegeli a forrásokat, így a kérdés az, hogy a tartalmad világos, ellenőrizhető és könnyen beépíthető-e ebbe a gondolkodásba, nem egyszerűen az, hogy egy kulcsszóra rangsorolódik-e.
A gondolkodó modellek a problémát kisebb lépésekre bontják, mielőtt válaszolnának, vagyis azt tanulják meg, hogyan válaszoljanak, nem csak azt, mit. A köztes lépések explicit következtetések, amelyek felbontják az összetett feladatot, és a modell problémamegoldását láthatóvá teszik, nem fekete dobozként működnek. Az olyan modellek, mint az OpenAI o1 és o3, a DeepSeek-R1, a Google Gemini és az Anthropic Claude, mind valamilyen formában kitesznek egy gondolkodási fázist.
A kialakuló viselkedés meglepően tudatosnak tűnik. Egy gondolkodó modell átkutatja a lehetséges megoldásokat, reflektál a saját munkájára, visszalép, ha egy próbálkozás kudarcot vall, és másik utat jár be. A DeepSeek-R1 például a gondolatmenetét think címkék között osztja meg, így a lánc láthatóvá és hibakereshetővé válik. Ez más működési mód, mint egy olyan chatbot, amely egyszerűen mintákat illeszt egy folyékony válaszhoz.
A gondolkodó modell motorja a gondolatlánc, vagyis a gondolkodási lépések explicit megjelenítése, amely lehetővé teszi, hogy a modell a következtetés előtt megmutassa a munkáját. Ha ezeket a lépéseket tokenekként generálja, a modell képes egyszerre látni a részfeladatokat, több megoldást kipróbálni, és ellenőrizni a köztes eredményeket. Ezért függ össze a hosszabb lánc a jobb válaszokkal az összetett problémáknál.
Ez valódi változás abban, ahogyan egy LLM kimenetet állít elő. A szokásos modell közvetlenül a prompt után, tokenről tokenre generál választ. A gondolkodó modell először egy feltárási fázist iktat be, és csak akkor írja meg a végső választ, miután végiggondolta a problémát. Ennek a fázisnak a költsége a nehézséggel arányosan nő: egy egyszerű fordítás talán csak száz gondolkodási tokent igényel, egy nehéz bizonyítás viszont sok ezret.
A gondolkodó modelleket a teszt-idejű számítás hajtja, amely a tanítás helyett a következtetés idején biztosít többletszámítást. Az elképzelés, amelyet néha az előtanítás és az utótanítás mellett harmadik skálázási törvénynek neveznek, az, hogy ha a modell hosszabban gondolkodhat a AI-következtetés során, olyan képességekre tesz szert, amelyeket egy nagyobb, de gyorsabb modell nem ér el. Észszerű határon belül több gondolkodási token pontosabb megoldásokat eredményez.
A számok feltűnőek. Az Introl szerint a DeepSeek-R1 kiterjesztett gondolkodással az AIME-pontosságát 15,6%-ról 71%-ra javította, és egy 7B paraméteres modell, amely százszor annyi következtetési számítást használ, felveheti a versenyt egy szokásos következtetéssel futó 70B modellel. Ugyanez az elemzés azt jósolja, hogy 2026-ra a következtetési igény 118-szorosan meghaladja a tanítási igényt, ami jól mutatja, mennyire határozottan fordult a terület a futásidejű gondolkodás felé.
A legtöbb gondolkodó modellt megerősítéses tanulás formál, amely a helyes kimenetelre optimalizál, nem a következő token előrejelzésére. Két általános megközelítés létezik: az ellenőrzőkön keresztüli keresés, ahol a rendszer sok jelölt választ mintavételez, és egy jutalmazó modell kiválasztja a legjobbat, valamint a javaslati eloszlás módosítása, ahol a modellt finomhangolással vagy megerősítéses tanulással úgy tanítják, hogy természetesen a gondolkodási tokenek felé hajoljon.
Figyelemre méltó eredmény, hogy a gondolkodás tisztán megerősítéses tanulásból is kialakulhat. A Zylos szerint a DeepSeek-R1-Zero önként fejlesztett ki önreflexiót, stratégiaváltást és többlépéses felbontást, emberi címkézésű gondolkodási példák nélkül. Az olyan technikák, mint az RLHF, továbbra is fontosak az igazodáshoz és a segítőkészséghez, maga a gondolkodási képesség azonban úgy is növelhető, hogy a helyes többlépéses megoldásokat jutalmazzák.
A gyakorlati különbség a köztes feltáró fázisban rejlik. A szokásos modell gyorsan és felszínesen válaszol, ami ideális visszakereséshez, összefoglaláshoz és rövid tényszerű válaszokhoz. A gondolkodó modell lassabban, mélyebben válaszol, ami az összetett elemzés igénye. Az ARC-AGI-2 absztrakt gondolkodási teszten a szokásos modellek közel nullát értek el, míg a gondolkodó rendszerek érdemben jobb eredményt értek el, az OpenAI o3 a Zylos szerint 45,1%-ot ért el.
Ezért teszi ma már több szolgáltató állíthatóvá a gondolkodást. A Google dinamikus gondolkodásról ír, amely a gondolkodási erőfeszítést a feladat nehézségéhez igazítja, az Anthropic pedig fejlesztő által szabályozható gondolkodási keretet kínál. A cél az, hogy a mély gondolkodásra csak ott költsenek, ahol megéri, a többi esetben pedig a gyors generálás legyen az alapértelmezett. Ezek a különbségek a szélesebb alapmodellekhez is kapcsolódnak, amelyek szokásos és gondolkodó változatban is megjelennek.
A gondolkodó modellek állnak a mélykutatás és azoknak a többlépéses válaszoknak a mögött, amelyek egyre inkább közvetítik a felfedezést. Amikor egy asszisztens átgondol egy kérdést, felbontja a lekérdezést, több keresést futtat, és a válasz megírása előtt mérlegeli a bizonyítékokat. Ez azt jelenti, hogy a tartalmad sok gondolkodási lépésen át versenyez azért, hogy idézzék, nem egyetlen rangsorolási helyért.
Ez az optimalizálást a világosság és az ellenőrizhetőség köré helyezi. Az a tartalom, amely egyértelműen közli a tényeket, úgy strukturálja az információt, hogy a modell ki tudja nyerni, és több oldalon is következetes, könnyebben megbízható és újrahasznosítható egy gondolkodó modell számára. Ez a generatív motoroptimalizálás lényege: legyél az a forrás, amelyhez a gondolkodó modell visszatér, amikor egy nagyobb lekérdezés részkérdéseit járja végig, és ehhez párosítsd a fegyelmezett kulcsszókutatást és tartalomtervezést, hogy lefedd ezeket a kérdéseket.
A gondolkodó modellek ott jeleskednek, ahol egyetlen menet nem elég: versenyszintű matematika, szoftverfejlesztés, tudományos elemzés és összetett tervezés. A Zylos szerint az o3 a GPQA Diamond teszten 91,9%-ot ért el, és főbb matematikai versenyeken aranyszintű teljesítményt nyújtott, a DeepSeek-R1 pedig teljesen nyílt forráskódú modellként 97,3%-ot ért el a MATH-500 teszten. A DeepSeek különösen azt bizonyította, hogy a nyílt modellek a töredékébe kerülve is vetekedhetnek a zártakkal.
A benchmarkokon túl ezek a modellek az ügynök-alapú kutatást, az ellenőrzéssel kísért kódgenerálást és a strukturált döntéstámogatást hajtják. A tervezési és önellenőrzési képességük miatt ezek a nagy tétű feladatok alapértelmezett választásai, miközben a gyorsabb modellek a rutinkérdések nagy részét továbbra is kiszolgálják.
Az első korlát a költség és a késleltetés. A gondolkodó modellek lekérdezésenként tízszer-századszor annyi tokent generálhatnak, mint a szokásos modellek, ezért lassabbak és drágábbak. Az Introl megjegyzi, hogy az OpenAI 2024-es következtetési kiadása a tanítási költség tizenötszörösét érte el, ami közvetlen következménye annak, hogy a modellek futásidőben hosszabban gondolkodnak.
A második aggály a megbízhatóság. Egy hosszú gondolatlánc is hibás lehet, és egy korai baki magabiztosan téves válaszba torkollhat. A hosszabb gondolkodás sem mindig jobb, mert a túl hosszú láncok elkalandozhatnak, ezért marad fontos az adaptív gondolkodási keret és az emberi ellenőrzés. A gondolkodó modellek kimenetét erős, ellenőrizhető vázlatnak kezeld, ne tévedhetetlen eredménynek.
A gondolkodó modellek a válaszadást tudatos, többlépéses folyamattá alakítják, ahol a modell gondolkodik, feltár és ellenőriz, mielőtt válaszol. Ezt a teszt-idejű számítás hajtja, nem az egyre nagyobb előtanítás. Összetett feladatokon sokkal erősebbek, és ma már ezek a mélykutatási funkciók állnak a háttérben, amelyek alakítják, hogyan fedezik fel az emberek az információkat.
A marketingesek számára a tanulság az, hogy a tartalom legyen világos, strukturált és ellenőrizhető, hogy egy gondolkodó modell megbízhasson benne, és idézhesse a gondolkodása során. A teljes képhez kapcsold ehhez a gondolatláncot és a teszt-idejű számítást. Forrásmegjelölések: Zylos Research, Introl és Maarten Grootendorst.
Források
A szokásos nyelvi modell a következő tokent jósolja meg, és szinte azonnal válaszol. A gondolkodó modell először hosszú belső gondolatláncot generál: a problémát lépésekre bontja, megpróbál megoldásokat, és önmagát javítja, mielőtt válaszol. Ez a többlet gondolkodás, amelyet a teszt-idejű számítás fizet meg, sokkal erősebbé teszi a matematikában, a programozásban és a többlépéses logikában, a magasabb késleltetés és ár cserébe.
A gondolkodó modellek hajtják a mélykutatást és a többlépéses válaszokat olyan asszisztenseknél, mint a ChatGPT, a Gemini vagy a Perplexity, és gyakran lekérdezés-szétágazást futtatnak, hogy forrásokat gyűjtsenek. Mivel a kérdést sok részkérdésre bontják, az a tartalom kerül előtérbe és idéződik gyakrabban, amely ezekre a konkrét részkérdésekre világosan válaszol, és könnyen ellenőrizhető. A mélység, a struktúra és a következetes tények fontosabbak, mint egyetlen kulcsszó.
Nem. A többlet gondolkodás csak igazán összetett feladatoknál térül meg. Egyszerű keresésekhez vagy rövid tényszerű válaszokhoz egy gyors, szokásos modell olcsóbb és gyorsabb, a plusz gondolkodás pedig felesleges többletmunka. Sok szolgáltató ma már lehetővé teszi, hogy a modell a gondolkodási erőfeszítést a feladathoz igazítsa, a könnyű kérdésekre néhány száz tokent, a nehezekre több ezret költve.
A TE ELŐTTED PRÓBÁLTÁK KI A SORANKOT
