Mi az a RAG, és hogyan lesz belőle működő vállalati tudásbázis?

A Retrieval-Augmented Generation segítségével az AI a saját dokumentumai alapján válaszol, forrásmegjelöléssel. Bemutatjuk a működését, a buktatókat és a bevezetés lépéseit.

A nagy nyelvi modellek (LLM-ek) lenyűgözően fogalmaznak, de két komoly korlátjuk van: nem ismerik a cég belső dokumentumait, és ha nem tudják a választ, hajlamosak magabiztosan kitalálni egyet. A Retrieval-Augmented Generation (RAG) – magyarul nagyjából „visszakereséssel kiegészített szöveggenerálás” – mindkét problémára megoldást ad.

Hogyan működik a RAG?

A RAG lényege, hogy a modell nem a saját „emlékezetéből” válaszol, hanem előbb kikeresi a kérdéshez kapcsolódó részleteket a cég dokumentumaiból, és ezeket kapja meg kontextusként. A folyamat két fő szakaszból áll:

1. Indexelés: a dokumentumokat (PDF, Word, wiki, e-mail) kisebb, néhány bekezdésnyi darabokra (chunk) bontjuk, majd egy beágyazó (embedding) modell mindegyikhez egy számvektort rendel, amely a szöveg jelentését írja le. A vektorok egy vektoradatbázisba kerülnek.
2. Lekérdezés: a felhasználó kérdését szintén vektorrá alakítjuk, megkeressük a jelentésben hozzá legközelebb álló szövegrészeket, és ezeket a kérdéssel együtt átadjuk az LLM-nek azzal az utasítással, hogy csak ezek alapján válaszoljon, és jelölje meg a forrást.

A RAG nem tanítja újra a modellt: a tudás a dokumentumokban marad, ezért egy új szabályzat feltöltése után a rendszer azonnal „tudja” az új információt.

Miért jobb ez, mint egy egyszerű chatbot?

• Ellenőrizhetőség: minden válasz mellett ott a hivatkozott dokumentum és bekezdés.
• Naprakészség: nincs szükség drága és lassú modell-finomhangolásra, elég a dokumentumokat frissíteni.
• Jogosultságkezelés: a keresés figyelembe veheti, hogy ki milyen dokumentumokat láthat.
• Adatvédelem: a teljes rendszer futhat a cég saját szerverén, helyi nyelvi modellel.

A leggyakoribb buktatók

Egy működő demó egy délután alatt összerakható, de egy megbízható vállalati rendszerhez ennél több kell. A tapasztalataink szerint a minőséget leginkább ezek határozzák meg:

• Darabolás (chunking): ha túl kicsik a darabok, elvész a kontextus; ha túl nagyok, a keresés pontatlan lesz. A dokumentum szerkezetét (fejezetek, táblázatok) követő darabolás sokat javít.
• Hibrid keresés: a szemantikus (vektor) keresés mellé érdemes kulcsszavas keresést is tenni, mert a cikkszámokat, rövidítéseket és tulajdonneveket az így könnyebben megtalálja.
• Újrarangsorolás (reranking): egy második modell a találatok közül kiválasztja a ténylegesen legrelevánsabbakat.
• Rossz minőségű forrásanyag: szkennelt, nem kereshető PDF-ek, elavult verziók – a RAG csak olyan jó, mint a dokumentumtár.
• Mérés: egy tesztkérdés-készlettel rendszeresen mérni kell a válaszok pontosságát, különben a változtatások hatása nem látható.

Hogyan vezessük be?

Javasolt lépések egy vállalati RAG projekthez:

1. Válasszon ki egy jól körülhatárolt területet (például HR szabályzatok vagy műszaki dokumentáció).
2. Gyűjtsön össze 30–50 valós kérdést a válaszokkal – ez lesz a mérőkészlet.
3. Készüljön prototípus 2–4 hét alatt, és mérje a pontosságot.
4. Bővítse a dokumentumkört, kösse be a jogosultságokat és az egyszeri bejelentkezést.
5. Integrálja a megszokott felületekbe: Teams, Slack, intranet – vagy MCP szerveren keresztül bármely AI asszisztensbe.

Összegzés

A RAG ma a leggyorsabban megtérülő vállalati AI megoldások egyike: a munkatársak kevesebb időt töltenek kereséssel, a céges tudás pedig mindenki számára elérhetővé válik. A siker kulcsa nem a modell kiválasztása, hanem a jó adatelőkészítés, a keresés finomhangolása és a folyamatos mérés.