Sisteme RAG
Sisteme RAG: întâi caută,apoi răspund.
Un sistem RAG (retrieval-augmented generation) este un asistent AI care, înainte să răspundă, caută în sursele de date configurate și construiește răspunsul pe pasajele găsite, cu trimitere la ele. Crește relevanța și face răspunsurile verificabile, deși nu elimină toate erorile.
Un model de limbaj nu îți cunoaște documentele
Un LLM răspunde din ce a învățat la antrenare: nu îți știe procedurile, prețurile sau contractele și poate completa golurile cu informații plauzibile, dar false. Să încarci toate documentele într-o conversație nu e practic și nu respectă drepturile de acces.
- Răspunsuri sigure pe ele, dar fără o sursă care să poată fi verificată
- Informații depășite, pentru că modelul nu știe ce document a fost înlocuit
- Riscul ca un utilizator să primească fragmente din documente la care nu are acces
- Nicio regulă pentru întrebările la care documentele nu au răspuns
Pentru cine este
- Firme care vor un asistent AI care răspunde din documentele lor, nu din cunoștințe generale
- Echipe care trebuie să poată verifica de unde vine fiecare răspuns: calitate, conformitate, juridic
- Companii care au încercat un chatbot pe documente și au primit răspunsuri inventate sau fără sursă
- Echipe tehnice care vor să înțeleagă și să controleze cum își alege sistemul informația
Ce face un sistem RAG, pas cu pas
- 01
Pregătirea surselor
Documentele sunt împărțite în fragmente și indexate după sens, păstrând data, versiunea și nivelul de acces.
- 02
Căutarea pasajelor relevante
La fiecare întrebare, sistemul caută fragmentele cele mai apropiate ca sens, doar din sursele permise utilizatorului.
- 03
Răspuns din fragmente
Modelul primește întrebarea și pasajele găsite și e instruit să răspundă doar pe baza lor.
- 04
Citări verificabile
Răspunsul indică documentul și fragmentul folosit, ca utilizatorul să poată deschide sursa.
- 05
Refuz argumentat
Dacă pasajele găsite nu conțin răspunsul, sistemul spune asta în loc să inventeze.
- 06
Reindexare la schimbări
Documentele modificate sau retrase sunt actualizate în index după un program stabilit.
Cum funcționează
Drumul unei întrebări printr-un sistem RAG
Pașii marcați cu galben sunt validați de un om.
- Intrare
- Acțiune
- AI
- Om în buclă
- Rezultat
- 01
Intrare
Întrebarea utilizatorului
Colegul întreabă în cuvintele lui, într-un chat sau într-o aplicație.
- 02
Acțiune
Filtrare după acces
Sistemul identifică utilizatorul și limitează căutarea la sursele la care are drept.
- 03
Acțiune
Căutare în index
Sunt găsite fragmentele cele mai relevante ca sens, din documentele actuale.
- 04
AI
Răspuns cu citări
Modelul formulează răspunsul din fragmente sau spune că informația lipsește.
- 05
Om în buclă
Verificare la sursă
Utilizatorul deschide citarea și confirmă informația înainte să se bazeze pe ea.
- 06
Rezultat
Răspuns și feedback
Răspunsul e folosit, iar evaluarea utilizatorului intră în analiza calității.
Ce componente are un sistem RAG
- Sursele configurate: documente, pagini interne, tichete rezolvate, tabele
- Metadate pentru fiecare document: dată, versiune, departament, nivel de acces
- Un index de căutare după sens (embeddings), actualizat periodic
- Instrucțiuni pentru model: răspunde doar din surse, citează, recunoaște lipsa informației
- Un set de întrebări de test cu răspunsurile corecte cunoscute
Integrări posibile
- Google Drive
- Microsoft SharePoint
- Confluence
- Notion
- PostgreSQL cu pgvector
- Qdrant
- Elasticsearch
- Fișiere PDF și Word
- OpenAI API
- Anthropic API
- Google Drive
- Microsoft SharePoint
- Confluence
- Notion
- PostgreSQL cu pgvector
- Qdrant
- Elasticsearch
- Fișiere PDF și Word
- OpenAI API
- Anthropic API
Compatibilitatea fiecărei integrări se verifică în faza de analiză, pentru sistemele și versiunile pe care le folosești.
Control și transparență
Ce validează oamenii
- Alegerea surselor care intră în index și retragerea celor depășite
- Drepturile de acces, aliniate la permisiunile din sistemele originale
- Răspunsurile folosite pentru decizii importante, verificate direct la sursă
- Analiza periodică a răspunsurilor marcate ca greșite și a întrebărilor fără răspuns
Limite și cum le gestionăm
- RAG reduce riscul de răspunsuri inventate, dar nu îl elimină: modelul poate interpreta greșit un fragment corect
- Dacă căutarea aduce fragmentul nepotrivit, răspunsul va fi greșit, chiar dacă are citare
- Documentele scanate, tabelele complexe sau imaginile pot fi citite incomplet
- Informațiile contradictorii din surse diferite nu sunt rezolvate automat; sistemul le poate doar semnala
- Răspunsurile sunt atât de actuale cât e ultima reindexare a surselor
Cum evaluăm calitatea unui sistem RAG
Stabilim împreună indicatorii înainte de lansare și îi urmărim după. Valorile depind de proces, date și volum.
- Relevanța fragmentelor găsite
- Dacă fragmentele aduse pentru fiecare întrebare de test conțin răspunsul — verificat de echipă.
- Fidelitatea față de surse
- Dacă răspunsul spune doar ce scrie în fragmente, evaluat pe un eșantion de răspunsuri reale.
- Corectitudinea citărilor
- Dacă documentul citat susține efectiv afirmația, verificat manual prin sondaj.
- Refuzuri corecte
- Comportamentul la întrebări fără răspuns în surse, incluse intenționat în setul de test.
- Actualitatea indexului
- Intervalul dintre modificarea unui document și folosirea noii versiuni în răspunsuri.
Cum implementăm un sistem RAG
- 01
Surse și acces
Stabilim ce surse intră, cine are drept la ce și cât de des se schimbă documentele.
- 02
Setul de test
Strângem întrebări reale cu răspunsuri cunoscute, inclusiv întrebări la care documentele nu au răspuns.
- 03
Indexare și reglaj
Împărțim și indexăm documentele, apoi ajustăm căutarea până când fragmentele aduse sunt relevante.
- 04
Pilot și reindexare
Lansăm la un grup restrâns, analizăm feedbackul și fixăm programul de actualizare a surselor.
Exemple de utilizare
Scenariile sunt exemple conceptuale care arată ce se poate construi. Nu reprezintă implementări livrate sau rezultate obținute pentru clienți.
- Producător de echipamente industriale
Răspunsuri din fișe tehnice
Inginerii de vânzări întreabă despre specificații și primesc răspunsul cu pagina din fișa tehnică citată, pe care o verifică înainte de a o trimite clientului.
Exemplu conceptual - Broker de asigurări
Condiții de poliță
Consultanții întreabă ce acoperă un produs, iar sistemul răspunde din condițiile în vigoare, cu clauza citată; explicația pentru client rămâne la consultant.
Exemplu conceptual - Rețea de clinici private
Proceduri administrative interne
Personalul de recepție găsește pașii pentru decontări sau reprogramări din procedurile aprobate, fără ca sistemul să aibă acces la datele pacienților.
Exemplu conceptual
Întrebări frecvente
Ce înseamnă RAG?
RAG vine de la retrieval-augmented generation, adică generare sprijinită de căutare. Sistemul caută întâi fragmentele relevante în documentele tale, apoi modelul de limbaj formulează răspunsul pe baza lor și indică sursa.
Prin ce diferă RAG de un chatbot obișnuit?
Un chatbot obișnuit răspunde din cunoștințele generale ale modelului. Un sistem RAG caută întâi în sursele tale și răspunde pe baza lor, cu citare. Diferența practică: răspunsul poate fi verificat.
RAG elimină greșelile?
Nu. Le reduce și le face mai ușor de observat. Sistemul poate alege un fragment nepotrivit sau poate interpreta greșit un text, de aceea afișăm sursele, testăm pe întrebări reale și recomandăm verificarea umană pentru deciziile importante.
Ce se întâmplă când documentele nu conțin răspunsul?
Sistemul e instruit să spună clar că nu a găsit informația și, unde e cazul, să indice cui se poate adresa utilizatorul. Aceste întrebări sunt înregistrate, pentru că arată ce lipsește din documentație.
Cine vede ce în răspunsuri?
Căutarea e filtrată după drepturile utilizatorului înainte ca modelul să primească vreun fragment. La furnizorul de model ajung doar fragmentele relevante, nu arhiva întreagă; pentru date sensibile analizăm și modele găzduite privat, iar prelucrarea datelor personale se evaluează conform GDPR.
Prin ce diferă de o bază de cunoștințe enterprise?
Pagina de față descrie tehnica: cum caută și cum răspunde sistemul. O bază de cunoștințe enterprise se ocupă de infrastructura din jur: ce surse există, cine le deține, cum se actualizează și cum sunt guvernate la nivelul întregii firme.
Cât de des se actualizează sursele?
Depinde de ritmul schimbărilor: la fiecare modificare pentru documentele critice, zilnic sau săptămânal pentru restul. Documentele retrase sunt scoase din index, ca să nu mai fie citate.
Nu găsești răspunsul? Scrie-ne și îți răspundem direct.
Vrei răspunsuri AI pe care le poți verifica la sursă?
Trimite-ne câteva tipuri de documente și întrebările care apar des. Îți explicăm cum ar arăta sistemul RAG și cum îi testăm calitatea.
Soluții conexe
- Baze de cunoștințe enterpriseInfrastructura care ține cunoașterea firmei în ordine: surse inventariate, permisiuni, actualizare și responsabili pentru fiecare domeniu.
- Căutare semanticăCăutare după sens în site, catalog sau documente: rezultate relevante chiar când utilizatorul nu folosește cuvintele exacte.
- Evaluare și monitorizare AISeturi de test, verificări la fiecare schimbare, revizuire umană prin sondaj și urmărirea costurilor, ca să știi cum lucrează AI-ul tău în timp.