RAG (Retrieval-Augmented Generation) este o metodă prin care un asistent AI caută mai întâi informația în documentele companiei și abia apoi formulează răspunsul, cu trimitere la sursă. Astfel, asistentul răspunde din procedurile, contractele sau fișele tehnice ale firmei, nu din cunoștințele generale ale modelului.
Mulți manageri își doresc un asistent AI care să răspundă la întrebări despre procedurile sau produsele firmei. Un model de limbaj obișnuit nu cunoaște documentele interne și, dacă nu știe, poate formula un răspuns care sună convingător, dar este greșit. RAG este una dintre cele mai folosite abordări pentru această problemă. Mai jos explicăm cum funcționează, ce poți aștepta realist de la el și ce pregătești înainte de un proiect.
Pe scurt
RAG = căutare în documentele tale + răspuns generat pe baza fragmentelor găsite + citarea sursei. Funcționează cel mai bine cu documente actuale și ordonate, cu permisiuni respectate și cu un set de întrebări de test. Reduce erorile, dar pentru decizii importante un om verifică sursa citată.
Cum funcționează RAG: întâi caută, apoi răspunde
RAG vine din engleză, de la „Retrieval-Augmented Generation”, adică generare de răspunsuri sprijinită pe căutare. În loc să răspundă din „memoria” lui generală, asistentul caută mai întâi fragmentele relevante în documentele companiei și abia apoi formulează răspunsul pe baza lor.
Seamănă cu modul în care lucrează un coleg conștiincios. Când primește o întrebare la care nu știe sigur răspunsul, deschide procedura, găsește paragraful potrivit și răspunde pornind de la el.
- Documentele sunt pregătite: împărțite în fragmente și indexate, ca să poată fi găsite rapid după sens, nu doar după cuvinte exacte.
- Utilizatorul pune o întrebare în limbaj natural.
- Sistemul caută fragmentele cele mai relevante pentru întrebare.
- Modelul de limbaj primește întrebarea împreună cu fragmentele găsite și formulează răspunsul.
- Răspunsul este afișat cu trimitere la documentele folosite.
De ce nu dai pur și simplu modelului toate documentele dintr-odată? Pentru că, într-o companie, volumul de documente este de obicei prea mare pentru o singură întrebare, iar costul și timpul de răspuns ar crește inutil. În plus, cu cât primește mai mult text irelevant, cu atât crește riscul ca modelul să se agațe de informația greșită. Căutarea prealabilă îi oferă doar ce contează pentru întrebarea respectivă.
De ce contează citările într-un asistent RAG
Un asistent RAG bun nu spune doar „iată răspunsul”, ci și „iată de unde l-am luat”. Citarea poate fi numele documentului, secțiunea sau un link direct către pagina relevantă.
Pentru o afacere, citarea face diferența dintre un răspuns pe care trebuie să-l crezi pe cuvânt și unul pe care îl poți verifica în câteva secunde. Este utilă mai ales când răspunsul stă la baza unei decizii, a unei comunicări către client sau a unei operațiuni cu bani.
Un exemplu conceptual: un angajat din vânzări întreabă care este termenul de garanție pentru un anumit produs. Asistentul răspunde și indică fișa tehnică și secțiunea din care a extras informația. Dacă angajatul are vreo îndoială, deschide documentul și confirmă înainte să-i transmită clientului răspunsul.
Limitele RAG: reduce erorile, dar nu le elimină
RAG reduce semnificativ riscul ca asistentul să inventeze informații, pentru că îl obligă să pornească de la surse reale. Totuși, nu face sistemul infailibil, iar asta trebuie spus clar oricui îl folosește.
- Căutarea poate aduce un fragment nepotrivit, iar răspunsul va fi greșit chiar dacă are citare.
- Modelul poate interpreta greșit un fragment corect sau poate combina informații din contexte diferite.
- Dacă două documente se contrazic, sistemul nu știe singur care este versiunea valabilă.
- Tabelele complexe, documentele scanate sau imaginile pot fi citite incomplet.
Limită importantă
Un răspuns cu citare nu este automat un răspuns corect. Pentru decizii importante, juridice, financiare sau medicale, omul verifică direct sursa citată înainte să acționeze.
Calitatea documentelor decide calitatea răspunsurilor
Un asistent RAG este la fel de bun ca documentele pe care le primește. Dacă procedurile sunt vechi, duplicate sau contradictorii, asistentul va reflecta exact această dezordine.
- Elimină sau arhivează versiunile depășite înainte de indexare.
- Stabilește care document este sursa oficială atunci când există mai multe variante.
- Preferă documente cu titluri clare, secțiuni și date de actualizare.
- Verifică documentele scanate: textul trebuie să poată fi extras corect.
- Notează cine este responsabil de fiecare categorie de documente.
Partea bună este că acest efort aduce beneficii și în afara proiectului AI. O bază de documente ordonată ajută și oamenii, nu doar asistentul.
Permisiuni: cine vede ce documente
Într-o companie, nu toată lumea are acces la toate documentele. Contractele, salariile sau datele clienților sunt, de obicei, restricționate. Un asistent RAG trebuie să respecte aceleași reguli.
Concret, sistemul verifică cine pune întrebarea și caută doar în documentele la care acea persoană are deja acces. Altfel, asistentul devine o scurtătură prin care cineva poate afla informații pe care nu ar trebui să le vadă. Acest aspect se stabilește de la începutul proiectului, nu se adaugă la final.
Merită stabilit și ce se întâmplă cu întrebările puse asistentului. Ele pot conține la rândul lor informații sensibile, așa că trebuie clar unde sunt stocate, cât timp și cine le poate consulta. Pentru unele categorii de documente poate fi mai prudent să nu fie incluse deloc, cel puțin în prima etapă.
Actualizarea surselor și informațiile lipsă
Documentele companiei se schimbă: apar proceduri noi, se modifică prețuri, se actualizează contracte. Indexul asistentului trebuie actualizat odată cu ele, automat sau după un program clar, iar documentele retrase trebuie scoase din index.
La fel de important este ce face asistentul când nu găsește informația. Comportamentul corect este să spună deschis că nu are o sursă pentru întrebarea respectivă și să indice cui se poate adresa utilizatorul. Un asistent care „completează” golurile din imaginație este mai periculos decât unul care recunoaște că nu știe.
Acest comportament nu apare de la sine. Se configurează explicit prin instrucțiunile date modelului și se testează cu întrebări la care știi sigur că documentele nu au răspuns.
Sfat practic
Păstrează o listă cu întrebările la care asistentul nu a găsit răspuns. Ea îți arată exact ce documente lipsesc sau trebuie clarificate și devine, în timp, un instrument de îmbunătățire a documentației interne.
Cum evaluezi un asistent RAG
Evaluarea nu se face pe impresii, după câteva întrebări puse la demonstrație. Ai nevoie de un set de întrebări reale, cu răspunsuri corecte cunoscute, pe care le poți rula din nou după fiecare schimbare.
- Corectitudine: răspunsul este conform cu documentul oficial?
- Citare: sursa indicată conține într-adevăr informația din răspuns?
- Acoperire: câte întrebări din setul de test primesc un răspuns util?
- Refuz corect: asistentul recunoaște când nu are informația, în loc să inventeze?
- Permisiuni: un utilizator fără acces nu primește informații din documente restricționate?
- Feedback: utilizatorii pot marca ușor un răspuns ca greșit, iar marcajele sunt analizate periodic?
Setul de test trebuie construit împreună cu oamenii care cunosc domeniul, pentru că ei știu care sunt întrebările frecvente și care sunt capcanele. Rulează setul de fiecare dată când adaugi documente noi, schimbi modul de căutare sau treci la alt model de limbaj, ca să observi din timp dacă o îmbunătățire într-o zonă a stricat altceva.
Cum pornim un proiect RAG
La WEB-AZ începem cu un set restrâns de documente bine definite și cu întrebările reale ale echipei. Abia după ce asistentul răspunde corect și cu citări pe acest set extindem sursele. Dacă vrei să vezi dacă documentele tale sunt pregătite pentru un astfel de asistent, o analiză inițială este un punct bun de plecare.
Pași următori