Słownik AI
RAG (odpowiedzi z bazy wiedzy)
RAG to sposób budowania asystenta AI, który przed odpowiedzią wyszukuje pasujące fragmenty w dokumentach firmy, a potem odpowiada na ich podstawie. Model nie musi znać procedur ani cennika z pamięci, bo dostaje je razem z pytaniem. Dzięki temu odpowiedzi są aktualne, mniej zmyślone i mogą wskazać źródło.
Zaktualizowano: · 85 Software Group
RAG wyjaśnione po ludzku
Nazwa pochodzi od angielskiego Retrieval-Augmented Generation, czyli pisanie odpowiedzi wsparte wyszukiwaniem. Działa w dwóch krokach: najpierw program znajduje w bazie wiedzy kilka fragmentów pasujących do pytania, potem model językowy pisze odpowiedź, korzystając tylko z nich.
To jak różnica między egzaminem z pamięci a egzaminem z otwartą książką. Pracownik z segregatorem procedur na biurku odpowie dokładniej niż ten, który próbuje sobie przypomnieć, co było na szkoleniu rok temu.
RAG nie zmienia samego modelu. Gdy zmieni się regulamin albo cennik, wystarczy podmienić dokument w bazie, a asystent od razu odpowiada według nowej wersji.
Jak używamy tego w praktyce
Asystent z procedurami firmy
Typowe zastosowanie: nowa osoba w zespole pyta asystenta, jak przyjąć zwrot albo wystawić korektę, a asystent odpowiada z wewnętrznych procedur i podaje, z którego dokumentu wziął odpowiedź.
Obsługa klienta z regulaminu i cennika
Asystent przygotowuje szkic odpowiedzi na pytanie klienta na podstawie aktualnego regulaminu, cennika i warunków dostawy. Pracownik sprawdza szkic i wysyła, zamiast szukać informacji w kilku plikach.
Powiązane hasła
- EmbeddingiEmbeddingi to zapis znaczenia tekstu w postaci liczb, dzięki któremu program może porównywać teksty według sensu, a nie samych słów
- Halucynacje AIHalucynacje AI to odpowiedzi modelu językowego, które brzmią pewnie i poprawnie, ale są nieprawdziwe: zmyślone liczby, nieistniejące przepisy, fałszywe cytaty albo źródła
- Fine-tuningFine-tuning to douczanie gotowego modelu AI na własnych przykładach, żeby lepiej wykonywał jedno konkretne zadanie: rozpoznawał branżowe pojęcia, trzymał stały format albo oceniał według firmowych kryteriów
- LLMLLM to duży model językowy: program wytrenowany na ogromnej ilości tekstu, który przewiduje, jakie słowa powinny paść dalej
Pytania o RAG
Czym się różni RAG od fine-tuningu?
RAG daje modelowi dokumenty w chwili pytania, a fine-tuning zmienia sam model przez douczenie na przykładach. RAG lepiej sprawdza się przy wiedzy, która się zmienia, jak cenniki i procedury. Fine-tuning przydaje się, gdy model ma się nauczyć stałej umiejętności albo formatu.
Czy RAG eliminuje halucynacje?
Mocno je ogranicza, ale nie eliminuje. Model wciąż może źle zrozumieć fragment albo dopowiedzieć coś od siebie. Pomaga wymaganie, żeby asystent podawał źródło i mówił „nie wiem”, gdy w dokumentach nie ma odpowiedzi.
Czy można zrobić RAG na dokumentach firmy bez programisty?
Prosty wariant tak: projekty w Claude, GPT-y w ChatGPT i Gemy w Gemini pozwalają wgrać pliki, z których asystent korzysta. Przy tysiącach dokumentów, uprawnieniach dostępu i integracji z systemami potrzebne jest już rozwiązanie zbudowane na zamówienie.
Chcesz wdrożyć to w firmie?Pomożemy albo nauczymy.
Budujemy produkty z AI i szkolimy zespoły. Napisz, czego potrzebujesz.
Napisz do nasa@85.pl