Słownik AI
Fine-tuning i LoRA
Fine-tuning to douczanie gotowego modelu AI na własnych przykładach, żeby lepiej wykonywał jedno konkretne zadanie: rozpoznawał branżowe pojęcia, trzymał stały format albo oceniał według firmowych kryteriów. LoRA to tańsza odmiana fine-tuningu, w której zmienia się tylko niewielką dodatkową część modelu, a nie cały model.
Zaktualizowano: · 85 Software Group
Fine-tuning wyjaśnione po ludzku
Gotowy model zna język i świat ogólnie, ale nie zna specyfiki Twojej branży. Fine-tuning polega na pokazaniu mu tysięcy przykładów „takie wejście, taki wynik”, aż nauczy się robić to samo na nowych danych.
To jak przyuczenie doświadczonego księgowego do programu, którego używa Twoja firma. Nie uczysz go księgowości od zera, tylko waszych zasad i skrótów. LoRA idzie o krok dalej: zamiast przerabiać całą wiedzę, dajesz mu cienki zeszyt z notatkami, który nosi przy sobie.
Douczenie ma sens, gdy zadanie jest wąskie i powtarzalne, a przykładów jest dużo. Mały douczony model bywa w takim zadaniu dokładniejszy, szybszy i tańszy niż duży model ogólny. Do wiedzy, która często się zmienia, lepiej sprawdza się RAG.
Jak używamy tego w praktyce
BooksyAudit: b-card rozkłada nazwy usług
Model b-card to Qwen3.5-2B douczony metodą LoRA. Rozkłada nazwę usługi salonu na kartę: zabieg, metoda, obszar i kolejne pola, korzystając ze słownika ok. 1 100 pojęć. Zgodnych pól jest 89,6%, a opisanych usług 1,57 mln.
BooksyAudit: b-match porównuje usługi
Model b-match to Qwen3.5-4B z LoRA. Ocenia, czy dwie usługi to „inna”, „odmiana” czy „ta sama”, z trafnością 88,2%. W ślepej ocenie 300 par 96% jego odpowiedzi „ta sama” było trafnych, wobec 39% w starym silniku.
Więcej: BooksyAudit
Powiązane hasła
- LLMLLM to duży model językowy: program wytrenowany na ogromnej ilości tekstu, który przewiduje, jakie słowa powinny paść dalej
- RAGRAG to sposób budowania asystenta AI, który przed odpowiedzią wyszukuje pasujące fragmenty w dokumentach firmy, a potem odpowiada na ich podstawie
- EmbeddingiEmbeddingi to zapis znaczenia tekstu w postaci liczb, dzięki któremu program może porównywać teksty według sensu, a nie samych słów
Pytania o Fine-tuning
Co to jest LoRA w AI?
LoRA to metoda douczania modelu, w której zamiast zmieniać cały model dokłada się małą warstwę z nowymi ustawieniami. Jest dużo tańsza i szybsza niż pełne douczenie. Jeden model bazowy może mieć kilka takich nakładek do różnych zadań.
Kiedy fine-tuning, a kiedy RAG?
Fine-tuning wybierz, gdy model ma się nauczyć umiejętności albo stałego formatu, na przykład klasyfikować zgłoszenia według firmowych kategorii. RAG wybierz, gdy model ma odpowiadać z aktualnych dokumentów. Często łączy się oba podejścia.
Ile danych potrzeba do fine-tuningu?
Zależy od zadania, ale zwykle od kilkuset do kilku tysięcy dobrych przykładów. Ważniejsza od liczby jest jakość: przykłady muszą być poprawne i spójne, bo model nauczy się także błędów.
Chcesz wdrożyć to w firmie?Pomożemy albo nauczymy.
Budujemy produkty z AI i szkolimy zespoły. Napisz, czego potrzebujesz.
Napisz do nasa@85.pl