Słownik AI
Halucynacje AI
Halucynacje AI to odpowiedzi modelu językowego, które brzmią pewnie i poprawnie, ale są nieprawdziwe: zmyślone liczby, nieistniejące przepisy, fałszywe cytaty albo źródła. Biorą się stąd, że model przewiduje prawdopodobny tekst, a nie sprawdza faktów. Ograniczają je źródła podane w poleceniu, weryfikacja i kontrola człowieka przed publikacją.
Zaktualizowano: · 85 Software Group
Halucynacje AI wyjaśnione po ludzku
Model językowy nie ma w środku encyklopedii, z której czyta odpowiedzi. Układa tekst, który pasuje do pytania. Zwykle to, co pasuje, jest też prawdą, ale gdy model czegoś nie wie, i tak napisze coś, co brzmi wiarygodnie.
To jak student na egzaminie ustnym, który nie zna odpowiedzi, ale mówi płynnie i pewnym tonem. Słuchacz, który nie zna tematu, da się przekonać. Dlatego treść z AI, która trafia do klienta, ktoś musi sprawdzić.
Halucynacji nie da się wyłączyć jednym ustawieniem. Pomaga dawanie modelowi źródeł, z których ma korzystać, proszenie o wskazanie, skąd pochodzi informacja, i sprawdzanie liczb, dat, nazw oraz przepisów przed użyciem.
Jak używamy tego w praktyce
Nauka z Leonem: serwer sprawdza formę, rodzic fakty
Serwer Nauki z Leonem sprawdza, czy lekcja jest dobrze zbudowana, ale nie sprawdza, czy fakty są prawdziwe. Dlatego rodzic widzi podgląd i dopiero on publikuje lekcję dziecku.
Nauka z Leonem: testy faktów
Lekcje testowaliśmy w 8 przebiegach z Claude i Codex: w każdym wszystkie 5 sprawdzanych faktów było poprawnych. Mimo to podgląd rodzica zostaje ostatnim krokiem przed publikacją.
Więcej: Nauka z Leonem
Powiązane hasła
- LLMLLM to duży model językowy: program wytrenowany na ogromnej ilości tekstu, który przewiduje, jakie słowa powinny paść dalej
- RAGRAG to sposób budowania asystenta AI, który przed odpowiedzią wyszukuje pasujące fragmenty w dokumentach firmy, a potem odpowiada na ich podstawie
- PromptPrompt to polecenie, które wpisujesz do modelu AI, żeby wykonał zadanie: pytanie, instrukcja, przykład albo wklejony dokument
Pytania o Halucynacje AI
Dlaczego ChatGPT zmyśla?
Bo model językowy tworzy najbardziej prawdopodobny tekst, a nie wyszukuje faktów w bazie. Gdy brakuje mu wiedzy, nie mówi „nie wiem”, tylko pisze coś, co pasuje do pytania. Dlatego warto dawać mu źródła i sprawdzać szczegóły.
Jak sprawdzić, czy AI nie zmyśla?
Poproś o źródła i otwórz je, zamiast ufać samemu linkowi. Sprawdź liczby, daty, nazwiska i przepisy, bo tam błędy zdarzają się najczęściej. Przy ważnych dokumentach daj modelowi tekst źródłowy i każ odpowiadać tylko na jego podstawie.
Czy halucynacje AI da się całkowicie wyeliminować?
Nie, można je tylko mocno ograniczyć. Pomagają odpowiedzi oparte na dokumentach firmy, automatyczne sprawdzanie formy i człowiek, który zatwierdza wynik przed publikacją.
Chcesz wdrożyć to w firmie?Pomożemy albo nauczymy.
Budujemy produkty z AI i szkolimy zespoły. Napisz, czego potrzebujesz.
Napisz do nasa@85.pl