Halucynacje chatbotów: dlaczego boty zmyślają i co pomaga

Halucynacje chatbotów to płynne, pewne siebie odpowiedzi, które nie mają pokrycia w faktach. Biorą się stąd, że model językowy przewiduje prawdopodobny tekst - nie sprawdza faktów. Ryzyko da się mocno ograniczyć: zawęź bota do własnych źródeł firmy, utrzymaj wąski zakres tematów, uporządkuj dokumenty, testuj i daj mu uczciwą odpowiedź awaryjną. Nic jednak nie usuwa tego ryzyka całkowicie. Jeśli w zeszłym roku bawiłeś się generatywną AI i widziałeś, jak z kamienną twarzą wymyśla szczegóły, pewnie zastanawiasz się, czy bota na stronie można bezpiecznie pokazać klientom. Słuszne pytanie. Poniżej: jak działa ten mechanizm i które zabezpieczenia naprawdę pomagają.

Czym są halucynacje chatbotów?

Halucynacja to odpowiedź, która brzmi dobrze, jest podana z pełnym przekonaniem, a została zmyślona albo nie opiera się na żadnym źródle. Właściciel firmy zna to z praktyki: wymyślona cena, błędne godziny otwarcia, warunki zwrotu, których nikt nie napisał, funkcja produktu albo zasada, która nie istnieje. Prawdziwym kłopotem jest ton, bo klient nie dostaje żadnego sygnału, że coś jest nie tak. To też nie jest zwykły błąd. Bot działa zgodnie z założeniami. Po prostu nie ma pojęcia prawdy i fałszu.

Dlaczego chatboty zmyślają?

Model językowy generuje najbardziej prawdopodobne kolejne słowa na podstawie wzorców z tekstów, na których go trenowano. Nie zagląda do bazy faktów. Nie wie też nic o Twojej firmie, dopóki nie przekażesz mu tych informacji, więc wypełnia luki tym, co brzmi typowo dla podobnych firm. Wiarygodny czas dostawy? Standardowo wyglądająca zasada zwrotu pieniędzy? Dokładnie to tworzy taki system, gdy nie ma się na czym oprzeć.

Jest jeszcze druga sprawa. Model jest zbudowany tak, żeby zawsze udzielić odpowiedzi. Dlatego dziura w wiedzy zamienia się w rozsądnie brzmiący domysł, a nie w „nie wiem”. Sprzyjają temu pytania niejasne albo bardzo szerokie, a także wiedza ogólna, która była nieaktualna już wtedy, gdy model się jej uczył.

Które błędne odpowiedzi chatbota AI najbardziej szkodzą małej firmie?

Kosztowne są te błędy, na podstawie których klient podejmuje działanie: ceny, warunki, terminy, dostępność i wszystko, co pachnie obietnicą. Niegroźna wpadka w luźnej rozmowie idzie w niepamięć. Wymyślony warunek klient zacytuje Ci później. Moim zdaniem najwięcej uwagi wymagają te tematy:

• ceny i rabaty,
• zwroty i gwarancja,
• terminy dostawy,
• porady prawne lub zdrowotne,
• zobowiązania, których firma nigdy nie złożyła.

Ile Cię to kosztuje w praktyce? Reklamacje, utracone zaufanie i czas pracowników poświęcony na prostowanie sprawy. Sprawie przyglądają się też regulatorzy. W grudniu 2023 roku Parlament Europejski i Rada osiągnęły wstępne porozumienie w sprawie AI Act, który nie został jeszcze przyjęty, ale zapowiada, że nadchodzą oczekiwania dotyczące zaufania i przejrzystości w AI.

Oparcie chatbota na Twoich dokumentach: główne rozwiązanie

Najskuteczniejszy sposób na ograniczenie zmyślonych odpowiedzi to sprawić, żeby bot odpowiadał wyłącznie na podstawie treści, które mu dostarczyłeś, a nie na podstawie ogólnego treningu. System najpierw znajduje w Twoich plikach właściwe fragmenty i dopiero wtedy model pisze z nich odpowiedź. Takie podejście, czyli odpowiadanie z własnych dokumentów firmy, zastępuje zgadywanie czytaniem. Botino działa właśnie w ten sposób: odpowiada na podstawie treści wgranych przez firmę, w widżecie na stronie dodawanym jednym skryptem. To zmniejsza ryzyko zmyślonych odpowiedzi. Nie eliminuje go.

Wąski zakres pomaga z tego samego powodu. Bot ograniczony do Twojej oferty, zasad i praktycznych pytań ma po prostu mniej okazji do improwizacji niż taki, którego zaprasza się do rozmowy o wszystkim. Nadal rozważasz wariant w pełni oparty na skryptach? Porównanie botów AI i regułowych pokazuje, gdzie sprawdza się każdy z tych typów.

Zapobieganie halucynacjom chatbotów zaczyna się od czystych dokumentów źródłowych

Śmieci na wejściu, śmieci na wyjściu. Bot oparty na dokumentach jest tylko tak dokładny, jak dokumenty, które za nim stoją, więc sprzeczności i nieaktualne pliki zamieniają się wprost w błędne odpowiedzi. Typowi winowajcy: dwa cenniki, stara polityka zwrotów zostawiona na zapomnianej podstronie, różne godziny otwarcia w dwóch miejscach. Zanim cokolwiek wgrasz, przejdź przez te kroki:

1. Zbierz pytania, które klienci naprawdę zadają.
2. Zgromadź dokumenty, które na nie odpowiadają.
3. Usuń nieaktualne wersje.
4. Rozstrzygnij sprzeczności między plikami.
5. Zapisz informacje wprost, zamiast zostawiać je w domyśle.
6. Wyznacz osobę, która aktualizuje treści, gdy zmienia się oferta.

Jeszcze jedna wskazówka. Krótkie, jasno zatytułowane dokumenty, z których każdy dotyczy jednego tematu, bot wykorzysta poprawnie łatwiej niż jeden długi plik, w którym wszystko jest wymieszane.

Jak sprawdzić dokładność chatbota, zanim zobaczą go klienci

Testuj na prawdziwych pytaniach klientów (także takich, których Twoje dokumenty nie obejmują) i sprawdzaj każdą odpowiedź ze źródłem. Skąd wziąć dobry materiał? Ze skrzynki mailowej, notatek z rozmów telefonicznych, historii formularza kontaktowego i pytań, które pracownicy słyszą co tydzień. Przy każdej odpowiedzi zadaj trzy pytania: czy jest poprawna, czy pochodzi z Twoich treści i czy bot trzyma się swojego zakresu, gdy rozmowa schodzi na inny temat?

Dorzuć też niewygodne przypadki. Dwuznaczne sformułowania, prośby o rzeczy, których nie oferujesz, próby wyciśnięcia rabatu albo obietnicy. Powtarzaj to ćwiczenie po każdej aktualizacji dokumentów. A gdy bot już działa, nadal regularnie przeglądaj rozmowy.

Co bot powinien zrobić, gdy Twoje źródła milczą?

Gdy w dokumentach nie ma odpowiedzi, właściwa reakcja to proste stwierdzenie, że bot tego nie wie, plus wskazanie Twoich danych kontaktowych. I tyle. Uczciwa odpowiedź awaryjna chroni zaufanie lepiej niż płynny domysł, a klientom to nie przeszkadza, o ile następny krok jest oczywisty. Rozumowanie stojące za tym, kiedy bot powinien przyznać się do luk, dotyczy każdego wdrożenia w małej firmie. Aha, i potraktuj pytania bez odpowiedzi jako listę zadań: nowe albo poprawione dokumenty.

Czy więc chatbot rozmawiający z klientami jest bezpieczny? Halucynacji chatbotów nie da się całkowicie wykluczyć. Ale oparcie na dokumentach, wąski zakres, czyste źródła, testy i uczciwa odpowiedź awaryjna sprawiają, że bot dla klientów staje się ryzykiem, którym da się zarządzać, a nie hazardem.

FAQ