Odpowiedzialność za chatbota: kto płaci, gdy bot poda błędną odpowiedź

Krótko: w większości przypadków odpowiedzialność za chatbota spada na firmę, która ma go na swojej stronie. I to ma sens. Klient widzi w bocie firmę, która do niego mówi, a nie jakąś osobną stronę. Większość właścicieli martwi się czymś bardzo konkretnym: bot obiecuje zwrot pieniędzy, cenę albo zasadę, której nikt w firmie nigdy nie zatwierdził. Poniżej opisuję, skąd bierze się to ryzyko, co obejmuje prawo (a czego nie) i jakie praktyczne kroki oduczają bota zgadywania.

Kto odpowiada, gdy chatbot poda błędną odpowiedź?

Zwykle Ty. Gdy chatbot się pomyli, klienci i urzędy patrzą na firmę, która go wdrożyła. Spójrz na to oczami klienta: widżet jest na Twojej stronie, ma Twoje logo i odpowiada w Twoim imieniu, więc dlaczego miałby traktować go jak kogoś z zewnątrz? Odpowiedzialność firmy za chatbota i jego odpowiedzi wynika głównie z zasad, które już Cię obowiązują: warunków umów, ochrony konsumentów oraz krajowych przepisów o reklamie i cenach. To, ile ryzyka bierze na siebie dostawca oprogramowania, zależy od Twojej umowy z nim. Przeczytaj ją. Tylko nie zakładaj, że dostawca zapłaci za obietnicę, którą bot złożył Twojemu klientowi.

Czy nowa unijna dyrektywa o odpowiedzialności za produkty obejmuje błędy chatbotów?

Częściowo. I nie w typowej sytuacji. Dyrektywa dotyczy szkód poniesionych przez osoby fizyczne, a błędna odpowiedź zwykle powoduje czysto finansową stratę. Według znowelizowanej unijnej dyrektywy o odpowiedzialności za produkty oprogramowanie, łącznie z systemami AI, jest produktem objętym odpowiedzialnością na zasadzie ryzyka. Dyrektywa obejmuje odszkodowania za śmierć, uszkodzenie ciała, szkody w mieniu oraz zniszczenie lub uszkodzenie danych. Czysta strata finansowa, naruszenie prywatności i dyskryminacja same w sobie nie rodzą odpowiedzialności na jej podstawie, a roszczeń z umowy, rękojmi i z tytułu winy dyrektywa nie rusza. Więc nie, to nie jest prawo o odpowiedzialności za chatboty. Bot podający złą cenę to nadal sprawa dla zwykłych przepisów o umowach i ochronie konsumentów.

Skąd naprawdę bierze się ryzyko prawne związane z chatbotem

Najczęściej stąd, że bot łata luki zgadywaniem, gdy Twoich treści brakuje, są nieaktualne albo sobie przeczą. Robi się niebezpiecznie przy tematach, w których odpowiedź brzmi jak zobowiązanie:

• zwroty i odstąpienie od umowy
• ceny i rabaty
• terminy dostawy
• warunki gwarancji
• zasady, kto może z czegoś skorzystać
• wszystko, co dotyczy zdrowia, prawa lub finansów

Rzecz w tym, że błędne informacje od chatbota AI zwykle zaczynają się od materiałów źródłowych, a nie tylko od modelu. Stary cennik, dwie wersje tego samego regulaminu, mętne FAQ - każda z tych rzeczy daje botowi pole do improwizacji. I zastrzeżenie tej luki nie zamknie. Mała notka „bot może się mylić” nie zastąpi poprawnych treści.

Jak ograniczyć odpowiedzialność za chatbota przed startem

Trzymaj bota przy Twoich sprawdzonych treściach, naucz go przyznawać, że czegoś nie wie, i przed startem przejrzyj jego odpowiedzi na ryzykowne tematy. W praktyce wygląda to tak:

1. Spisz tematy, o których bot nigdy nie decyduje, na przykład zwroty, indywidualne ceny i wyjątki.
2. Napisz krótkie, jednoznaczne strony źródłowe dla każdej zasady.
3. Usuń nieaktualne i zdublowane dokumenty.
4. Ustaw odpowiedź awaryjną, która zamiast zgadywać, kieruje na stronę kontaktową albo adres e-mail.
5. Przetestuj bota pytaniami, które klienci naprawdę zadają, także tymi podchwytliwymi.
6. Napisz w widżecie, że wiążące warunki są w Twoich opublikowanych regulaminach.

Gdybym miał wybrać jeden, to krok czwarty. Ustawienie odpowiedzi awaryjnych bez zgadywania jest, szczerze mówiąc, proste.

Jak dbać o poprawne odpowiedzi po starcie

Bot jest tak dokładny, jak treści, które czyta. Ceny się zmieniają, zasady się zmieniają, a bot musi o tym wiedzieć tego samego dnia. Wyznacz jedną osobę odpowiedzialną za zmiany zasad i cen, a aktualizację treści bota wpisz na tę samą listę kontrolną co aktualizacje strony. Regularnie przeglądaj zapisy rozmów i szukaj pytań, na które bot odpowiedział źle albo nie odpowiedział wcale. Potem poprawiaj stronę źródłową, a nie sam objaw. Czy potrzebujesz osobnego redaktora, żeby aktualizować bazę wiedzy na bieżąco? Nie. Wystarczy stała rutyna.

Co zrobić, gdy bot już powiedział coś błędnego

Najpierw popraw treść źródłową. Potem skontaktuj się z klientem i uzgodnij uczciwe rozwiązanie na podstawie Twoich warunków i lokalnego prawa konsumenckiego. Zachowaj zapis rozmowy dokładnie w takiej postaci, w jakiej przebiegła (nie poprawiaj go), i sprawdź, czy inni klienci nie dostali tej samej odpowiedzi. Jeśli sporna obietnica dotyczy pieniędzy, porozmawiaj z prawnikiem, który zna prawo konsumenckie w Twoim kraju, bo ten artykuł nie jest poradą prawną.

Podsumowując: odpowiedzialność za chatbota da się opanować, gdy bot czyta tylko sprawdzone treści i zamiast zgadywać, mówi „nie wiem”. Jeśli chcesz pomocy w takim ustawieniu, przyjrzyj się naszym planom ze wsparciem przy wdrożeniu. A jeśli interesuje Cię szersze spojrzenie na ryzyko, nasze wpisy o ryzyku związanym z AI odpowiadają na pokrewne pytania.

FAQ