Wist je dat je bedrijf vastzit aan wat je chatbot belooft?

Kort antwoord: een chatbot op je website is geen losse partij. Voor de klant praat hij namens jouw bedrijf. In een bekende Canadese zaak uit 2024 moest Air Canada nakomen wat zijn chatbot een klant had beloofd, ook al klopte die belofte niet met het echte beleid.

Steeds meer organisaties zetten een AI-chatbot in voor vragen van klanten. Dat scheelt tijd en klanten krijgen sneller antwoord. Maar een taalmodel kan met volle overtuiging iets zeggen dat niet klopt. De vraag is dan: van wie is die fout?

Wat er gebeurde bij Air Canada

In november 2022 overleed de grootmoeder van Jake Moffatt. Hij vroeg via de chatbot op de website van Air Canada naar een rouwtarief, een korting voor mensen die reizen vanwege een overlijden. De chatbot vertelde hem dat hij eerst een gewoon ticket kon kopen en de korting achteraf kon aanvragen.

Dat bleek niet te kloppen. Volgens het echte beleid van Air Canada kon je het rouwtarief niet achteraf aanvragen. Moffatt kreeg zijn geld niet terug en stapte naar het Civil Resolution Tribunal in British Columbia.

Air Canada voerde onder meer aan dat het niet aansprakelijk was voor wat de chatbot zei. Het tribunaal verwierp dat in februari 2024. Het oordeelde dat de chatbot gewoon onderdeel is van de website van Air Canada, en dat het bedrijf verantwoordelijk is voor alle informatie op die website. Air Canada moest Moffatt het verschil vergoeden.

Waarom dit verder gaat dan één vliegtuigticket

Het bedrag was klein. De les is groot. De klant hoeft niet te begrijpen dat er een taalmodel achter een chatvenster zit. Voor hem is het gewoon jouw bedrijf dat antwoord geeft.

Dat was een Canadese zaak, en elk land heeft zijn eigen regels. Maar de redenering is herkenbaar: als je een chatbot namens je organisatie laat praten, kun je je moeilijk verschuilen achter de techniek als hij iets verkeerds zegt.

Waar het misgaat met AI-chatbots

Een AI-chatbot verzint niet alleen soms feiten, hij kan ook:

een kortingsregel of garantievoorwaarde verkeerd uitleggen;
een levertijd of prijs noemen die niet klopt;
een belofte doen die je organisatie nooit heeft gedaan;
verouderde informatie geven omdat de bronnen niet zijn bijgewerkt.

Lees ook waarom AI niet weet wat het niet weet, want daar zit de oorzaak.

Wat je regelt voordat een chatbot met klanten praat

Beperk waar de chatbot over gaat. Laat hem vragen beantwoorden op basis van je eigen, actuele informatie, en geen onderwerpen buiten dat gebied.
Laat gevoelige onderwerpen naar een mens gaan. Geld terug, juridische vragen, klachten en uitzonderingen horen bij een medewerker.
Test met lastige vragen. Probeer zelf de chatbot iets te laten beloven dat niet mag. Doe dat vaker dan één keer.
Maak iemand eigenaar. Wie controleert de antwoorden, wie werkt de bronnen bij, en wie grijpt in als het misgaat?
Vertel klanten dat ze met AI praten. Dat is eerlijk, en het helpt verwachtingen te managen.

Het gaat niet alleen om de chatbot

Hetzelfde principe geldt voor elke AI-tekst die je organisatie verlaat. Een medewerker die een AI-antwoord ongelezen doorstuurt naar een klant, doet in feite hetzelfde als die chatbot. Wie het verstuurt, is verantwoordelijk. Daarom hoort bij AI op de werkvloer ook de afspraak dat output altijd wordt nagelezen. In de echte AI-blunders van bedrijven zie je hoe vaak het daar misgaat.

Veelgestelde vragen

Ben ik aansprakelijk voor wat mijn chatbot zegt?

In de zaak van Air Canada oordeelde het tribunaal dat het bedrijf verantwoordelijk was voor de informatie van zijn chatbot. Hoe dat in jouw situatie uitpakt, hangt af van het recht in jouw land en van de omstandigheden. Ga er in elk geval vanuit dat een klant de chatbot ziet als jouw bedrijf.

Helpt een disclaimer onder de chatbot?

Een disclaimer is verstandig, maar geen vrijbrief. Air Canada verwees ook naar andere informatie op de website, en dat hielp niet. Zorg vooral dat de chatbot geen dingen kan beloven die niet kloppen.

Mogen we dan geen AI-chatbot gebruiken?

Dat mag zeker. Maar beperk het onderwerp, laat gevoelige vragen naar een mens gaan, test hem goed en maak iemand verantwoordelijk.

Geldt dit ook voor AI-teksten van medewerkers?

Het principe is hetzelfde. Een tekst die je organisatie verstuurt, is van je organisatie, ook als AI hem heeft geschreven.